Aus der Presse

Wie man heimlich Sprach-KIs aushebelt

Selbst die derzeit besten Sprach-KIs lassen sich offenbar in die Irre führen, einfach indem man in einem Satz ein oder zwei Wörter durch gleichbedeutende austauscht.

»Wie man die Textverarbeitung aushebelt, beschreiben Forscher um Di Jin vom Computer Science and Artificial Intelligence Laboratory (CSAIL) des MIT in einem Beitrag auf ›arXiv‹. Sie programmierten eine Software darauf, zunächst diejenigen Wörter im Satz zu identifizieren, die für die Interpretation am wichtigsten sind. Dazu fütterten sie den Satz wieder und wieder derselben KI, ließen aber immer einzelne Wörter aus. Die Bestandteile, bei denen sich das ausgegebene Ergebnis am stärksten änderte, wurden im nächsten Schritt durch Synonyme ersetzt. Dabei probierte der Computer alle möglichen Alternativkandidaten durch, bis er einen fand, der die ursprüngliche KI zum Stolpern brachte.« [12.02.2020, 22:19 Uhr, Quelle: Spektrum der Wissenschaft [Jan Dönges]]

Is BERT Really Robust? A Strong Baseline for Natural Language Attack on Text Classification and Entailment (extern)

Peter Schlobinski

Ähnliche Nachrichten
Ex-News

News: Archiv

Sie suchen etwas Bestimmtes? Dann finden Sie es vielleicht in unserem Archiv. Stöbern Sie in 7057 Nachrichten oder durchsuchen Sie sie:

RSS2.0

News: Feed

Bleiben Sie immer kurz und aktuell auf dem Laufenden – mit den RSS-Feeds von mediensprache.net. mehr

Ihre Meinung

Kommentare zu dieser Seite