Aus der Presse

Künstliche Intelligenz lässt sich überlisten

Kleinste Veränderungen an Datenmaterial, die von Menschen nicht wahrgenommen werden, können intelligente Maschinen massiv durcheinander bringen.

Einsichtig war dies schon bei der E-Mail. Eine kleinste Änderung, etwa ein Buchstabendreher oder -wegfall und schon kommt die Nachricht niemals an – anders als bei der analogen Post. Forscher an der Bar-Ilan Universität in Israel und vom KI-Team von Facebook[] haben nun gezeigt, dass dies auch für intelligente Systeme gilt. Hinterlegt man beispielsweise eine Audio-Aufzeichnung mit einer leisen Schicht Rauschen, so können Menschen weiterhin alles richtig verstehen, Google Voice hingegen versagt weitestgehend bei der Transkription. »Erfolgreich« konnten auch Algorithmen ausgetrickst werden, die die Körperhaltung erkennen sollen – ebenfalls durch leichte Veränderungen der Bilder. Zu solchen »Adversarial Examples« gehört[] auch die Fehlerkennung von Straßenszenen, bei denen ein Rauschen in einem entsprechenden Bild statt Straßenschild eine Minion-Figur erkannt haben will. Wie üblich bei IT, können solche Stresstest-»Erfolge« nicht nur die Verbesserung autonomen Fahrens eingesetzt werden, sondern auch für Manipulationen. [04.08.2017, 12:51 Uhr, Quelle: heise.de]

"Wie man KI austrickst" bei Technology Review (extern)

Torsten Siever

Ähnliche Nachrichten
Ex-News

News: Archiv

Sie suchen etwas Bestimmtes? Dann finden Sie es vielleicht in unserem Archiv. Stöbern Sie in 6263 Nachrichten oder durchsuchen Sie sie:

RSS2.0

News: Feed

Bleiben Sie immer kurz und aktuell auf dem Laufenden – mit den RSS-Feeds von mediensprache.net. mehr

Ihre Meinung

Kommentare zu dieser Seite