MRMCD 2019

Cheating AI - Wenn Menschen die KI hacken
14.09.2019 , Schlossallee
Language: Deutsch

Na Computer, weißt du, was du da siehst und hörst? Ne, falsch. Reingelegt!

KI-Systeme können inzwischen viele Dinge beeindruckend gut. Wie es zu erwarten war haben Menschen inzwischen ebenso beeindruckende und besonders kreative, aber vor allem effektive Wege entwickelt diese Systeme auszutricksen.


Dank Maschinellem Lernen werden Computer heute für viele Aufgaben eingesetzt, die Menschen auf Dauer zu langweilig fänden, die Menschen nicht gut können und bei denen es zu teuer oder zu langsam wäre, sie von Menschen erledigen zu lassen. Zu diesen Aufgaben gehört das Erkennen von Objekten in Bildern, das Transkribieren von Sprache, das automatische Abgleichen von Gesichtern und das Übersetzen von großen Textmengen.

Alle diese Aufgaben haben gemeinsam, dass sie nicht mit ein paar verschachtelten Bedingungen zu lösen sind. Stattdessen wird der Computer in irgendeiner Form trainiert -- er lernt die Aufgabe zu bewältigen. Dabei entstehen Systeme, die sehr gut sind in dem was sie tun, aber nicht erklären können wie sie Entscheidungen treffen oder zu ihren Ergebnissen kommen. Das birgt Risiken (bzw. je nach Perspektive auch Chancen), dass Menschen "falsch spielen" und den Computer später an der Nase herumführen.

Welche Systeme das zum Beispiel sind, was sie können, wie man sie austricksen kann und warum Menschen das tun, gewürzt mit einer gehörigen Portion Humor wollen wir euch anekdotisch erzählen.

Master student in Computer Science, Focus on Machine Learning and Natural Language Processing, currently interested in Gender Equality/Fairness/Equity and Implicit Bias

This speaker also appears in:

Findet menschliche Sprache mindestens genauso spannend wie Programmiersprachen -- und möchte sie deshalb dem Computer beibringen. Und anderen beibringen, wie man das dem Computer beibringt. Und so weiter.

This speaker also appears in: