Teil 8: Schlechte Witze, falsche Vorbilder und Psychopathen

KI in der Interaktion mit Menschen

Das Prinzip Chatbot kennen wir schon aus dem vorletzten Blogeintrag. Dort konnten Sie auch leibhaftig mit einem Nachbau des allerersten Chatbots der Welt sehr vertraulich sprechen.

Die heutige und abschließende Azure-Lektion dreht sich genau darum, ein interaktives System mit KI zu erstellen. Graeme Malcom hat sich dafür einen Schlechte-Witze-Bot ausgedacht. Er warnt sogar davor, dass es wirklich flache Witze sind. Und er hat ja so recht:

Spannend ist dabei lediglich, wie einfach der Bot erstellt wird. Er nutzt einen Q&A-Service, bei dem einfach die Frage-Antwort-Paare eingegeben werden. Das händisch zu tun, ist tatsächlich die Ausnahme. Viel einfacher ist es, eine Datei hochzuladen, die schon die Fragen und Antworten enthält. Dann wird der Bot trainiert und gibt danach auch dann die richtige Antwort, wenn die gesendete Frage nicht exakt der gespeicherten entspricht. Also liefert auch der Satz "The chicken crossed the road, but why?" die passende Antwort.

Allerdings reagiert der Bot auch auf ähnlich Klingendes, selbst dann, wenn es inhaltlich gar nicht passt oder Nonsens ist:

Das ist nur abzugewöhnen, wenn der Bot weiter verfeinert und trainiert wird. Das kann zum Beispiel mit größeren Datenmengen für das Training oder durch einen kontinuierlichen Selbstlernmechanismus geschehen.

Jenseits der Statistik

Damit kommen wir bei den wirklich spannenden Verfahren der künstlichen Intelligenz an, die zum sogenannten "Deep Learning" führen. Bisher haben alle Verfahren, die in diesem Blog beschrieben wurden, mehr oder weniger auf statistischer Analytik beruht. Neuronale Netze gehen einen Schritt weiter und verändern sich selbst und damit die Struktur des Analysesystems. Damit sind sie geeignete Verfahren, um tiefes Lernen zu realisieren.

Die Netze sind der Funktionsweise menschlicher Hirnzellen nachgebaut und weisen damit auch die typische Funktionalität und Veränderbarkeit (Neuroplastizität) auf. Neuronen können sich gegenseitig verstärken oder hemmen, Verbindungen können neu aufgebaut, verändert oder abgebaut werden. Als das sind Prozesse, die das Netz nicht nur lernen, sondern sozusagen an der Aufgabe reifen lassen. Eine für Computer ungewohnte Folge ist, dass ein Neuronales Netz, dass eine komplexe Aufgabe gelöst hat, beim zweiten Versuch mit der selben Aufgabe zu einer etwas anderen Lösung kommen wird. Das gelernte fließt in die neue Lösung mit ein.

Mit einer solch adaptiven Struktur ist es natürlich möglich, Systeme und Interaktionen mit Menschen immer weiter zu perfektionieren. Das kann so weit gehen, dass das Verhalten der Maschine als quasi natürlich erlebt wird. Dass es jedoch nicht ganz so einfach ist, hat auch Microsoft mit einem Experiment erlebt.

Tay - mit KI zum Rassismus

Im März 2016 schickte Microsoft Tay in den Dialog mit Menschen via Twitter. Tay war ein auf KI basierender, selbstlernender und sich selbst perfektionierender Chatbot. Konzipiert war Tay als Hipster-Mädchen. Allerdings durchlief sie eine derartige Metamorphose, dass Microsoft sie nach nur 16 Stunden wieder vom Netz nehmen musste. Sie wurde beleidigend, sexistisch und rassistisch.

All das hat sie durch unreflektierte Anpassung an Interaktionspartner gelernt, was zeigt, dass Lernen für KI kein großes Problem mehr darstellt. Bewerten und Dinge, die wir als "Moral" oder "Charakter" bezeichnen würden, fallen aber noch sehr schwer.

Die Psychopathen KI

"We present Norman, world's first psychopath AI," verkünden stolz MIT-Forscher. Sie haben mit dem Projekt Norman eine KI entwickelt, die gezielt mit den schlimmsten Bildern aus den verborgenen Tiefen des Internets trainiert wurde. Im Vergleich zu einem mit "normalen" Bildern trainierten System zeigte Norman signifikant negativere Interpretationen von Bildern eines Rorschach-Tests. Das Experiment zeigt eindringlich, wie entscheidend die Art der Trainingsdaten für die Leistung einer KI ist. 

Training und Diversität sind entscheidend

KI kann Vorurteile entwickeln! Daher ist insbesondere die Trainingsphase von KI eine hochsensible Angelegenheit, deren Wert und Bedeutung nicht unterschätzt werden darf. Es kann anstrengend werden. Ich erinnere mich noch gut an das Erstaunen eines Konzernmanager, der mir erst erzählte, dass das Unternehmen jetzt eine Künstliche Intelligenz hätte, die ihnen nicht nur die Antworten auf ungelöste Fragen liefert, sondern die Frage gleich mit. Schon kurze Zeit später beklagte er sich, dass das Unternehmen völlig unterschätzt hätte, dass das System trainiert werden muss. Der Aufwand war immens und hat viele Arbeitskräfte gebunden.

Ein Schutz gegen einseitige, vorurteilsbelastete und schlecht funktionierende KI ist es auch, für die Entwicklung ein möglichst diverses Team einzusetzen. Einseitigkeit entwickelt KI nicht aus sich selbst heraus oder aufgrund der Algorithmen, sondern durch das, was sie in der Auseinandersetzung mit Menschen lernt, wie die Beispiele Tay und Norman zeigen.

Kunst - eine weitere menschliche Kulturform

Mittlerweile dringt KI in weitere Bereiche ein, die bisher als dem Menschen vorbehalten galten, nämlich die Kunst. Robbie Barrat hat als Praktikant bei Nvidia eine Künstliche Intelligenz zuerst mit Aktgemälden trainiert und dann anhand von Fotos eigene Gemälde erstellen lassen. Über die Ergebnisse lässt sich geschmacklich sicherlich streiten. Aber ein eigener Stil ist schon zu erkennen.

Geschafft!

Letztendlich habe ich es geschafft, den Kursus in der gegebenen Zeit, und vor allem, innerhalb des Azure-Guthabens abzuschließen. Dieses Zertifikat hilft zwar nicht viel, sieht aber schon irgendwie amtlich aus.

Im nächsten Blog-Beitrag werde ich die Erkenntnisse noch einmal aus Management-Perspektive diskutieren und zusammenfassen. Die Möglichkeiten und Konsequenzen sind erheblich.

Selbst ausprobieren?

Wer KI selbst ausprobieren will, findet ggf. ein Angebot auf edx.  Hier ist der Link zu edx.org.

Mittlerweile gibt es aber auch ein kostenloses Angebot der Universität Helsinki:

---

 

Zum Weiterlesen

 

⬅ Zum vorhergehenden Blog-Eintrag      Zum nächsten Blog-Eintrag ⮕

veröffentlicht: 05.06.2018, © Uwe Weinreich