Facebook-KIs entwickeln eigene Sprache – Forscher müssen intervenieren

Facebook hat versucht, künstlichen Intelligenzen das Verhandeln beizubringen, indem zwei Bots eigenständig um Bücher, Hüte und Bälle feilschen sollten. Dabei wurden anfangs logische Abfolgen von Termini und Phrasen verwendet, später aber entwickelten die KI-Bots ihre eigene Sprache. Diese basierte zwar noch auf dem programmierten Englisch, brachte aber Eigenarten mit sich, die nur schwer nachzuvollziehen waren. Her, Matrix, 2001: Odyssee im Weltraum und mehr dieser Filme kommen einem dabei in den Sinn – doch was wäre wirklich passiert, wenn die Facebook-Forscher die künstliche Intelligenz nicht unterbrochen hätten?

Zwei künstliche Intelligenzen (KI), die von Facebook-Forschern entwickelt wurden, haben das einprogrammierte Englisch neu genutzt - komplett eigenständig.

Zwei künstliche Intelligenzen (KI), die von Facebook-Forschern entwickelt wurden, haben das einprogrammierte Englisch neu genutzt – komplett eigenständig.

Wenn die KI am Menschen vorbei arbeitet

In einem Beitrag mit dem Titel „Deal or no deal? Training AI bots to negotiate“ stellte Facebook auf der Entwicklerseite code.facebook.com das Projekt im Juni vor. „Bis heute hat die Arbeit an Chatbots zu Systemen geführt, die kurze Konversationen aufrecht halten und simple Aufgaben erfüllen können, so wie ein Restaurant zu buchen“, heißt in der Einführung. Die Forscher und Entwickler von Facebook wollten aber noch mehr aus den Chatbots, aus der mit den Menschen kommunizierenden künstlichen Intelligenz, herausholen. Für die Schaffung von Verhandlungs-Bots wurden also zwei künstliche Intelligenzen, genannt Bob und Alice, aufeinander losgelassen.

Programm in dem die Verhandlungs-Bots kommunizierten. Quelle: Facebook

Das Programm in dem die Verhandlungs-Bots kommunizierten. Quelle: Facebook

Im gleichen Beitrag – der recht interessant, aber auch lang ist – wird nicht sehr viel auf die eigenständige Sprachentwicklung von Bob und Alice eingegangen. Lediglich im vorletzten Absatz, in dem es um stärkendes Lernen und das Einbringen von fixen, also festgelegten Phrasen geht, werden dafür auch die Gründe genannt:

Das zweite Modell ist fix, weil die Forscher herausgefunden haben, dass das Updaten der Parameter für beide Agents zu Divergenzen von der menschlichen Sprache führte, indem die Agents ihre eigene Sprache für die Verhandlungen entwickelten. Am Ende jedes Dialogs bekam der Agent eine auf dem von ihm akzeptierten Deal basierende Vergütung / Gegenleistung [Engl. Orig.: reward]. Dieser Reward wurde durch jedes Wort, das der Agent ausgab, zurück-propagiert, durch Steigerungen, um die Wahrscheinlichkeit der Aktionen zu erhöhen, die zu einem höheren Reward führen.

Lese-Tipp: Reproduktive KI von Google – Chancen und Gefahren hier ansehen

Künstliche Intelligenzen entwickeln eigene Sprache

Der letzte Absatz war bestimmt nicht der verständlichste. Deshalb hier noch einmal in der Zusammenfassung: Die Verhandlungs-Bots von Facebook haben Wortfolgen und Wortkombinationen wiederholt, um ihr Anliegen sowie Mengen und Vergütungen nicht nur auszudrücken, sondern zu steigern. Dabei wurden auch Mengenangaben durch entsprechende Wiederholungen ersetzt. Am Ende kam ein „Dialog“ dabei heraus, wie er oben im ersten Bild dargestellt ist. Weitere Einblicke und Beispiele für das fehlgeschlagene Experiment, das letztlich von den Facebook-Researchern unterbrochen werden musste, hat fastcodedesign.com.

Filme mit gefährlichen KIs

Wie oben schon einmal angedeutet, setzen sich einige Filme mit den Themen künstliche Intelligenz, Machine Learning und Macht der Maschinen auseinander. Hier einmal die drei genannten Filme im Überblick:

Her – DVD, Blu-Ray, VoD
164 Bewertungen
Her – DVD, Blu-Ray, VoD
In Her geht es um die Beziehung zwischen Menschen und künstlichen Intelligenzen. Kann die Liebe zwischen einem Mann und einem Betriebssystem gut gehen? Und was ist, wenn das OS auf andere Systeme trifft, die viel besser zu ihm passen? Was macht künstliche Intelligenz mit Menschen? Der Film Her beschäftigt sich mit diesen und weiteren Fragen. Mehrfach ausgezeichnet!
Matrix Trilogie als DVD oder Blu-Ray
429 Bewertungen
Matrix Trilogie als DVD oder Blu-Ray
In Matrix entkommt Neo nebst anderen Charakteren der künstlich von Maschinen geschaffenen Welt und kämpft für die Freiheit aller anderen darin gefangenen Menschen. Diese werden als Batterien von den Maschinen genutzt. Cooler erster Teil mit zwei Fortsetzungen.
2001: Odyssee im Weltraum
429 Bewertungen
2001: Odyssee im Weltraum
In diesem Meisterwerk von Stanley Kubrick geht es um Evolution und den HAL 9000 als ultimative, aber böse künstliche Intelligenz. Aus der Odyssee des Überlebenden von HALs Amoklauf geht eine neue Stufe der Evolution hervor. Ein Film, der nicht nur George Lucas und Steven Spielberg inspirierte.

Non-fiktionale Bücher über künstliche Intelligenz

Dystopien und Schwarzmalereien sind aber nicht die einzige Möglichkeit, die Themen KI, Kommunikation mit Bots, Automatisierung und neuronale Netzwerke zu sehen. Bevor man sich eine Meinung zu bilden meint, sollte man erst einmal verstehen, was hinter dem großen Ganzen steht. Deshalb hier ein paar aktuelle Bücher zum Thema (aus 2016 und 2017, einige noch nicht erschienen):

Sir Apfelot auf SteadyHQ unterstützen

Die Seite enthält Affiliate Links / Bilder: Amazon.de

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.