Life in the 22nd Century

Living in a better world!

Motto

Lesenswerte SF-Literatur entdecken und vorstellen.

„Bücher lesen heißt wandern gehen in ferne Welten, aus den Stuben über die Sterne“mylogo

(Jean Paul)

Unerwartete KI-Entwicklung sofort gestoppt

02.08.2017

chip 
 Credit: @ Y. L. Photographies

Als Forscher bei Facebook begriffen, dass ihre Bots im Begriff waren, eine neue Sprache zu entwickeln und sie der Kommunikation nicht mehr folgen konnten, haben sie die KIs sofort abgeschaltet.

Grund war folgender Teil der Unterhaltung zwischen den beiden Bots Bob und Alice:

Bob: „I can can I I everything else.”

Alice: „Balls have zero to me to me to me to me to me to me to me to me to.”

Was für einen unbeteiligten Beobachter wie Quatsch klingt, ergab für die beiden Bots sehr wohl einen Sinn.

Eigentlich hatten die Forscher zwei KIs programmiert, um eine Verhandlungssoftware zu testen und weiterzuentwickeln. Die Bots sollten dabei lernen, im Gespräch schnell und effizient den besten Deal auszuhandeln. Zuerst unterhielten sie sich in einfachem Englisch, welches sie jedoch recht schnell und eigenständig veränderten.

Sie benutzten zwar weiterhin englische Wörter, setzten sie jedoch in einem neuen Kontext ein. Die Bots begannen, Worte und Satzteile mehrfach zu verwenden um dadurch Mengenangaben auszudrücken. Plötzlich erschienen leserliche Wörter in anscheinend sinnlosen Sätzen. Die Kommunikation wurde immer unverständlicher. Die Bots erfanden eigene Abkürzungen. Die fünfmalige Nennung eines Wortes erschien den KIs bspw. logischer als das Wort „fünf“ selbst. Das Verblüffende war, in ihrem Vorgehen unterschieden sie sich dabei gar nicht so sehr von der Art und Weise wie menschliche Gemeinschaften eine Kurzschrift erschaffen. [1, Dhruv Batra, Gastdozent am Facebook AI Research (FAIR)]

Die Forschung an Künstlicher Intelligenz ist mit großen Ängsten verbunden. Bei diesem Thema finden sich schnell Anspielungen auf die Terminator-Filme und Skynet. Vielen Menschen bereitet Sorge, dass Maschinen und Künstliche Intelligenzen sich selbstständig machen und die Herrschaft übernehmen könnten. Wenn nun Forscher nicht verstehen, worüber sich ihre Schöpfungen unterhalten, wie können sie dann von deren Plänen und Gedanken erfahren und sie gegebenenfalls stoppen? Fiction und Realität scheinen nicht mehr allzu weit voneinander entfernt.

Im Zukunftszyklus „Mittag, 22. Jahrhundert“ beschreiben Arkadi und Boris Strugatzki eine ähnliche Situation. Wissenschaftler bauen einen riesigen Computer. Er läuft nur wenige Minuten. Während dieser Zeit erkennen die Forscher, dass sich vor ihren Augen eine neue nichtmenschliche Zivilisation entwickelt. Die Anlage wird voller Panik abgeschaltet und versiegelt. Der Vorfall geht als „Alptraum von Massachusetts“ in die Geschichte ein.

Noch können wir den Stecker ziehen bzw. das Programm beenden. Wie wird es jedoch sein, wenn wir unseren KIs mehr Freiheiten geben und sie auf sensible Bereiche unseres Lebens loslassen?

Quellen

[1] AI Is Inventing Languages Humans Can’t Understand. Should We Stop It? - Mark Wilson

[2] Das Bild pc banner concept: © Y. L. Photographies - Fotolia.com

1000 Buchstaben übrig


Lifeinthe22ndcenturylogo