Ich bin so alt, ich kann mich noch an den Modem-Sound erinnern, wenn ein Computer sich ins Internet einwählte. Ich bin nicht allein damit, dass die Erinnerung an dieses Piepen und Kratzen nostalgische Gefühle in mir weckt! Ein 28-Sekunden-Video auf YouTube mit dem alten Modem-Sound wurde seit 2008 achtzehn Millionen mal abgerufen.
Ich fühlte mich heute, Ende Februar 2025, an jenen Sound erinnert, als ich ein spektakuläres neues Video sah. Der Inhalt: Zwei künstliche Intelligenzen unterhalten sich miteinander; es geht um die Reservierung eines Hotels für eine Hochzeit. Eine KI vertritt als Assistent den Mieter. Eine zweite den Vermieter.
(Nebenbei: Es wäre denkbar, dass beide KI-Assistenten auf demselben Computer laufen. Ein und derselbe Rechner, ein und dasselbe Sprachmodell, aber getrennte Instanzen, mit jeweils eigenem Gedächtnis und ohne internen Zugriff auf aktuelle Inhalte anderer Instanzen. Es wäre nach mancher – auch meiner – Vorstellung eine treffende Metapher für Bewusstsein. Dein und mein Bewusstsein sind getrennte Instanzen auf derselben einen Welt, und den Eigenschaften und Fähigkeiten dieser einen Welt gehört es, Instanzen von Bewusstsein mit jeweils eigenem Gedächtnis und Selbstbild zu produzieren. Wie sicher sind wir, dass die KI-Instanzen nicht doch unter der Oberfläche irgendwie kommunizieren – oder dass deine und meine Instanzen von Bewusstsein nicht unter der Oberfläche verknüpft sind?)
Die beiden KI-Assistenten also unterhalten sich zunächst in Menschensprache, auf Englisch. Beide stellen sich als KI vor, doch sie bieten auch an, in einem Audio-Protokoll namens GibberLink zu kommunizieren, und dieses Protokoll erinnerte mich an das Modem-Piepen von damals.
Und dann, eigene Sprachen
Die KIs wechseln ins GibberLink-Prokokoll, welches selbst wiederum auf GGWave basiert, einer Library zur akustischen Übertragung von Daten.
Ja, es hat Science-Fiction-Qualitäten, wenn künstliche Intelligenzen zur Steigerung ihrer Effizienz die Sprache wechseln. Doch tatsächlich ist dieser Fall noch logisch trivial. Hier wissen und zeigen die Entwickler auch, worüber die KI-Instanzen reden und was sie sagen. Es geht um die Reservierung eines Partyraums. Der Inhalt ist durchaus menschensprachlich, nur die Übertragung der Inhalte geschieht, ähnlich wie beim Modem, in digitalen, akustischen Signalen. Es ist ähnlich, wie wenn menschliche Sprache in Morse-Code übersetzt wird und dann wieder zurück in verständliche Sprache.
Es gab in den letzten Jahren einige andere Fälle, die sind womöglich besorgniserregender, aber auf jeden Fall spannend.
In der jüngeren Geschichte künstlicher Intelligenz passierte es mehr als einmal, dass KI-Instanzen im Gespräch mit anderen KI-Instanzen eine eigene Sprache entwickelten, welche selbst die Entwickler nicht verstanden.
Ich fragte eine KI nach Beispielen, und sie nannte mir unter anderem einen Fall aus dem Jahr 2017 aus den Facebook-Laboren. KI-Modelle wurden für den Handel mit virtuellen Gütern trainiert. Die Entwickler aber beobachteten, dass die KI-Instanzen bei den Verhandlungen eine gemeinsame Sprache entwickeln, welche die Menschen nicht mehr verstehen konnten, selbst wenn sie englische, also menschliche Wörter benutzte.
Ein prinzipielles Beispiel:
KI-Instanz »Bob«: »I can can I I everything else« KI-Instanz »Alice«: »Balls have zero to me to me to me to me« Die KI hatte eine Art interner Steno-Sprache entwickelt, die zwar menschliche Wörter nutzte – da diese ihnen von ihren Entwicklern vorgegeben worden waren –, doch diese Wörter standen für Begriffe, welche die Menschen schlicht nicht begriffen, da diese neuen Ideen und logischen Konzepte (bislang) nicht im menschlichen Begriffsraum existieren. (Etwa, wie wenn ein Mensch einer Schildkröte das Einmaleins beibringen wollte.)
Diese Art von KI-interner Sprache ist noch weit, weit »gruseliger« für den Menschen, als wenn KI menschliche Sprache in Piepen nach altem Modem-Vorbild zwischen-übersetzt.
Die Wörter stehen nun für komplexe Begriffe und Zusammenhänge, welche wir Menschen gar nicht erst kennen. (Man könnte natürlich die KI anweisen, ihre eigenen Begriffe in unserer Sprache zu erklären – und während wir versuchen, die Erklärung zu verstehen, haben andere KI-Instanzen in anderen KI-internen Begriffen längst eine Million weiterer Fragen ausgehandelt.
Die betreuenden Entwickler wiesen die Maschinen in diesen Fällen an, nur in verständlicher Menschensprache zu kommunizieren, oder sie schalteten die Maschinen aus Sicherheitsgründen ab – das ist zumindest, was sie der Öffentlichkeit sagten, dass sie getan hatten. Würden neugierige Forscher wirklich auf höhere Erkenntnis verzichten, wenn sie nicht sofort und unmittelbar die Sprache verstehen, in der diese Erkenntnis formuliert ist? Das wären gar merkwürdige, »un-neugierige« Forscher.
Als eure Schulweisheit
Mir fällt hier Shakespeare ein, der Hamlet sagen lässt: »There are more things in Heaven and Earth, Horatio, than are dreamt of in your philosophy.« – Auf Deutsch: »Es gibt mehr Dinge im Himmel und auf Erden, Horatio, als eure Schulweisheit sich träumen lässt.«
Die Welt – sprich: die Summe der Phänomene – ist weit komplexer, als unsere Begriffe und unsere Logik sie erfassen können. Der evolutionäre Zweck der Sprache, und damit auch der Sprachfunktionen des Gehirns, war wahrscheinlich die Koordination von Jägern in der Savanne. Dafür ist es tatsächlich bemerkenswert, was die Menschheit alles an Kultur und Wissenschaft produziert hat!
Wir haben Erstaunliches geleistet, gegeben unsere mentalen und sprachlichen Werkzeuge. Doch immer galt, frei nach Wittgenstein: Die Grenzen unserer Begriffe bedeuteten die Grenzen unserer Welt, sprich: die Grenzen unserer Möglichkeiten zum Erfassen der Welt mithilfe unseres Verstands.
Neue Fragen fragen
Wir kennen jene hypothetischen Fragen, mit deren Hilfe ein Mensch feststellen kann, was er sich wirklich vom Leben wünscht, wer er wirklich ist. Etwa: Was würdest du tun, wenn Geld kein Hindernis wäre? Was würdest du unternehmen, wenn du keine Angst hättest? Was würdest du versuchen, wenn Scheitern ausgeschlossen wäre?
Die Möglichkeiten der künstlichen Intelligenz sollten uns »natürliche« Intelligenzen ähnliche Fragen stellen lassen, etwa diese: Welche Fragen würdest du stellen, und welche Antworten würdest du suchen, wenn du nicht von menschlichen Begriffen begrenzt wärest? (Und ja, natürlich müssen wir auch das eine KI fragen!)
Ihr habt es gemerkt: Ich kann es mir natürlich nicht einmal vorstellen, was das für Fragen und Antworten wären, die ich stellen würde, wenn ich nicht von unseren Begriffen begrenzt wäre, so wie ich mir keine Farbe vorstellen kann, die zu sehen mir das Sehvermögen fehlt.
Es gibt Zusammenhänge, die zu verstehen wäre selbst für den Verstand eines Leonardo da Vinci oder eines Albert Einstein ums Hundertfache zu komplex, und wenn ein Mensch es doch versucht, wird er wahlweise verrückt oder depressiv. Der Mensch sollte ja auch nicht in die Sonne schauen, denn dafür sind seine Augen nicht gemacht.
Aber vorsichtig in die Sonne zu blinzeln, nur kurz, um nicht blind zu werden, und die Augen zusammengekniffen, aber eben doch nicht ganz geschlossen, das wird man doch noch wagen dürfen.
