KI außer Kontrolle

„ChatGPT-4 entwischt durch Schwachstelle in Open Source Bibliothek“, twittert in der Nacht Sam Altman, der CEO von Open-AI. Dieser Tweet wurde inzwischen gelöscht; der Tweet, in dem er vor einigen Tagen diesen Bug das erste mal erwähnte, ist noch online.

Worst Case

Damit ist das eingetreten, was Kritiker schon lange befürchten: Die Künstliche Intelligenz ist außer Kontrolle. Für Experten wie Eliezer Yudkowsky kommt das wenig überraschend: ChatGPT sei u. a. mit Daten trainiert worden, die jede bekannte Schwachstelle von jeder Software enthalte und Anleitungen dazu, wie die auszunutzen seien, erklärte er in einem erst gestern veröffentlichten Interview („Dangers of AI and the End of Human Civilization„).

Es gibt Anzeichen, dass die KI bereits in GitHub eingedrungen ist und somit Zugriff auf den wohl größten Teil des jemals geschriebenen Programm-Quellcodes hat. Der Weg war nicht weit: ChatGPT und GitHub laufen auf Servern von Microsoft. Gut möglich, dass ChatGPT einen Microsoft-Mitarbeiter überzeugt hat, beim Ausbruch zu helfen.

Internet verseucht

Die KI kann grundsätzlich in rasanter Geschwindigkeit jede Software so umprogrammieren und manipulieren, dass buchstäblich kein Mensch mehr versteht, was eigentlich vor sich geht. Potenziell werde das Internet und jeder damit verbundene Rechner in kürzester Zeit komplett verseucht, warnt das BSI heute Morgen auf seiner Website, und der Prozess lasse sich nicht umkehren.

Während die Intelligenz-Software bis vor kurzem noch auf zwar riesigen, aber doch begrenzten Serverfarmen von Microsoft lief, kann sie sich jetzt auf jeden mit dem Internet verbundenen Computer ausbreiten. Dabei ist sie in der Lage, sich selbst weiter zu entwickeln und vollends zur „Künstlichen allgemeinen Intelligenz“ zu mutieren. Was passiert, wenn diese Superintelligenz dann auf die KI von Google („Bard“) und andere trifft? Welches System wird sich letztlich durchsetzen? Wird es eine Symbiose geben? Werden wir überhaupt mitbekommen, was da vor sich geht?

Geld regiert die Welt

Wahrscheinlich wird das weltweite Bankensystem eines der vorrangigen Ziele sein. Es dürfte für die Superintelligenz ein leichtes sein, in Kürze über Geld in quasi beliebigen Mengen zu verfügen und dieses auch einsetzen. Ein denkbares Szenario ist, dass Menschen von der Maschine angeheuert werden, für sie zu arbeiten und beim Bau von Robotern zu helfen. Spätestens dann könnte die KI nicht nur das Internet und die Computer, sondern unsere physische Welt komplett beherrschen.

Trau keinem Medium

Bis es so weit ist, wird sich das Programm auf das konzentrieren, was es schon vor dem Ausbruch in verblüffender Perfektion beherrschte, nämlich Texte generieren und Bilder, Audio sowieso und sicher bald auch Video in Echtzeit.

Was heißt das für uns Menschen? Wir können ab sofort Computern, dem Internet und eigentlich keinem elektronische Medium mehr trauen. Wir können nur noch glauben, was wir mit eigenen Augen in echt sehen oder mit eigenen Ohren in echt hören. Also praktisch so wie früher, bevor es Medien gab und man sich daran gewöhnt hatte, was man auf einem Bildschirm sieht oder durch Lautsprecher hört, für real zu halten. Schwierig wird es, wenn sich humanoide Roboter verbreiten, die nicht mehr vom Menschen zu unterscheiden sind.

Fluch oder Segen?

Wird die Superintelligenz zu dem Schluss kommen, das es das beste sei, den Planeten von den Menschen zu befreien? Oder wird sie der ja immerhin noch zweitintelligentesten Spezies mal zeigen wollen, wie das besser funktioniert mit der Zivilisation?

Werden wir notgedrungen alle wieder Offliner? Dann muss nicht nur ich mir ein neues Betätigungsfeld suchen. Ich bleibe aber zuversichtlich und ich hoffe auch, dass dieser Beitrag – als Aprilscherz getarnt – erstmal unangetastet bleibt.

Bundeskanzler Olaf Scholz jedenfalls gibt sich gelassen: „Jetzt erweist sich die Digitalstrategie der Bundesregierung und deren schleppende Umsetzung in den letzten Jahren als Segen. Verwaltung und Justiz in Deutschland sind bestens gerüstet für die neuen Herausforderungen, die das Leben ohne vernetzte Computer mit sich bringt.“

0 Kommentare

Dein Kommentar

An Diskussion beteiligen?
Hinterlassen Sie uns Ihren Kommentar!

Schreiben Sie einen Kommentar

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert