Atombomben, 9/11 und die größte Finanzkrise der Neuzeit … die Medien vergleichen KI mit all dem!

Kit Knightly

Und so sind wir wieder in der Welt der beängstigenden KI.

Ich weiß, ich hatte gesagt, ich würde nicht mehr darüber schreiben – und ich weiß, ich muss noch meine Artikelserie über die Insolvenz der Wasserwerke fortsetzen –, aber sie lassen einfach nicht locker, also kann ich es auch nicht.

Gerade als ich dachte, ich wäre raus, ziehen sie mich wieder rein.

In meinem letzten Artikel zu diesem Thema habe ich die außer Kontrolle geratene KI folgendermaßen beschrieben:

„Aggressive KIs“ sind zur Theorie des Laborlecks im Technologiesektor geworden, eine Science-Fiction-Horror-Prämisse, die jeglicher Vernunft widerspricht, vage Ideen von „Enthüllungen“ und „Verantwortlichkeit“ vortäuscht und Panik als Reaktion und soziale Kontrolle als Lösung propagiert.

Ich ahnte nicht, dass das Wall Street Journal genau in dem Moment, als ich diese Zeilen schrieb, einen Meinungsartikel mit folgender Überschrift vorbereitete:

Der nächste „Labor-Leak“ könnte KI betreffen – Jüngste Sicherheitslücken in Sandbox-Umgebungen zeigen die Notwendigkeit staatlicher Schutzmaßnahmen.

Das finde ich amüsant.

In anderen „beängstigenden KI“-Geschichten dieser Woche war die Washington Post fassungslos, als sie feststellte, dass ChatGPT-Interaktionen in Gerichtsverfahren verwendet werden.

Ja, anscheinend tun KI-Unternehmen das, was ALLE großen Technologiekonzerne seit Jahrzehnten tun: Sie spionieren unsere Daten und Interaktionen aus. Und plötzlich ist es eine Nachricht wert.

Eine neue Studie der Yale University hat ergeben – oh mein Gott! –, dass KI-Chatbots Nutzer möglicherweise als Werbemittel manipulieren!

… genau wie die großen Technologiekonzerne es seit Jahren ständig tun.

Ein leitender Mitarbeiter von OpenAI sagte dem Guardian, wir sollten uns alle auf „persistente“ KI-gestützte Cyberangriffe vorbereiten, wenn wir nicht „neue Sicherheitsstandards implementieren“.

Die Times warnt davor, dass KI von „einfachen“ Terroristen zum Bau von Bomben oder Biowaffen missbraucht werden könnte.

Die wirklich wichtige Neuigkeit ist jedoch, dass Bill Gates seine Gedanken dazu geteilt hat.

Ja, Herr Gates selbst hat – angeblich – einen langen Essay über die Zukunft der KI und ihre potenziell beängstigenden Folgen verfasst. Er beginnt…

Das turbulente Zeitalter der KI hat begonnen. Die Entscheidungen, die wir jetzt treffen, sind entscheidend.

Es gibt viel zu entdecken (Sie sollten ihn unbedingt lesen), von seinem Aufruf zu „menschenreservierten“ Arbeitsplätzen bis hin zu seiner Idee, die Nutzung von KI und Robotern zu besteuern, aber vor allem seine Gedanken zur Notwendigkeit von Regulierung.

Am besten eine globale Regulierung:

Selbst ein Land, das seine eigenen Angelegenheiten im Griff hat, wird weiterhin grenzüberschreitenden Risiken ausgesetzt sein. Deshalb muss parallel eine internationale Organisation aufgebaut werden.

Das ist die Kernaussage. Die restlichen 10.000 Wörter können Sie getrost ignorieren.

Dies spiegelt die Ansichten von über 1300 KI-„Insidern“ wider, die in einem offenen Brief Regierungen zur Zusammenarbeit bei der Regulierung von KI auffordern und die Branche zu einem langsameren Fortschritt zwingen wollen. Sie verweisen auf das Risiko, dass „die Entwicklung von Fähigkeiten sich so rasant beschleunigt, dass wir die daraus resultierenden Systeme weder verstehen noch kontrollieren können“.

Dies knüpft eindeutig an die Geschichte der „unkontrollierten KI-Systeme“ an.

Interessanterweise – und möglicherweise beunruhigend – vergleicht Bill Gates in seinem Essay KI mit Atomwaffen:

Es gibt Inspektionsmechanismen für Atomwaffen, Vorschriften für die internationale Luftfahrt und Abkommen zum Schutz der Ozonschicht. Eine neue globale Organisation für KI wird Elemente all dieser Bereiche und mehr benötigen.

Noch beunruhigender ist vielleicht, dass Bill Gates bei Weitem nicht der Einzige ist, der diesen Vergleich in den letzten Tagen gezogen hat.

Es wird zu einem häufigen Refrain. Überraschend häufig. Der nächste Artikel verschärft das Risiko sogar noch, indem er suggeriert, KI mache einen versehentlichen Atomwaffeneinsatz möglich.

Aber keine Sorge, The Atlantic hat eine Lösung:

Was ist der „einzige Weg“, diese Technologie zu kontrollieren? Die Unterüberschrift macht es deutlich:

Was die Menschheit braucht, ist ein internationaler Vertrag zur Nichtverbreitung von KI.

Ein „Nichtverbreitungsvertrag“ … wie bei Atomwaffen.

Timothy Garton Ash – einer der irrationalsten Guardian-Kolumnisten, auf die ich je reagiert habe, und das will schon was heißen – zieht im Guardian genau denselben Vergleich. Er fragt:

Steuern wir auf ein KI-Hiroshima zu?

… und scheint sich ziemlich sicher zu sein, dass die Antwort „Ja“ lautet.

Was genau ist ein „KI-Hiroshima“? Ich bin mir nicht sicher, und er sagt es auch nicht.

Aber – und unterbrechen Sie mich, falls Sie das schon mal gehört haben – er weiß, wie man es am besten verhindert:

Gemeinsam handeln, um die übermenschliche Macht, die wir erschaffen, zu kontrollieren.

Ein ähnlich panischer Kommentar in der New York Times lautet:

Wir kennen das Risiko der KI. Wir müssen handeln.

[ANMERKUNG: Das ist die ursprüngliche Überschrift. Sie wurde inzwischen in „Die Warnsignale blinken wieder“ geändert. Ich weiß nicht warum, vielleicht war die ursprüngliche selbst ihnen zu albern.]

Der Artikel, verfasst von Jen Easterly, der ehemaligen Direktorin der US-amerikanischen Cybersecurity and Infrastructure Security Agency, betont, dass die „Warnsignale“ im Bereich der KI aufleuchten und wir jetzt handeln müssen, bevor etwas Schlimmes passiert.

Sie wird nicht allzu konkret, was dieses Schlimme sein könnte, aber es wird eindeutig gewaltig sein, da sie es mit den Anschlägen vom 11. September und der Finanzkrise von 2008 vergleicht.

Obwohl sie nicht genau weiß, wovor wir uns fürchten sollten, ist sie ziemlich klar, was zu tun ist:

Was wir dringend brauchen, ist ein KI-Frühwarnsystem, das schwache Signale sammelt, ihre mögliche Bedeutung analysiert und Entscheidungen erzwingt, bevor das Bild vollständig ist.

Der Sinn dieses Systems wäre…

öffentlich-private Partnerschaften […] in echte, operative Zusammenarbeit umzuwandeln: einen zeitnahen, relevanten und vor allem umsetzbaren Informationsaustausch.

Klingt das nicht wunderbar?

Falls jemand den Überblick verloren hat: Bisher haben wir KI mit dem 11. September, der Finanzkrise von 2008 UND Hiroshima verglichen. Ohne jemals – wirklich NIE – konkret zu erklären, warum sie auch nur im Entferntesten mit diesen Ereignissen vergleichbar sein sollte.

Es ist sehr seltsam. Ich kann mich nicht erinnern, jemals so viel Angst gehabt zu haben, ohne dass konkret benannt wurde, wovor wir uns eigentlich fürchten sollen.

Aber es lässt mich vermuten, dass es in naher Zukunft durchaus einen KI-bezogenen „Vorfall“ geben könnte, nur dass man vielleicht noch nicht entschieden hat, was genau.

Easterlys Vergleich mit dem 11. September mag lediglich eine hysterische Überreaktion sein, ein aktueller Bezug auf den bevorstehenden 25. Jahrestag oder eine fast instinktive Bestätigung der schwachen These vom „Mangel an Vorstellungskraft“. Oder es steckt etwas anderes dahinter. Vielleicht ein Hinweis auf das potenzielle Ausmaß.

Sollten wir mit einer Art KI-gestützter False-Flag-Operation rechnen?

Eine, die in etwa die Dimensionen des 11. September erreicht und einem „abtrünnigen“ KI-Agenten angelastet wird?

Ich will so etwas nicht vorhersagen, aber ich schließe es auch nicht aus.