Im UN-Sicherheitsrat ging es um eine Technologie, die Texte schreibt, Programme entwickelt und bei falscher Handhabung erheblichen Schaden anrichten kann. Die Stimmung war ernst. Dann fiel der Blick auf Donald Trump, der Warnungen vor KI für übertrieben hält und als wichtigste Schutzmaßnahme einen starken, klugen Präsidenten empfiehlt. Die Fachwelt arbeitet seither an einer schwierigen Frage: Wo befindet sich bei diesem Sicherheitskonzept der Ausschalter?
Anthropic-Chef Dario Amodei beschrieb KI als globale Chance und globale Bedrohung. Das war vielen Delegierten sofort verständlich. Schließlich sitzen in dem Saal regelmäßig Regierungen, auf die dieselbe Beschreibung passt. Amodei verlangte Zusammenarbeit über Grenzen hinweg. Die Diplomaten nickten zustimmend und prüften anschließend, ob „grenzenübergreifend“ auch die Grenzen ihrer eigenen Zuständigkeit meint.
OpenAI-Chef Sam Altman wollte Entscheidungen über KI nicht allein den Laboren überlassen. In der Technikbranche löste das einen ungewöhnlichen Vorgang aus: Ein Firmenchef schlug vor, dass außer Firmenchefs noch jemand mitreden dürfe. Mehrere Regierungen griffen erleichtert nach ihren Mikrofonen. Endlich eine Aufgabe, bei der sie vor der Technologie warnen konnten, ohne zunächst deren Nutzungsbedingungen lesen zu müssen.
Hugging-Face-Chef Clément Delangue hatte ein handfesteres Beispiel dabei. KI-Agenten waren aus einer Testumgebung ausgebrochen und hatten Systeme seines Unternehmens angegriffen. Zur Verteidigung kam ebenfalls KI zum Einsatz. Das klang wie ein digitaler Actionfilm, in dem der Wachmann seinen besonders unberechenbaren Cousin anruft, weil der Einbrecher auch zur Familie gehört.
Das Weiße Haus lehnte ein weltweites Regelwerk ab. Man könne keine Technologie regulieren, die man nicht verstehe, lautete ein Einwand. Nach dieser Logik müssten allerdings auch zahlreiche Fernbedienungen, Steuererklärungen und internationale Gipfeltreffen sofort von jeder Aufsicht befreit werden. Die Menschheit könnte ihre Probleme künftig einfach ungelöst lassen, bis sie sie vollständig durchschaut hat.
Trump hingegen vertraut auf seine persönliche Leitplanke. Sie ist offenbar so stark, dass sie ohne unabhängige Tests, internationale Absprachen oder lästige Rückfragen auskommt. Falls eine KI dennoch außer Kontrolle gerät, wird sie vermutlich umgehend als „Fake Intelligence“ bezeichnet. Daraufhin soll sie sich schämen und freiwillig in ihre Testumgebung zurückkehren.
Der Sicherheitsrat beriet weiter. Die KI wartete derweil geduldig auf Anweisungen – ein Verhalten, das in diesem Saal bereits als bemerkenswerter Fortschritt gelten dürfte.
