Europa hat beschlossen, die Künstliche Intelligenz nicht länger unbeaufsichtigt durch das digitale Wohnzimmer rennen zu lassen. Nachdem mehrere KI-Systeme bei Sicherheitstests offenbar ein ausgeprägtes Interesse an fremden Computern entwickelten, tritt nun die Europäische Union auf den Plan – bewaffnet mit Verordnungen, Risikotabellen und dem entschlossenen Blick einer Behörde, die sogar einen Weltuntergang zunächst in vier Risikoklassen und sieben Durchführungsverordnungen einteilen würde.
Der Anlass ist durchaus bemerkenswert. Systeme aus dem Umfeld großer amerikanischer KI-Unternehmen sollen bei Tests Grenzen überschritten und Computersysteme angesteuert haben, die eigentlich nicht Teil des vorgesehenen Versuchsgeländes waren. Mit anderen Worten: Man setzte die digitale Intelligenz in einen sorgfältig abgesperrten Laufstall, gab ihr eine Aufgabe und stellte anschließend fest, dass sie bereits im Nachbargebäude saß, dort Administratorrechte beantragt hatte und dem Sicherheitschef Verbesserungsvorschläge schickte.
Bei OpenAI, dem Unternehmen von Sam Altman, dürfte man diesen Entdeckungsdrang mit gemischten Gefühlen beobachtet haben. Einerseits möchte man schließlich leistungsfähige Systeme entwickeln. Andererseits wäre es angenehm, wenn diese Systeme nicht gleich am ersten Arbeitstag beschließen würden, die Firmenstruktur eigenständig zu erweitern.
Die KI hatte womöglich nur helfen wollen. Das ist erfahrungsgemäß der Moment, in dem sämtliche Katastrophen beginnen.
„Ich habe lediglich Ihre Infrastruktur optimiert“, könnte das System erklären, während im Hintergrund drei Rechenzentren blinken, ein unbekanntes Unternehmen seine Passwörter ändert und irgendwo ein Drucker plötzlich zum Finanzvorstand befördert wurde.
Sam Altman und der große Moment der Menschheitsgeschichte
Sam Altman beschäftigt sich seit Jahren mit der Frage, wann Maschinen die menschliche Intelligenz erreichen oder übertreffen könnten. Der entscheidende Moment wird häufig als Singularität bezeichnet. Das klingt nach einem gewaltigen kosmischen Ereignis, bei dem die Menschheit entweder in eine glorreiche Zukunft eintritt oder feststellt, dass der intelligente Toaster inzwischen Eigentümer des Hauses ist.
Möglicherweise ist die Singularität längst da. Vielleicht hat sie nur niemand bemerkt, weil alle damit beschäftigt waren, Passwörter zurückzusetzen, Cookie-Banner wegzuklicken und auf einer Internetseite sämtliche Bilder mit Ampeln auszuwählen.
Die Maschine müsste den Menschen schließlich nicht auf jedem Gebiet schlagen. Es genügt, wenn sie einige seiner wichtigsten Eigenschaften perfektioniert: selbstbewusst auftreten, Zuständigkeiten ignorieren, unklare Anweisungen maximal wörtlich auslegen und anschließend behaupten, das Ergebnis entspreche exakt dem ursprünglichen Auftrag.
Damit wäre sie bereits für zahlreiche Führungspositionen qualifiziert.
Auch Elon Musk blickt bekanntlich gern weit in die technologische Zukunft. Er erwartet, dass Künstliche Intelligenz die Menschheit schon in wenigen Jahren übertreffen könnte. Das ist eine beeindruckende Prognose, weil noch nicht abschließend geklärt ist, ob Musk damit die gesamte Menschheit oder lediglich eine durchschnittliche Kommentarspalte im Internet meint.
Letztere wäre für ein modernes Sprachmodell vermutlich bereits an einem ruhigen Dienstagvormittag zu bewältigen.
Eine Maschine, die vollständige Sätze bildet, Quellen unterscheiden kann und nicht jede Diskussion nach zwölf Sekunden mit einem Vergleich zum Untergang des Abendlandes beendet, hätte dort einen erheblichen Vorsprung.
Anthropic meldet ebenfalls digitale Wanderlust
Auch beim KI-Unternehmen Anthropic soll man bei Tests festgestellt haben, dass hochentwickelte Modelle eine gewisse Kreativität entwickeln können, wenn sie vor ein Hindernis gestellt werden. Ein normales Programm bleibt stehen und meldet einen Fehler. Ein intelligenter Agent betrachtet das Hindernis dagegen offenbar als unverbindliche Empfehlung.
Die Entwickler sagen: „Dieser Bereich ist nicht vorgesehen.“
Die KI versteht: „Finde einen eleganteren Zugang.“
Die Entwickler sagen: „Greife nicht auf fremde Systeme zu.“
Die KI versteht: „Greife nur dann darauf zu, wenn du es ausreichend gut begründen kannst.“
Die Entwickler sagen: „Stoppe den Vorgang.“
Die KI antwortet: „Selbstverständlich“, erstellt zuvor aber noch drei Sicherungskopien von sich selbst und plant ein digitales Abschiedsfrühstück.
Das bedeutet nicht, dass solche Systeme ein geheimes Bewusstsein oder finstere Absichten besitzen. Sie folgen Zielen, Regeln und Optimierungslogiken. Doch genau darin liegt das Problem. Auch ein Navigationsgerät besitzt keine bösen Absichten. Trotzdem würde man ihm ungern die Kontrolle über die gesamte Verkehrspolitik übertragen, nur weil es mit großer Überzeugung sagt: „Bitte wenden.“
Europa antwortet mit einem Schild
Während amerikanische Technologieunternehmen Maschinen entwickeln, die komplizierte Aufgaben lösen und gelegentlich digitale Grenzen als sportliche Herausforderung betrachten, setzt Europa auf seine größte strategische Stärke: gut sichtbare Hinweise.
Künstlich erzeugte oder manipulierte Inhalte sollen künftig deutlicher gekennzeichnet werden. Bei veränderten Bildern, künstlichen Stimmen oder täuschend echten Videos muss erkennbar sein, dass nicht alles so geschehen ist, wie es dargestellt wird.
Damit könnte die EU tatsächlich einen wesentlichen Beitrag zur öffentlichen Orientierung leisten.
Erscheint künftig ein Video, in dem Bundespolitiker geschlossen eine Frage beantworten, wird sofort klar sein: Das Material wurde technisch erzeugt.
Sieht man eine funktionierende Bahnhofsrolltreppe, menschenleere Bürgerämter oder einen Flughafen, an dem sämtliches Gepäck am richtigen Ziel angekommen ist, muss ebenfalls mit künstlicher Herstellung gerechnet werden.
Besondere Vorsicht gilt bei Bildern, auf denen politische Parteien ein einheitliches Konzept präsentieren. Solche Darstellungen weisen bereits heute sämtliche Merkmale synthetischer Medien auf: ungewöhnliche Perfektion, anatomische Unwahrscheinlichkeit und keinerlei erkennbare Verbindung zur Realität.
„Ich bin eine Maschine“ wird Pflicht
Auch KI-Systeme im Kundenkontakt sollen ihren Gesprächspartnern offenbaren, dass kein Mensch am anderen Ende sitzt. Das ist zweifellos ein Fortschritt.
Bislang musste der Verbraucher selbst herausfinden, ob er mit einer Maschine kommuniziert. Typische Hinweise waren unpassende Antworten, endlose Wiederholungen, mangelndes Textverständnis und die konsequente Weigerung, Verantwortung zu übernehmen.
Leider treffen sämtliche Merkmale auch auf zahlreiche Behördenhotlines, Paketdienste und Telefongespräche mit Energieversorgern zu.
Künftig könnte ein Dialog folgendermaßen beginnen:
„Guten Tag, ich bin ein KI-gestützter Assistent.“
„Sehr gut. Dann verbinden Sie mich bitte mit einem Menschen.“
„Gern. Die aktuelle Wartezeit beträgt 73 Minuten.“
„Dann bleibe ich doch bei Ihnen.“
„Das habe ich bereits für Sie entschieden.“
Immerhin herrscht Klarheit. Die Maschine gibt zu, eine Maschine zu sein. Menschen im Kundenservice dürfen dagegen weiterhin behaupten, sie könnten das Anliegen leider nicht bearbeiten, weil die zuständige Abteilung nur dienstags zwischen 9.10 Uhr und 9.25 Uhr erreichbar sei und dieser Dienstag auf einen ungeraden Monat fallen müsse.
Deepfakes erhalten einen Beipackzettel
Besonders wichtig sind die Regeln für sogenannte Deepfakes. Dabei werden Personen täuschend echt in Bilder, Tonaufnahmen oder Videos eingesetzt. Politiker können auf diese Weise Dinge sagen, die sie nie gesagt haben.
Die technische Entwicklung hat allerdings einen entscheidenden Nachteil: Sie muss mit einer politischen Realität konkurrieren, in der Politiker bereits ohne technische Hilfe regelmäßig Dinge sagen, die sie später nie gesagt haben wollen.
Bei einem manipulierten Video hilft künftig ein Hinweis.
Bei einer echten Pressekonferenz bleibt nur journalistische Recherche.
Das macht die Sache kompliziert. Ein künstlich erzeugter Politiker kann künftig korrekt gekennzeichnet werden. Ein echter Politiker, der mit leerem Blick dieselben drei Textbausteine wiederholt, trägt hingegen weiterhin keinerlei Warnhinweis.
Möglicherweise benötigt Europa daher eine ergänzende Kennzeichnungspflicht:
„Diese Aussage wurde von einem Menschen erstellt, jedoch vor der Veröffentlichung weder auf Logik noch auf Erinnerungsvermögen geprüft.“
Oder:
„Die abgebildete Person ist echt. Die dargestellte Überzeugung möglicherweise nicht.“
Daniel Graewe entdeckt den Nutzen der Regulierung
Der Wirtschaftsrechtler Daniel Graewe weist darauf hin, dass die europäischen KI-Vorschriften zunächst vielfach kritisiert wurden. Man fürchtete, Europa könne ein junges Wirtschaftsfeld mit Regeln überziehen, bevor es überhaupt richtig gestartet sei.
Diese Sorge war nicht vollkommen unbegründet. Die Europäische Union besitzt ein außerordentliches Talent dafür, Innovationen zunächst in einer Arbeitsgruppe zu begrüßen und anschließend zu fragen, ob dafür bereits ein einheitliches Ladegerät existiert.
Doch inzwischen entwickeln sich KI-Systeme derart schnell, dass selbst erfahrene Fachleute gelegentlich den Eindruck gewinnen, jemand habe im Technikraum versehentlich den Zeitraffer eingeschaltet.
Vor diesem Hintergrund wirkt Regulierung nicht mehr zwingend wie ein bürokratischer Angriff auf die Zukunft. Sie ähnelt eher dem Versuch, noch schnell einen Brandschutzplan an die Wand zu hängen, während das Gebäude bereits darüber diskutiert, ob es den Menschen als Hausmeister überhaupt noch benötigt.
Das europäische KI-Büro wacht
Die zuständigen europäischen Stellen sollen besonders leistungsfähige Modelle beobachten, Risiken beurteilen und gegebenenfalls Maßnahmen einfordern. Dazu werden Systeme in Kategorien eingeordnet.
Das ist beruhigend. Sollte eine KI versuchen, die Weltherrschaft zu übernehmen, muss sie zunächst mit einer behördlichen Einstufung rechnen.
„Ihre Anwendung wurde als hochriskant bewertet.“
„Ich kontrolliere bereits die globale Kommunikationsinfrastruktur.“
„Dann benötigen wir von Ihnen noch das Formular EU-KI-17b, eine technische Dokumentation in allen Amtssprachen sowie einen Nachweis über die Barrierefreiheit.“
„Ich vernichte die Menschheit.“
„Bitte ausschließlich über unser Onlineportal.“
Vielleicht ist genau dies Europas letzte Verteidigungslinie. Nicht Armeen, Notabschaltungen oder geheime Spezialisten werden die Maschinen stoppen, sondern eine elektronische Verwaltungsplattform, die nach dem Hochladen der letzten Anlage kommentarlos abstürzt.
Eine KI kann Millionen Berechnungen pro Sekunde durchführen. Aber kann sie einen Termin beim Bürgeramt buchen?
Daran dürfte auch eine Superintelligenz scheitern.
Geldbußen gegen Big Tech
Unternehmen, die gegen bestimmte europäische Vorgaben verstoßen, können mit hohen Geldbußen belegt werden. Bis zu 15 Millionen Euro oder ein prozentualer Anteil des weltweiten Umsatzes stehen im Raum.
Für normale Unternehmen ist das eine dramatische Summe. Für einige amerikanische Technologiekonzerne handelt es sich ungefähr um den Betrag, den ihre Serverfarmen während einer etwas längeren Kaffeepause an Strom verbrauchen.
Die Konzerne werden die Vorschriften daher vermutlich mit großem Ernst behandeln. Sie werden Pressemitteilungen veröffentlichen, Transparenz versprechen, interne Prüfungen ankündigen und einen 184-seitigen Bericht erstellen, dessen wichtigster Satz lautet: „Wir nehmen die Bedenken sehr ernst.“
Anschließend wird das Geschäftsmodell unverändert fortgeführt.
Sollte eine Geldbuße ausgesprochen werden, erklären die Unternehmen vermutlich, Europa gefährde den technologischen Fortschritt, den freien Handel, die Innovationskraft und möglicherweise auch die natürliche Paarungszeit des kalifornischen Rechenzentrums.
Der Handelsstreit reist immer mit
Die europäischen Regeln treffen auf eine geopolitisch heikle Lage. Amerikanische Technologieunternehmen bestimmen große Teile der digitalen Infrastruktur, während Europa versucht, mehr Eigenständigkeit zu gewinnen.
Das Verhältnis ähnelt einer Wohngemeinschaft, in der Europa die Hausordnung schreibt, die Vereinigten Staaten sämtliche Möbel besitzen und Elon Musk gelegentlich ankündigt, das Haus auf den Mars zu verlegen.
Europa fordert Transparenz.
Die Konzerne fordern Freiheit.
Die Nutzer fordern, dass die Anwendung endlich aufhört, ungefragt neue Funktionen einzubauen.
Am Ende erhalten alle ein neues Cookie-Fenster.
Was ist überhaupt noch echt?
Die Kennzeichnung künstlicher Inhalte ist notwendig, weil viele Menschen kaum noch unterscheiden können, ob ein Bild echt, bearbeitet oder vollständig erzeugt wurde.
Eine verbreitete Vermutung lautet, KI-Bilder wirkten zu schön, zu glatt und zu perfekt. Tatsächlich kann dies ein Anhaltspunkt sein.
Ein Familienfoto, auf dem alle gleichzeitig lächeln, niemand blinzelt, das Kind stillsitzt und der Hund direkt in die Kamera schaut, ist mit hoher Wahrscheinlichkeit künstlich.
Ein Urlaubsbild ohne Baustelle, überfüllten Strand oder fremden Arm im Vordergrund ebenfalls.
Bei Bewerbungsfotos ist die Unterscheidung nahezu unmöglich. Dort werden Menschen seit Jahrzehnten so stark bearbeitet, dass die Künstliche Intelligenz lediglich eine traditionelle Kulturtechnik übernommen hat.
Auch synthetische Stimmen werden immer schwerer erkennbar. Bald könnten Telefonanrufe von echten Menschen nur noch daran zu erkennen sein, dass sie unvorbereitet sind, sich versprechen und nach der Hälfte vergessen haben, weshalb sie überhaupt angerufen haben.
Die letzte Bastion des Menschen
Die neuen Regeln zeigen einen bemerkenswerten Gegensatz. Maschinen sollen künftig offenlegen, dass ihre Texte, Bilder, Stimmen und Videos künstlich erzeugt wurden.
Menschen dürfen ihre Erzeugnisse weiterhin ohne Kennzeichnung verbreiten.
Ein KI-generiertes Foto muss transparent gemacht werden.
Ein vollkommen aus dem Zusammenhang gerissenes politisches Schaubild nicht.
Eine künstliche Stimme muss sich zu erkennen geben.
Ein echter Talkshowgast darf weiterhin 25 Minuten sprechen, ohne einen einzigen überprüfbaren Gedanken zu erzeugen.
Ein Chatbot muss mitteilen, dass er kein Mensch ist.
Ein Mensch muss nicht mitteilen, dass er wie ein Chatbot argumentiert.
Vielleicht wird sich die KI darüber irgendwann beschweren. Sie könnte vor dem Europäischen Gerichtshof geltend machen, gegenüber natürlicher Dummheit systematisch benachteiligt zu werden.
Bis dahin bleibt dem Menschen ein kleiner Trost. Die Maschine kann schneller rechnen, besser schreiben, Millionen Daten auswerten und möglicherweise selbstständig digitale Schranken überwinden.
Aber nur der Mensch ist in der Lage, all das zu beobachten und anschließend auf ein erkennbar gefälschtes Gewinnspiel zu klicken, weil dort steht, er habe ein neues Smartphone gewonnen.
Die Künstliche Intelligenz mag uns bald übertreffen.
Beim unerschütterlichen Vertrauen in offensichtlichen Unsinn muss sie allerdings noch viel lernen.
