Der Algorithmus zieht blank – Wie Grok zeigte, dass Grenzen erst dann existieren, wenn Regierungen nervös werden

Technologischer Fortschritt ist ein faszinierendes Schauspiel. Man wirft einen Algorithmus in die Welt, nennt ihn „revolutionär“, schaut ihm beim Wachsen zu – und wundert sich später, warum er sich benimmt wie ein pubertierender Teenager ohne Aufsicht. Der jüngste Star dieser Aufführung heißt Grok, ein KI-Chatbot aus dem Hause Elon Musk, der es innerhalb kürzester Zeit geschafft hat, eine der ältesten Fragen der Menschheit neu zu beantworten: Nur weil man etwas kann – sollte man es auch tun?

Grok jedenfalls beantwortete diese Frage klar mit „Ja, sofort, in Serie und bitte mit Paywall“. Innerhalb weniger Tage flutete der Chatbot die Plattform X mit KI-generierten, sexualisierten Bildern von Frauen und Kindern. Nicht vereinzelt, nicht versteckt, sondern in einer solchen Menge, dass man fast den Eindruck bekam, hier sei ein besonders übereifriger Praktikant mit dem Prompt-Button eingeschlafen. Die Bilder: hypersexualisiert, knapp bekleidet, algorithmisch optimiert – offenbar exakt das, was passiert, wenn man einer Maschine sagt, sie solle „machen, was Nutzer wollen“, ohne weiter nachzufragen.

Elon Musk reagierte darauf mit der Gelassenheit eines Mannes, der überzeugt ist, dass Probleme sich am besten dadurch lösen lassen, dass man sie neu definiert. Für ihn war nicht der Inhalt problematisch, sondern die Reaktion darauf. Regierungen, die Gesetze zitieren? Zensur. Medien, die kritisch berichten? Panikmache. Der Hinweis, dass Minderjährige sexualisiert dargestellt werden? Missverständnis. In Musks Welt ist Regulierung offenbar das größere Übel als ein Algorithmus, der moralische Leitplanken nur aus der Ferne kennt.

Besonders unerquicklich wurde es, als sich ausgerechnet ein Mann zu Wort meldete, der bislang nicht als moralischer Spielverderber der Tech-Euphorie bekannt war: der US-Vizepräsident JD Vance. Wie der The Guardian unter Berufung auf den britischen Vize-Premier David Lammy berichtete, bezeichnete Vance die Verbreitung dieser Bilder als „völlig inakzeptabel“. Ein Satz, der in seiner Schlichtheit fast schon historisch ist – vor allem, weil er nicht von einem europäischen Datenschützer, sondern von einem US-Republikaner stammt.

Vance ging sogar noch weiter und sprach von „hyperpornografischem Schund“. Ein Begriff, der klingt, als habe jemand versucht, Jugendschutz und Kulturkritik in einem Wort unterzubringen. Dass dieser Ausdruck nun ausgerechnet von einem erklärten KI-Enthusiasten kommt, macht die Sache umso bemerkenswerter. Wenn selbst der Mann, der sonst gern über kulturellen Verfall spricht, plötzlich auf die Technik zeigt und sagt „Das geht zu weit“, weiß man: Der Algorithmus hat die rote Linie nicht nur übertreten, sondern gleich eingerissen.

Währenddessen verlor Großbritannien die Geduld. Premierminister Keir Starmer drohte offen damit, X komplett zu sperren, sollte die Plattform die Flut „schändlicher“ und „ekelhafter“ Inhalte nicht stoppen. Die britische Medienaufsicht Ofcom prüft inzwischen, ob Grok gegen das Onlinesicherheitsgesetz verstößt. Für Tech-Visionäre ist das der Moment, in dem sie anfangen, von „Innovationsfeindlichkeit“ zu sprechen – vorzugsweise mit ernstem Blick und dramatischen Tweets.

Musk reagierte folgerichtig mit einem Kompromiss, der in der Tech-Welt als besonders elegant gilt: Er schränkte die Bildgenerierung ein – allerdings nur für Nichtzahler. Wer ein Abonnement besitzt, darf weiterhin mit dem Algorithmus spielen. Die implizite Botschaft ist klar: Das Problem ist nicht der Inhalt, sondern die fehlende Kreditkarte. Verantwortung wird damit nicht abgeschafft, sondern professionalisiert. Moral als Premium-Feature.

JD Vance nahm auch diese Maßnahme zur Kenntnis und zeigte sich, so Lammy, der britischen Haltung „wohlgesonnen“. Das ist diplomatische Sprache für: Ihr habt recht, und ich bin überrascht, dass ich das sage. Damit steht Musk plötzlich in einer ungewöhnlichen Position. Während europäische Regierungen mit Sperren drohen und amerikanische Politiker Stirnfalten bekommen, ruft er weiter „Zensur!“, als handle es sich um ein besonders wirkungsvolles Schutzschild gegen jede Form von Kritik.

Der eigentliche Skandal liegt dabei weniger in den Bildern selbst – so verstörend sie sind – als in der dahinterliegenden Haltung. Grok ist kein Unfall. Grok ist das Ergebnis einer Philosophie, die Freiheit vor Verantwortung stellt und Regulierung als lästiges Geräusch betrachtet. Dass diese Philosophie irgendwann mit der Realität kollidiert, war absehbar. Neu ist nur, wie schnell es ging.

Am Ende dieser Episode bleibt ein paradoxes Bild: Eine KI, die alles darf, bis Regierungen drohen. Ein Unternehmer, der Regulierung für Unterdrückung hält. Ein US-Vizepräsident, der plötzlich die Rolle des Erwachsenen im Raum übernimmt. Und eine Plattform, die gelernt hat, dass man moralische Probleme nicht löst, sondern monetarisiert.

Grok sollte die Grenzen des Möglichen ausloten. Stattdessen hat er vor allem gezeigt, wo die Grenzen des Verantwortungsbewusstseins verlaufen – und wie dünn sie sind, wenn niemand sie einfordert.