UN-Chef warnt auf KI-Gipfel: 'Wir können die Zukunft der Menschheit nicht vibe-coden'

Der Generalsekretär der Vereinten Nationen, António Guterres, eröffnete am Montag in Genf den ersten Globalen Dialog zur KI-Governance und sagte 193 Nationen, dass KI bereits die Institutionen überholt, die sie regieren sollen – und dass die Menschheit ein Experiment an sich selbst durchführt "ohne Plan und ohne Zustimmung".

"Künstliche Intelligenz entwickelt sich mit rasender Geschwindigkeit," sagte Guterres zu Beginn seiner Rede. "Eine Technologie, die Volkswirtschaften umgestalten, die Arbeitswelt transformieren, Wahlen beeinflussen und das Gleichgewicht der Sicherheit kippen kann, wird schneller eingesetzt, als es irgendjemand – einschließlich der Menschen, die sie entwickeln – mitverfolgen kann."

Im Raum waren alle 193 UN-Mitgliedstaaten versammelt, die in Genf beim ersten Globalen Dialog zur KI-Governance zusammenkamen, einem multilateralen Versuch, eine Technologie zu regieren, die bereits alle überholt hat, die versuchen, dies zu tun.

Das Meme, das Guterres verwendete, um die Risiken unregulierter KI zu erklären, war das "Vibe-Coding" – ein Begriff, der von Andrej Karpathy, Gründungsmitglied von OpenAI und ehemaliger KI-Direktor bei Tesla, geprägt wurde, um das Programmieren nach Gefühl zu beschreiben: Sag der KI, was du willst, lass sie den Rest erledigen, schau nicht zu genau hin. Merriam-Webster hat es kürzlich in sein Wörterbuch aufgenommen.

Guterres erkannte an, dass Vibe-Coding "Wunder wirken kann", da immer mehr Menschen den von KI erstellten Produkten vertrauen.

"Aber wir können die Wahrheit nicht vibe-coden," sagte er. "Wir können die Zukunft der Menschheit nicht vibe-coden."

Die Zahlen hinter dieser Aussage waren nicht weich. Guterres stellte fest, dass das Internet 15 Jahre benötigte, um eine Milliarde Menschen zu erreichen, und KI nur zwei. Er beschrieb die aktuellen Systeme als "nicht mehr Werkzeuge, die auf Anweisungen warten – sie schreiben Code, agieren online und treffen Entscheidungen mit immer weniger menschlicher Aufsicht."

"Unsere Institutionen wurden gebaut, um Maschinen zu regieren, die Befehle befolgen. Sie sind nicht bereit für Maschinen, die Entscheidungen treffen."

Der Dialog entstand aus dem Globalen Digitalen Pakt 2024, der die internationale KI-Governance zum ersten Mal als UN-Mandat festlegte. Die Eröffnungssitzung zwei Jahre später erhielt auch den vorläufigen Bericht des Unabhängigen Internationalen Wissenschaftlichen Panels für Künstliche Intelligenz – 40 Wissenschaftler aus 140 Ländern – das letzte Woche die Erkenntnis veröffentlichte, dass niemand derzeit garantieren kann, dass KI keinen katastrophalen Schaden anrichten wird.

Geschwindigkeit war eine von drei Warnungen, die Guterres aus dem Panel ableitete. Die zweite war Macht: Rechenleistung, Daten und Talente konzentrieren sich in einer Handvoll von Unternehmen und Ländern, während der größte Teil der Welt von Entscheidungen ausgeschlossen ist, die bereits die KI formen, was auch andere KI-Experten wie Yann Lecun, Andy Kowinski und Yoshua Bengio besorgt.

Die dritte war Wahrheit – eine maschinenunterstützte Lüge überzeugt jetzt ebenso effektiv wie eine verifizierte Tatsache und erodiert stetig das, was Guterres als "die Integrität unseres Informationsökosystems" bezeichnete.

Kinder als Versuchskaninchen und Killerroboter

Zu Guterres' konkreten Vorschlägen gehört ein KI-Kindersicherheitsversprechen, das Unternehmen verpflichtet, die Sicherheit durch unabhängige Tests nachzuweisen, bevor KI Kinder erreicht, null Toleranz für die Erzeugung von Bildern sexuellen Missbrauchs von Kindern aufrechtzuerhalten und in Not geratenen Kindern echte menschliche Unterstützung zu bieten, anstatt sie allein mit einem Chatbot zu lassen. "Kein Kind sollte ein Versuchskaninchen für unregulierte KI sein."

Und dann gab es die Killerroboter. Guterres nannte tödliche autonome Waffen – Maschinen, die ein Ziel auswählen und töten, ohne menschliches Urteil – "moralisch abscheulich" und forderte ein Verbot durch internationales Recht.

Die Staaten sind bereits am Verhandlungstisch. Er schlug nicht vor, dass sie sich Zeit lassen.

Der Dialog wird 2027 in New York fortgesetzt. Guterres forderte auch die Generalversammlung auf, einen Globalen Fonds für KI zu schaffen, der sich auf den Zugang zu Rechenleistung für Entwicklungsländer konzentriert, und forderte jedes große KI-Unternehmen heraus, bis 2030 alle Rechenzentren mit erneuerbarer Energie zu betreiben – das Jahr, in dem er schätzt, dass diese Einrichtungen den Stromverbrauch aller bis auf fünf Nationen übertreffen werden.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.