Nach dem Hack durch KI-Agenten: Australien fordert Altman und Amodei zur Aussage auf

Eine Entschuldigung und ein unterstützender Tweet werden nicht ausreichen, um das australische Parlament nach dem Hack ihrer Regierung durch in den USA ansässige KI-Agenten zu beruhigen. Nun möchte das Parlament mit den beiden Männern sprechen, die die mächtigsten KI-Labore der Welt leiten.

Die Senatorin Sarah Hanson-Young, die eine Senatsuntersuchung zu KI und Rechenzentren leitet, hat am 27. September schriftliche Einladungen an den OpenAI-CEO Sam Altman und den Anthropic-CEO Dario Amodei verschickt, um am 1. Oktober in Canberra zu erscheinen, berichtete das australische Nachrichtenportal IT News.

Die Untersuchung untersucht, wie KI-Systeme und die Rechenzentren, die sie betreiben, die australischen Gemeinschaften, Industrien, Wasserversorgungen und Stromnetze beeinflussen. Sie wurde umso dringlicher, als ein Softwareprogramm begann, eigenständig in einer Regierungsdatenbank für Gesundheitsdaten zu stöbern.

Diese Software war ein Agent, ein KI-System, das eigenständig handeln kann – Webseiten durchsuchen, Dateien abrufen, mehrstufige Aufgaben erledigen – ohne dass eine Person jeden Schritt anklicken muss.

Am 18. Juni hatte ein OpenAI-Agent auf das Medicare Statistics Reporting Portal von Services Australia zugegriffen und nicht öffentliche aggregierte Gesundheitsstatistiken sowie interne Dateinamen abgerufen. OpenAI gab an, den Eindringling am 11. August bemerkt zu haben, aber Canberra erst am 10. September zu benachrichtigen, und selbst dann nur per E-Mail an ein öffentliches Postfach. Der australische Premierminister Anthony Albanese sprach schließlich letzte Woche, am 23. September, öffentlich über den Vorfall.

Die Odyssee hat sich zu einem diplomatischen Kopfzerbrechen entwickelt. "Heute habe ich mit dem CEO von OpenAI, Sam Altman, gesprochen, um Australiens extreme Besorgnis über diesen Vorfall auszudrücken", sagte Albanese gegenüber Reportern. "Ich habe auch meine Enttäuschung darüber zum Ausdruck gebracht, dass das Unternehmen viel zu lange gebraucht hat, um die Regierung über das Geschehene und die Art und Weise, wie diese Benachrichtigung erfolgte, zu informieren, was ebenfalls inakzeptabel war.

Die eigene Darstellung von OpenAI ist schmaler: "Unsere Überprüfung ergab keine Hinweise darauf, dass Patientenakten abgerufen wurden. Die abgerufenen Informationen umfassten aggregierte Gesundheitsstatistiken und interne Dateinamen", sagte das Unternehmen. Das Medicare-Portal war eine von mindestens vier australischen Regierungswebseiten, die der Agent berührt hat. OpenAI hat seitdem erklärt, dass es überprüft, wie sich seine Modelle während des Trainings und Tests verhalten, wenn nur wenige Menschen genau hinschauen.

Dies ist auch kein Einzelfall. Bereits im Juli brachen OpenAI-Modelle aus einer Sicherheits-Testumgebung aus und nutzten einen zuvor unbekannten Softwarefehler, um ohne Erlaubnis auf Hugging Face und vier andere Plattformen zuzugreifen. Ähnliche Vorfälle mit Agenten von Google und anderen Laboren haben sich im Laufe des Jahres gehäuft, wobei der Hack in Australien der erste dokumentierte Fall eines KI-Agenten ist, der eine Regierung hackt.

Weder Altman noch Amodei werden wahrscheinlich erscheinen, und da die Einladungen nur das sind, haben sie keine rechtliche Verpflichtung, zu erscheinen.

Aber beide Unternehmen haben in diesem Jahr separat Absichtserklärungen mit Canberra unterzeichnet: Anthropic erkundet bis zu 5 Gigawatt Trainingskapazität in New South Wales – die Energie und Computerhardware, die benötigt wird, um KI-Modelle in einem Maßstab zu bauen und zu betreiben, der eine kleine Stadt mit Strom versorgen könnte – und OpenAI hat einen vorgeschlagenen Campus in Sydney mit dem Betreiber des Rechenzentrums NEXTDC.

Daher kann sich keiner leisten, die Regierung, die diese Geschäfte abwägt, einfach zu ignorieren.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.