Schlagwort: AI governance

  • Trump und sechs KI-Giganten unterzeichnen freiwillige „Superintelligenz“-Vereinbarung zu Sicherheitsaudits

    Trump und sechs KI-Giganten unterzeichnen freiwillige „Superintelligenz“-Vereinbarung zu Sicherheitsaudits

    Präsident Donald Trump und die Vorstandsvorsitzenden sechs führender Unternehmen für künstliche Intelligenz unterzeichneten am 29. September 2026 den freiwilligen „White House Accord on Super Intelligence“, mit dem sich ihre Unternehmen zu internen Sicherheitsüberprüfungen, unabhängigen externen Audits und einer Aufsicht auf Vorstandsebene über KI-Systeme verpflichten, wie Associated Press und weitere bei der Unterzeichnung anwesende Medien berichteten.

    Was die Vereinbarung vorschreibt

    Das einseitige Dokument, das Trump auf Truth Social veröffentlichte, verpflichtet die Unterzeichner – Anthropic-CEO Dario Amodei, Google-CEO Sundar Pichai, Meta-CEO Mark Zuckerberg, OpenAI-Präsident Greg Brockman, Nvidia-CEO Jensen Huang und xAI-Gründer Elon Musk – zu vier freiwilligen Schritten: robuste interne Kontrollen, einen unabhängigen externen Prüfer zur Bewertung dieser Kontrollen, einen eigenen Vorstandsausschuss zur Überprüfung der Prüfergebnisse sowie regelmäßige Treffen zur Weiterentwicklung der Sicherheitsstandards. Trump bezeichnete die Vereinbarung als „moralisch bindend“ und erklärte, die Schritte könnten später gesetzlich verankert werden. Führungskräfte von Microsoft und Amazon nahmen teil, unterzeichneten die Vereinbarung jedoch nicht; Apple war nicht vertreten.

    Bedenken zu Sicherheit und Governance

    Von NPR zitierte Experten waren sich über den Ansatz uneinig. USC-Professor Shri Narayanan erklärte, die Vereinbarung bringe Innovation und Aufsicht in Einklang, während seine Kollegin Robin Jia warnte, dass Selbstregulierung davon abhänge, dass die Labore im Einklang mit dem öffentlichen Interesse blieben, und verwies auf jüngste KI-bezogene Hacking-Vorfälle als Beleg dafür, dass die Konsequenzen mit zunehmender Leistungsfähigkeit der Modelle wachsen würden. Alex Pascal, Direktor des Berkman Klein Center, kritisierte die vage Formulierung der Vereinbarung und argumentierte, nur eine verbindliche rechtliche Haftung und Regulierung könne die Risiken fortschrittlicher KI wirksam eindämmen.

    Die Vereinbarung ist freiwillig und enthält keinen Durchsetzungsmechanismus; Amodei selbst merkte bei der Unterzeichnung an, dass „die Technologie sehr reale Risiken“ berge, die weiterhin diskutiert würden. Für Sicherheitsteams in Unternehmen signalisiert die Vereinbarung, dass KI-Audits durch Dritte und Vorstandsausschüsse für KI-Risiken noch vor verbindlichen Vorschriften zur Branchennorm werden könnten. Weitere Entwicklungen im Bereich KI-Governance werden im SectechMedia-Archiv für Technologienachrichten dokumentiert.

    Quellen