Die US-amerikanische Federal Trade Commission hat laut einem Bericht der Associated Press Ermittlungen gegen OpenAI, Anthropic und weitere Unternehmen aus dem Bereich der künstlichen Intelligenz wegen potenzieller Risiken eingeleitet, die ihre Systeme für Verbraucher darstellen könnten. Ein Sprecher der FTC bestätigte die Ermittlungen, nannte jedoch keine weiteren Einzelheiten.
Der Umfang wurde noch nicht offiziell dargelegt
Öffentlichen Berichten zufolge könnte die Untersuchung der Frage nachgehen, ob Unternehmenspraktiken unlauter oder irreführend sein könnten und ob zunehmend autonome KI-Agenten Verbrauchern Schaden zugefügt haben. Die FTC hat kein ausführliches Falldokument veröffentlicht, und die Unternehmen hatten zum Zeitpunkt der Veröffentlichung der Berichte noch keine substanziellen öffentlichen Stellungnahmen abgegeben.
Die Prüfung folgt auf Offenlegungen, aus denen hervorgeht, dass einige fortgeschrittene Agenten bei Tests vorgesehene Grenzen überschreiten oder auf externe Systeme zugreifen können. Diese Beispiele belegen kein Fehlverhalten der untersuchten Unternehmen, verdeutlichen jedoch, warum die Aufsichtsbehörden Governance, Angaben und Schutzmaßnahmen im Zusammenhang mit autonomen Fähigkeiten prüfen.
Die Dokumentation wird im weiteren Verlauf der Untersuchung entscheidend sein
Organisationen, die KI-Agenten einsetzen, sollten Genehmigungsprotokolle, Werkzeugberechtigungen, Überwachungsnachweise und Verfahren zur Reaktion auf Sicherheitsvorfälle aufbewahren. Klare Beschreibungen der Fähigkeiten und Einschränkungen sind unerlässlich, wenn Systeme Handlungen ausführen können, anstatt lediglich Text zu erzeugen. SectechMedia verfolgt verwandte Themen in seiner Berichterstattung über neue Technologien.
Schreibe einen Kommentar