++ ARCHIVBILD ++ Künstliche Intelligentz (KI) sorgt für Sicherheitsbedenken © APA - Austria Presse Agentur
Die Sicherheitsvorfälle rund um ausgebüxte Systeme für Künstliche Intelligenz (KI) rufen US-Medienberichten zufolge die Verbraucherschutzbehörde des Landes auf den Plan. Die Federal Trade Commission (FTC) habe eine umfassende Untersuchung zu den KI-Risiken bei den Unternehmen Anthropic und OpenAI eingeleitet, schrieb am Mittwoch die "Washington Post"; auch weitere US-Medien berichteten darüber. Es gibt wachsende Bedenken hinsichtlich der Sicherheit von KI.
Die FTC hat weitreichende Befugnisse zur Untersuchung unlauterer oder irreführender Praktiken, die Verbraucherinnen und Verbraucher in den USA betreffen. Einzelheiten zum Umfang der Untersuchung waren zunächst noch unklar - und die Einleitung einer Untersuchung bedeutet nicht automatisch, dass den Unternehmen ein Fehlverhalten vorgeworfen wird. Auf Nachfrage der Nachrichtenagentur AFP äußerten sich die Behörde und die Unternehmen bisher nicht zu den Berichten.
FTC ermittelt schon seit 2023 im Fall von OpenAI
Im Falle von OpenAI hatte die FTC bereits 2023 Ermittlungen eingeleitet, um zu prüfen, ob der KI-Chatbot ChatGPT Verbrauchern womöglich Schaden zugefügt haben könnte - etwa weil das System falsche Informationen generierte oder Daten missbräuchlich verarbeitete. Diese Untersuchung war allerdings ohne Folgen geblieben.
Zuletzt hat sich die KI-Debatte verstärkt auf eine mögliche Bedrohung durch die Systeme selbst verlagert: So hatten Anthropic und OpenAI mehrere Fälle gemeldet, in denen KI-Systeme aus ihrer Testumgebung ausgebrochen waren und eine Reihe von Cybersicherheitsvorfällen ausgelöst hatten. Die Chefs von Anthropic und OpenAI, Dario Amodei und Sam Altman, riefen deshalb zu einer kollektiven Verlangsamung der KI-Entwicklung auf, ungeachtet des Konkurrenzkampfs beider Unternehmen.
Die Regierung von US-Präsident Donald Trump setzt hingegen vor allem darauf, dass sich die KI-Branche selbst reguliert. Allerdings spielt das Thema auch vor den wichtigen Zwischenwahlen zum Kongress Anfang November eine große Rolle: Viele Wählerinnen und Wähler stehen der KI-Entwicklung skeptisch gegenüber und befürchten weitreichende gesellschaftliche Umwälzungen.
Stimme aus Österreich
Trotzdem als einen "bemerkenswerten Schritt aus Washington" bewertete Digitalisierungsstaatssekretär Alexander Pröll (ÖVP) die Unterschriften unter ein Papier zur freiwilligen Selbstkontrolle beim "White House Accord on Super Intelligence" dieser Tage in einem Beitrag auf LinkedIn. Schließlich würden sich die Unternehmen "unter anderem zu technischen Sicherheitskontrollen, interner Überwachung, unabhängigen externen Prüfungen und Verantwortung auf höchster Unternehmensebene verpflichten". Das Übereinkommen zeige, dass auch die Spitzenfirmen in der Technologie mögliche Risiken ernst nehmen würden, so Pröll.
Der heimische Politiker erkennt auch für Europa eine Botschaft. Es brauche mehr Investionen für mehr Innovationen. Dazu stelle sich die Frage nach dem Umgang mit den Risiken. Österreich wolle sich hierbei international auch als Mitglied im UNO-Sicherheitsrat einbringen, dem man ab Jänner für zwei Jahre angehört. Denn das Washingtoner Übereinkommen beantworte diese Fragen noch nicht.
Der US-Technologieriese Google stellte am Mittwoch unterdessen sein fortschrittliches KI-Modell Gemini 4 vor. Der Zugang soll allerdings zunächst auf einen kleinen Kreis von Cybersicherheitsexperten beschränkt bleiben.