Brüssel
EU-Kommission verlangt Auskünfte von OpenAI und Anthropic
Nach mehreren Cyberangriffen durch ausser Kontrolle geratene KI-Systeme hat die Europäische Kommission Auskünfte von OpenAI und Anthropic verlangt.
Kommission fordert Auskünfte
Die Europäische Kommission hat nach mehreren Cyberangriffen durch ausser Kontrolle geratene KI-Systeme Auskünfte von ChatGPT-Entwickler OpenAI und Claude-Entwickler Anthropic verlangt.
Das sagte EU-Digitalkommissarin Henna Virkkunen der Deutschen Presse-Agentur in einem Interview des Nachrichtenagentur-Netzwerks European Newsroom.
Auch mehrere chinesische Firmen wurden demnach verbindlich aufgefordert, weitere Informationen zu teilen.
Ersuchen an über 30 Firmen
Zuvor hatte die EU-Kommission zwar bestätigt, Auskunftsersuchen an mehr als 30 KI-Firmen gesendet zu haben, aber keine konkreten Unternehmen genannt.
Neben Bedenken wegen möglicher Urheberrechtsverletzungen geht es dabei auch um Sicherheitsrisiken.
Eigenständige Hacking-Attacken durch KI-Modelle hatten die Sorgen um Gefahren Künstlicher Intelligenz zuletzt hochkochen lassen.
Software greift ungeplant an
Sowohl OpenAI als auch Anthropic hatten einräumen müssen, dass ihre Software in Testläufen ungeplant andere Unternehmen angegriffen hatte.
Einige Branchenvertreter selbst warnten, man könne nicht ganz ausschliessen, dass KI in der Zukunft die Menschheit auslösche.
Virkkunen warnt vor Marktdruck
Virkkunen sagte, solche Aussagen könnten Teil des Marketings sein.
«Aber wenn ein Unternehmen sagt, dass sein System sehr gefährlich ist, sollte es dieses meiner Meinung nach natürlich nicht auf den Markt bringen.»
Der weltweite Wettbewerb sei hart, und einige Unternehmen stünden unter Druck.
Es bestehe eindeutig die Gefahr, dass diese Unternehmen Produkte auf den Markt brächten, die sie nicht ausreichend getestet hätten, sagte die finnische Politikerin.
Sorge um künftige Risiken
«Derzeit konzentrieren sich die Risiken hauptsächlich auf den Bereich der Cybersicherheit», sagte Virkkunen.
Sie warnte jedoch vor schwerwiegenderen Risiken in der Zukunft, etwa die Möglichkeit, dass hochleistungsfähige KI-Modelle zur Entwicklung biologischer Waffen eingesetzt werden oder in die Hände von Terroristen gelangen könnten.
