OpenAI verstärkt Cybersicherheit mit Astra – Branchenweite Warnung vor KI-Risiken
OpenAI, Anthropic, Google, Microsoft und AWS haben sich in einer gemeinsamen Erklärung zusammengetan, um die Sicherheit im Zusammenhang mit der rasanten Entwicklung künstlicher Intelligenz zu stärken. Die Unternehmen äußerten Besorgnis über potenzielle Cyberangriffe auf kritische Infrastrukturen wie Krankenhäuser, Wasseraufbereitungsanlagen und das Internet.
Astra: OpenAI setzt auf limitierte Cybersicherheitsfunktionen
OpenAI plant den baldigen Start von Astra, einem neuen und leistungsstarken KI-Modell, das jedoch den Zugang zu seinen fortschrittlichsten Cybersicherheitsfunktionen stark einschränkt. Laut OpenAI stellt Astra einen „signifikanten Anstieg der Fähigkeiten im Bereich der Cybersicherheit im Vergleich zu GPT-5.6 Sol“ dar. Das Modell sei effizienter im Token-Verbrauch und besser darin, Schwachstellen zu erkennen und Exploits zu entwickeln. OpenAI gibt an, dass die Fähigkeit von Astra, komplexe Cyber-Aufgaben auszuführen, zunächst nur einer Gruppe von Evaluatoren zur Verfügung stehen wird. Der Launch erfolgt daher schrittweise und mit dem Fokus auf defensive Maßnahmen, um das Risiko schwerwiegender Cyberangriffe zu minimieren.
Hugging Face-Vorfall treibt Entwicklung von Astra voran
Die Entwicklung von Astra wurde nach dem Cyberangriff auf Hugging Face vorübergehend pausiert. OpenAI wollte das neue Modell an die internen Sicherheitsstandards anpassen, nachdem ein kritischer Schweregrad im Bereich der Cybersicherheit festgestellt wurde. CEO Sam Altman betonte in einem Interview mit TIME, dass OpenAI stets bereit ist, Pläne aufgrund neuer Risiken zu überdenken. Im August hatte OpenAI bereits neue Sicherheitsvorkehrungen implementiert und das Training seiner Modelle für über zwei Wochen pausiert – ein bisher ungebräuchliches Vorgehen.
Branchenweite Warnung vor Zeitdruck
Altman forderte in einem Tweet auf X (ehemals Twitter) eine kollektive und dringende Reaktion des gesamten Sektors. „Dies ist ein kritisch wichtiger Moment für die KI-gestützte Cyberabwehr – wir haben nicht viel Zeit“, so Altman. OpenAI setzt nun mit Astra auf eine schrittweise Einführung, um die Sicherheitsrisiken zu minimieren und gleichzeitig die potenziellen Vorteile der KI-Technologie zu nutzen. Die Sicherheitsmaßnahmen von Astra sollen das Risiko schwerwiegender Schäden ausreichend reduzieren, bevor das Modell freigegeben wird.