Openai kauft promptfoo: ki-sicherheit für enterprise-kunden
Ein Wettlauf um die Sicherheit autonomer KI-Systeme hat OpenAI zum Kauf von Promptfoo veranlasst. Der Deal, dessen Details noch nicht bekannt sind, soll die Integration von Promptfoos Technologie in OpenAI Frontiers Plattform ermöglichen und insbesondere Großunternehmen bei der Absicherung ihrer KI-Entwicklung unterstützen.
Neue schutzschilde im ki-goldrausch
Die rasante Entwicklung von KI-Agenten, die zunehmend komplexe Aufgaben eigenständig übernehmen sollen, birgt auch erhebliche Sicherheitsrisiken. OpenAI, zusammen mit seinen Wettbewerbern, investiert daher massiv in die Entwicklung sichererer Modelle. Die Übernahme von Promptfoo ist ein deutliches Zeichen dieser Bemühungen. Promptfoo, das seit zwei Jahren existiert, hat sich auf die Entwicklung von Open-Source-Tools zur Überprüfung der Sicherheit von KI-Systemen spezialisiert. Ein besonderer Fokus liegt auf dem sogenannten „Red Teaming“, bei dem Unternehmen versuchen, ihre eigenen Produkte zu hacken, um Schwachstellen aufzudecken.
Ganesh Bell, Managing Director von Insight Partners, der Promptfoo im vergangenen Jahr eine Finanzierungsrunde in Höhe von 18,4 Millionen Dollar anführte, sieht in der Akquisition einen wichtigen Schritt: „Die Übernahme von Promptfoo durch OpenAI unterstreicht das Engagement für eine leistungsstarke, sichere und zuverlässige KI im Unternehmensbereich.“
Von open source zur enterprise-lösung
Promptfoo zählt bereits jetzt rund ein Viertel der Unternehmen der Fortune 500 zu seinen Kunden. Das Startup aus San Francisco bietet nicht nur Werkzeuge zur Sicherheitsprüfung, sondern unterstützt Unternehmen auch bei der Durchführung von Red-Teaming-Übungen. OpenAI plant, die Open-Source-Arbeit von Promptfoo fortzusetzen und die Technologie in Frontier zu integrieren. Frontier wird dadurch automatische Sicherheitsprüfungen und Red-Teaming-Funktionen erhalten, die es Unternehmen ermöglichen, Veränderungen zu überwachen und die Einhaltung von Risikomanagement- und Compliance-Anforderungen sicherzustellen.
Neben Promptfoo gibt es zahlreiche weitere Startups, die sich mit der Entwicklung von KI-basierten Sicherheitslösungen beschäftigen – ein Zeichen dafür, dass der Kampf um die Cyber-Sicherheit im KI-Bereich in vollem Gange ist. OpenAI selbst hat ebenfalls Maßnahmen ergriffen, um seine Produkte und Agenten vor Angriffen zu schützen. Vor Kurzem präsentierte das Unternehmen einen KI-Agenten, der Sicherheits teams bei der Suche nach und Behebung von Schwachstellen in großen Datenbanken unterstützen soll – ähnlich einer Lösung, die bereits von Anthropic PBC angeboten wird.
Die Akquisition von Promptfoo ist mehr als nur ein Deal – sie ist ein Signal: Die Sicherheit von KI wird zum entscheidenden Wettbewerbsvorteil. Und der Preis dafür könnte für Unternehmen, die auf KI setzen, erheblich sein. Die Zahl der gemeldeten KI-bezogenen Sicherheitsvorfälle ist im letzten Quartal um 47 Prozent gestiegen – ein deutlicher Weckruf.