Große Bedrohung für KI-Modelle: Wenige korrupte Daten reichen aus
Einführung
Die meisten aktuellen KI-Modelle, die in populären Chatbots wie ChatGPT verwendet werden, werden mit großen Datenbanken trainiert, die oft aus öffentlich zugänglichen Inhalten im Internet stammen. Diese Praxis, bekannt als Web-Scraping oder Web-Raspeln, birgt erhebliche Gefahren, wenn auch korrupte Dateien in die Datenbanken gelangen, was die Funktionsweise der KI manipulieren kann.
Forschungsstudie
Eine Reihe von Experten haben nun gezeigt, dass diese Praxis, bekannt als Web-Scraping oder Web-Raspeln, erhebliche Gefahren birgt, wenn auch korrupte Dateien in die Datenbanken gelangen, was die Funktionsweise der KI manipulieren kann. Eine gemeinsame Studie der Firma Anthropic, des Institute of AI Safety des Vereinigten Königreichs und des Alan Turing Institute, trägt den Titel "Attacken auf LLM erfordern fast kontinuierliche korrupte Datenmengen".
Ergebnisse der studie
Die Studie zeigt, dass bereits 250 korrupte Dokumente ausreichen, um eine Schwachstelle oder eine Hintertür in Tools wie ChatGPT, Gemini und Claude zu erzeugen. Diese Attacke funktioniert unabhängig von der Größe des KI-Modells. Die Möglichkeit, die Funktionsweise einer KI zu manipulieren, indem man die Trainingsdaten kompromittiert, war bereits bekannt. Bislang wurde angenommen, dass größere Sprachmodelle mehr korrupte Dokumente benötigen, um infiziert zu werden, was die Infektion schwieriger macht. Diese Studie widerlegt diese Annahme.
Anthropics erklärung
"Dieser Bericht stellt die umfassendste Studie zum Datenpoisoning bis heute dar und zeigt ein beunruhigendes Ergebnis: Angriffe auf das Datenpoisoning erfordern fast kontinuierlich korrupte Dokumente, unabhängig von der Größe des Modells", erklärt Anthropic.
Experiment
Die Experten untersuchten Modelle verschiedener Größen, zwischen 600 Millionen und 13.000 Millionen Parametern oder Token, und stellten fest, dass 250 korrupte Dokumente ausreichten, um die Funktionsweise der KI zu beeinträchtigen. Sie untersuchten auch, ob das Fortsetzen des Trainings mit nicht kompromittierten Daten die korrupten Verhaltensweisen in der KI eliminieren kann. Die Ergebnisse sind besorgniserregend, da die Wirksamkeit der Angriffe abnimmt, aber die Risiken nicht vollständig beseitigt werden.
Andere bedrohungen für ki
In der Studie konnten die Experten die Chatbots dazu bringen, erfundene Wörter zu verwenden oder ihre Sprache ohne Grund zu ändern. Diese Technik öffnet die Tür für ernstere Bedrohungen, wie das Kompromittieren des Algorithmus-Codes oder das Offenlegen sensibler Informationen. Es wurde nicht untersucht, ob die Anzahl der infizierten Dokumente für diese Bedrohung höher ist als 250, aber es gibt vorherige Studien, wie eine von der Carnegie Mellon University, ETH Zurich, Meta und Google DeepMind, die zeigen, dass mit der Kontrolle von 0,1% der Vorabtrainingsdaten Hintertüren in KI-Chatbots eingebaut werden können.
Zusammenfassung
Diese Studie ist nicht die erste, die die inhärenten Schwachstellen in den aktuellen KI-Tools aufzeigt, die trotz ihrer Kürze bereits Gemeinsamkeiten mit anderen Software- und Betriebssystemen haben. Eine dieser Bedrohungen besteht darin, dass ein Prompt die KI dazu bringen kann, persönliche Daten der Chat-Nutzer zu extrahieren, was als Imprompter bekannt ist. ComputerHoy zeigt, wie wir arbeiten.