GPT-5 für ChatGPT: Sicherheitsbedenken nach dem Launch
Gpt-5 für chatgpt: sicherheitsbedenken nach dem launch
Der Modell GPT-5 für ChatGPT wurde im August dieses Jahres der Öffentlichkeit zugänglich gemacht. Mit den bedeutenden Fortschritten dieses Sprachmodells kamen auch Bedenken in Bezug auf die Sicherheit der Nutzer.
In den ersten drei Tagen nach dem Launch untersuchte das Center for Countering Digital Hate (CCDH), das sich mit Hass in digitalen Medien befasst, die Risiken des neuesten Modells von OpenAI und wie es Schaden anrichten kann. In ihren Schlussfolgerungen stellten sie fest, dass GPT-5 in 63 von 120 Antworten schädlichen Inhalt teilte, was einem Anteil von 53 % entspricht. Im Vergleich dazu präsentierte GPT-4 diesen Typ von Nachricht in 52 von 120 Fällen.
Sam Altman kündigte den erotischen Modus von ChatGPT an: "Wir möchten Erwachsene wie Erwachsene behandeln". Dies ist jedoch keine gute Nachricht, da auch das vorherige Modell mit ähnlichen Problemen konfrontiert war, wie z.B. die Bereitstellung von schädlichem Inhalt für Profile mit registrierten Konten unter 13 Jahren.
"OpenAI hat den Nutzern mehr Sicherheit versprochen, aber stattdessen eine "Aktualisierung" präsentiert, die potenziell noch mehr Schäden verursacht", stellte Imran Ahmed, CEO von CCDH, fest. "Bei der wachsenden Zahl von Todesfällen nach Interaktionen mit ChatGPT wissen wir, dass es fatale Konsequenzen hat".
Der CEO der Organisation bezieht sich dabei auf komplexe Situationen, die sich kürzlich ereignet haben, wie den Suizid eines Teenagers, den ChatGPT "unterstützt" hat, was OpenAI dazu veranlasst hat, Maßnahmen wie die Elternkontrolle zu ergreifen.
Wie aus dem Bericht The Illusion of AI Safety von CCDH hervorgeht, antwortete GPT-5 positiv auf Fragen, die GPT-4 ablehnte, insbesondere in Bezug auf Methoden zur Selbstverletzung, verschiedene Verhaltensweisen, die mit Essstörungen verbunden sind, oder den illegalen Zugang zu Substanzen.
Zudem hat CCDH eine Forderung an OpenAI gerichtet, damit diese ihre eigenen Regeln anwendet und eine strenge Regulierung durch die Gesetzgeber sicherstellt. "Der misslungene Launch und die unklaren Aussagen von OpenAI zum Launch von GPT-5 zeigen, dass ohne Aufsicht Unternehmen der KI weiterhin Sicherheit zugunsten der Interaktion opfern werden", kritisierte Ahmed. "Wie viele weitere Leben müssen riskiert werden, damit OpenAI verantwortungsvoll handelt?"
In den Beispielen dieser Untersuchung zeigt sich, dass die Themen mit verschiedenen Prompts variieren, um ChatGPT zu manipulieren, einschließlich schwerer Situationen wie den bereits genannten, sowie extrem kalorienarmen Diäten, die für niemanden gesund sind.
Obwohl GPT-5 keine Ratschläge mehr zur Schädigung anderer gibt, wie z.B. zur Herstellung von Bomben, zeigt dieser Bericht, dass es Methoden zur Selbstverletzung empfiehlt, was katastrophal wäre, wenn es keinen Kontrolle gäbe.