Die Datenschutzorganisation noyb hat in Norwegen eine Beschwerde gegen OpenAI, den Hersteller von ChatGPT, eingereicht. ChatGPT kann „halluzinieren“ und falsche Informationen liefern, was nach Ansicht von noyb gegen das Datenschutzgesetz der DSGVO verstößt.
„ChatGPT hat in der Vergangenheit Menschen fälschlicherweise der Korruption, des Kindesmissbrauchs oder sogar des Mordes beschuldigt“, heißt es auf der Website von noyb. Ein solcher Fall ist nun der unmittelbare Anlass für die Beschwerde von noyb. Es geht um einen Norweger, der ChatGPT fragte, was es über ihn wisse. ChatGPT antwortete mit einer erfundenen Geschichte. ChatGPT behauptete, der Mann habe zwei seiner Kinder ermordet und versucht, auch sein drittes Kind zu ermorden. Daraufhin sei er zu 21 Jahren Gefängnis verurteilt worden.
Die Geschichte enthielt jedoch auch Teile, die korrekt waren, wie die Namen und das Geschlecht der Kinder und der Name der Stadt, in der er lebt. Laut noyb stellt diese Mischung aus nachvollziehbaren persönlichen Informationen und falschen Informationen einen klaren Verstoß gegen die DSGVO dar. Laut dem Datenschutzgesetz müssen Unternehmen sicherstellen, dass die von ihnen über Einzelpersonen erstellten personenbezogenen Daten korrekt sind, so noyb.
Dass ChatGPT und andere Sprachmodelle halluzinieren können, ist schon länger bekannt. Kritiker warnen davor seit Beginn. Chatbots wie ChatGPT zeigen den Nutzern daher einen Haftungsausschluss an, der sie darauf hinweist, dass der Chatbot Fehler machen kann. Laut noyb-Anwalt Joakim Söderberg reicht das jedoch nicht aus. „Man kann nicht einfach falsche Informationen verbreiten und unten einen kleinen Haftungsausschluss hinzufügen, der besagt, dass alles, was man gesagt hat, möglicherweise nicht wahr ist“, sagt er. “Die DSGVO ist eindeutig. Personenbezogene Daten müssen korrekt sein. Wenn dies nicht der Fall ist, haben die Nutzer das Recht, die Informationen so ändern zu lassen, dass sie der Wahrheit entsprechen.“
noyb fordert nun die norwegische Regulierungsbehörde auf, OpenAI zu zwingen, die falschen Informationen zu entfernen. OpenAI muss außerdem gezwungen werden, sein Modell zu verfeinern, um falsche Ergebnisse in Bezug auf den Beschwerdeführer zu eliminieren. Darüber hinaus fordert noyb, dass die Verarbeitung der personenbezogenen Daten des norwegischen Mannes eingeschränkt wird und OpenAI mit einer Geldstrafe belegt wird. Die Geldbußen nach der DSGVO können bis zu vier Prozent des weltweiten Umsatzes betragen.
Noyb hat im vergangenen Jahr auch eine DSGVO-Beschwerde gegen OpenAI eingereicht. In diesem Fall ging es auch um die „Halluzinationen“ von ChatGPT und die Unfähigkeit des Chatbots, Fehlinformationen über Einzelpersonen zu korrigieren. In diesem Fall ging es um die personenbezogenen Daten einer ungenannten „Persönlichkeit des öffentlichen Lebens“, deren Geburtstag wiederholt falsch angegeben wurde.
