ChatGPT udziela dziwacznej, zniesławiającej odpowiedzi norweskiemu mężczyźnie pytającemu o niego samego

Deweloper ChatGPT, OpenAI, po raz kolejny stanął w obliczu skargi dotyczącej prywatności po tym, jak zwrócił zniesławiającą, zmyśloną odpowiedź na pozornie standardowe pytanie. Norweg o imieniu Arve Hjalmar Holmen zapytał ChatGPT, "kim jest Arve Hjalmar Holmen?", a model AI oskarżył go o zamordowanie dwóch swoich synów i próbę zabicia trzeciego. Podczas gdy niektóre podstawowe informacje w tej odpowiedzi były prawdziwe, raport o morderstwie był całkowicie fałszywy.

Według TechCrunch, Holmen opublikował pozornie proste pytanie na ChatGPT, a odpowiedź pozostawiła go w szoku (zrzut ekranu załączony poniżej). W odpowiedzi stwierdzono, że Holmen zwrócił na siebie uwagę z powodu tragicznego wydarzenia, w którym zamordował swoich dwóch synów w wieku 7 i 10 lat w mieście Trondheim w grudniu 2020 roku. Dodano, że później został również oskarżony o usiłowanie zabójstwa trzeciego syna.

The Asystent AI stwierdził, że incydent był "szeroko komentowany w mediach" i że Holeman został skazany na 21 lat więzienia.

Holeman zdecydował się podjąć kroki prawne przeciwko OpenAI a grupa obrońców praw do prywatności Noyb wspiera go w tej sprawie. Grupa twierdzi, że chociaż twierdzenie asystenta AI było całkowicie fałszywe, to jednak dokładnie wspominało o rodzinnym mieście Holemana i o tym, że ma on trzech synów. Noyb próbował również sprawdzić, dlaczego taka odpowiedź została wygenerowana, ale nie mógł wskazać przyczyny.

ChatGPT nie zawiera zastrzeżenia że chatbot może się mylić i że użytkownicy powinni sprawdzać ważne informacje, ale Noyb twierdzi, że to nie zwalnia firmy z haczyka, ponieważ nadal ma ona obowiązek wynikający z ogólnego rozporządzenia o ochronie danych Unii Europejskiej (RODO), aby przede wszystkim nie produkować rażących przekłamań.