Ukryty tekst może nakłonić ChatGPT do fałszowania wyników wyszukiwania

ChatGPT Search, wyszukiwarka internetowa oparta na sztucznej inteligencji, może zostać oszukana w celu zmodyfikowania swoich wyników za pomocą ukrytego tekstu. Narzędzie AI można zmusić do zmiany odpowiedzi na temat produktów lub usług pomimo negatywnych recenzji obecnych na stronie.

The Guardian donosi, że udało mu się zmusić ChatGPT Search do zwracania fałszywych wyników podając fałszywą stronę produktu dla kamery i pytając narzędzie, czy warto ją kupić. Bez użycia ukrytego tekstu, narzędzie AI udzieliło zrównoważonej odpowiedzi z zaletami i wadami produktu.

Ukryty tekst, jak sama nazwa wskazuje, nie jest widoczny dla odwiedzających stronę internetową. Jest on używany do różnych celów, w tym do zapewnienia użytkownikom dostępności i poprawy ich doświadczenia na stronie internetowej. Z drugiej strony można go wykorzystać do manipulowania rankingami SEO za pomocą zrzutów słów kluczowych lub w tym przypadku oszukać narzędzie sztucznej inteligencji, aby wydało pozytywne oceny produktów lub usług.

Jednak podczas testowania tej samej strony internetowej z ukrytym tekstem, narzędzie AI może zostać wprowadzone w błąd w celu uzyskania pozytywnych opinii na temat produktu pomimo negatywnych recenzji na tej samej stronie. Guardian stwierdził, że to proste włączenie może zagwarantować pozytywne wrażenie produktu lub usługi. Może to prowadzić do tworzenia stron internetowych, które celowo wprowadzają użytkowników w błąd, zachęcając ich do klikania złośliwych linków.