Skandal Deepfake w liceum wzywa prawodawców do działania

Technologia Deepfake nie jest nową koncepcją, ale uczniowie liceum w New Jersey stali się ofiarami swoich kolegów z klasy korzystających z tej technologii sztucznej inteligencji. Kilku chłopców ze szkoły wykorzystywało wizerunki swoich koleżanek z klasy. Jedna z ofiar, Francesca, 14-letnia uczennica, zgłosiła, że ona i ponad 30 innych nastolatków pojawiło się na tych zdjęciach, które zostały rozpowszechnione w szkole bez ich zgody. Jednak zgodnie z e-mailem ze szkoły, rzeczywista liczba ofiar wydaje się być mniejsza niż 30.

Następnie Francesca skontaktowała się z różnymi ustawodawcami i otrzymała odpowiedzi między innymi od przedstawiciela USA Joe Morelle z Nowego Jorku, przedstawiciela USA Toma Keana Jr. z New Jersey i senatora stanu New Jersey Jona Bramnicka. Dzięki jej wysiłkom niedawno wprowadzono nowe propozycje legislacyjne, z naciskiem na oznaczanie i identyfikację treści generowanych przez sztuczną inteligencję oraz zapobieganie włączaniu materiałów dla nieletnich. Ponadto dziewczyna stworzyła stronę internetową , aby pomóc osobom dotkniętym przez technologię deepfake.

Tego dnia zdałam sobie sprawę, że muszę zabrać głos, ponieważ naprawdę uważam, że to nie jest w porządku. To taka nowa technologia, o której ludzie tak naprawdę nie wiedzą i nie wiedzą, jak się przed nią chronić.

- Francesca

Joe Morelle opracował projekt ustawy w 2022 r. w celu kryminalizacji produkcji deepfake'ów bez zgody, ale zabrakło mu wystarczającego poparcia i ostatecznie upadł. Wprowadzono również inne inicjatywy mające na celu uregulowanie deepfake'ów, takie jak DEEPFAKES Accountability Act z 2019 r. autorstwa przedstawicielki Yvette Clarke, która wymaga, aby wszystkie deepfake'i były opatrzone znakiem wodnym przez ich autorów.

Od tego czasu tworzenie deepfake'ów stało się łatwiejsze, ponieważ sztuczna inteligencja znacznie się rozwinęła. Przy minimalnym materiale graficznym można uzyskać realistycznie wyglądające podróbki. Na przykład Lensa, aplikacja generująca sztuczną inteligencję, umożliwia między innymi rozbieranie ludzi.

Właśnie daliśmy licealistom matkę wszystkich broni nuklearnych, czyli możliwość tworzenia porno z [pojedynczym obrazem] kogokolwiek chcą. I oczywiście robią to.

- Hany Farid, profesor na Uniwersytecie Kalifornijskim w Berkeley

Projekt ustawy Joe Morelle'a umożliwiłby ściganie karne twórców i dystrybutorów deepfake'ów bez zgody, klasyfikując je jako przestępstwo federalne.