AI - Skandaliczne reklamy deepfake o charakterze seksualnym

Setki filmów opublikowanych jako reklamy na popularnych portalach społecznościowych miały promować jedną z aplikacji umożliwiających podmianę twarzy w wideo. Do promocji posłużyły filmiki ukazujące kobiety zachowujące się w sposób wyzywający, sugestywny czy inicjujące stosunek seksualny. Do podmiany twarzy posłużyły algorytmy sztucznej inteligencji i tak zwana technologia deepfake. Kampania miała służyć promocji jednej z aplikacji mobilnych, umożliwiających podmienianie twarzy w dowolnym wideo (celowo nie wymieniamy nazwy wspomnianej aplikacji). 

 

 

Emma Watson

 

Na platformach Meta, w tym Facebooku, Instagramie czy Messengerze w ciągu dwóch dni pojawiło się ponad 230 reklam wideo wykorzystujących technologie deepfake i promujących aplikację do podmieniania twarzy w filmikach. Reklamy zaczynały się od obrazu kobiety pozornie inicjującej akt seksualny. W ciągu kilku sekund twarz kobiety zmienia się w bardzo przekonującą fałszywą wersję oblicza znanej aktorki. 

 

W podpisach do reklam można było przeczytać, iż promowana aplikacja pozwala na zamienianie twarzy z filmu na twarz dowolnej osoby. Twórcy aplikacji promowali swój produkt słowami: "baw się dobrze dzięki technologii sztucznej inteligencji do zamiany twarzy". Te same reklamy miały pojawiać się także w bezpłatnych aplikacjach do edycji zdjęć i gier pobranych ze sklepu Apple App Store, gdzie aplikacja pojawiła się po raz pierwszy w 2022 roku i była dostępna za darmo dla osób w wieku od 9 lat. 

 

Rzecznik Meta potwierdził, że wszystkie reklamy aplikacji do zmieniania twarzy zostały już usunięte z usług online. "Nasze zasady zabraniają udostępniania treści dla dorosłych, niezależnie od tego, czy są generowane przez sztuczną inteligencję, czy też nie. Ograniczyliśmy możliwość reklamowania tej aplikacji na naszych portalach" komentował rzecznik Meta w oficjalnym oświadczeniu. 

 

Meta zakazała większości treści typu deepfake w 2020 roku. Firma zabrania także umieszczania w reklamach treści dla dorosłych, w tym nagości, przedstawiania osób w wyraźnych lub sugestywnych pozach lub prezentowania działań prowokujących na tle seksualnym. 

 

Promowana w ten sposób aplikacja została już usunięta ze sklepu Apple App Store. Okazuje się jednak, że oprogramowanie to jest wciąż dostępne w Google Play. 

 

Treści pornograficzne generowane przez sztuczną inteligencję, które przedstawiają twarze osób, które nie wyrażają na to zgody, stają się coraz bardziej powszechne w internecie. W USA nie ma obecnie przepisów chroniących przed wykorzystywanim obrazów ludzi bez ich zgody w pornografii deep fake lub jakiejkolwiek powiązanej technologii. Jednakże już w zeszłym roku przykładowo Wielka Brytania ogłosiła plany kryminalizacji udostępniania filmów pornograficznych z technologią deepfake i podmienionymi twarzami osób. Ma dojść do zakazania udostępniania i rozpowszechniania takich treści, jeśli występują na nich oblicza ludzi, którzy nie wyrazili na to jasnej zgody. W przypadku złamania tego prawa, może grozić kara więzienia. 

 

Problem deepfake będzie się nasilał i niósł wiele realnych zagrożeń. Miejmy nadzieję, że zaistnieją odpowiednie rozwiązania, które pozwolą na ochronę osób, które nie chcą udostępniać swojego wizerunku w takich treściach.