Fake porn, czyli jak zostać gwiazdą porno, nawet o tym nie wiedząc

Sztuczna inteligencja zawładnęła światem porno. Bez Twojej wiedzy i zgody może Cię wmanewrować w najgorsze internetowe świństwa.

Rozwój technologii i nowe pola wykorzystania sztucznej inteligencji (AI) zaczynają coraz mocniej ingerować w naszą rozrywkę. Fake porn, czyli wykorzystanie obrazu twarzy osób trzecich w produkcjach filmów pornograficznych, póki co szokuje Amerykanów, ale powinno też zaniepokoić każdego z nas. Perfekcyjnie zmontowane filmy dla dorosłych, w których twarze aktorów porno zastępowane są wizerunkiem dowolnych osób, mogą narobić każdemu wiele szkód. Polityczny oponent, zraniony partner czy nienawistny współpracownik otrzymują nowy oręż do walki i wyrażania swojej złości (czyli hejtowania) w świecie cyfrowym. Wiarygodne (na pierwszy rzut oka) nagrania wyglądają na tyle przekonująco, by użytkownik internetu uznał je za prawdziwą produkcję.

Celebryci na celowniku

Świat mediów nigdy nie stoi w miejscu. W serwisach pornograficznych takich jak RedTube możemy znaleźć kategorię, w której królują spreparowane materiały. Głośnym przypadkiem praktyki fake porn było wykorzystanie w takiej manipulacji wizerunku aktorki Gal Gadot, grającej w amerykańskiej superprodukcji „Wonder Woman”, co nagłośniło w 2017 roku publiczną dyskusję nad problemem (podobny proceder spotkał m.in. Emmę Watson). Opublikowane w sieci wideo zostało stworzone za pomocą algorytmu uczenia maszynowego (machine learning algorithm), przy wykorzystaniu ogólnodostępnych materiałów graficznych i kodów (open-source code).

Sztuczna inteligencja nie jest nowością w świecie biznesu pornograficznego. W październiku 2017 roku Pornhub, internetowy serwis z filmami pornograficznymi, ogłosił, że używa uczenia maszynowego i rozpoznawania twarzy, aby użytkownikom łatwiej było przeszukiwać ogromną bazę filmów, w których wystąpiło ponad 10 000 gwiazd porno.

Poniżej fragment filmu, w którym twarz Gal Gadot nałożono na ciało aktorki porno. Prawda, że nie widać tej manipulacji?

Z prawem czy przeciw prawu?

Ale mimo negatywnych skojarzeń sztuczna inteligencja nie musi być jedynie źródłem nadużyć prawa. Teoretycznie wykorzystanie AI mogłoby pomóc np. w wykrywaniu piractwa internetowego poprzez identyfikowanie treści chronionych prawem autorskim, na wzór systemów typu Content ID You Tube, które pozwalają właścicielom praw autorskich rozpoznawać swoje treści i zarządzać nimi w serwisie.

Zjawisko fake porn brutalnie unaocznia jednak, jak dalece technologia wyprzedza przepisy prawa. Zamiana twarzy aktora porno na wizerunek dowolnej osoby może stanowić falę naruszeń prawa, nie tylko w zakresie własności intelektualnej. Możemy wyobrazić sobie nagranie z miejsca popełnienia przestępstwa, gdzie wizerunek sprawcy został zmodyfikowany, a jego twarz zamieniona na dowolny obraz. Serwisy publikujące problematyczne treści posiadają narzędzia w postaci zapisów regulaminowych pozwalających na usuwanie materiałów, co do których istnieją uzasadnione zastrzeżenia. Jednak internet nigdy nie zapomina i wyeliminowanie pliku w jednym serwisie nie gwarantuje, że nie został on skopiowany i udostępniony w kolejnym.

Nikt nie jest bezpieczny

Fake porn kojarzy się nam z wykorzystaniem wizerunku znanych osób, jednak może dotyczyć każdego z nas. Świat mediów społecznościowych karmiony modą na selfie stanowi bank danych na temat wizerunku naszych twarzy. To zaś pozwala na swobodne ich mapowanie i nieskomplikowaną technicznie zamianę jednego obrazu na drugi przy pomocy ogólnodostępnych aplikacji (np. FakeApp). Algorytmy komputerowe takie jak Face2Face pozwalają na modyfikację nagrań wideo przy wykorzystaniu rozpoznawania twarzy (face tracking) w czasie rzeczywistym, udowadniając nam, że już jutro możemy stać się gwiazdą filmu porno, w którym nigdy nie zagraliśmy.

Źródła:

1. http://money.cnn.com/2018/02/08/technology/reddit-deepfake-porn-ai/index.html
2. https://motherboard.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-porn
3. https://www.thesun.co.uk/tech/5482669/fake-emma-watson-porn-deepfakes-app-underage/
4. https://www.pornhub.com/press/show?id=1362
5. https://support.google.com/youtube/answer/2797370?hl=pl
6. https://motherboard.vice.com/en_us/article/zmwvdw/pornhub-bans-deepfakes
7. https://www.fakeapp.org
8. https://web.stanford.edu/~zollhoef/papers/CVPR2016_Face2Face/paper.pdf