Какве везе имају „deepfake порнографија“ и сексуално злостављање деце?
Преузето са „Центар за несталу и злостављену децу“ https://cnzd.rs/kakve-veze-imaju-deepfake-pornografija-i-seksualno-zlostavljanje-dece/
Недавно је интернет преплавила лавина фотографија креираних уз помоћ вештачке интелигенције. Тренд се поготово проширио на Инстаграму и Тиктоку. Како то функционише? Апликација тражи приступ једној вашој фотографији, а за узврат добијате резултат како бисте изгледали да сте лик из цртаног филма. Нешто попут већ одомаћених и популаризованих филтера, али квалитетније и много уверљивије. Све ово у сврху забаве. Међутим, као и већину алата, и овај је, без обзира колико био користан, могуће искористити у погрешне сврхе.
Осумњичени креирао порнографски садржај користећи фотографије деце преузете са друштвених мрежа
У Шпанији је недавно ухапшен човек који је користећи вештачку интелигенцију стварао велику количину порнографског садржаја који је био базиран на фотографијама и видеима деце које је прикупио на интернету. Полиција је заплењен садржај описала као веома узнемирујућ. „Докази су дубоко потресли наше аналитичаре јер приказују сценарије стварних девојчица силованих од стране несразмерно великих полних органа и секс играчака“, рекао је портпарол шпанске националне полиције.
Шта је deep fake?
Порнографија генерисана вештачком интелигенцијом која приказује лица појединаца на телима која нису њихова, без њиховог пристанка постала је све чешћа појава на интернету. Овако генерисан садржај назива се „deepfake pornography“ односно дипфејк порнографија.Према истраживању које је спровела Геневиеве Ох, аналитичарка за лајв стиминге, број деепфаке порнографских видео снимака доступних на интернету нагло се повећао, скоро се удвостручујући сваке године од 2018. У 2018. години, на познатој deep striming страници било је нешто више од 1800 видеа, али је до 2022. овај број порастао на више од 13.000 видеа са преко 16 милиона прегледа месечно.
Жртве су пре свега биле познате личности, а потом непознати људи и деца чије су фотографије биле доступне на интернету
Прве жртве овог феномена биле су познате личности. Њихова лица била би монтирана на тела глумаца који снимају порнографски садржај, и тај би материјал био проширен интернетом као легитиман. Након познатих личности, на ред су дошле различите интернет персоне попут influensera, youtubera i twitch strimera, а потом и непознати људи и њихова деца.
Фотографије жена и деце прикупљане су путем друштвених мрежа и коришћене за прављење порнографије. Овај вид креирања садржаја се посебно популаризовао јер може да се прави по поруџбини. На једном форуму чак постоји упит оца који тражи да му се направи deepfake видео где ће у главној улози бити његова ћерка.
Креатори deepfake pornografije се не плаше закона
Главна одбрана креатора оваквог садржаја је да приликом његове израде „нико није повређен нити искориштен“. Иако физички нико није злостављан, постојање оваквих видеа нормализује материјал који приказује сексуално злостављање деце и нарушава достојанство и идентитет особе која је на њему приказана. Немогућност доказивања да неко није заиста на снимку или фотографији може да остави велике последице на ментално здравље особе чије су фотографије искоришћене.Ричард Колард (The National Society for the Prevention of Cruelty) изјавио је да га забрињава чињеница да „починиоци злостављања постају све више и више технолошки потковани, што значи да опасност од сексуалног злостављања стално расте.“ Колард је такође позвао власнике друштвених мрежа на одговорност.
„Без обзира да ли се ради о фотографијама генерисаним вештачком интелигенцијом или не, друштвене мреже имају моралну и правну одговорност да интервенишу и уклоне штетан материјал који се дели на њиховим платформама.“
Одговорност имају и државе које ће ускоро морати да донесу законе и подзаконске акте који ће регулисати ову област. Интернет сваким даном нуди све више могућности и одговорност свих нас је да урадимо све што је у нашој надлежности и моћи како бисмо заштитили децу и младе од потенцијалног злостављања.
Извори и материјал за даље информисање:
https://inhope.org/EN/articles/what-is-a-deepfakehttps://www.staffsscb.org.uk/what-are-deepfakes-protect-yourself-and-our-children/
