Fotografie maloletých dievčat, zdieľané na ich sociálnych sieťach, zneužíva bot aplikácie Telegram, ktorý pomocou deepfake metódy vytvára ich nahé varianty. Takéto znepokojivé nepravdivé fotografie vytvára umelá inteligencia, ktorá vie virtuálne vyzliecť oblečené ženy. Informovala o tom spoločnosť Sensity a následne aj britský denník Daily Mail.

Deepfake je počítačom generovaná a často veľmi reálne vyzerajúca fotografia alebo video vytvorené podľa predlohy z reálneho sveta. Táto forma hoaxov sa používa na manipulovanie s voľbami, v pornografii alebo na presadenie dezinformácií.

Jednoduché ovládanie bota ako najväčšie nebezpečenstvo

Medzi júlom 2019 a 2020 sa online objavilo viac než 100 000 botom vytvorených nedobrovoľných deepfake fotografií so sexuálnym podtónom, ktoré patria 10 000 ženám a dievčatám.

Väčšina obetí bola súkromnými osobami a zdrojom ich fotografií boli sociálne siete – všetky osoby boli ženského pohlavia a niektoré z nich boli „viditeľne maloleté”, informovala spoločnosť Sensity.

Táto forma „deepfake porna” nie je žiadnou novinkou. Technológia spomínaného bota je pravdepodobne založená na nástroji nazývanom DeepNude, ktorý sa objavil minulý rok.

Spomínanú službu umelej inteligencie spustili online, avšak jej použitie bolo relatívne náročné. Nástroj ľuďom poskytol možnosť nahrať fotografiu ženy a zistiť, ako by fotografia vyzerala, keby žena nebola odetá. Nikto nebude nikoho vydierať kvôli nahým fotografiám, ktorých kvalita je nereálna.

DeepNude síce do 24 hodín odstránili z internetu, Sensity však podozrieva bota z toho, že je založený na cracknutej verzii pôvodnej aplikácie.

Sensity hovorí o tom, že tento bot je obzvlášť desivý pre jeho jednoduché použitie, pretože vyžaduje len prosté nahratie fotografie dievčaťa a kliknutie na pár tlačidiel. Následne využije svoju „neurálnu sieť” na zistenie toho, čo sa nachádza pod oblečením, a vytvorí nahú fotografiu.

 „Inováciou v tomto prípade nemusí byť nutne akákoľvek forma umelej inteligencie,” tvrdí Giorgio Patrini, výkonný riaditeľ deepfake-výskumnej spoločnosti Sensity a spoluautor správy pre CNet. „Faktom je, že dokáže veľmi jednoducho zasiahnuť množstvo ľudí.”

Patrini tvrdí, že tento nový krok, použitie fotografií súkromných osôb a ich transformácia do hanlivej podoby, je relatívne nový a každého užívateľa sociálnych sietí stavia do nebezpečenstva.

Bot, ktorý ešte nemá svoje meno, operuje na Telegrame – platforme pre výmenu súkromných správ, ktorá si zakladá na idei slobody prejavu.

Ako sa k situácii vyjadril admin nebezpečného bota?

Administrátor bota, známy ako ,,P”, povedal BBC, že táto služba bola určená čisto na pobavenie a „neprináša so sebou násilie.”

„Nikto nebude nikoho vydierať kvôli nahým fotografiám, ktorých kvalita je nereálna,” tvrdí „P”, pričom dodáva, že všetky fotografie maloletých sú odstránené a používateľ následne blokovaný.

Kde bol bot najviac propagovaný?

Sieť bota, kde sú deepfake fotografie vytvorené a zdieľané, má viac než 100 000 členov, pochádzajúcich najmä z Ruska a východnej Európy, podotklo Sensity.

„Zdieľanie tvojich fotografií alebo videí, bez známosti prístupnosti tohto obsahu verejnosti – kto to môže vidieť, kto to môže ukradnúť, kto to môže stiahnuť bez tvojho vedomia – otvára rôzne možnosti, ako sa môžeš stať obeťou útoku,” povedal Patrini pre Buzzfeed News.

Bot bol primárne propagovaný na ruskej sociálnej sieti VK. Sociálna platforma sa vyjadrila, že takýto obsah netoleruje a odstránila ho, keď sa dostala k týmto informáciám.

Koho užívatelia bota najčastejšie vyzliekali?

 „Množstvo týchto webstránok alebo aplikácií sa neskrýva, pretože nie sú prísne ilegálne,” povedal Patrini pre BBC.

Autori vyjadrili taktiež obavu, že so zlepšením deepfake technológie môžu byť boty využívané na vydieranie žien.

Zatiaľ čo sa väčšina takýchto fotografií doteraz zameriavala na celebrity alebo politikov, používatelia tejto aplikácie javili väčší záujem o fotografie ľudí, ktorých poznajú.

Anketa pre používateľov bota, vytvorená spoločnosťou Sensity, zistila, že 63 % ľudí nástroj používalo na to, aby zistili, ako asi vyzerá žena, ktorú poznajú, bez oblečenia.

Ako to vyzerá s právnou reguláciou?

Autori pôvodnej správy o falošných fotografiách zdieľali svoje poznatky s agentúrami, ktoré presadzujú právo, Vk a Telegramom, avšak k ich znepokojeniu nedostali žiaden ohlas .

 „Naše právne systémy nie sú vhodne nastavené na riešenie takýchto problémov,” povedala Nina Shick, autorka  knihy Deep Fakes and the Infocalypse, keď hovorila s BBC.

Spoločnosť sa zásluhou technologických vymožeností mení rýchlejšie, ako si dokážeme predstaviť, a my sme ako spoločnosť ešte nerozhodli, ako to celé regulovať.

Pre obete fake porna je to skutočne zdrvujúce, pretože to môže prevrátiť celý ich život – cítia sa byť zneuctené a potupené.

Pôvodný článok nájdete na stránkach Sensity.

Čo sa deje u nás? Niektorých usvedčuje dokumentárny film

Tému ohľadom sexuálnych predátorov veľmi dobre zachytil český dokumentV siti. Zameriava na pedofilov z českej sociálnej siete lide.cz.

Poburujúcim spôsobom zobrazuje priebeh onlinového vzťahu od prvého stretnutia až po jeho koniec. Niektorí sú umiernenejší, iní nie. Každopádne na spôsobe nezáleží, protizákonná činnosť a ničenie životov detí sa deje tak či tak.

iDnes sa o tomto dokumente vyjadrilo ako o „experimente, ktorý posiela za mreže”. Vďaka projektu V síti polícia začala vyšetrovať hneď niekoľko sexuálnych predátorov, ktorí v spomínanom dokumente nevedomky účinkovali.

Správy z februára 2020 hovoria o celkom 9 osobách podozrivých z prečinu nadväzovania nedovolených kontaktov s dieťaťom v štádiu pokusu, za čo hrozia až 2 roky vo väzení.  Policajný hovorca uviedol, že žiadna z vyšetrovaných osôb predtým nemala kriminálnu minulosť.

Jeden z prípadov bol kvôli miestnej príslušnosti ďalej riešený v Ústí nad Labem. Druhý prípad bol odložený, pretože nešlo o trestný čin a tretí bol podmienečne zastavený štátnym zástupcom.

Návrh na podanie obžaloby zo strany kriminalistov figuroval v ďalších dvoch prípadoch. Jeden z týchto prípadov je už ukončený, rozhodnutie súdu pre páchateľa znamenalo 10-mesačný trest odňatia slobody s odkladom na 3 roky.

Vo zvyšných prípadoch stále prebieha vyšetrovanie podozrivých. Kriminalisti totižto zistili, že majú na svedomí aj iné trestné činy, ktoré s filmovým dokumentom nemajú súvislosť – zvádzanie k pohlavnému styku, sexuálny nátlak, šírenie pornografie a zneužitie dieťaťa k výrobe pornografie.

Policajný hovorca uviedol aj to, že žiadna z vyšetrovaných osôb vo veku 21 až 62 rokov nemala kriminálnu minulosť.

Je potrebné svojmu dieťaťu zakázať internet?

Film otvoril oči mnohým ľuďom. Internet deťom rozhodne nie je vhodné zakazovať, veľmi vítané je však deti informovať o jeho nástrahách a zároveň im ukázať, ako túto technológiu používať na vzdelávacie a kreatívne účely. Zákaz by spôsobil len to, že sa nám deti prestanú zdôverovať.

Takýto postup odporúča pedagóg doc. Mgr. Kamil Kopecký, Ph.D., ktorý pôsobí na Univerzite Palackého v Olomouci, špecializuje sa na kyberšikanu, sexting a iné riziká sociálnych sietí