S novými nástrojmi AI pre počítače sú už falošné videá a falošné správy možné a to, čo dnes vidíme, je len prvou predzvesťou toho, čo bude možné v budúcnosti. Tu máme prvý konkrétny prípad použitia, pretože niekto na to používal algoritmus vloženie tváre hviezdy "Wonder Woman" Gal Gadot do porno videa - a výsledky sú desivo presvedčivé.
Používateľ Redditu Deepfakes trénuje Neurónové siete na tvárach celebrít, pohybujúce sa animácie tváre potom vkladá do skutočného porna pomocou detekcie tváre - pokiaľ videá interpretujem správne, nebudem ich sem spájať, môžete si to zistiť sami. Výsledkom je autentické porno s vašou obľúbenou herečkou. Falošné porno cez Photoshop je staré asi ako internet a reálne pravdepodobne také staré ako samotný Photoshop, len tu je proces automatizovaný a v budúcnosti bude fungovať na požiadanie. Hoci programátori AI by mali inštalovať bezpečnostné mechanizmy, ktoré by mali zabrániť AI v „krádeži identity“, budú existovať aj hacky a cracky. Koncept nezanikne a zrejme nezostane ani pri herečkách. Vitajte v budúcnosti.
Zatiaľ deepfakes zverejnil na Reddite hardcore porno videá s tvárami Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza a Gal Gadot. Oslovil som správcovské spoločnosti a/alebo publicistov, ktorí zastupujú každého z týchto aktérov, a informovali ich o falošných videách, a ak sa mi ozvem, aktualizujem. [...]
Podľa deepfakes – ktorý mi odmietol poskytnúť svoju identitu, aby sa vyhol verejnej kontrole – je softvér založený na viacerých open-source knižniciach, ako je Keras s backendom TensorFlow. Na zostavenie tvárí celebrít deepfakes uviedol, že použil vyhľadávanie obrázkov Google, fotografie a videá na YouTube. Hlboké učenie pozostáva zo sietí vzájomne prepojených uzlov, ktoré autonómne spúšťajú výpočty so vstupnými údajmi. V tomto prípade trénoval algoritmus na porno videách a tvári Gal Gadot. Po dostatočnom množstve tohto „tréningu“ sa uzly usporiadajú tak, aby dokončili konkrétnu úlohu, ako je napríklad presvedčivá manipulácia s videom za behu. Výskumník v oblasti umelej inteligencie Alex Champandard mi v e-maile povedal, že slušná grafická karta na spotrebiteľskej úrovni dokáže spracovať tento efekt za niekoľko hodín, ale CPU bude fungovať rovnako dobre, len pomalšie, v priebehu dní. [...]
"Práve som našiel šikovný spôsob, ako si vymeniť tvár," povedal s odkazom na svoj algoritmus. „So stovkami obrázkov tvárí môžem ľahko generovať milióny skreslených obrázkov na trénovanie siete,“ povedal. "Potom, ak nakŕmim sieť tvárou niekoho iného, sieť si bude myslieť, že je to len ďalší zdeformovaný obraz a pokúsi sa, aby to vyzeralo ako cvičná tvár."
Vo vlákne komentárov na Reddite deepfakes spomenul, že používa algoritmus podobný algoritmu vyvinutému výskumníkmi Nvidie, ktorý využíva hlboké učenie napríklad na okamžité premenu videa z letnej scény na zimnú. Výskumníci Nvidia, ktorí vyvinuli algoritmus, odmietli komentovať túto možnú aplikáciu.