Technologie používaná k vytváření pornografických falešných fotografií a videí se zdokonaluje. Je využívána k obtěžování a sexuálnímu vydírání

Dospívající dívky, které se staly obětí falešných nahých fotografií mají ve většině států jen málo možností, jak se bránit, pokud vůbec nějaké. Technologie používaná k vytváření pornografických falešných fotografií i videí se zdokonaluje. Je využívána k obtěžování a sexuálnímu vydírání.

Od začátku školního roku 2023 se po celém světě množí případy dospívajících dívek, které se staly oběťmi falešných nahých fotografií, známých také jako deepfakes.

Nerealistické deepfakes lze vytvořit pomocí jednoduchých nástrojů pro úpravu fotografií, které existují již léta. Se zdokonalováním technologie umělé inteligence jsou stále dostupnější. Například stabilní difúze (technologie s otevřeným zdrojovým kódem, která dokáže vytvářet obrázky na základě textových podnětů) a nástroje „face-swap“, které dokáží na video nebo fotografii umístit tvář oběti místo tváře pornoherce.

Jako možné nástroje používané v některých případech byly identifikovány také aplikace, které „svlékají“ oblečené fotografie a které byly nalezeny zdarma dostupné v obchodech s aplikacemi. Tyto moderní deepfakes mohou vypadat realističtěji a je těžší je okamžitě identifikovat jako falešné, píše deník NBC News.

Jak zjistila studie z roku 2019, tak více než 96 procent falešných videí na internetu tvoří právě pornografie. Právní experti tvrdí, že pro oběti pornografie generované umělou inteligencí (AI) a deepfake existuje jen málo cest ke spravedlnosti, pokud vůbec nějaké.

Regulace umělé inteligence

Jednotlivé země se nacházejí v různých fázích vývoje svého přístupu k regulaci umělé inteligence a zastávají různé názory na to, jak to nejlépe udělat. Zdá se nepravděpodobné, že bude dosaženo shody ohledně toho, jak nejlépe regulovat AI způsobem, který umožní inovace a zároveň omezí potenciálně škodlivé využívání umělé inteligence.

Zdroj: NBC News, regmedia, Taylor Wessing