Zatčení Trumpa a pokleknutí Putina: Dezinformace obrazem umělé inteligence se již dějí

Přidat na Seznam.cz

Pro tuto technologii budeme opravdu potřebovat kvalitní politiku. Před dvěma dny bývalý americký prezident Donald Trump řekl, že očekává, že bude brzy zatčen. Po pouhých hodinách se objevily snímky jeho zatčení – od policistů, kteří se kolem Trumpa rojí, až po samotného Bidena, který se na Trumpa vrhá a zatýká ho, internet zaplavila smršť snímků. Mělo to však jeden háček. Obrázky nebyly skutečné: byly vytvořené umělou inteligencí.

Od chvíle, kdy Trump oznámil, že očekává, že bude zatčen, se svět zabývá tím, co by to pro USA znamenalo. Ať už vás tato situace znepokojuje, nebo ne, je tu jedna věc, která by vás znepokojovat měla: dezinformace.

Některé z prvních snímků umělé inteligence o zatčení Trumpa začínají na neškodném místě. Eliot Higgins, zakladatel Bellingcatu, nezávislého kolektivu investigativců, občanských novinářů a výzkumníků napsal, co dělá. „Dělám obrázky zatýkání Trumpa a čekám na zatčení Trumpa,“ napsal, když zveřejnil obrázky, které byly vygenerovány pomocí enginu AI Midjourney v5. Ale i když Higgins vysvětlil, co dělá, některým lidem na internetu připadaly obrázky dost přesvědčivé.

Higginsovy obrázky však byly jen špičkou ledovce. Spousta dalších uživatelů začala zveřejňovat podobné typy obrázků. Většina z nich byla transparentní ohledně toho, co dělají, ale brzy všichni zveřejňovali snímky zatčeného Trumpa.

Jistě, můžete přijít na to, že snímky nejsou pravé – ruce vypadají divně, ale spousta lží, které bylo snadné prohlédnout, oklamala spoustu lidí. Obrázky však nejsou jediným podvrhem, který vyšel najevo.

Během setkání čínského prezidenta Si Ťin-pchinga a ruského prezidenta Vladimira Putina se objevila spousta snímků, na nichž si oba dobře rozuměli. Na jednom snímku však Putin před Ťin-pchingem zdánlivě klečel.

Tento snímek zřejmě oklamal mnoho lidí, kteří uvěřili, že je pravý – nebo možná chtěli uvěřit, že je pravý, protože tak obvykle fungují dezinformace. Nemusíte být odborník, abyste poznali, že to není skutečný obrázek, ale opět, pokud opravdu chcete věřit, že je skutečný, můžete. Není překvapením, že se obrázek stal virálním na Ukrajině a v několika částech internetu.

Už se setkáváme s deepfakes
To přichází jako důrazné varování. Jistě, je vzrušující, že umělá inteligence tolik pokročila a kdokoli může během několika minut vytvořit realistické obrázky bez zvláštních dovedností. Ale je děsivé, že, víte, kdokoli může vytvořit realistické obrázky během několika minut bez jakýchkoli zvláštních dovedností. Co se stane, až se obrazy stanou realističtějšími nebo až je více lidí mylně prohlásí za reálné? Co když detekční nástroje zaostanou a my nebudeme ani schopni rozlišit, co je pravda?

Zdroj: Autorský článek, Twitter

Diskuze Vstoupit do diskuze