TIP#2401: Jak poznat fotografii vytvořenou AI?

Dost velké téma poté co Midjourney zrušili možnost využití zdarma, protože nějak neunesli, že lidé generovali stovky fake fotografií zatčení Trumpa pak navíc ještě papeže v péřovce. Nutno dodat, že zrovna to poslední řada lidí sdílela nadšeně na sociálních sítích v přesvědčení, že to je skutečnost. Nebyla. Samotný Trump mimochodem sdílel fake fotku sebe sama na Truth Social. 

Problém fotografií generovaných AI je, že mohou vypadat velmi realisticky. A čím pokročilejší AI je bude generovat, tím lépe budou vypadat. Midjourney v páté verzi je toho praktickou ukázkou, DALL-E (v Bing Create) dokáže také leccos, Stable Diffusion potřebuje hodně dobré zadán a dávku štěstí. 

Co navíc, nikde není řečeno, že AI generovaný fake je přímo výsledkem – AI může být použita pro změny/dokreslení (inpainting), stejně tak jako může jít o fotku vzniklou řadou postupných úprav, včetně ručních zásahů v něčem jako Photoshop.

TIP. Nepostradatelný přehled užitečných odkazů pro tvorbu obrázků s pomocí AI (nejen Stable Diffusion)

Jak poznat AI fake?

Většina AI fake se dá poznat pokud začnete zkoumat detaily. AI má problém s vykreslování obličejů, oči samotné, ale třeba i to kam se postavy dívají, mohou mít každé oko jiné. Má potíže s prsty (neumí počítat, takže dost často nesedí už jenom počet), stejně jako u končetin jako takových. 

Časté jsou i anatomické nedostatky, takže se vyplatí zkoumat prakticky vše co je v fotce. Neumí dobře kreslit kruhy. U postav často zápasí i s barvou kůže. Problematické mohou být vlasy. 

Často se nevyvede ostrost/hloubka ostrosti – na fotografii jsou neostrá místa, ač by být ostrá měla. Běžné je že nesedí stíny, osvětlení. 

Prostě si fotografii zvětšete a začněte pátrat po záhadnostech, zkresleních. Zmiňovaný papež měl například na první pohled dobře viditelné podivnosti u kříže, o tom co že to vlastně držel v pravé ruce ani nemluvě (i samotná pravá ruka je poněkud nedodělek). 

Nespoléhejte se ani na metadata, ty je možné vyplňovat zcela libovolně. Na druhou stranu, fake ai fotka, když už bude mít, metadata, tak jsou také fake a mohlo by z nich být poznatelné, že si to někdo vymyslel.

U politicky motivovaných fake, jako je zatčení Trumpa, je další možnost rozpoznání poměrně snadná – pokud by šlo o reálné fotografie, tak by jistě byly v důvěryhodných mainstreamových médiích. Navíc by se o zatčení psalo. Průvodním jevem bývá i množství velmi podobně vypadajícíh fotografií, ba až téměř identických, byť vyobrazujících velmi rozdílné scény. 

Hodit se může i reverzní hledání (Google, TinEye, viz Jak najdu odkud pochází nějaká fotografie? Jak zjistím kdo je autorem?). Reálnou fotku často najde, na reálném důvěryhodném místě. Fake buď nenajde vůbec, nebo v záplavě kopii na sociálních sítích.,

Jakkoliv je výše řeč hlavně o fotografii, platí to i pro video – byť tam se aktuálně nejčastěji setkáváme se deepfake v podobě roubování něčího obličeje a vytvořeného hlasu. Někdy je snadné poznat, že jde o nepovedenou manipulaci, ale nemusí tomu tak být vždy.

TIP: Užitečné a dlouhé čtení najdete v Detect AI-generated Images & Deepfakes (Part 1)

Nástroje na odhalení?

Nespoléhejte se na nástroje slibující odhalení fake, v řadě případů pomohou (třeba tím, že vás upozorní na nepovedená místa), ale mají příliš mnoho mylných detekcí a stejně tak řadu fake nechají bez povšimnutí. 

Reality Defender – realitydefender.com – volně nepřístupný

FotoForensic – fotoforensics.com – kolekce algoritmických pomůcek pro detekci podivností. Ale hodí se spíš pro výsledky manipulace ve Photoshopu. 

Forensically – 29a.ch/photo-forensics/#forensic-magnifier – na to jde podobně jako předchozí. 

Fake Image Detector – www.fakeimagedetector.com – toho moc detailně neřekne, takže použití s otazníkem.

GAN Detector – gan-detector-mayachitra.azurewebsites.net – využívá umělou inteligenci pro detekování, ale třeba právě u fotky papeže v bundě ji považuje za skutečnou 

AI-image-Detector – huggingface.co/spaces/umm-maybe/AI-image-detector – pro papeže například říká, 51 % člověkem, 49 % AI vytvořená. Čím větší procentu u “člověk” a menší u “AI”, tím víc je šance, že nejde o AI fotku.

Co může napovědět nebo také né

Mrkněte do

• Co je to C2PA/Content Credentials a jak to pomůže poznat, zda fotka pochází od AI
• Co je to SynthID. Co znamená, když ho najdete a co to neznamená, když ho nenajdete

Další tipy týkající generování obrázků pomocí AI

AI Bezpečnost Fake Fake news Foto Fotografie Software Stable Diffusion Umělá inteligence