Ako rozpoznať deepfake: falošné fotky, videá aj hlas

Falošná fotka politika, video známej osobnosti odporúčajúce „zaručenú investíciu“ alebo hlas vnuka, ktorý súrne potrebuje peniaze. Všetko toto dnes dokáže vyrobiť ktokoľvek za pár minút a výsledky sú čoraz presvedčivejšie. Dobrá správa: väčšina podvrhov sa stále dá odhaliť, ak viete, čoho si všímať, a hlavne ak si osvojíte jeden návyk, ktorý funguje aj na podvrhy, aké prídu o rok. Poďme na to.

Čo je deepfake a prečo ho stretnete aj vy

Deepfake je obraz, video alebo zvuk vytvorený umelou inteligenciou tak, aby pôsobil ako skutočný záznam. Kedysi na to bolo treba výkonný počítač a dni práce, dnes stačí webová služba a pár sekúnd vstupného materiálu. S tým sa zmenilo aj použitie: z internetovej zábavy sa stal nástroj podvodníkov. Najčastejšie sa stretnete s týmito scenármi:

• Falošné investičné videá: známa tvár (moderátor, politik, podnikateľ) v zostrihu spravodajstva odporúča investičnú platformu. Cieľ je vylákať vklad.
• Klonovaný hlas v núdzovom hovore: „vnuk“ alebo „dcéra“ volá z neznámeho čísla, mal nehodu a súrne potrebuje peniaze.
• Falošný videohovor v práci: „riaditeľ“ alebo „účtovníčka“ na videu žiada urgentnú platbu. Na tento trik už doplatili aj veľké firmy.
• Vymyslené zábery v správach a hoaxoch: šokujúca fotka či video z udalosti, ktorá sa nikdy nestala. Nadväzuje na to, čo rozoberáme v článku ako rozpoznať hoax.

Ako spoznať AI vygenerovanú fotku

Generátory obrázkov sa rýchlo zlepšujú, no stále opakujú typické chyby. Prezrite si fotku zblízka (na počítači si ju zväčšte) a hľadajte:

• Ruky a prsty: nesprávny počet, zvláštne ohnuté kĺby, prsty splývajúce s predmetmi.
• Zuby, uši a oči: nepravidelné zuby ako jedna hmota, každé ucho iné, odlesky v očiach, ktoré v každom oku ukazujú inú scénu.
• Šperky, okuliare a gombíky: náušnica len na jednej strane, rám okuliarov, ktorý sa v strede „rozpustí“, nesymetrické zapínanie.
• Text v pozadí: nápisy na tabuliach, tričkách či obaloch bývajú rozmazaná pseudo-abeceda.
• Vlasy a okraje: pramene splývajúce s pozadím, „odhryznuté“ obrysy okolo hlavy.
• Svetlo a tiene: tieň dopadá inam, než ukazuje svetlo, alebo chýba úplne; pokožka je nereálne hladká ako plast.

Dôležité upozornenie: žiadny z týchto znakov nie je dôkaz a ich absencia nie je záruka. Najnovšie modely už šesť prstov nekreslia. Preto je kľúčový návyk z ďalšej kapitoly: overovať pôvod, nie pixely.

Chcete si oko natrénovať na skutočných príkladoch? Otestujte sa v našom kvíze spoznáš AI fotku? · 10 fotiek a po každej odpovedi vysvetlenie, čo ju prezradilo.

Návyk, ktorý prežije každú novú verziu AI: overte pôvod

Chyby v obraze sa časom stratia, pôvod obsahu ostáva. Pri každej šokujúcej fotke či videu:

1. Spravte reverzné vyhľadávanie obrázka: na images.google.com alebo tineye.com nahrajte snímku (z videa snímku obrazovky). Zistíte, kde sa objavila prvýkrát a či nejde o starý záber v novom kontexte.
2. Hľadajte pôvodný zdroj. Kto to zverejnil ako prvý? Anonymný účet založený minulý mesiac, alebo redakcia s menom a zodpovednosťou?
3. Skontrolujte, či o tom píšu dôveryhodné médiá. Skutočne prelomová udalosť sa v serióznych médiách objaví do hodín. Ak o nej mlčia, spozornejte.
4. Všímajte si označenie pôvodu obsahu. Nastupuje štandard C2PA (Content Credentials), ktorý do súboru ukladá overiteľný podpis o tom, ako vznikol. Postupne ho pridávajú fotoaparáty, editory aj AI generátory.

Deepfake video: čoho si všímať a skúška pri hovore

Pri videu sledujte ústa a okraje tváre: pery nesedia presne so zvukom, zuby sa medzi snímkami menia, okraj tváre pri otočení hlavy zavlní, vlasy a uši majú rozmazané prechody. Podozrivé sú aj strihové videá „spravodajstva“ s jednou statickou tvárou a monotónnym hlasom.

Ak s vami niekto hovorí naživo na videu a žiada peniaze či citlivé údaje, spravte jednoduchú skúšku:

• požiadajte ho, nech sa otočí bokom (profil tváre modely často pokazia),
• nech si prejde rukou pred tvárou (ruka „pretečie“ cez masku),
• nech sa priblíži ku kamere alebo zdvihne predmet pred tvár.

A hlavne: totožnosť overte iným kanálom. Zaveste a zavolajte späť na číslo, ktoré máte uložené. Firma by mala mať pre platby pravidlo štyroch očí, ktoré nezlomí ani presvedčivé video nadriadeného. Tieto útoky sú formou sociálneho inžinierstva, ktorému sa podrobne venujeme v článku sociálne inžinierstvo a AI podvody.

Klonovaný hlas: najnebezpečnejší, lebo najosobnejší

Na klon hlasu stačia útočníkovi sekundy nahrávky: video zo sociálnych sietí, hlasová správa, aj odkaz v hlasovej schránke. Výsledok potom povie čokoľvek. Typický útok cieli na emócie a čas: plačúci „príbuzný“, nehoda, polícia, peniaze treba hneď.

Obrana je nezávislá od toho, ako dobrý je klon:

• Zaveste a zavolajte späť na číslo, ktoré máte uložené. Skutočný príbuzný to pochopí.
• Dohodnite si v rodine kontrolnú otázku alebo heslo, ktoré sa nedá vyčítať zo sociálnych sietí.
• Nikdy neposielajte peniaze ani kódy na základe jediného hovoru, nech znie akokoľvek presvedčivo.

Rovnaké pravidlá platia aj pre firmy: urgentná platba „na pokyn konateľa“ vyžiadaná cez hovor je vždy na overenie druhým kanálom.

Detektory AI obsahu: pomôžu, ale nerozhodujú

Online detektory AI fotiek a videí dávajú len pravdepodobnostný odhad a kvalitné podvrhy im unikajú; pravé zábery zas občas označia za falošné. Berte ich ako jeden zo signálov popri overení pôvodu, nie ako konečný verdikt. Ak vám podozrivý obsah prišiel e-mailom, samotnú správu si viete preveriť naším detektorom podvodných e-mailov; ten hodnotí znaky podvodu v správe, nie pravosť videa.

Zhrnutie

Deepfake spoznáte kombináciou dvoch prístupov. Krátkodobo fungujú vizuálne znaky: ruky, zuby, text v pozadí, okraje tváre, nesediace tiene a pery mimo zvuku; natrénujte si ich v kvíze spoznáš AI fotku?. Dlhodobo funguje jediné: overiť pôvod reverzným vyhľadávaním, nájsť prvotný zdroj a počkať na potvrdenie dôveryhodnými médiami. Pri hovoroch a videohovoroch nech rozhoduje pravidlo spätného zavolania a kontrolná otázka, nie dojem z hlasu či tváre. Kto overuje pôvod, toho neprekvapí ani generácia podvrhov, ktorá príde o rok.

Tento článok je súčasťou prehľadu Kybernetická bezpečnosť.