De ki fogja megvédeni Mari nénit a deepfake-től? És egyáltalán mi az a deepfake?

Emlékszik még a Terminátor 2 híres jelenetére, amikor a T–1000-es felveszi az ifjú John Connor nevelőanyjának testi jegyeit, sőt még a hangját is a megtévesztésig pontosan imitálja?

A gépek már képesek hasonlóra, igaz, egyelőre csak a virtuális térben. A mesterséges intelligencia előnyeiről és hátrányairól az utóbbi években számtalan vita lezajlott, a benne rejlő veszélyek is gyakorta borzolgatják a kedélyeket, nem alaptalanul.

Itt van például egy viszonylag új jelenség, amely szintén ehhez a témakörhöz sorolható: a deepfake. Ami a manipulált, megtévesztő, félrevezető, „fake news” (álhír) típusú tartalmak témakörében, mondhatni, „csak” a jéghegy csúcsát képviseli, de talán a legfélelmetesebb az eddigi, a közvélemény befolyásolására bizonyítottan alkalmas piszkos kis stratégiák közül, hiszen a technológia fejlődésével egyre élethűbbek lesznek ezek a hamis videós tartalmak, és bár ma még az éles szemű, kritikus internethasználók az apró hibák alapján kiszúrják a deepfake tartalmakat,

Érdeklődésem homlokterébe akkor került a téma, amikor az ünnepi családlátogatás során azzal szembesültem, hogy – amint erre a jelenségre már Călin Georgescu esete is felhívta a figyelmet – olyan közeli rokonaim is fent lógnak a TikTokon, akikről nem is gondoltam volna.

– az említett családtagjaim se igen tudták megkülönböztetni a deepfake tartalmakat a valódiaktól –, és ha nincs kellőképpen felvértezve ezekre, bizony egykettőre elmerül az álhírek és összeesküvés-elméletek alternatív világában, amelyet persze minduntalan összetéveszt a valódival.

és amivel még az úgynevezett szakértők sem tudnak mit kezdeni, mert baromi nehéz körülhatárolni a szakot, amit valamelyest érteni kéne.

Mi is az a deepfake (ejtsd: dípféjk)?

Röviden: megtévesztő videós tartalmak gyűjtőneveként honosodott meg a kifejezés, amelyekben a számítógépes manipulációs technológia (CGI) és a mesterséges intelligencia (MI, illetve angol rövidítés szerint: AI) egyesül. Az új technológia lehetőségei gyakorlatilag kimeríthetetlenek, hiszen a mesterséges intelligencia a meglévő felvételek alapján képes megtanulni és lemodellezni bármely létező személy mozgását, gesztusait, hangját és hanghordozását (mint a filmben a T–1000-es robot), majd ezt a CGI segítségével „vászonra vinni”.

az így készült hamis videók pedig tömegeket képesek félrevezetni, hiszen egyszerűen nem vagyunk felkészülve a fejlett technológia ilyen szintű kihívásaira.

Már a manipulált (köznyelvben: fotosoppolt) képek is sokakat félre tudnak vezetni, a deepfake technológia azonban emeli a tétet. Ha a mostani tinédzserek számára gyakorlatilag már ismeretlen floppy lemezek ükunokája a több terabyte-os külső merevlemez, akkor a manipulált képeké a deepfake – és a helyzet az, hogy a lehetőségeikben is nagyjából így viszonyulnak egymáshoz.

Ugye emlékeznek még a jövőbeli Iliescuról készült deepfake-re, amely nem is olyan régen körbejárta az egész országos sajtót?

Nos az mondhatni művészi paródiaként született meg, ennek megfelelően – főleg eltúlzottsága miatt – senki nem is vette készpénznek a tartalmát.

Ezt a technológiát is lehet persze jóra (is) használni. Szép példa erre a 2022-es Top Gun: Maverick című film, amiben Tom Cruise mellett visszatért az eredeti, 1986-os Top Gun-film másik sztárja, Val Kilmer is. Kilmer azonban a gégerákkal folytatott küzdelme során időközben elvesztette a hangját, így a mesterséges intelligencia segítségével kellett azt a vásznon „visszaadni” neki. A kritikusok szerint ez olyannyira jól sikerült, hogy észre sem lehet venni a rövid jelenetben, hogy nem maga a színész beszél, az MI annyira jól imitálta a hangját és hanghordozását.

A szakértők ugyanakkor már azt kezdik vizionálni, hogy egész filmeket lehet majd a jövőben elkészíteni ismert színészek szerepeltetésével úgy, hogy az illető színészek el sem mennek a forgatásra, a helyüket a deepfake technológia veszi át. Ugyanezzel a módszerrel akár már elhunyt színészeket is újra lehetne szerepeltetni.

Mint ahogy ezen írás eredeti témája, a technológiával való szándékos félrevezetés problémája is, amit már most előszeretettel használnak többek között a választási manipulációra szakosodott trollfarmok, amelyek manipulált és hamis tartalmak tízezreivel bombázzák a társadalmat, sok esetben alaposan befolyásolva a közvéleményt.

A tavalyi választások előtt román politikusok is gyakran áldozatául estek a jelenségnek:

A megtévesztés pedig nem is olyan nehéz, hiszen gondoljunk csak bele, hogy még az Y generáció (1981–96 között születettek) sem „születtek bele” az internetezésbe, bár ők már viszonylag fiatalon elkezdtek adaptálódni a mai technológiához, az X generáció (1965–1980), illetve a boomerek (1946–64) számára viszont még nagyobb kihívást jelent a digitális világban való tájékozódás.

Ehhez képest manapság azt tapasztaljuk, hogy már a nagymamáink generációja is egyfolytában a közösségi médiát pörgeti az unokáktól átörökölt, lehurbolt okostelefonokon, és akkor még örülhetünk ha csak a gyógynövénykedvelők csoportjában találnak megnyugvásra, és nem valami összeesküvés-elméleteket pörgető internetes buborékban merülnek el.

A szakértők (?) általában azt tanácsolják, hogy alaposan vegyük szemügyre a videóban szereplő személy arcát, különös tekintettel a homlokra, a haj és a nyak vonalára, vagyis az illesztési pontokra. Ugyancsak érdemes odafigyelni a száj és a szemöldök mozgásának apró rendellenességeire, az arc pillanatnyi, természetellenes torzulásaira, bár az egyre fejlettebb algoritmusok ezeket a rendellenességeket idővel vélhetően el fogják tüntetni.

Bár Romániában is 6 hónap és 3 év közötti börtönbüntetéssel lehet sújtani azokat, akik a megtévesztés szándékával hoznak létre és terjesztenek ilyen videókat (és egyéb internetes tartalmakat), a törvény alkalmazása már annál problematikusabb, hiszen nagyon sok esetben igen nehéz lenyomozni, hogy honnan származik az illető tartalom, konkrétan ki hozta létre azt. Ráadásul, miként maga a társadalom, a hatóságok sem állnak késze arra, hogy szembenézzenek ezzel az egyre növekvő veszéllyel.

Az egyetlen megoldás, ha mi magunk próbálunk meg felelősségteljesen internetezni, és mindent megkérdőjelezni, több forrásból ellenőrizni mindazt, ami elénk kerül.

Bár ez talán egy kissé utópikus elképzelés a telefonnyakak és internetzombik szép új világában…