// 2025. január 20., hétfő // Fábián, Sebestyén
Szép új világ

De ki fogja megvédeni Mari nénit a deepfake-től? És egyáltalán mi az a deepfake?

Az illusztrációt a Tengr.ai generálta

Az illusztrációt a Tengr.ai generálta

Az illusztrációt a Tengr.ai generálta

// HIRDETÉS

A modern technika segítségével ma már bármit el lehet mondatni bárkivel olyan hitelesnek tűnő videókban, amik a legtöbb embert képesek megtéveszteni. Hogyan szúrjuk ki a deepfake tartalmakat?

Emlékszik még a Terminátor 2 híres jelenetére, amikor a T–1000-es felveszi az ifjú John Connor nevelőanyjának testi jegyeit, sőt még a hangját is a megtévesztésig pontosan imitálja?

// HIRDETÉS

A gépek már képesek hasonlóra, igaz, egyelőre csak a virtuális térben. A mesterséges intelligencia előnyeiről és hátrányairól az utóbbi években számtalan vita lezajlott, a benne rejlő veszélyek is gyakorta borzolgatják a kedélyeket, nem alaptalanul.

Itt van például egy viszonylag új jelenség, amely szintén ehhez a témakörhöz sorolható: a deepfake. Ami a manipulált, megtévesztő, félrevezető, „fake news” (álhír) típusú tartalmak témakörében, mondhatni, „csak” a jéghegy csúcsát képviseli, de talán a legfélelmetesebb az eddigi, a közvélemény befolyásolására bizonyítottan alkalmas piszkos kis stratégiák közül, hiszen a technológia fejlődésével egyre élethűbbek lesznek ezek a hamis videós tartalmak, és bár ma még az éles szemű, kritikus internethasználók az apró hibák alapján kiszúrják a deepfake tartalmakat,

a társadalom igen nagy részét már most könnyűszerrel meg lehet vezetni ezekkel.

Érdeklődésem homlokterébe akkor került a téma, amikor az ünnepi családlátogatás során azzal szembesültem, hogy – amint erre a jelenségre már Călin Georgescu esete is felhívta a figyelmet – olyan közeli rokonaim is fent lógnak a TikTokon, akikről nem is gondoltam volna.

Ott pedig a megtévesztő tartalmak egész arzenáljával szembesül az egyszeri internetfelhasználó

– az említett családtagjaim se igen tudták megkülönböztetni a deepfake tartalmakat a valódiaktól –, és ha nincs kellőképpen felvértezve ezekre, bizony egykettőre elmerül az álhírek és összeesküvés-elméletek alternatív világában, amelyet persze minduntalan összetéveszt a valódival.

Ez pedig olyan mértékű kognitív disszonanciát eredményez, amelynek negatív hatásait már az egész társadalomra kivetítve érezzük egy jó ideje,

és amivel még az úgynevezett szakértők sem tudnak mit kezdeni, mert baromi nehéz körülhatárolni a szakot, amit valamelyest érteni kéne.

Mi is az a deepfake (ejtsd: dípféjk)?

Röviden: megtévesztő videós tartalmak gyűjtőneveként honosodott meg a kifejezés, amelyekben a számítógépes manipulációs technológia (CGI) és a mesterséges intelligencia (MI, illetve angol rövidítés szerint: AI) egyesül. Az új technológia lehetőségei gyakorlatilag kimeríthetetlenek, hiszen a mesterséges intelligencia a meglévő felvételek alapján képes megtanulni és lemodellezni bármely létező személy mozgását, gesztusait, hangját és hanghordozását (mint a filmben a T–1000-es robot), majd ezt a CGI segítségével „vászonra vinni”.

Magyarán bármit bárkinek a szájába lehet adni az új technológia segítségével,

az így készült hamis videók pedig tömegeket képesek félrevezetni, hiszen egyszerűen nem vagyunk felkészülve a fejlett technológia ilyen szintű kihívásaira.

Már a manipulált (köznyelvben: fotosoppolt) képek is sokakat félre tudnak vezetni, a deepfake technológia azonban emeli a tétet. Ha a mostani tinédzserek számára gyakorlatilag már ismeretlen floppy lemezek ükunokája a több terabyte-os külső merevlemez, akkor a manipulált képeké a deepfake – és a helyzet az, hogy a lehetőségeikben is nagyjából így viszonyulnak egymáshoz.

Ugye emlékeznek még a jövőbeli Iliescuról készült deepfake-re, amely nem is olyan régen körbejárta az egész országos sajtót?

Nos az mondhatni művészi paródiaként született meg, ennek megfelelően – főleg eltúlzottsága miatt – senki nem is vette készpénznek a tartalmát.

De ne higgyük, hogy a kimondottan a megtévesztés szándékával létrehozott deepfake tartalmakat ugyanilyen könnyű kiszúrni.

Ezt a technológiát is lehet persze jóra (is) használni. Szép példa erre a 2022-es Top Gun: Maverick című film, amiben Tom Cruise mellett visszatért az eredeti, 1986-os Top Gun-film másik sztárja, Val Kilmer is. Kilmer azonban a gégerákkal folytatott küzdelme során időközben elvesztette a hangját, így a mesterséges intelligencia segítségével kellett azt a vásznon „visszaadni” neki. A kritikusok szerint ez olyannyira jól sikerült, hogy észre sem lehet venni a rövid jelenetben, hogy nem maga a színész beszél, az MI annyira jól imitálta a hangját és hanghordozását.

A szakértők ugyanakkor már azt kezdik vizionálni, hogy egész filmeket lehet majd a jövőben elkészíteni ismert színészek szerepeltetésével úgy, hogy az illető színészek el sem mennek a forgatásra, a helyüket a deepfake technológia veszi át. Ugyanezzel a módszerrel akár már elhunyt színészeket is újra lehetne szerepeltetni.

Ez azonban számos etikai problémát vet fel.

Mint ahogy ezen írás eredeti témája, a technológiával való szándékos félrevezetés problémája is, amit már most előszeretettel használnak többek között a választási manipulációra szakosodott trollfarmok, amelyek manipulált és hamis tartalmak tízezreivel bombázzák a társadalmat, sok esetben alaposan befolyásolva a közvéleményt.

A tavalyi választások előtt román politikusok is gyakran áldozatául estek a jelenségnek:

A megtévesztés pedig nem is olyan nehéz, hiszen gondoljunk csak bele, hogy még az Y generáció (1981–96 között születettek) sem „születtek bele” az internetezésbe, bár ők már viszonylag fiatalon elkezdtek adaptálódni a mai technológiához, az X generáció (1965–1980), illetve a boomerek (1946–64) számára viszont még nagyobb kihívást jelent a digitális világban való tájékozódás.

A társadalom jó része tehát digitálisan írástudatlan, alkalmatlan a rendelkezésre álló technológia észszerű felhasználására.

Ehhez képest manapság azt tapasztaljuk, hogy már a nagymamáink generációja is egyfolytában a közösségi médiát pörgeti az unokáktól átörökölt, lehurbolt okostelefonokon, és akkor még örülhetünk ha csak a gyógynövénykedvelők csoportjában találnak megnyugvásra, és nem valami összeesküvés-elméleteket pörgető internetes buborékban merülnek el.

Hogyna szúrhatjuk ki a deepfake tartalmakat?

A szakértők (?) általában azt tanácsolják, hogy alaposan vegyük szemügyre a videóban szereplő személy arcát, különös tekintettel a homlokra, a haj és a nyak vonalára, vagyis az illesztési pontokra. Ugyancsak érdemes odafigyelni a száj és a szemöldök mozgásának apró rendellenességeire, az arc pillanatnyi, természetellenes torzulásaira, bár az egyre fejlettebb algoritmusok ezeket a rendellenességeket idővel vélhetően el fogják tüntetni.

Akkor majd a mostaniak lesznek a régi szép idők, amikor még viszonylag könnyen ki lehetett szúrni a deepfake-et.

Bár Romániában is 6 hónap és 3 év közötti börtönbüntetéssel lehet sújtani azokat, akik a megtévesztés szándékával hoznak létre és terjesztenek ilyen videókat (és egyéb internetes tartalmakat), a törvény alkalmazása már annál problematikusabb, hiszen nagyon sok esetben igen nehéz lenyomozni, hogy honnan származik az illető tartalom, konkrétan ki hozta létre azt. Ráadásul, miként maga a társadalom, a hatóságok sem állnak késze arra, hogy szembenézzenek ezzel az egyre növekvő veszéllyel.

Az egyetlen megoldás, ha mi magunk próbálunk meg felelősségteljesen internetezni, és mindent megkérdőjelezni, több forrásból ellenőrizni mindazt, ami elénk kerül.

Bár ez talán egy kissé utópikus elképzelés a telefonnyakak és internetzombik szép új világában…

// HIRDETÉS
Különvélemény

A szuperúszó szuperautója, avagy a román példaképtelenség

Szántai János

Mi az összefüggés David Popovici Porsche Spyderje, a román néplélek és az értelmiségi elit által követendő példának tekintett hazai személyiségek hiánya között?

Románia nagykorúsítása a schengeni övezettel – tizennyolc év az Európai Unióban

Sánta Miriám

Január elsején a Schengen-térség teljeskörű tagja lettünk. Felszámoltuk a határátkelőket, megünnepeltük a szabad határátlépést. Merengések az elmúlt évek határtapasztalatairól.

// HIRDETÉS
Nagyítás

Az igazságért síkra szálló román néplélek ma már nem kiegyenesített kaszát, hanem nindzsakardot ragad

Szántai János

Megnéztük, hogy tartanak maguk elé görbe tükröt a komédiázó (erdélyi) románok: egy kortárs népmesét láttunk, egy parasztlázadásocskát. Amely jobban sül el, mint a valóságban, mert hát ilyenek a népmesék. És közben nevetni is tudtunk.

„Szerintem csak örültünk az életnek” – interjú Vermesser Levente költővel

Varga László Edgár

Mi az az Éber, és hogyan képezi le kicsiben a rendszerváltás utáni pillanatnyi eufória szabadságrohamát? És mi köze mindennek a bányákhoz?

// HIRDETÉS
// ez is érdekelheti
Valláselhagyás Erdélyben – megkönnyebbülés vagy kihívás?
Főtér

Valláselhagyás Erdélyben – megkönnyebbülés vagy kihívás?

Személyes krízis, az egyházban való csalódás, vagy intellektuális kétely következményeképpen hagyják el az emberek a vallásukat.

Georgescu nekirontott az RMDSZ-nek
Krónika

Georgescu nekirontott az RMDSZ-nek

Keményen nekirontott az RMDSZ-nek Călin Georgescu, az érvénytelenített elnökválasztás első fordulóját megnyerő szélsőjobboldali elnökjelölt, miután Kelemen Hunor RMDSZ-elnök a régi rendszer emberének nevezte őt.

De mégis mi a fenéért akarna valaki ellopni három amputált lábat?
Főtér

De mégis mi a fenéért akarna valaki ellopni három amputált lábat?

Amputált végtagokat loptak egy kórházból, keresik a tettest. Speciális gyermekotthonokat bírságoltak meg Maros megyében. Érmellék gyászol: brutális gyilkosság áldozata lett egy köztiszteletnek örvendő nyugalmazott tanárnő és fia.

Elveszíteni az otthont, mindössze fél óra alatt – felkészülhetünk a váratlanra?
Székelyhon

Elveszíteni az otthont, mindössze fél óra alatt – felkészülhetünk a váratlanra?

Előbb csak a csillagszóró, majd a karácsonyfa, végül az egész ház lángba borult – mindez percek alatt történt meg szerdán, Kászonújfaluban. A tűz egy fiatal pár és két gyermekük otthonát semmisítette meg.

Vészesen közelít a 8 lejhez a standard üzemanyag ára
Krónika

Vészesen közelít a 8 lejhez a standard üzemanyag ára

Ismét drágították a benzint és a gázolajat a romániai kőolajipari társaságok, idén immár hatodjára. Az üzemanyag ára az év eleje óta több mint 30 banival emelkedett.

Bunkert alakítanak ki a tömbház lakói lépcsőházuk alagsorában
Székelyhon

Bunkert alakítanak ki a tömbház lakói lépcsőházuk alagsorában

Egy nagybányai tömbház lakói nekiláttak az épület alagsorában egy bunker kialakításához, amelyet vészhelyzet esetén használhatnak.

// még több főtér.ro
Különvélemény

A szuperúszó szuperautója, avagy a román példaképtelenség

Szántai János

Mi az összefüggés David Popovici Porsche Spyderje, a román néplélek és az értelmiségi elit által követendő példának tekintett hazai személyiségek hiánya között?

Románia nagykorúsítása a schengeni övezettel – tizennyolc év az Európai Unióban

Sánta Miriám

Január elsején a Schengen-térség teljeskörű tagja lettünk. Felszámoltuk a határátkelőket, megünnepeltük a szabad határátlépést. Merengések az elmúlt évek határtapasztalatairól.

// HIRDETÉS
Nagyítás

Az igazságért síkra szálló román néplélek ma már nem kiegyenesített kaszát, hanem nindzsakardot ragad

Szántai János

Megnéztük, hogy tartanak maguk elé görbe tükröt a komédiázó (erdélyi) románok: egy kortárs népmesét láttunk, egy parasztlázadásocskát. Amely jobban sül el, mint a valóságban, mert hát ilyenek a népmesék. És közben nevetni is tudtunk.

„Szerintem csak örültünk az életnek” – interjú Vermesser Levente költővel

Varga László Edgár

Mi az az Éber, és hogyan képezi le kicsiben a rendszerváltás utáni pillanatnyi eufória szabadságrohamát? És mi köze mindennek a bányákhoz?

// HIRDETÉS