A virtuális emberek valóságosabbnak tűnnek, mint a valódiak
Manapság különösen problematikus, hogy a számítógépes rendszerek olyan emberekről is képesek valósághűnek tűnő fotókat készíteni, akik nem is léteznek.
Nemrégiben egy számítógép által generált profilképpel ellátott hamis LinkedIn-profil azzal került be a hírekbe, hogy sikeresen kapcsolatba lépett többek között az amerikai tisztviselőkkel és más befolyásos személyekkel a hálózatépítő platformon.
A kémelhárítás szakértői szerint a kémek rendszeresen készítenek ilyen képekkel ellátott fantomprofilokat, hogy a közösségi médián keresztül külföldi célpontokat célozzanak meg. Ezek a hamisítványok egyre inkább elterjednek a mindennapi kultúrában, így az embereknek jobban oda kell figyelniük arra, hogyan használják fel őket a marketingben, a reklámokban és a közösségi médiában. A képeket rosszindulatú célokra is használják, például politikai propagandára, kémkedésre és információs hadviselésre.
Ezek elkészítéséhez egy számítógépes rendszerre, a mély neurális hálózatra van szükség, amely az agy tanulási módját utánozza. Ezt úgy képezik ki, hogy egyre nagyobb, valódi arcokat tartalmazó adathalmazoknak teszik ki.
A rendszerben két mély neurális hálózatot állítanak egymással szembe, és versenyeznek a legrealisztikusabb képek előállításáért. A az eredményeket GAN-képeknek nevezik (Generative Adversarial Networks, generatív ellentét hálózatok). A folyamat olyan újszerű képeket generál, amelyek statisztikailag megkülönböztethetetlenek a folyamat elején betáplált, valódi arcokat felmutató képektől.
Manos Tsakiris pszichológiaprofesszor, a londoni Royal Holloway University Centre for the Politics of Feelings igazgatója és munkatársai az iScience című szaklapban megjelent tanulmányukban kimutatták, hogy ha ezeket a mesterséges arcokat nem tudjuk megkülönböztetni a valóditól, az hatással van az online viselkedésünkre. Kutatásuk szerint a hamis képek alááshatják a másokba vetett bizalmunkat, és alapvetően megváltoztathatják az online kommunikációnkat.
Tsakiris-ék azt találták, hogy az emberek a GAN-arcokat még valóságosabbnak érzékelték, mint a valódi emberek valódi arcáról készült valódi fotókat. Bár még nem világos, hogy ez miért van így, ez a megállapítás rávilágít a mesterséges képek létrehozására használt technológia legújabb fejlődésére.
Emellett érdekes összefüggést találtak a vonzerővel is: a kevésbé vonzónak ítélt arcokat szintén valóságosabbnak ítélték.
„A kevésbé vonzó arcokat tipikusabbnak lehet tekinteni, és a tipikus arcot referenciaként lehet használni, amelyhez képest az összes arcot értékelik. Ezért ezek a GAN-arcok valóságosabbnak tűnnek, mert jobban hasonlítanak az emberek által a mindennapi életből felépített mentális sablonokhoz. De ha ezeket a mesterséges arcokat hitelesnek tekintjük, az hatással lehet arra az általános bizalmi szintre is, amelyet ismeretlen emberek körére kiterjesztünk – ez a fogalom a „társadalmi bizalom””
– fogalmazott Tsakiris.
Gyakran előfordul, hogy túl sokat olvasunk ki az arcokból, amelyeket látunk, és az első benyomásaink irányítják a társas interakcióinkat.
Egy második kísérletben Tsakiris és társai megállapították, hogy az emberek nagyobb valószínűséggel bíznak az általuk korábban valósnak ítélt arcok által közvetített információkban, még akkor is, ha azok mesterségesen generáltak.
„Nem meglepő, hogy az emberek jobban bíznak az általuk valósnak vélt arcokban. Azt tapasztaltuk azonban, hogy a bizalom elenyészett, amint az embereket tájékoztatták a mesterséges arcok lehetséges jelenlétéről az online interakciókban. Ezután összességében alacsonyabb bizalmi szintet mutattak. függetlenül attól, hogy az arcok valódiak voltak-e vagy sem.”
Ez az eredmény bizonyos szempontból hasznosnak tekinthető, mivel gyanakvóbbá tette az embereket egy olyan környezetben, ahol hamis felhasználók működhetnek, a másik oldalon azonban fokozatosan erodálhatja a kommunikációnk természetét.
Általában hajlamosak vagyunk arra az alapfeltevésre, hogy mások alapvetően igazat mondanak és megbízhatóak. A hamis profilok és más mesterséges online tartalmak terjedése felveti a kérdést, hogy jelenlétük és a róluk való tudásunk mennyire változtathatja meg ezt az "igazság alapértelmezett" állapotot, és végső soron erodálhatja a társadalmi bizalmat.
Általában hajlamosak vagyunk arra az alapfeltevésre, hogy mások alapvetően igazat mondanak és megbízhatóak. A hamis profilok és más mesterséges online tartalmak terjedése felveti a kérdést, hogy jelenlétük és a róluk való tudásunk mennyire változtathatja meg ezt az "igazság alapértelmezett" állapotát, és végül alááshatja a társadalmi bizalmat.
Az alapértelmezés megváltoztatása
Az olyan világra való áttérés, ahol a valóságos és a nem valóságos megkülönböztethetetlen, a kulturális tájképet is eltolhatja az elsődlegesen igazmondóról az elsődlegesen mesterséges és megtévesztőre.
Ha rendszeresen megkérdőjelezzük az online tapasztaltak valóságtartalmát, ez azt is megkövetelheti, hogy mentális erőfeszítéseinket maguktól az üzenetek feldolgozásától a hírvivő személyazonosságának feldolgozására fordítsuk át. Vagyis, a rendkívül valósághű, mégis mesterséges online tartalmak széles körű használata másfajta gondolkodásra kényszeríthet bennünket, olyan módon, amire nem is számítottunk.
Tsakiris hozzáteszi, létfontosságú, hogy az emberek kritikusabbak legyenek a digitális arcok értékelésénél. Ez magában foglalhatja a fordított képkeresés használatát annak ellenőrzésére, hogy a fotók valódiak-e, óvatosnak kell lenniük a kevés személyes információval vagy nagyszámú követővel rendelkező közösségi médiaprofilokkal szemben, és tisztában kell lenniük azzal, hogy a deepfake technológiát rosszindulatú célokra is fel lehet használni.
Nyitókép: Shutterstock
