Az AI miért rasszista?

Az AI abból főz, amiből megtanították főzni. A dolog hátterében az állhat, hogy a minta, amivel betanították, az javarészt nyugati forrásból származi. A nyugati médiában meg valószínű felülreprezentáltak azok a képek, amelyekben valami távoli országról szóló híreknél kontextusa a képnek az, hogy „halottak fekszenek az utcán”. Azért az USA-ban és Európában nem jellemzőek azok a konfliktusok, amiket követően halottak hevernek az utcákon, így nyilván ilyenről kevesebb kép is készül. Afrikában vagy a Közel-Keleten viszont jóval gyakoribbak az olyan konfliktusok, amiknek ez az eredménye.

Ugyanez a helyzet a többi kifejezéssel. Az AI betanítása során nagyobb mennyiségben voltak olyan képek – amikből végeredményben az AI összemontírozza az alkotását –, ahol hasonló szövegkontextusban a képeken fehér lányok szerepelnek.

(Amúgy ez a probléma máshol is felüti a fejét. Az arcfelismerésnél kimondottan probléma, hogy a fehér emberek arcát a rendszerek hatékonyabban ismerik fel. Miért? Mert valahogy – gazdasági helyzetükből fakadóan, kultúrájukból, szokásaikból fakadóan? – a fehér embereknek sokkal inkább szokása a fényképezés, nyilván önmaguk, és a hasonló kultúrájú emberek fényképezése is. Színesbőrűekről valahogy kevesebb kép van, így nyilván kisebb mintán betanulva az arcfelismerés hatékonysága is alacsonyabb lesz. És jön a vád: az arcfelismerő rendszer rasszista. Ha meg kompenzálni akarod a problémát, és nekiállsz színesbőrű embereket fényképezni, akkor meg azért leszel rasszista, mert miért akarsz te bőrszín alapján fotómodellt választani.)

Bár kétségtelen az én válaszom is három bekezdésből áll, mint ahogy gyakorta a ChatGPT válaszai is ekkorák, de a ChatGPT máshogy fogalmaz. Jellemzően mindig a kérdés lényegi részét képező kulcsszavak kerülnek előre. Ugye – leegyszerűsítve a dolgot – a ChatGPT a választ úgy generálja, hogy az addigi válaszrészhez keresi a statisztikai alapon legvalószínűbb folytatást, ehhez mindig jó kiindulópont a kérdés témájának a megismétlése. Próbáld ki, ha megkérdezed a ChatGPT-t, hogy „az AI miért rasszista”, akkor elég nagy valószínűséggel a válasz első mondatában szerepelni fog az AI és a rasszista kifejezés.

(Vagy pl. stilisztikai hibám a „nyilván” szónak a túlhasználása. Bár próbálok leszokni róla, valahogy mégis sikerül minden hosszabb válaszomban többször is felütnie a fejét. Az előző válaszomban háromszor is szerepel. A ChatGPT nem hajlamos az ilyen hibák elkövetésére. Vagy pl. a ChatGPT szeret irodalmibb megfogalmazást választani, nem azt írná, hogy „a dolog hátterében”, hanem pl. azt, hogy a „jelenség hátterében”. Vagy pl. a ChatGPT ritkán hoz be egy másik témát „amúgy” felvetéssel.)

"Filléres fényképezős telefonja mindenkinek van."

Mióta? 5-10 éve? A fényképezést meg már több mint 150 éve felfedezték.

> Csakhát van több milliárd ember a világon. Szerinted csak az a párszáz millió "igazifehérfaj" létezik?

Az „igazi fehér faj” kifejezést nem tudom értelmezni. De kétségtelen, hogy a világban van kismillió olyan tényező, ami aszimmetrikus, vallási, kulturális, gazdasági, szociális különbségek vannak, amik akár ok-okozati, akár szimplán csak eseteges földrajzi okok miatt korrelálnak a nagyrasszok eloszlásával.

Az internet maga Ázsiában jött létre és onnan hódította meg Európát és Észak-Amerikát vagy fordítva? Maga a fényképezés hol alakult ki? A közösségi oldalak – Facebook, Twitter, Instagram – honnan eredtek? Maga a stock fotó, mint műfaj, mint jelenség honnan indult? (Nem beszélve a papír alapú fotóművészetről, filmiparról stb…).

Oké, hogy az fehér ember a világ népességének csak kb. a hatodát teszi ki, de 2000-ben még az internet felhasználók 65%-a európai vagy észak-amerikai volt, azon belül is a túlnyomó többségük fehér ember. És itt az sem mindegy, hogy mire használják az emberek az internetet, mert lehet, hogy 2010-re az internetfelhasználók fele Ázsiai volt, de arányaiban kevesebben posztoltak képeket a nyaralásukról, kevesebben pörgették a Facebookot, Instagramot, eleve kevesebb időt töltöttek az interneten és azt is inkább munkavégzés céljából.

Az iszlám világ nagy. Oké, csak éppen a fényképezés megítélése vallási szempontból erősen kétséges, sokak szerint ha a Koránt értelmezzük, akkor a szelfi egy muszlim számára tiltott. Kína is nagy. Remek, csak éppen tiltva van a Facebook, az Instagram stb… Pont ezért tudott – konkurencia hiányában – olyan gyorsan felfutni a TikTok, de ha egy középkorú kínait nézünk, akkor ő azért jobban elgondolkodik, hogy megossza-e a magánéletét nagyobb nyilvánosság előtt, nem fogja-e megütni a bokáját egy szerencsétlenül beállított fénykép vagy videó miatt a munkahelyén vagy a hatalommal szemben. India is nagy, csak nézd meg, hogy az egy főre jutó GDP a harmincada az USA-nak, de még Magyarországnak is a nyolcada (nota bene öt éve az indiai lakosságnak csak a 20%-a használt internetet).

Hol láthatsz te képeket sárban táncoló/fetrengő kínai, indiai, arab lányokról? Mert a nyugati világban kvázi bármelyik könnyűzenei fesztiválon készülnek ilyen képek, és az emberek első dolga, hogy megosszák ezeket Facebookon, Instagramon. De ott, ahol ilyen fesztiválok nincsenek, ahol a nő kvázi alsóbbrendű állampolgár, ahol ezt a vallás tiltja, vagy szimplán csak a kultúra nem tartja illendőnek? Akkor most az AI tolja el az arányokat vagy maga az emberiség? Az AI abból dolgozik, amit kapott. Ha a sárban „dagonyászó” lányokról készült fotók több, mint 95%-án fehér ember szerepel, akkor ilyen képeket fog generálni, szépen megtanulja – megtanítjuk neki –, hogy ez a tipikus.

~ ~ ~

Ahogy írtam a másik témában is ugyanez a helyzet. Nézd meg a háborúk és fegyveres konfliktusok arányait a világban. Pl.: [link] . Ennek tükrében miért meglepő, ha az olyan képeken, amiben halottak hevernek az utcákon, azokon jellemzően nem fehér emberek szerepelnek? És ezután miért meglepő, ha az AI sem fehér embereket fog ilyen képek generálása során az általa alkotott képre montírozni? Az AI teszi aránytalanná a képeket? Hát inkább tűnik úgy, mi emberek tesszük aránytalanná a világunkat, az AI csak hűen visszatükrözi ezt nekünk.