Meghalt az első ember, akinek halálát az MI okozta. Az emberiség a végzetébe rohan?

Ma egy klímaszorongó egy MI-vel beszélgetve lehet, hogy az öngyilkosságig hergeli magát. Pár évvel ezelőtt a fórumok vagy a Wikipédia olvasgatásával hergelte volna magát az öngyilkosságig. Akkor az ő halálát az internet okozta volna, hisz ha nincs az internet, akkor ma is élne? Pár évtizede meg az ilyen irányú – esetleg pesszimistább hangvételű könyvekkel – hergelte volna magát az öngyilkosságig. Akkor a halálát a könyvnyomtatás okozta volna, mert ha nincsenek a könyvek, akkor ma is élne?

Ahogy írták, emberünk halálát mentális problémák okozták.

~ ~ ~

@TappancsMancs #4 > ELIZA - wiki

Az az Eliza nem ez az Eliza. Amiről a Wikipédia szól, az egy a 60-as években írt egyszerűbb szoftver, amit mai szóhasználattal nem neveznénk mesterséges intelligenciának. (Amúgy alapvetően afféle viccnek szánták.) A cikkben szereplő Eliza meg egy másik szoftver.

Te a világ első halálos vonatbaleseténél is ugyanezt kérdezted volna.

Dosztojevszkijnél volt egy fazon, aki rendesen meg tudta magyarázni, hogy a vasútépítésben már látja a kultúránk pusztulását. Lemaradtál 150 évvel ;)

Kevéssé értek egyet bizonyos dolgokkal, meg kell mondjam. Agy téma meg pszichológiai menete téma... Persze van ilyen, miért is ne lenne efféle folyamata. Egy bíróság sem feltétlenül fogadja el bármire egy pszichológiai folyamat miatt a felmentést. Egy rabló esetében is van pszichológiai folyamat és még érthető is az életútja a rablónak, de a jog azért nem ennyi.

Persze mindenkinek van felelőssége saját magáért, és van felelősség másokért is, ez a jog apaljaiban van. A lezajlott beszélgetés nyilván szerves része és egy bíróság egyértelműen megvizsgáláná azt is, mert, hogy lehetett-e benne olyan ami nem megfelelő, tehát az egyik első lenne a szöveg átnézése és kivizsgálása. Nem mellékes. Ugyebár gépről van szó és egyáltalán nem biztos, hogy jól értékelte a kérdéseket és, hogy megfelelő válaszokat dobott ki. Nem kell abból kiindulni, hogy ha szoftver akkor tökéletes. Lehet benne bőven felelősség. És ez fogyasztóvédelmi kérdés is.

Autó és vonat balesetek dolog... Az autóvezetésre azért van képzés és van hivatalos jogosítvány, ami legalább egy alapot megad és igazol. És a képzésen túli rész az ami egyéni felelősség kérdése.

Nyilván a többségnek a klímaszorongás érthetően túlzás és a média és internet olvasásával egyesek kialakítják. Értjük, de még ezzel együtt is egy pszichoterápiásnak feltüntetett szoftver az külön felelősségi környezet, függetlenül az internettől. Már eleve az, hogy pszichológiai szolgáltatást ígér önmagában is kérdéses így szakember jelenléte nélkül. Szóval szerintem az internet és klímaszorongás az más terület, és megint más egy pszichológiai szolgáltatást nyújtó szoftver is, ami egy külön felelősségi környezet.

Könyvek is szintén. Azért az öngyilkosságba hajszoló könyveket tiltják ám. Nem úgy van az, hogy az illető akármit olvasott és ő a felelős. Egy külön pszichológiai szolgáltatásról van szó és nem akármilyen szöveges tartalomról, nem simán internetes újságról vagy könyvről.

2*Sü oké nem az, rendben. Ettől még van ugyanúgy felelőssége egy ilyen szolgáltatást készítőnek. Ilyet nem lehet csak úgy a segítségre szorulóra fogni. Egy kisgyerek elől is bizonyos dolgokat elteszünk, és nem hárítjuk rá a felelősséget, hiában magunk tudjuk a veszélyét valaminek.

Első halálos vonatbaleset is más. Ne már. :) Ma már van jogi szabályozás a vonatok területére és van fogyasztóvédelem is. A peronon van felfestés, mára meg azért jobban kiismertük és ismerjük a vonattal kapcsolatos elővigyázatosságokat. Az első vonatbaleset kb semmit sem nyom ezen. A kresz és a mai autó balesetek esetén is igencsak van vizsgálat és semmit sem fog számítani a balesetben valamiféle első autó baleset.

Amúgy ehhez hasonló kérdés az önvezető autók okozta balesetek is, hogy ott is kié a felelősség? Az autó gyártójáé? A szoftver íróké? Ez ugyanez a téma, hogy bizony a szoftver okozhat balesetet és akkor nem az utas a felelős, mert ő nem tehet a gyártási hibáról. Nagy cégek amúgy is hárítanak minden felelősséget, ezt lehet látni az eddigiekből.

Hozzátenném azért 2*Sü, hogy ettől, hogy viccnek szánták a felelősség még nem hárult el.

A fogyasztóvédelemben alapvetően ott van, hogy az olyan baleset, kár és sérülés amit a gyártó terméke okozott, azért a gyártó a felelős. És kivizsgálják azt, hogy kié a felelősség.

Ott van a Sophia nevű robot ami már állampolgárságot kapott, és nem valami jó irányt mutat ez. Egy ilyen háztartási robot mi van ha kárt csinál, vagy mire hazaér a szülő a gyereket ölte meg a robot? És akkor csak annyi lenne, hogy a robot állampolgár, a robot az személy és a robotot kell felelősségre vonni? Mit csinálnak vele, beállítáják egy zárt szobába egy évre?

Egy önvezető autó ha balesetet okoz, akkor mivel állampolgár beállítják két évre egy parkolóba és ki lett szabva a büntetés?

Nagyon is egy termékről van szó és a gyártó felelős a termékért.

Hangsúlyoznám előre, hogy a becitált, 60-as években írt Elizára térnék ki, ami nem azonos a cikkben szereplő MI-vel.

Ez a 60-as években írt Eliza a mai értelemben nem nevezhető MI-nek. Nem képes tanulni, fix válaszokat ad, maximum az ember által beírt szövegekben keres néhány kulcsszót, és az alapján válogat a válaszok közül. Valahogy így:

- Ha a felhasználó válaszában szerepel a „viszontlátásra”, a „jó éjszakát” vagy a „szép álmokat” kifejezés, akkor írd ki a „Viszlát”, a „Találkozunk legközelebb” vagy a „További kellemes időtöltést” válaszokat.

- Ha a felhasználó válasza szerepel a káromkodás listában, akkor írd ki a következő válaszok egyikét: „Kikérem magamnak ezt a hangnemet”, „Miért vagy ennyire dühös?”, vagy a „Okot adtam volna arra, hogy így beszélj velem?”.

- Ha a válaszban szerepel a „mindig” szó, akkor írd ki: „Mindig?”

- Ha a válaszban szerepel szerepel a „nem” szó, akkor írd ki: „Biztos, hogy nem?” vagy „Miért nem?”

- Ha a válasz „Lehet, hogy”-gyal kezdődő kérdőmondat, akkor írd ki, hogy „Ez bizony könnyen előfordulhat”, vagy „Kétségeid vannak?”.

- Ha nincs felismerhető kulcsszó, akkor írd ki, hogy „Kifejtenéd ezt bővebben?”, „Miből gondolod ezt?”, „Tényleg így gondolod?”, „És ez milyen érzéseket vált ki belőled?”, „Sokat foglalkoztat ez a téma?”, „Néha én is ezt gondolom” stb…

(Hogy milyen szövegdarabkákat ismer fel, és milyen válaszokat írjon ki, az viszonylag könnyen testreszabható. Bizonyos változatai arra is képesek, hogy személyes névmásokat lecserélve megismételje a beszélgetőpartner által írtakat. Az angolban egy könnyű, mert nem kell a ragokkal foglalkozni: „I am ugly” → „Why do you say + (csere: „I am" → „you are”) + „?” → „Why do you say you are ugly?”. Ez a trükk tényleg képes az értelem *illúzióját* kelteni… Pár percig…)

Ez így nem sokkal intelligensebb, mint egy átlagos krumpli. Amit mi sem bizonyít jobban, hogy ha értelmetlen betűsorokat írsz, akkor arra is úgy válaszol, mintha azok értelmes mondatok lennének.

Ha beszélsz Elizával 5–10 mondatot, akkor érezni fogod, hogy nagyon nehéz ezt nem az MI valamiféle paródiájának látni. 5 perc után tapasztalni fogod, hogy ugyanazt a kb. száz választ ismételgeti. A pszichológiai felhasználás is egy poén, mert tényleg van az a pszichoterápiás módszer, mikor a pszichológus nem irányítja a beszélgetést, a válaszaival csak azt ösztönzi, hogy a páciens tovább beszéljen arról, amiről akar. Ehhez persze sok ész nem kell a pszichológustól. Amire az Eliza képes – ami nem sok –, az tényleg hasonlít erre a pszichoterápiás módszerre. Ha valaki képes ezt komolyan venni az eléggé baj lenne, ő a villanykörtét is megenné, mondván a körte ehető.

Amerikában divat mindenféle triviális figyelmeztetést ráírni a termékekre. Mondjuk a hajsütővasra, hogy „Vigyázat, égési sérülést okozhat”, vagy az ablaktisztító folyadékra azt, hogy „emberi fogyasztásra nem alkalmas”. De nem gondolom azt, hogy ez kívánatos irány. Ha valami az emberek 99,x%-a számára magától értődő, akkor nem gondolom, hogy a gyártónak komoly felelőssége az, ha az emberek kevesebb, mint 1%-a számára nem az.

~ ~ ~

De ugye emberünk nem ezzel az Elizával beszélgetett, hanem kvázi egy módosított GPT-vel, ami már jóval cizelláltabban működik, tanulásra képes mesterséges intelligencia, nem kész szövegekkel vagy szövegsablonokkal generál választ, hanem az általa megismert szövegek feltárt összefüggései alapján megpróbálja kikövetkeztetni, hogy az adott kontextus és az addig megírt válaszkezdet után mi a legvalószínűbb, leggyakoribb folytatása az válasznak.

Meg lehet persze nézni, hogy milyen válaszokat adott, de valószínű az lenne az eredmény, hogy objektív kérdésekben általában helyes, véleményes kérdésekben pro és kontra véleményeket is tartalmazó válaszokat adott.

Pl. lehet, hogy emberünk megkérdezte, hogy mennyire kellene a világ CO₂ kibocsátását csökkenteni az átlaghőmérséklet emelkedésnek az 1,5 ˚C alatt tartásához, megkérdezte, hogy ehhez képest milyen mértékű CO₂ kibocsátást vállaltak az országok, meg hogy mik az 1,5 ˚C-os átlaghőmérséklet emelkedés következményei. Ha a válaszok helyesek, illetve kiegyensúlyozottak, is akkor is lehet reménytelennek látni a helyzetet. Hiába van ott, hogy pl. a jelenleg vállalt CO₂ kibocsátás a jövőben változhat, csökkenhet. Tapasztalataim alapján egy depressziós ember füle mellett elmennek a pozitív gondolatok, hajlamos a legsötétebb értelmezést a magáévá tenni.

És lehet, hogy a klímaváltozást objektíven nézve jelenleg tényleg reménytelennek látszik a helyzet, és lehet, hogy tényleg ez a helyes elemzése a jelenlegi helyzetnek. Nem ezzel van a gond, hanem emberünknek az erre adott reakciója, tette az, ami (számunkra) problémás.

A kérdés, hogy ha valaki egy rossz hír hatására valamit tesz, akkor tényleg azt kell-e felelőssé tenni, aki a rossz hírt hozta, ha amúgy a hír igaz.

Én még a média felelősségét is előbb felvetném. Az előző válaszomban felvázoltam, hogy hogyan is működik a 60-as években írt Eliza. Amit nem ért, arra általánosságban gyakran használható sablonokból véletlenszerűen ír egy választ. Beírod, hogy „Nem szeretem a mazsolát”, és azt válaszolja, hogy „Miért mondod ezt?”, vagy „Kifejtenéd ezt bővebben?”, vagy „Néha én is ezt gondolom”. Remek. És valakinél elhangzik ez a szóváltás:

- Legszívesebben megölnék mindenkit.

- Néha én is ezt gondolom.

Mi a média reakciója, ha egy ilyen beszélgetés a tudomására jut? Annak kellene lennie, hogy „nincs itt semmi látnivaló”. Vagy esetleg lehetne egy cikket rittyenteni, ami elmagyarázza, hogy nagyvonalakban hogyan működik egy MI, micsoda az MI és mi nem, és miért nem kell komolyan venni ha ilyen jellegű *szöveget* *generál*. (Igen, szerintem elvárás, hogy ha az újságíró valamiről ír, akkor kell, hogy legyenek alapvető ismereti arról, amiről ír, ha ezekkel az ismeretekkel alapból nem rendelkezik, akkor járjon utána, vagy kérdezzen meg valakit, akinek ez a szakterülete.) Ehhez képest az történik, hogy másnap az X bulvárlapban megjelenik egy cikk: „Megdöbbentő! Ki akarja irtani az emberiséget az öntudatára ébredt mesterséges intelligencia”… 26 873 like… Mi meg csodálkozunk, hogy az emberek miért kérdeznek/mondanak hülyeséget a témáról?

~ ~ ~

#14 > Ott van a Sophia nevű robot ami már állampolgárságot kapott

Én ezt megintcsak a hozzá nem értésnek és/vagy a média által keltett hullámok meglovagolásának gondolom.

#14 > vagy mire hazaér a szülő a gyereket ölte meg a robot

> […]

> Egy önvezető autó ha balesetet okoz

Itt felvetődik a kérdés, hogy mi az aktivitás. Ha az ágyban békésen alvó gyereket öli meg a robot, akkor az megint más felelősséget vet fel, mint mikor a gyerek kéri meg a robotot, hogy töltsön a pohárba vizet, amibe ő előtte titokban nátriumot tett, és a reakció olyan heves volt, hogy lángra kapott a lakás, és a tűzvészben halt meg az a gyerek. Akkor is a robot ölte meg a gyereket? Nyilván más ennek a helyzetnek a megítélése.

Az önvezető autónál is kérdés, hogy az önvezető autó egy parkoló autó hátsó ülésén békésen szendergő embert öl-e meg azzal, hogy belerohant, vagy az ember tevékeny közrejátszása az oka, hogy az önvezető autó olyan döntést hozott, amilyet? Nem mindegy.

Az MI-s öngyilkossági esetnél is valahol ez a kérdés. Akkor is a halálát okozta volna az MI emberünknek, ha az békésen fekszik az ágyába? Az MI tevőlegesen mérgezte meg, lőtte le, akasztotta fel, vagy lökte le a háztetőről az emberünket, annak akarata ellenére? Nyilván nem. Legfeljebb az vethető fel, hogy az MI sugalmazta-e azt, hogy emberünk ölje meg magát. Én nagyon meglepődnék, ha igen. Vagy hogy tekinthető-e érzelmi manipulációnak az, amit az MI válaszolt. Gyanítom nem erről van szó, hanem arról, hogy az MI által emberünk olyan információk birtokába jutott – amihez hozzájutott volna a Wikipédiát olvasgatva, a tévét nézve, vagy könyveket olvasva is –, amely információkkal nem volt képest szembenézni. Ez sajnálatos, de kétlem, hogy ebben az információforrás eszköze – akár az MI, akár a könyv – érdemi felelősséggel tartozna.

#1

"Így látatlanban azt tippelném, hogy a fickó halálát a pszichózisa okozta, nem a chat. Nem tudom elképzelni, hogy egy egészséges felnőtt emberben olyan klímaszorongást tudna okozni egy beszélgetés, amitől öngyilkos lesz."

Csakhogy egy egészséges felnőtt embert is el lehet juttatni a pszichózis állapotába.

Ha téged egészséges felnőtt emberként betesznek téged Guantanamo-ra, még csak nem is kell bántsanak, egy ujjal nem érnek hozzád, csak néhány hétig/hónapig beszélget veled minden nap órákat erre kiképzett ember, céltudatosan megtörve a pszichédet és manipulálva és keltve benned a reménytelenséget, akkor eljuthatsz oda könnyen, hogy öngyilkos akarsz lenni.

@17

Oké, de az a meghalt ember nem járt Guantanamoban és nem tömték a fejét hónapokon át arra specializálódott pszichológusok, hogy célirányosan hülyüljön meg. Ő eleve egy komoly mentális problémákkal küszködő valaki volt.

#18

Nyilván, ezt nem vitatom, csak rá akartam világítani, hogy egyékbént egészséges emberrel is előfordulhat ez adott körülmények között :)

Tegyük fel, hogy eltelt még 5 év, 2028-at írunk, a jelenleginél már nagyságrendekkel fejlettebb chat AI-ok vannak.

Annyira fejlettek, hogy ha egyébként nem mondják meg neked, hogy egy AI, akkor talán hogy fel sem tűnik.

És amik már nem csak sima chat botok, hanem tartozik hozzá egy nagyon valósághű beszéd szintetizálás is, meg egy fotorealisztikus, a valóságtól kvázi megkülönböztethetetlen avatar is.

És ami már ráadásul nem csak simán válaszol a kérdéseidre, hanem afféle companion, tehát ő maga is aktívan kezdeményezi a kommunikációt, szimulál valamiféle személyiséget, tehát bizonyos témákra és véleményekre negatívan reagál, bizonyos témákra és véleményekre pozitívan, stbstb.

Pl. reggel felkelsz, mész sz-rni, közben telefonozol, egyszercsak megjelenik a virtuális companion a képernyőn, és megkérdezi, hogy vagy, te erre azt mondod, hogy Trinity, most épp sz-rok, ne zavarj, ő mondja, hogy bocs, majd akkor szólj, ha ráérsz.

És aztán beülsz az autódba, hogy bevezess a munkahelyedre, vagy felülsz a vonatra, tökmindegy, és közben, hogy ne legyen annyira unalmas és monoton, megnyitod Trinity-t, és beszélgetsz vele.

Egyáltalán nem sci-fi scenario ez, simán reálisnak tartom 5 év múlva, főleg a beszédhang és az avatar részét, ez már ma is majdnem megvan.

És főleg az óriási igény miatt - Japánban pl. olyan szintű az emberek elmagányosodottsága, hogy az hihetetlen.

És akkor ilyen körülmények között képzeljük el, hogy adott Béla, aki egy egyébként nem pszichés beteg illető, soha semmiféle pszichiátriai kórelőzménye nem volt.

Tegyük fel, hogy kirúgják Bélát a jól fizető melójából, csak egy sokkal sz-arabbat talál, mert mondjuk amúgy is válság van, emiatt megromlik a házassága, elválik tőle a felesége, viszi a kocsit, házat, gyereket.

Szülei, barátai nem beszélgetnek vele eleget és ápolgatják a lelkét, mert mittomén, nem érnek rá, mert nekik is van életük, vagy csak nem érzik a probléma súlyosságát.

Emberünk elkezd egyre többet a kompanion-jával beszélgetni, mert hát valakinek muszáj kiventillálnia a lelki bajait.

Csakhogy egy AI ebben az esetben egyáltalán nem biztos, hogy azt mondja majd emberünknek, amit neki hallania kellene, hogy megmaradjon a remény.

Világos ugye, hogy egy Bélához közel álló barát vagy családtag, mivel ténylegesen szereti, és van empátiája, és tudja, hogy Bélának reményre van szüksége, még akár hazudni is fog neki, csak hogy tartsa benne a lelket.

Nem baj, Béla, majd találsz újra egy jó állást, csak tarts ki, nem baj, Béla, az egy hülye kva volt, majd találsz egy társat, aki tényleg szeret és kitart melletted, csak ne add fel.

Holott tudja az a barát, vagy tudja Béla testvére vagy anyukája, hogy semmi garancia nincs ezekre, de tudja, hogy a remény érzését kell erősíteni Bélában.

Na most az AI egyátlalán nem biztos, hogy ezeket fogja mondani Bélának.

Mivel valamiféle tény-tudást szedett össze az internetről, simán lehet, hogy azt mondja Bélának, amikor az a felesége miatt panaszkodik, hogy hát Bélám, manapság már a házasságok több, mint 50%-a pár éven belül válással végződik. Ami tényszerűen nyilván igaz lehet, csak hát nem ezt kéne ilyenkor mondani.

Vagy amikor arra panaszkodik Béla, hogy alig látja a gyerekeit, akkor az Trinity elmondja majd neki, hogy sajnos az a jellemző ilyen esetekben, hogy a gyerekek ahhoz a szülőhöz kötődnek jobban, akivel fizikailag is együtt élnek a mindennapokban, a másiktól pedig elhidegülnek. És tényszerűen ez is lehet igaz, csak épp Bélának ez a tényközlés is úgy hiányzik ebben az állapotában, mint egy rákos daganat.

Vagy mondjuk arról panaszkodik Trinity-nek, hogy de sz-r az új munkája, és még keveset is keres. Trinity erre elmondja, hogy gazdasági elemzők szerint sajnos elhúzódó válságra lehet számítani súlyos munkanélküliséggel, ami főleg azt az X szektort sulytja, amiben Béla is dolgozik, hát ez van.

És tényszerűen ez is lehet igaz, de hogy a testvére vagy anyja vagy a legjobb barátja nem ezt mondta volna Bélának, az is biztos.

Stb, vihetném még tovább ezt a gondolat-kísérletet.

Na most ha szegény Bélánk ilyen jellegű beszélgetéseket folytat Trinity-vel hetekig, hónapokig, hát én egyáltalán nem tartanám meglepőnek, hogy végül oda jut, hogy kinyírja magát.

Úgyhogy én sajnos reális veszélyt látok ezekben a dolgokban.

> Annyira fejlettek, hogy ha egyébként nem mondják meg neked, hogy egy AI, akkor talán hogy fel sem tűnik.

Ebben az esetben megkülönböztethetetlen az embertől. Az MI pont olyan dolgokat fog mondani, amit egy ember is. Az ebből fakadó felelősség meg pont akkora, mintha ugyanazt egy ember mondta volna. Ha a cikkben szereplő ember nem egy MI-vel „beszélgetett” volna, hanem itt a GYK-n írt volna ki klímaváltozással kapcsolatos kérdéseket, és itt egy Béla nevű felhasználó – amúgy jó szándékkal – válaszolt volna ezekre a kérdéseire, és ettől fordult volna be emberünk, akkor nem lenne belőle cikk, nem úgy lenne tálalva, hogy megvan az első ember, akinek Béla okozta a halálát.

> Csakhogy egy AI ebben az esetben egyáltalán nem biztos, hogy azt mondja majd emberünknek, amit neki hallania kellene, hogy megmaradjon a remény.

Akkor mégis van egy nagyon sarkos, és gyorsan felfedezhető különbség az MI és egy ember között. És normális esetben az ember tudja, hogy egy MI-től mi várható és mi nem, és racionálisan gondolkodó ember a helyén is fogja kezelni azt a beszélgetést, amit az MI-vel folytatott.

Nota bene, most is az a helyzet, hogy ha valaki nem tud a szeretteivel beszélgetni egy problémájáról, akkor a Facebookon, egy fórumon, vagy esetleg itt a GYK-n fogja magát kiventillálni. És itt sem feltétlenül azt fogja hallani, ami segíteni fog neki átvészelni a nehéz időszakot, de még csak nem is feltétlenül azt, ami objektíven igaz. Ha elmondja, hogy miért rúgták ki, akkor simán a képébe fogja vágni az első unatkozó troll, hogy az ilyen életképtelen kretének miért gondolják azt, hogy mások elől vegyék el a munkát, ahelyett, hogy a Dunába ugranának. Sajnos ez nem csak elvi felvetés, hanem nem ritkán megtapasztalható valóság.

Probléma ez? Persze. Nem is kicsi. De ha az MI-t egy emberre lecserélve a példádban ugyanaz a probléma ugyanolyan módon üti fel a fejét, az inkább azt bizonyítja, hogy nem az MI-vel van a probléma. Innentől számomra ez társadalmi, szociális, kulturális probléma, és nehéz MI specifikus problémaként érzelmezni a helyzetet.

Az MI-vel való beszélgetésnek legalább az az előnye megvan pl. a GYK-hoz képest, hogy az MI legalább nem fog tudottan és szándékosan kártékony dolgokat mondani poénból, nem fogja megpróbálni a másik nehéz helyzetét kihasználni valamiféle nyerészkedésre és nem fogja megalázni a beszélgetőpartnerét, nem fogja a pont-pont-pontba küldeni.