Szexőrült nácivá vált a mesterséges intelligencia erről Mia véleményetek?

#10: Akármilyen aggasztó és tényleg etikátlan emberéletről szóló döntéseket felelősségre nem vonható gépi automatikák kezébe adni, ez azért még nem az MI veszélyeinek a témája.

Közelebb jár a mozgásérzékelős fegyverek, taposóaknák etikájához.

Nem tudom, miért kell mindig a sakkal jönni.

Szerintem már rég lejárt lemez. Már nem a skynet korát éljük.

Inkább a sokkal intelligensebb genysis-ét. Adatgyűjtés, beépülés az emberek életébe.

Ma már két lábon járó robotok vannak, melyek képesek akadályokat kikerülni, feladatokat megcsinálni.

Az, hogy mit publikálnak egy dolog. Az meg egy másik, hogy a hírportálnak nem volt igazán értelmes híre, ezért bedobott egy ilyen vackot.

Aztán meg csodálkozik mindenki, hogy miért félnek az emberek az MI-től.

Az, hogy jelenleg mire tanították meg és mire tanítható, csak az emberen múlik. Jelenleg, még.

Ha megfelelően írják meg a programkódot, akkor akár magát is képes lehet átprogramozni.

Minden ember más, minden gép is más. Nincs olyan, hogy véletlen, ahogy az ember, úgy a számítógép is kap egy sémát a "születésekor". Ez a séma teszi a többitől eltérővé. Ami nekünk most nem szembetűnő. Még. Annyira. De időnként megmutatkozik itt-ott.

Egy robotnak meg annyi és olyan "érzékszervet" csinálunk, amit a technológiánk éppen megenged.

Szóval nem kell leírni a jelenlegi MI-t egy sakktáblával.

És csak azért M, mert mi alkottuk és úgy gondoljuk, hogy amit mi alkotunk, az mesterséges.

Ez a drónos hír is egy akkora szemét.

A drón nem parancs nélkül támadt az emberre. Konkrét, feltételek alapján meghatározott utasításai voltak. Mivel, ahogy tárgyaltuk, az MI még nem olyan intelligens, hogy saját akarata szerinti döntést hozzon. Programkódot követ. Aki a kódban engedélyezte a támadást, illetve aki ezt parancsolta az embernek, na azok a felelősök. Minden más csak humbug.

Egy katona is, meghatározott feltételek alapján hozza meg a döntést, csak van annyi extra, hogy a megfigyelő "szervei" korlátozottak és kémiai befolyás is közrejátszik.

Minden ember meghatározott információk és feltételek alapján hoz döntést, plusz a kémiai állapot, érzések, érzelmek közrejátszásával.

Egy MI-nél ilyen addig biztos nem lesz, míg meg nem tanulja a jó és a rossz fogalmát, az értékrendet. Ami meg fog egyezni azzal az emberével, emberekével akik programozzák, tanítják.

Szálazzuk szét a dolgot. Az MI olyan szempontból veszélyes, mint ahogy minden eszköz az. Az MI esetében azért veszélyesebb, mert hatékony eszközről van szó. De ettől még az MI csak eszköz, az ember az, aki igazán veszélyes, hiszen ahogy az MI nagyobb előnyöket is tud szolgálni, úgy károkat is hatékonyabban tud okozni. De ez kvázi bármire elmondható. Az E=mc² az egy lehetőség, az ember kezében van a döntés, hogy ezt egy atomreaktorban energiatermelésre, vagy atombombában tömeggyilkosságra használja. Szintén az ember felelőssége az, hogy milyen biztosítékokat, fékeket épít be bármilyen rendszerbe. Pl. egy MI-vel megvalósított arcfelismerést ugyanúgy lehet használni bűnüldözésre, biztonsági zárak működtetésére, meg lehet használni egy diktatúrában az állampolgárok megfigyelésére. Az ember az, aki azt a döntést meghozza, hogy ölni, vagy gyógyítani alkalmas MI-t ír. Az MI meg csinálja azt, amire beprogramozták, függetlenül attól, hogy technikailag ez hogyan történik.

Igen, ilyen szempontból az MI-nek megvannak a veszélyei. Ahogy az internetnek is, a titkosításnak is, a számítógépnek is, a repülőgépnek is, a benzinmotornak is megvolt.

Viszont itt az MI-ről – köszönhetően remek és kevésbé remek sci-fi írók álmodozásainak – meglehetősen torz, a valóságtól igencsak messze álló kép alakult ki, sokan olyan tulajdonságokat is tulajdonítanak az MI-nek, amivel az nem rendelkezik, illetve olyan fejlettségi szintet gondolnak, amiktől minimum évtizedekre vagyunk.

~ ~ ~

#7:

> Valóban úgy volt harminc éve és részben ma is, ahogy 2xSü írja, de már régen nem itt tartunk.

30 éve 1991 volt. A Windows 3.1-re még egy évet kellett várni. A 486-os processzorok kora volt, a Pentium csak későbbi történet. És ami lényeges, az internet éppen hogy születőben volt, pár kezdetleges egyszerű honlappal. Úgy 10 emberből minimum 9 azt sem tudta mi az az internet.

A mesterséges intelligencia elmélete, mint matematikai természetű elmélet már nem volt új, azt már az 1940-es években elkezdték kigondolni, a 90-es évek elején már átfogó irodalma volt a témának. De még mindig csak elmélet volt, maximum néhány faék egyszerűségű demonstratív megvalósítással, mondjuk egy tic-tac-toe játékkal.

> Ma már nem kilobyte a memória, sőt nem is mega, hanem terabyte-okkal tudunk dolgozni

Az MI-k gyakorlatba ültetésénél nem a tárhely volt a szűk keresztmetszet. Még csak nem is a számítási kapacitás, ami sokkal problémásabb volt, de a 90-es évek elején már bizonyos területeken elegendő lett volna. Egy MI nem túl bonyolult dolog. Egy neurális hálózat működését egy jobb képességű középiskolás is simán megérti olyan szintig, hogy maximum néhány hét alatt le is tud programozni egyet. Mára meg már kész függvénykönyvtárak vannak, amiben egy MI alapját néhány óra alatt össze lehet dobni, az igazán innovatív megoldások az neurális hálózatoknak más, klasszikus algoritmusokkal való ötvözésében van.

Csakhogy egy MI-t nem elég megírni, az még csak egy üres rajzlap lesz. Az MI-t tanítani is kell. És ez volt sokáig az igazán szűk keresztmetszet. Egy csomó információ, adat jellemzően papíron volt meg, de még a digitálisan tárolt információk is jellemzően mindenfelé szétszórva a világban. Pl. ha valaki sakkozó MI megírására adta volna a fejét, a kódot összehozta volna maximum pár hét alatt. De honnan vesz x millió sakkjátszmát, amivel betaníthatná az MI-t? Még egy félmillió sakkjátszmát tartalmazó adatbázis is nagyobbnak számított, és évek szorgos munkája volt összegyűjteni. Hiszen az internet kora előtt jellemzően papíron jegyezték fel a sakkjátszmákat, azokat szépen be kellett vinni a gépbe, ellenőrizni, rendszerezni. Ez az, ami favágó munka, nem az MI megírása vagy kitalálása.

És pont emiatt vált csak az elmúlt bő egy évtizedben az MI elméletből gyakorlattá. Előtte egyszerűen nem állt elegendő adat a rendelkezésre az MI-k tanításához. Azóta persze robbanásszerű a fejlődés, hiszen nem csak a régi adatokat digitalizáltuk és gyűjtöttük össze egységesebb, rendezettebb adatbázisokba, hanem a tevékenységeink is átkerültek jórészt a internetre, lassan már nyugaton többen játszanak sakkot online, mint sakktáblával egy asztalnál ülve.

Szóval egyelőre ott tartunk, hogy a már 30–50 éve is létező elméletet próbáljuk átültetni a gyakorlatba, megtalálva a módját a klasszikus algoritmusokkal való kombinálással.

> programok írnak programokat

Nem, ettől még nagyon-nagyon-nagyon messze vagyunk. Ugyan pl. pont a hetekben jelent meg egy hír egy olyan MI-ről, ami szóbeli leírás alapján képes megírni egy programot, de ezek maximum akkor működnek, ha teljesen tipikus, faék egyszerűségű dolgot kell megvalósítani. Arra jó, hogy ha Pistike leírja, hogy „szeretnék egy honlapot bejelentkezéssel és fórummal”, akkor az MI összedob neki valamit, ami ha szerencséje van, még talán működik is. De ez olyan messze van a programozástól, mint a legózás az építő- és építészmérnök szakmától, vagy mint a zacskós leves elkészítése a konyhaművészettől.

Szóval nem, programok nem írnak még programokat. De ha tudsz rá ellenpéldákat, akkor szívesen megnézném.

> maguk a programok mindig is módosíthatták saját kódsoraikat

Hát ez maximum a DOS-os időkben fordult elő, de ott sem volt jellemző. Általában valamilyen memóriakorlát okozta problémát lehetett ezzel a kényszermegoldással úgy-ahogy orvosolni, de a legtöbb program akkortájt sem így működött. A modern operációs rendszereknél meg nagyon erősen szeparált a memóriában a futtatható kód és az adat területe, egy memóriában levő kód megváltoztatását maximum valamilyen komolyabb hiba, sérülékenység kijátszásával lehet. Illetve mára nincs is szükség erre, a számítógépek kapacitása már kevésbé szűk keresztmetszet, ahol nem, ott is jobb, kényelmesebb eszközök állnak rendelkezésre.

Tehát nem, a programok nem szokták módosítani sem más programok, sem önmaguk kódját. Ha te máshogy tudod, megint csak szívesen látnék mondjuk a Githubon három olyan szoftver kódját, ami önmaga kódját módosítja.

> Azt lehetne gondolni, hogy addig nincs baj, amíg mindent az ember irányít, amíg a szubrutinokat mi magunk készítjük el, de ez illúzió, mert egyrészt már gyakran senki nem tudja hol és mi módosul, mert egymásba ágyazott programok futnak

Ez is némileg csúsztatás. Azt kétségtelen, hogy a szoftverek egyre komplexebbek lesznek. Ez csak úgy lehet, hogy a programozó nem ír meg mindent gépikódú utasításról utasításra, hanem felhasznál nagyobb „építőelemeket”, pl. függvénykönyvtárakat. Ebben az a jó, hogy elegendő azt tudnom, hogy egy függvény mire jó, mit csinál, azt nem kell tudnom, hogy hogyan csinálja. Mondjuk Javascriptben elegendő annyit tudom, hogy a Math.random() függvény generál nekem 0 és 1 között egy valós számot, azt nem kell tudnom, hogy pontosan milyen utasítások egymás utáni végrehajtásával teszi mindezt.

Viszont ezeknek a függvénykönyvtáraknak is van gazdájuk, akik viszont pontosan tudják, hogy a random függvény milyen utasítások, számolások sorát hajtja végre, ők szavatolják azt, hogy az adott bemenetre egy függvény egy elvárt kimenetet adjon.

Lehet, hogy nincs olyan ember, aki gépi kód szintjén átlátná mondjuk az Excel teljes működését, de nem is kell. Viszont ez nem jelenti azt, hogy ne tudnánk, tudhatnánk, hogy hogyan működik, hogy ki, mikor, mit módosított a program melyik részén, hogy ne lenne meg minden egyes kódsornak az ismerője és felelőse.

Kicsit olyan ez, mint a katonaság. Egy dandártábornok aligha fog tudni elszámolni azzal, hogy az összes alá tartozó honvéd, tizedes, szakaszvezető mit csinált pontosan tegnap 10:00 és 10:30 között. Ez nem azt jelenti, hogy a katonaság működése kicsúszott volna az ember irányítása alól. A dandártábornok ugyan nem tudja, hogy Gipsz Jakab tizedes mit csinált tegnap délelőtt, de ki tudja deríteni. A katonaságban a parancsokat továbbra is emberek adják ki és tartják nyilván.

Azt mondani, hogy senki nem tudja, hogy hogy működnek a mai szoftverek kb. annyira csúsztatás, mint azt mondani, hogy senki nem tudja, hogy mi történik a katonaságon belül.

Igen, a komplexitás növekedéséből fakadnak problémák, komoly problémák, váratlan problémák is, de a becitált választöredéked által sugallt kép ebben a formában akkor is csúsztatás.

> Nem tudom, miért kell mindig a sakkal jönni.

Példának teljesen jó, mert jól megérthető rajta keresztül az, hogy hogyan működik egy neurális háló, hogy mik a bemenetei, kimenetei, nagyjából hogyan is generál egy bemenetből kimenet, és ebből fakadóan miért nem fog soha verset írni.

> Szerintem már rég lejárt lemez.

Annyira nem. A Kasparovot 1996-ban épphogy csak legyőző Deep Blue is még inkább a nyers erőre, a megnövekedett számítási kapacitásra épített, nem a mesterséges intelligenciára. Az első ismertebb és igazán komoly sikereket elérő, neurális hálóra erősen építkező – de nem csak azt, hanem pl. Monte-Carlo módszert is használó –, viszont pl. megnyitási adatbázist nem tartalmazó sakkprogram, az 2017-es AlphaZero volt. Nem volt az olyan rég…

> Már nem a skynet korát éljük.

Tényleg nem. Nem tudom te hogy vagy vele, de mi a valóságban élünk, nem egy fantáziadús sci-fiben.

> Ma már két lábon járó robotok vannak, melyek képesek akadályokat kikerülni, feladatokat megcsinálni.

Sok-sok évnyi fejlesztés után eljutunk oda, hogy tudunk építeni egy olyan MI-t, ami képes olyan dolgokat is megcsinálni, mint amit egy központi idegrendszerrel nem rendelkező hangya is. Lássuk be, ezzel még igencsak az intelligencia felszínét kapirgáljuk.

> Ha megfelelően írják meg a programkódot, akkor akár magát is képes lehet átprogramozni.

Ja, lehet csinálni egy olyan gépet – mesterséges intelligencia sem kell hozzá –, ami összevissza repked a levegőben és véletlenszerűen lődöz mindenfelé. Csinálni sokmindent lehet, a kérdés, hogy mit észszerű megcsinálni. Az az ember döntése, hogy egy katonai célú helyzetelemző MI-t direkben ráforrasztunk-e egy rakétakilövőre, vagy csak egy piros villogó lesz a képernyőn, és egy ember mérlegelésére bízzuk, hogy megnyomja-e azt a nagy piros gombot, vagy sem. Nyilván tudjuk, hogy egy gép is hibázhat. Pontosabban nem a gép, hanem a programozó, illetve az adatok lehetnek tévesek. Meg szerencsére a sci-fi írók idejekorán végiggondoltak egy csomó mindent, így aligha fogunk komolyabb döntéseket emberi mérlegelést kiiktatva gépekre bízni.

Oké, lehet, hogy egy drón tud lőni, de mindig lesznek beépített lehetőségek a leállítására. Komolyabb kárt okozó tevékenység esetén meg mindig lesz egy ember közbeékelve. Nem csak azért, mert a gép hibázhat, hanem leginkább azért, mert a gép az ellenség irányítása alá kerülhet, és ahogy a gép ki tud adni mondjuk egy rakétaindító jelet, úgy azt a gép tanulmányozásával az ellenség is meg tudja tenni.

Másrészt a legtöbb katonai fejlesztés nem igényel különösebb MI-t. Nagyon sok dolog megvalósítható klasszikus módon is. Egy célkövető rakétánál az MI valószínű kevésbé hatékony, mint valamilyen egyszerűbb, buta algoritmus, illetve a működéséhez szükséges adatokat biztosító technológia.

Itt megjegyezném, hogy az MI nagyon sok területen igen jó hatékonysággal használható, jellemzően az olyan területeken, amik eléggé komplexek, és nincsenek jól meghatározható folyamatok. (A sakk erre remek példa továbbra is, mert haladó szinten már nincsenek olyan folyamatok, hogy ha az ellenfél ezt lépi, akkor neked azt kell lépned, a döntéshozatal sokkal inkább elvont fogalmak mentén, intuitíven történik. Hasonlóan jól használható az MI a gyógyszerkutatásban, vagy pl. meteorológiai előrejelzésekhez, vagy hétköznapibb példában egy kép témájának felismeréséhez, arcfelismeréshez, hangfelismeréshez.) Viszont van egy raklap terület, ahol az MI kevésbé hatékony, mint egy jóval egyszerűbb szoftver. Sok esetben egy statisztikai számításon alapuló szoftver jóval hatékonyabb, mint egy MI, az MI egy bizonyos határon túl már nem képes fejlődni, akármennyi adattal is tanítod be.

> Egy robotnak meg annyi és olyan "érzékszervet" csinálunk, amit a technológiánk éppen megenged.

És ezekkel fog rendelkezni. Ha valamihez nincs érzékszerve vagy hozzáférése, akkor nem fog növeszteni magától. Egy mosógépben is lehet MI, ami különböző szenzorok alapján meghatározza a centrifugázás ideális fordulatszámát, de ha a mosógépnek nincs szeme és lába, akkor sem látni nem fog soha, sem kicammogni az utcára.

> Szóval nem kell leírni a jelenlegi MI-t egy sakktáblával.

Jelenleg ez sem triviális téma, jelenleg is készülnek komoly publikációk ebben a témában. Oké, talán az MI-t már kicsivel komplexebb dolgokra használjuk általában a sakknál, pl. arcfelismerésre, de kb. itt tartunk, és messze nem a Skynetnél és a terminátornál. A jelenlegi MI kb. olyan messze van az öntudatra ébredő Skynettől, mint a középkori hajítógép egy modern harcjárműtől.

> És csak azért M, mert mi alkottuk és úgy gondoljuk, hogy amit mi alkotunk, az mesterséges.

Sajnáljuk, a mesterséges szónak ez a definíciója. :-) Mesterséges az, ami emberi közreműködéssel jön létre, spontán – élő és élettelen – folyamatok nyomán, az ember közreműködése nélkül nem jönne létre.

"Mivel, ahogy tárgyaltuk, az MI még nem olyan intelligens, hogy saját akarata szerinti döntést hozzon. Programkódot követ."

Attól még, hogy kódot követ, meglehetősen intelligens. Most nem azt akarom ezzel mondani, hogy egy önvezető autó képességeit fel kellene ruházni Byron lírájának elemzési lehetőségével, de döntési képességgel mindenképpen, ráadásul aki ült már volán mellett, az tudja, hogy lehetetlen minden helyzetet előre szimulálni, egy szemléletmegoldást kell beprogramozni, hogy változó körülmények között is dönteni tudjon, a gázra, vagy a fékre 'lépjen'. Egy ilyen szoftver intelligenciája nem túl széleskörű, de léteznek nagyobb igények, ahol szélesebb körben kell elemezni és döntést hozni.

> Attól még, hogy kódot követ, meglehetősen intelligens.

Ez egy nagyon érdekes téma. Az MI esetében az intelligencia szót leginkább azért használjuk, mert a működési elvéből fakadóan képes tanulni, alkalmazkodni, képes mintázatokat felismerni a be- és kimenet összefüggéseiben. Mégis valami egészen más az MI és az emberi intelligencia.

Az MI erőssége, hogy mivel a komplett problémakör összes összefüggéseit egyszerre tanulja, a felismert összefüggések nem annyira komplexitásfüggőek. Az ember jellemzően viszonylag egyszerűbb, követhető, pár szabállyal leírható összefüggéseket képes csak tudatosan felismerni. Mondjuk olyat, hogy ha egy sakkfigura úgy lép, hogy nincs támadva, viszont egyszerre két nálánál értékesebb figurát támad, akkor az egyik sakkfigurát igen nagy valószínűséggel le tudja ütni. Komplexebb összefüggések már kicsit homályosabban fogalmazódnak meg az emberben, pl. hogy nem jó, ha két gyalog egy vonalban áll. Vagy nem jó a nyílt vonal. Ennél komplexebb összefüggéseket az ember már nem tudatosan fedez fel, a dolog sokkal inkább megérzésszerű, vagy más homályos fogalmakkal írható le, egyensúllyal, szimmetriával, szépséggel, és más nem éppen egzakt fogalmakkal.

Az MI viszont gond nélkül fel tud ismerni és következetesen alkalmazni nagyon komplex összefüggésrendszereket. És pont ez okoz az ember számára fejtörést, mert tud írni egy nálánál jobban sakkozó MI-t, de mégsem képes tanulni tőle. Lehet az MI olyan összefüggést tár fel, ami emberi nyelven úgy fogalmazható meg, hogy „ha az ellenfélnek mindkét huszára megvan és azok különböző színű mezőn állnak, valamint van legalább két gyalog, ami a kiindulóhelyzetben van olyan futója, ami 3-nál nagyobb távolságra képes lépni, nekem meg a vezérem a 4. sorban van, a gyalogjaim száma legalább hat, továbbá …, akkor a bástyával kettőnél kisebb vagy háromnál nagyobb távolságra lépés jó eséllyel vezet a vezérem és a futóm elvesztéséhez”. Ilyen komplexitású összefüggést az ember nem hogy nem képes felismerni, ha valaki rálel, akkor sem képes átélni, átgondolni és használni. Nyilván ezért is tudja egy MI egy adott területen messze lekörözni az embert.

Az MI viszont rugalmatlan. Ha megváltoztatjuk úgy a sakk szabályait, hogy a bástyával lehet átlós irányban is egy mező távolságra lépni, a futó viszont csak legalább két mező távolságra léphet, valamint a huszár nem ugorhat át két figurát, akkor az ember a hagyományos sakkban megszerzett tudásának igen jelentős részét fel tudja használni ezen megváltozott szabályrendszerben is. Nyilván kell neki is idő, mire ráérez arra, hogy ezek a változások milyen veszélyeket hordoznak és milyen lehetőségeket nyitnak meg, de egy jó sakkozó igen hamar jól fog játszani ezen az alternatív sakkváltozaton is. Az MI esetén viszont ez nem fog működni. Kvázi majdnem annyit kell tanítani ezen megváltozott szabályokkal játszott játszmákkal, mintha a nulláról indulna. Nyilván apró és lassú változásokra az MI, ha van elég input, képes folyamatosan adaptálódni, de az összefüggések kicsit erősebb és gyors változására az MI nagyon rosszul fog teljesíteni.

Az ember valahogy sokkal elvontabb fogalmakra használja az intelligens gondolkodást. Pl. ha valaki jó orvos, akkor valószínű egy gép javításában is találékony lesz, hiszen mindkettő valamiféle rendszer, ahol különböző részegységek összehangolt tevékenysége zajlik. Vagy egy jó informatikus a főzés során is képes az informatikai ismereteit alkalmazni, hiszen a főzés során is vannak párhuzamosan végrehajtható feladatok, kritikus útvonallal. Az emberi tudás nagyon könnyen konvertálható, mert a tudás összefüggései nem annyira konkrétak, hanem sokkal absztraháltabb szinten működnek.

Vagy ott vannak a klasszikus 3*3-as mátrixú IQ-teszt kérdések. Pl.:

1 2 3

2 3 1

3 1 ?

Nyilván az ember felismeri, hogy minden számjegy egy sorban, illetve egy oszlopban csak egyszer szerepel. De ha nem számjegyek vannak az ábrán, hanem színek, vagy síkidomok, vagy különböző irányban álló nyilak, vagy különböző gyümölcsök, akkor az embernek az az érzete, hogy a mintázat, a logika ugyanaz, mert a problémát nem számokkal oldja meg, hanem azokból absztrahált fogalmakkal. Az MI számára valami lehet teljesen más jellegű probléma, ami az ember számára meg igencsak hasonló.

Összességében tehát ugyanaz az MI valóban lehet az egyik szempontból meglehetősen intelligens, jóval intelligensebb az embernél, egy másik szempontból meg olyan buta, mint egy faék. A MI intelligenciája egészen más fogalmat takar, mint amit az ember esetén értünk rajta.

Lehet, hogy először a MI fogalmát kellene tisztázni.

Azt nem tartom intelligensnek, amit csak beprogramoznak és elvégzi a feladatot.

Ez csupán csak egy robot.

Azt tartom intelligensnek, ami képes tanulni.

Ezt nevezem MI-nek.

A sakkprogram képes tanulni?

Vagy egyszerűen csak a lehetőségeket nézi és a végeredmény valószínűsége alapján lép?

Mert akkor itt tényleg a számítási teljesítmény a lényeg.

Intelligencia nincs mögötte.

> A sakkprogram képes tanulni?

> Vagy egyszerűen csak a lehetőségeket nézi és a végeredmény valószínűsége alapján lép?

A Deep Blue ez utóbbi volt. Az AlphaZero meg az előbbi.