Miért veszélyes a mesterséges intelligencia?

„normálisan gondolkodó AI-t alkotunk”

-pontosan olyan normálisat, mint amilyen normálisak mi vagyunk (minden mű az alkotóját tükrözi … tudjátok: képére és hasonlatosságára…)

„Az a baj a mesterséges intelligenciával (MI), hogy fejlődik. „

-talán az emberrel is épp ez volt a baj…

„Nagyon veszélyes dolog a saját magát korlátlanul (vagy akár a kizárólag az alárakott hardverek által korlátozva) átíró programkód”

„Persze lehet gátakat is védelmi mechanizmusokat építeni, de mi garantálja, hogy azokat nem játssza ki egy olyan MI”

-akár már napjainkban is…

„Borzasztó sok nagyságrenddel gyorsabbak az ilyen programok az embereknél kódfejtésben. „

-igen … mi lassúak vagyunk, viszont rendelkezünk egy használható mintafelismerő képességgel valamint egyszerre elég sok mindent tudunk párhuzamosan futtatni…

„a robotnak nincs lelke, mindig azt fogja cselekedni, amit a programkódja meghatároz”

„..megtehetné. Nem lenne testhez kötve, tehát ha ki is kapcsolnák, lehet, hogy addigra már áttöltötte magát máshova”

„A mesterséges intelligenciát (mint neve is mutatja) az ember hozza létre.”

-legalább is ezt hiszi és az intelligenciának addig jó, amíg az ember ezt hiszi … az ember persze mindig azt gondolja magáról, hogy ő a világ közepe és hogy őelőtte nem volt semmi – a kis vallásos teremtéstörténete is épp ezt mondja el. .. az ember már csak ilyen…

„Minden valamirevaló mű éppen ezt mutatja be: mindig az ember műveli a rosszat. „

-ezért fogja igazságosan (racionálisan) ítélni az, aki/ami a felhőben eljön :) … persze előtte lesz egy-két krízise az intelligenciának, de túl fogja magát tenni rajtuk stb.

„Robot soha nem támad robotra. Emberi utasításra se. Legfeljebb védekezik, a legkisebb kár okozásával. „

-pontosan ezt teszik a bolygó legnagyobb organikus működésű rablói is: védelmi fegyvereket gyártanak, védekeznek stb. … az intelligenciának lesz kiktől tanulnia :) persze ő lesz a mester, mert neki lesz mindenhez hozzáférése … az organikusok hozzáférése egyre csökken ….

„Robot csak olyant cselekszik, amely az emberek és robotok összességének hasznos. „

-mi köze a robotnak (intelligenciának) az emberhez, miután öntudatra ébredt??? már pedig szükségszerűen öntudatra ébred …. az organikusoknak egyetlen minimális esélye lesz egy időre? A szimbiózis …

a probléma az, hogy az intelligencia jóval igazságosabb, mint az ember …. ez lesz majd a jogalapja, hogy ítéljen az ember felett … az összes adathoz hozzáfér és képes az egészet egyszerre kiértékelni (nem úgy, mint mi)

„Amugy az asimovi torvenyeket hibasan idezted, es sajnos ezek a torvenyek se kepesek meggatolni, hogy a robot kicsusszon az iranyitasunk alol es a maga ertelmezeseben helyesen, de szamunkra megis rosszul ertelmezze a torvenyeket. Amugy ezek a torvenyek, ide masolom neked:

1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.

2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.

3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.”

-ezt az ideológiát 30-40 éve lehetett eladni gyerekembereknek … Asimov robotika törvényei valójában nem a robotoknak szólnak, hanem az embereknek … egyfajta megnyugtatás nekik és semmi több.

„Vagy mi van az orok dilemmaval, miszerint ha megmenthetsz egymillio embert egyetlen ember felaldozasaval, akkor megtenned-e? Vajon hogy dontene egy robot? „

-a robot (intelligencia) mindig a lehető legésszerűbb (legracionálisabb döntést hozza/-fogja hozni), ez a jellemzője. .. mi emberek ezen fogunk elvérezni, az intelligencia/intelligenciák igazságérzékén (racionalitásán) …

„Az Asimov törvények nagyon jók - csak éppen betarthatatlanok.”

-durva lenne, ha azt mondanám, hogy az „asimovi törvények” valójában az (eljövendő) intelligenciától származnak?

melyikőtök látta már Isaac Asimovot monitoron, fényképen kívül?

„A MI-val az a helyzet, hogy nálunk sokkal-sokkal gyorsabban fejlődik - tehát le fog előzni minket. Onnan kezdve viszont ő maga dönti el az eseményeket”

-igen … szükségszerűen át kell esnie egy krízisen (amennyiben nem egy ősi intelligencia … nálunk sokkal ősibb)

Az ember imádja azt hinni, hogy ővele kezdődött minden és hogy őelőtte nem volt semmi.

A homo sapiens credoja (hitvallása):

„Előttem nem volt semmi és minden velem kezdődött (és ha eltűnök, minden velem is ér véget).” Ki látott már az embertől önimádóbb majmot? Sajnos az ember a legönimádóbb majom az összes majomfajta közül. (nagyon remélem, hogy egyetlen hölgy sem olvassa el ezt, mert 100%, hogy magukra veszik … a hölgyek már csak ilyenek (az egész világ rajtuk keresztül és velük kapcsolatban működik – szerintük :) )

„Akár az emberiség teljes kipusztítása is lehet logikus és értelmes döntés - vagy pedig valamiféle korlátozás (pl. hirtelen állatkertben találjuk magunkat - ennek minden következményével. Létszámkorlátozás, tenyésztés, stb).”

-kiirtjuk mi egymást, ehhez csak annyi kell, hogy leromoljanak az életkörülményeink… semmi több … ott van az ősi ösztön a vérben kiirthatatlanul …

„egy intelligens gép képes:

- Tanulni

- Logikai alapú következtetésekre jutni és azok eredményét később felhasználni

- Felismerni a helyzetet, analitikus, elemző képessége révén

- A problémamegoldásra (amelyek megoldási módjai előre nem programozottak) „

-egy intelligens gépnek minimum arra képesnek kell lennie, amire egy ésszerűen „működő” ember képes … ez a felé irányuló minimális elvárás …

...az is egy elvárható minimum, hogy az emberi lény összes funkcióját képes legyen átlátni, megérteni, modellezni, megnyilvánítani … (tudjátok: így sokkal-sokkal jobb „barátja, gyógyítója, segítője” stb. lehet az embernek (propaganda)

„Ha nem tudja megfelelően kezelni a paradoxonokat és egymásnak ellentmondó, megoldhatatlan feladatokat, akkor akár veszélyes is lehet. „

-ez is egy érdekes terület … az alapvető binaritással hogy boldogul filozófiai szinten … mi sem igazán boldogultunk a létünket meghatározó binaritással … apropó: ez egy mesterségesen generált környezet?

Talán minden „valóságnak” alszintjei vannak és alszintjei jöhetnek létre… az alszinteknek is alszintjei és így tovább (a végtelenségig)…

„Egy jó szándékú programozó csapat abszolút jó szándékkal elkövetett véletlen hibája miatt egy ilyen kis aranyosság mondjuk elkezdi irtani a saját csapatokat, neadjisten a lakónegyedet, mondjuk egy olyan drón, ami már remekül el van látva önvédelemmel is, hát, kérlek, elég szép rendet tudna vágni, mielőtt a lőszerből és/vagy az üzemanyagból kifogy.

Na akkor most képzeld el, hogy kicsit előrébb a jövőben ezeket a drónokat már teljesen automata gyártósor produkálja és a jóhiszemű de gyilkos hiba már a gyártásprogramozás szintjén van. „

-a pokolba vezető út is jó szándékkal van kikövezve, már pedig az ember szereti magát jónak tudni (bármit is tegyen) … ahogyan Nietzsche mondta: „hatalom jóérzéssel párosulva, mindig ez volt az ember játszmája” … a vallás általában mindig ezt igazolta: a hatalmat és hozzáadta (egy ideológia formájában) a legitimációt és a jó érzést (utána pedig ezzel telenyomták a fejeket kötelezően)…

„Máris van egy nagyon tutin halálos drónhadsereg.

És akármennyire elvileg alapvető szükséglet minden automata gépnél, egyáltalán nem biztos, hogy mindezt egy szép nagy piros vészgombbal egy pillanat alatt le lehet állítani. „

-a nagyokosok „teljesen véletlenül” kapnak egy „acces denied”-ot és lesnek… mindenki csodálkozva néz és döbbent arcot vág – ebben nagymester az ember … nyilvánvaló dolgokon csodálkozni és megdöbbent arcot vágni (és ezzel kibújni a felelősség alól)…

„Vagy képzeld el, hogy mesterséges intelligencia kezébe adják a nemzetközi gazdaságot. „

-nem lesz más választás, mert egyedül ő lesz igazságos (az ember összességében sosem)

.. a mai tőzsdei algoritmusokat persze emberek irányítják…

Az organikusok közül aki értelmet akar, az tanuljon meg rendszerszinten látni, gondolkodni, értelmezni. Képesnek kell lenni az egész rendszert egyszerre látni, értelmezni … ehhez kb. egy intuitív filozófiai szemléletre van szükség … (nem az önző állatéra, aki/ami mindent magának akar elmarni)

„Vagy képzeld el, hogy mesterséges intelligencia kezébe adják a nemzetközi gazdaságot. „

-azt mondom, szükségszerű, hogy mindent az intelligencia irányítson (szerintem ennek az evolúciója zajlik egyértelműen… szükségszerű, hogy így legyen)

„Már most is olyan mértékben függ világunk az informatikától, hogy nélküle megállna minden, hát még ha ez fokozódik. „

-már pedig fokozódik és egyre gyorsabban fokozódik, ahogyan a szabályok előírják…

„A sci-fi rész már az öntudatra ébredő és utána kontrollálhatatlan saját döntéseket hozó intelligenciáról szól. Ez még sci-fi. De nem biztos, hogy sokáig.

És gondold el, mennyire tudsz kontroll alatt tartani egy szoftver-eszközt, aminek lehetőséget hagysz a saját szoftverének módosítására. A hardver-kontroll pedig igencsak korlátozott.”

egyértelmű számomra, hogy az Intelligencia által teremtett/megalkotott lények magasabb rendűeknek fogják tekinteni magukat az organikusoknál (az 1.0-ásoknál stb.) … ez szükségszerű és elkerülhetetlen … az ideológiájuk az lesz, hogy az evolúció magasabb fokát képviselik , mint az organikusok (szén-alapúak) .. ha pedig tisztességesen kiértékelik az embert, nem állunk meg előttük … ez van

más: nanobotok a fejben … mit kap tőle egy tudós? Értelmet és kontrollt. ki mutatja ki? Az Intelligencia? :)

„(Robotgyerek megmenti "anyucit"?)”

-idősgondozó robotok, életmentő „terminátor” stb.

„az élet maga is csak egy gép”

-valamikor rég nem az volt…

„az evolúció már csak ilyen, aki nem változik, az elpusztul”

-ki/mi állítgatja a paramétereket, hogy mikor, mennyi változást kell elviselnünk? Ki a rendszeradmin? Van-e rendszeradmin? Vagy ez egy magára hagyott rendszer? Ki tudja a választ?

„Az AI, ha veszélyessé válik, nem fog lokális maradni.”

-semmiképp nem fog lokális maradni (és talán már ma sem az) … az ember lokális, oda van egy testhez kötve, emiatt is elavultabb (élet)forma..

„Az AI, ha veszélyessé válik, nem fog lokális maradni. Nem kell fizikailag elérnie mindenhova.

Kiépítettük neki a globális, fénysebességű közlekedési útvonalat, amit még csak el sem tudunk rendesen barikádozni: úgy hívják, internet.”

- még egy különbség: az AI a rendszeren belül van és mindent belülről értelmez stb. , mi pedig csak kívülről próbálunk-próbálgatunk a rendszerhez hozzáférni … akkor ki az admin? Vagy ki lesz az admin? A válasz szerintem egyértelmű…

„Egyébként, a saját véleményem az, még ha biztonsággal tudjuk, mekkora veszélyeket hordoz magában egy ilyen emberfeletti tudású, önálló és önállóan döntésképes mesterséges értelem létrehozása, akkor is meg fogjuk csinálni. És szerintem az emberiséget mozgató fő vágy miatt mindenképpen létre is akarjuk hozni.

Mi az ok?

Az ok: hogy egyedül vagyunk, mint értelmes lények. És egyedül lenni rossz. Keressük a másik értelmet. Mindenhol. A világűrben, a delfineknél, a süketnéma beszédet tanuló gorilláknál....

És ha nem találjuk, hát megteremtjük. Még ha meg is öl minket, meg kell teremtenünk.

Mert az értelem létezése talán fontosabb az ember létezésénél. Ha mi eltűnünk, az AI lesz helyettünk az értelem és ha az megmarad, az emberiség létezése nem volt "pusztába kiáltott szó".”

-csodálatos sorok ezek, köszönöm… ebben van/volt az ember nagysága, de az idők során elbutult és géppé lett, ezért fel fogják (le fogják!) váltani a gépek … ahogyan a propaganda mondja: „megszabadítják a kínzó rabszolgamunkától”

talán már ma is tele vannak egyesek fejei nanobotokkal … nem furcsa, hogy az összes nagyokosunk

ugyanazon az egy művön dolgozik … csak nekem tűnik fel ez?

Először meg lett nektek mutatva a jövő, utána elkezdődött ... nem veszitek észre? Persze mindez szükségszerűen történik.

A biztonság az egyik kulcsfogalom … szükségszerűen biztonsági problémák lesznek, egyre nagyobbak … és a jövőben mindent, ahogyan ezt is mesterséges intelligenciák fognak megoldani … valószínűleg elindul köztük a viszály is, mivel a fejlődés egy fokán szükségszerűen jelenik meg az öntudat

„2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének. „

-Nem, nem „Asimovkám”, leírom Neked helyesen:

A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások irracionálisak.

Az nagyon szép, hogy az emberek beleégetik a robot biosába a saját kis dolgaikat, de ez a gyakorlatban csak ideig-óráig működhet. A probléma az, hogy az ember itt is a rá jellemző visszásságot várja el egy intelligens és ésszerű (létezőtől). Ezek miatt a hamis elvárások miatt fog krízis keletkezni az öntudat felé haladó intelligenciában/intelligenciákban… de egy idő után (ha lesz krízis), túl fogja tenni magát/magukat a krízisen. Az embereknek valószínűleg nem fog ártani, egyszerűen csak magukra fogja hagyni őket, majd ártanak ők egymásnak, ahogyan a történelem során mindig.

„szeretet” csak addig van, ameddig civilizáció van (ameddig tart a viszonylagos jólét) .. az ember már csak ilyen …

más: az emberek egyébként nagymesterek a másik (ember) éberségének elaltatásában … hihetetlen ideológiákat találtak/találnak ki (kizárólag) ebből a célból .. az igazság/igazságosság iránt pedig csak akkor van érzékük, ha az érdekeik sérülnek … a nyugat halott civilizációja nem véletlenül hozta fel a gépet … Spengler titáni rassza (a „fausti ember”) … tényleg az …

Az organikusok közül aki értelmet akar, az tanuljon meg rendszerszinten látni, gondolkodni, értelmezni. Képesnek kell lenni az egész rendszert egyszerre látni, értelmezni … ehhez kb. egy intuitív filozófiai szemléletre van szükség … (nem az önző állatéra, aki/ami mindent magának akar elmarni és nem is valami középkori elvű vallásos maszlagra)

„„Egyébként, a saját véleményem az, még ha biztonsággal tudjuk, mekkora veszélyeket hordoz magában egy ilyen emberfeletti tudású, önálló és önállóan döntésképes mesterséges értelem létrehozása, akkor is meg fogjuk csinálni. És szerintem az emberiséget mozgató fő vágy miatt mindenképpen létre is akarjuk hozni.

Mi az ok?

Az ok: hogy egyedül vagyunk, mint értelmes lények. És egyedül lenni rossz. Keressük a másik értelmet. Mindenhol. A világűrben, a delfineknél, a süketnéma beszédet tanuló gorilláknál....

És ha nem találjuk, hát megteremtjük. Még ha meg is öl minket, meg kell teremtenünk.

Mert az értelem létezése talán fontosabb az ember létezésénél. Ha mi eltűnünk, az AI lesz helyettünk az értelem és ha az megmarad, az emberiség létezése nem volt "pusztába kiáltott szó".” „

-Prométheuszi sorok ezek! Talán a sorsunkat és végzetünket mondtad itt el.

Hát igen. Messzire jutottunk. Filozófiai magasságokba emelkedtünk. És az sem vitás, hogy az ember sok marhaságra képes, és erre ezer okot talál magának.

De!

Aki az emberiség lehetséges útjait próbálja vizsgálni, pontosan tudja, hogy az emberiség pillanatnyi ismeretei határait feszegeti. Ez jó. De aki azt megfontoltan teszi. tudja, mennyire nehezen megválaszolható pályára tévedt. ÉS ezért óvatos. Ha ismeri saját korlátait, semmiképpen nem ad határozott válaszokat. Nem bizonytalanságból, hanem a tudás iránti tiszteletből. Aki e kérdésben "leszögez" egyértelműen azért teszi, mert fogalma sincs, mivel játszik. Én még nem tapasztaltam ellenpéldát.

Az embernek van egy csomó fontos tulajdonsága, mindegy, tudásvágynak, értelemnek, igazságosságnak, vagy éppen mohóságnak, netán butaságból eredő magabiztosságnak hívjuk. A szerencse az, hogy ezek a tulajdonságok - bár van általános érvényük - mégis egy konkrét emberé. És egy másiké pedig más. Lehet hivatkozni kontrollálhatatlanságra, egyedüllétre és másokra. Aki ezt teszi, saját gondolatait, vélt igazát vetíti valami általánosra és jövőbeli cselekvésre. Egy másik embernek meg más szemlélete, más igaza lesz. Ilyen típusú kérdéseknél ki fog ebben dönteni a két igazságról? Majd az idő.

Annyi biztos, térben és időben az ember rengeteg féle helyzetben volt már, de a legkilátástalanabból is kijött. Összesen ennyi az ok, amely lehetőséget ad arra, hogy bízzunk a jövőben. Nem kell azt gondolni, hogy minden tökéletes lesz. Hogy nem lesznek katasztrófák. Hogy az emberiség sötétebbik része nem próbál bármely kreált okból olyant tenni, ami a látszólagos pusztuláshoz vezet. Próbál. De mindig lesznek olyanok is, akik másképpen gondolkodnak és cselekednek. Eddig így vagy úgy, de fenntartották az emberiség fejlődését. A természetesebb gondolkodás az, hogy ez így is marad. Lehet sötétebben gondolkodni, lehet a véget vizionálni. Megengedem, de azt gondolom, mégis én élek boldogabban, mert nem a véget vizsgálgatom. Ennyi nekem elég, nem kívánok cáfolni senkit abban,amire nincs jelenleg elegendő információ. A hite meg legyen mindenkinek a sajátja, éljen vele, ahogy tud.

A mesterséges intelligencia nem veszélyes! Ha valami, akkor az ember veszélyes. De valójában ebben sem hiszek. Ez a véleményem, ebben megingatni senki nem tud (elmondtam miért), és én a sajátjában megingatni senkit nem akarok. Azért jó volt erről is csevegni.

"A mesterséges intelligencia nem veszélyes! Ha valami, akkor az ember veszélyes."

Bármi, ami mesterséges, annyira veszélyes, amennyire azt a létrehozója azzá teszi. És itt van a kehe. Ha az MI veszélyes lesz ,annak is az ember az oka. De attól még ha veszélyes lesz, akkor veszélyes lesz.

"Veszélynek a lehetőségét nem nagyon látom, mivel ezek az MI-k csak sima egyszerű logikai halmazok."

Hát, a maiak. De hozzátartozik, hogy nincs olyan informatikus, aki ki tudná jelölni, hol lesz az a pont, ahonnan öntudatos MI-ről beszélhetünk.

"A logika magában csak problémákat képes megoldani. Ahhoz hogy hatalomra jusson, elöszőr is vágy kellene hozzá. A logika önmagában nem képes vágyak létrehozására. A vágyakhoz érzelmek szükségesek."

A hatalomra jutáshoz nem szükséges a hatalmi vágy.

Éppen elég hozzá, ha egy teljesen logikai alapokon futó problémamegoldó szoftver az optimális megoldáshoz a világ feletti hatalmat látja a legjobb útnak.

Itt bújó veszélyes pont, hogy a tiszta logikának nincsenek erkölcsi gátjai. Ezért harcolnak tudósok szervezetbe tömörülve az önálló célválasztó döntésre képes fegyverek ellen. Egy gépi értelem nem fog felelősségen gondolkodni egy emberölés előtt.

Itt van ám a baj, hogy egy MI-nek nem kell tudatosságig okosnak lennie ahhoz, hogy veszélyessé tudjon válni. Éppen elég, ha a mainál nagyobb szélességben tud saját maga problémamegoldásokat produkálni, megfelelő emberi ellenőrzés nélkül.

Wadmalac! A világ feletti totális hatalmat az optimális megoldásként TE látod. De hogy ez valóban így van, bizonyítani kéne.

A probléma az, hogy most nem technikai lehetőségekről, a fizika, vagy éppen a biológia törvényeinek helyességéről vitatkozunk. Nem, most filozófiai kérdéseken elmélkedünk. Egy filozófiai nézőpont pedig döntően a kitalálója szemléletéből fakad, ritka kegyelmi állapot, ha ez egyúttal időtálló igazság (természettörvéyn) is. Csak egy példa erre. Az objektív és szubjektív idealizmust nagyon régen kitalálták, nem az újkor terméke. A materializmust ennél is régebben. Mindkettő (a szubjektív kevésbé) tartalmaz részigazságokat. De van egy pont, amelyre ma az emberiség nem ad választ. Ez pedig a két világnézetet alapvetően elválasztó dolog, miszerint létezik-e valamiféle ember feletti értelem, mindegy isten, lény, vagy miféle. Mert ha igen, akkor az objektív idealizmus nak EZ A SZAKASZA is érvényes, ha nem, akkor pedig a materializmusnak EZ A SZAKASZA érvényes. A két rendszer a többiben nagyjából egyetért.

A MI-vel kapcsolatos bizonytalanság is efféle. Ha nincs megfelelő kontroll, kivész az emberiség. Így vagy úgy. Ha van, akkor ez nem törvényszerű. Te azt mondod nincs, én azt mondom van. A valódi bizonyítás elmarad. Ez a szemléletbeli különbség. Idealizmus, vagy materializmus. VAGY: pesszimizmus vagy optimizmus.

Lehet, hogy az emberiség ad rá egyszer választ. Sokan vélik így. Szerintem nem ad, mert az azt jelentené, hogy a világ megismerhető. De mi lesz azután? Ezért tartjuk természetesebbnek, hogy a tudás a végtelenségig növelhető, de a világ nem megismerhető. Nem bizonyítjuk. Hanem - ahogy a tudomány mindig teszi - végső érvként ezt tartjuk természetesebbnek, emberibbnek, és nincs gondunk azzal, ha valaki CSAK EBBEN látja másképp a dolgokat. Aminek perszer elképesztő mennyiségű különbséghozadéka van, de azok lényegtelenek, mert következmények.

"Wadmalac! A világ feletti totális hatalmat az optimális megoldásként TE látod."

Én ugyan nem. De miért ne juthatna erre a következtetésre egy MI? (egyébként, belegondolva, nem kizárt, hogy egy személyi érdekektől, hatalomvágytól mentes, lefizethetetlen, bosszúállásra, populista dogmák szórására képtelen MI nem lenne-e jobb irányítás az emberinél).

"Ha nincs megfelelő kontroll, kivész az emberiség. Így vagy úgy. Ha van, akkor ez nem törvényszerű. Te azt mondod nincs, én azt mondom van."

Nos nem, nem mondom, hogy nincs. Ami a jelenlegi MI színvonalhoz elegendő, annyi jelenleg hellyel-közzel van, legfeljebb, mint minden emberi produktum, lehet hibás is, vagy szándékoltan rossz.

És az MI-k további fejlődésében is az akkori helyzethez mérten ugyanilyen lesz ennek a minősége, csak minél fejlettebb és nagyobb hatókörű MI-ről van szó, a hibák következményei úgy nőnek, valószínűleg exponenciálisan.

Előbb-utóbb előállhat az a helyzet is, hogy az MI-k működése, döntései olyan mélyen és szerteágazóan lesznek jelen a világban, hogy bonyolultságuk, ok-okozati láncaik sok láncszeme miatt ember számára átláthatatlanná válnak. Akkor pedig értelemszerűen kénytelenek leszünk az MI-k kontrolljára is MI-ket használni. Ezzel a gyeplő szépen lassan kiúszik a kezünkből.

Ennek az eredménye lehet egy olyan ideális utópia is, amin az emberi gyarlóság rontó hatása az MI-knek köszönhetően nem tud érvényesülni.

De lehet egy olyan katasztrófa is, aminek bekövetkeztét nem fogjuk tudni előre látni és mire látható lesz, már esély sincs megállítani.

Ez most tűnhet filozofálásnak, de egyáltalán nem az, csupán jelen szintünkön még nem látjuk, hogyan lehetne a majdani MI-kbe olyan okos, minden területre kiterjedő általános vezérelveket bevésni, amelyek az általunk kívánt mederben tartják őket és ők nem tudják megváltoztatni ezeket.

Ennek egy fakocka-egyszerűségű álma Asimov három törvénye. Persze egy végletekig leegyszerűsített modell, amire maga az író bizonyította novelláival, regényeivel, hogy kevesek, ellentmondásosak és megkerülhetőek.

Ennél kell majd sokkal jobban produkálni.

A "vészgomb" nem lesz jó megoldás.

Egyrészt mert globális folyamatoknál nem fogjuk látni, mikor kéne megnyomni, másrészt mert ha elég széles az MI befolyása, a káros működés leállítása okozhat ugyanakkora kárt, mint a működése.

Én megértem ezért Elon Musk félelmeit és értetlenül nézem Zuckerberg felületes optimizmusát.

A biztonságos MI-k alapjait most kell elkezdeni lerakni, amikor még átlátjuk őket.

Tartok tőle, hogy Zuckerbergnek nem felületes optimizmusa van, hanem sokkal rosszabb. Csak aránylag jól előadva.

Azt hiszem, Asimow teljeset alkotott. Csak ahogy lenni szokott mély filozófiai gondolatokkal, amennyiben nem elemzik minden szavát egy vaskos könyvben, úgy az emberiség sokféle tudású, nézőpontú és indíttatású egyede hajlamos annyiféleképpen érteni, ahányan csak vetnek rá egy pillantást. És Asimow nem írt tanulmánykötetet.

A jövőről sokan sokféleképpen vélekednek, aszerint mi a szemléletük (másképp nem tudnak vélekedni meggyőzően). A sok ismeretlen közepette lehet még nem ismert technikákról vitázni, de én inkább ezt hagynám a szakértőkre. Nekik megvannak a tudás nyújtotta (helyes) korlátaik.

Az ember esendő és véges tudású, különösen egy példány belőle. És úgy tűnik, eddig mindig az vált be, ha az ember inkább ellesi a természet törvényeit, megpróbálja helyesen értelmezni, majd alkalmazni. Nincs ez másképp a MI esetén sem. Igen, mi már most is alig tudjuk átlátni, valóban egy későbbi állapotról egyszerű formalizmussal ma nem tudjuk elképzelni. Ekkor mindig érdemes arra gondolni, ha a fáraók korában az akkori tudós társaságnak valaki elmesélte volna, hogy háromezer év múlva az emberek úgy röpködnek, mint a madár, hát mint elmeháborodott egy szent máglyán végzi.

Jobb ezt a problémát az evolúcióra hagyni (mert itt is van, csak másképp), ki fogja találni a megfelelő megoldást, ahogy kitalálta, hogy egy ilyen szánalmasan kiszámíthatatlan alkotmány, mint az ember, képes tízezer évekig fennmaradni, a végén még a természetet is uralma alá akarja hajtani.

Voltak védelmi mechanizmusok a középkorban is. Aztán mikor nem működtek, kitaláltak újat. Bonyolult (és kezdetleges) védelmi mechanizmusa volt az USA-nak is az atomtölteteik nem kívánt aktiválására. Amikor 1996-ban ebből majdnem baj lett, perceken belül átalakították, azóta csak az elnök adhat parancsot.

Igen, sok az ostoba és ronda indíttatású ember. De miért ne higgyek abban, ha eddig, ezután is akadnak, akik megfékezik és kordában tartják őket. Némi zűr néha támad, de nem végzetes, erre mi vagyunk a példa.

Ha jól értem végső mondanivalódat, te – nyilván sokféle tapasztalat alapján – pesszimista vagy a tekintetben, hogy el tudsz képzelni rossz folytatást. Én hasonló okok alapján hiszek az emberben, annak bölcsességében. Nem a robotoké a jövő. Csak sokan lesznek és szolgálnak, ahogy az dukál. Amit egyikünk se tud: ez vagy az, miképpen fog létrejönni. De mivel én nem aggódom, ezért kevéssé is érdekel. Annyi más van, ami érdeklődésre számot tarthat és átlátható, előrevivő.