Szexőrült nácivá vált a mesterséges intelligencia erről Mia véleményetek?

Hogy működik egy mesterséges intelligencia? Mondjuk sakk esetén úgy, hogy betanítanak neki egy raklap különböző sakkpartit, és ebből megtanulja, hogy adott szituációban mely lépések vezetnek a legjobb eséllyel a győzelem felé.

Az ilyen beszélgetős mesterséges intelligenciáknál általában azt csinálják, hogy betáplálnak egy csomó beszélgetést, amiből alapszinten megtanul kommunikálni, majd a felhasználókkal történő beszélgetésből tanul tovább. Igen, ha az MI azt látja, hogy a beszélgetéseknek az a szokásos menete, hogy náci propagandát szokás durrogtatni, akkor ezt tanulja meg, és ezt fogja tenni. Ez nem az MI-t, hanem az embereket minősíti, akiknek a beszélgetéseiből az MI tanult. (Amúgy ha jól tudom, akkor később kiderült, hogy Tay kimondottan trollkodás áldozatául eset, nem a felhasználók általában voltak ennyire szélsőségesek, hanem egy szűk csoport szándékosan ilyen irányba ferdítette el az MI tanulását.)

De az az igazság, hogy az ilyen beszélgető MI-k pusztán karaktersorozatokat generálnak. Nem értik a szavak jelentését, egyszerűen csak megfigyelik, hogy a „Hogy vagy?”-ra a legtöbbször az a válasz, hogy „Köszönöm jól”. Ha sokan tennék fel neki a „Üklebükk?” kérdést, idővel ő is feltenné másoknak, és ha mások erre rendszerint azt válaszolnák, hogy „Baklafitty”, akkor megtanulná, hogy az „Üklebükk?” kérdésre „Baklafitty” választ szoktak adni. Ez számára nem kevésbé értelmes – pont annyira megértés nélküli –, mint az, hogy „Köszönöm jól”.

Tehát az MI nem vált nácivá. Nem ez a helyzet, hanem az MI a felhasználóktól, mint mintából megtanult olyan betűsorozatokat generálni, amit az emberi értelem náci szólamokként értelmez.

~ ~ ~

Veszélyt jelent-e az MI? Az MI csak egy eszköz, egy olyan szoftver, amiben maga az algoritmus is egy adat, ami folyamatosan változik a betáplált összefüggések mentén. Érthetőbben egy olyan szoftver, ami képes tanulni, minél több olyan esettel találkozik, mikor adott egy bemenet és egy elvárt kimenet, annál inkább képes számára addig ismeretlen bement esetén is egyre jobb kimenetet adni.

Az MI olyan szempontból lehet veszélyes, mint ahogy a fegyver veszélyes, ma egy bombával több embert meg lehet ölni, mint régen egy nyílvesszővel. De ott sem maga a fegyver a közvetlen veszélyforrás, hanem az ember, aki ilyen, vagy olyan célra használ egy bizonyos eszközt. Nem az MI a veszélyes, hanem az, amire az MI-t az embernek „van pofája” felhasználni. Az MI remek eszköz komplex problémák megoldására, remekül alkalmazható a meteorológiában, orvostudományban, meg egy raklap helyen. Meg lehet pokoli eszköz is, ha elnyomásra, kizsákmányolásra, manipulációra használja fel az *ember*.

A 2-es hozzászólással az a gond, hogy a gyerek is hasonlóan tanul.

Ha a vízre mutatsz és azt ismételgeted, hogy wasser, akkor úgy fogja hívni, mert így tanulta.

Ha értelmetlen kérdésre értelmetlen választ hall, akkor úgy fogja megtanulni.

Megfigyeli, milyen környezetben volt használva és ő is úgy fogja használni.

És, ha a gyerek sok szexista és náci dolgot hall, akkor azt is megtanulja.

Nehéz eldönteni hol a határ a programkód és a tényleges inteligencia között.

Szerintem akkor van gond, mikor a program értelmezni tudja a saját kódját és azt képes átírni úgy, hogy ilyen funkció nem volt beleprogramozva.

Hiszen instrukciók nélkül mire írná át.

> A 2-es hozzászólással az a gond, hogy a gyerek is hasonlóan tanul.

És ez miért problémás a válaszom szempontjából? Nyilván az MI működését az agy működése inspirálta, az MI bizonyos szempontból valóban hasonlóan tanul, mint egy gyerek. De van lényegi eltérés is. Az ember rendelkezik hat érzékszervvel, meg további érzékekkel, és a különböző jellegű dolgokat egyszerre tanulja, míg az MI esetén ma ott tartunk, hogy van egy fix bemenet, mondjuk egy sakkozó MI esetén egy sakkállás, azt fordítjuk le számokra, majd a kimenetül kapott értéket aztán szintén fix, általunk meghatározott módon fordítjuk le sakklépésre. Az MI be- és kimenete erősen korlátozott, célorientált, míg az ember ennél „némileg” komplexebb.

> Ha értelmetlen kérdésre értelmetlen választ hall, akkor úgy fogja megtanulni.

(Egyébként felnőtt fejjel jön rá az ember – ha rájön –, hogy mennyi olyan értelmetlennek és egyben megszokottnak tűnő dolgot tanult meg gyerekként, amire még felnőtt korában sem kérdez rá. Mert mégis mi a péket jelent az, hogy „Ecc, pecc kimehetsz?”, vagy a „Egyedem, begyedem, tengertánc”. Oké, hogy egy gyerek nem kérdez rá, de egy felnőtt sem szokott.)

> Nehéz eldönteni hol a határ a programkód és a tényleges inteligencia között.

Ezért is használjuk a „mesterséges intelligencia” kifejezést, mert sok hasonlóság van a kettő között. Az intelligencia egyfajta problémamegoldó képesség, ami képessé tesz olyan problémák megoldására, amilyen problémával előtte még nem találkoztál, esetleg a probléma pontos mibenléte sem fogalmazható meg pontosan.

> Szerintem akkor van gond, mikor a program értelmezni tudja a saját kódját és azt képes átírni úgy, hogy ilyen funkció nem volt beleprogramozva.

Elsőnek némi extra magyarázat, hogy hogyan is működik egy MI. Illusztáció: [link]

Itt a bemenet az, hogy valaki 30 évnél idősebb vagy fiatalabb, gazdag vagy szegény, meg pár hobbi, képesség. Ez alapján dönti el az MI, hogy pl. milyen jellegű termék reklámját dobja fel neked. A tanulás jelen esetben azt jelenti, hogy megmondjuk, hogy egy 36 éves x jövedelmű, y érdeklődési körű ember leginkább autóalkatrészt szokott vásárolni. A tanulás során a bemenetek és a kimenetek közötti útvonalak fognak erősebbé, vagy kevésbé erőssé válni, hasonlóan ahhoz, ahogy az agyban a neuronok közötti szinapszisok megerősödnek vagy meggyengülnek, megszűnnek. Így aztán hasonló – de nem feltétlenül ugyanolyan – bemenetre hasonló kimenetet fog generálni.

Az MI ugyanúgy egy program jól meghatározott be- és kimenetekkel, egyedül az az extra, hogy azt, hogy egy bemenetből hogyan számoljon ki egy kimenetet, azt nem a programozó kódolja bele „ha 30 évnél fiatalabb, akkor…” elágazásokkal, hanem ez az útvonal, ami a bemenetet összeköti a kimenettel, ez maga is adat, így a tanulás során változik, jobbá válik, illetve alkalmazkodik a változásokhoz, divatokhoz. Ha pl. divatba jön a fiatalok körében a fafaragás, akkor ennek megfelelően fognak a be- és kimenetek közötti kapcsolatok erősödni és gyengülni.

És akkor térjünk vissza a felvetésedre:

> Szerintem akkor van gond, mikor a program értelmezni tudja a saját kódját és azt képes átírni úgy, hogy ilyen funkció nem volt beleprogramozva.

Ha nem volt beleprogramozva, akkor nem fogja sem érzékelni, pláne nem értelmezni a saját kódját, és nem fog kimenetként sem semmi megjelenni. Kb. annyira nem, mint ahogy a villanykörte nem zenél, a hangszóró nem fűt, a radiátor meg nem világít.

De ha még valamilyen módon rá is kötnénk az MI kódját vagy állapotát bemenetként önmagára, milyen kimenetet is kellene meghatározni? Mert ennek hiányában csak zajként fog funkcionálni. És hogyan tanítsuk be arra, hogy milyen bemenetre milyen kimenetet várunk el? Mivel jelenleg az MI ott tart, hogy specializált feladatok ellátására tudjuk használni (már ahol), az adott célt csak kevésbé hatékonyan tudná elérni. Ennek sok értelme, haszna nincs.

> Hiszen instrukciók nélkül mire írná át.

Instrukciók nélkül semmire. Az MI nem érez, nem gondolkodik, nem növeszt csápokat. Az MI ha kap egy bemenetet, kiszámol egy kimenetet. Ahogy a számológéped is. Ha nem írsz be semmit, nem fog kiszámolni semmit. Vagy a böngésződ is, ha nem írsz be semmit a címsorba, nem fog semmit megjeleníteni. Ha 100 évig áll bekapcsolva a sarokban, akkor sem, nem fog unatkozni, sem lázadni. Az MI továbbra sem egy élőlény, hanem egy szoftver. Nem fog unalmában csinálni semmit, nincsenek vágyai, céljai. Az MI csak egy nagyon okos programozási trükk arra, hogy hogyan lehessen olyan problémát is megoldatni a számítógéppel, amire magunk sem ismerjük a tuti és egyszerű megoldást, hogyan legyen egy szoftver egyre hatékonyabb és hatékonyabb, anélkül, hogy részösszefüggéseket magunknak kellene felismerni és lekódolni.

Valóban úgy volt harminc éve és részben ma is, ahogy 2xSü írja, de már régen nem itt tartunk.

Ma már nem kilobyte a memória, sőt nem is mega, hanem terabyte-okkal tudunk dolgozni, programok írnak programokat, még azon a szinten is, ahol szó sem esik mesterséges intelligenciáról és maguk a programok mindig is módosíthatták saját kódsoraikat, gondoljunk csak a debugra, a hibakereső szegmensekre. Azt lehetne gondolni, hogy addig nincs baj, amíg mindent az ember irányít, amíg a szubrutinokat mi magunk készítjük el, de ez illúzió, mert egyrészt már gyakran senki nem tudja hol és mi módosul, mert egymásba ágyazott programok futnak, másrészt meg az emberi civilizáció is úgy épül fel, hogy nem kell mindent magunknak kitalálni, amit egyszer valaki, most az tökmindegy, hogy milyen intelligencia kitalált, azt megtanulhatjuk és bármikor felhasználhatjuk, teszem azt a Pitagorasz tételt, de ugyanúgy Hitler fajelméletét is. Ha érzelmek nélkül megvizsgáljuk a kérdést, akkor abban az esetben, ha igaznak fogadjuk el a kiindulópontot, ami sok esetben nézőpont kérdése, akkor van racionalitása olyan következtetésre jutni, mint amire a nácik jutottak, főleg ha az intelligencia nincs korlátozva mondjuk a vallások által, vagy a humanista nézőpont sem befolyásolja, vagy egyszerűen az illemszabályok nem ismeretesek.

Az olyan jellegű kérdésekre , mint a - hogy vagy?- sem kötelező válaszolni, hiszen az amerikaiak is csak köszönésre használják és ezt valóban meg lehet tanulni, a világ legegyszerűbb dolga, de nem csak az ehhez hasonló csevegőrobotok alkotják az MI-t, mert lehet akár filozófiai kérdéseket elemző üzletstratégiát meghatározó intelligens programokat létrehozni, szándékosan nem az 'írni' szót használtam, mert a logikai nyelveknél nem az írás a lényeg.

A harcászati intelligens eszközök érzékszervekkel is fel vannak szerelve, akár olyanokkal is, amelyek humán viszonylatban elképzelhetetlenek, mert a látás, hallás, vagy tapintáson kívül akár radarja, vagy infra érzékelője is lehet, esetleg szonár, vagy a jó ég tudja milyen egy intelligens harci eszköznek és igen, fel lehet szerelni akár nukleáris fegyverrel is, amely használatára akár jogosultságot is kaphat, lehet ez bizonyos esetben akár célszerű is.

Tudtommal már régen nem az információgyűjtés, vagy a tanulási metódusok jelentik a problémát, hanem főként a szelekció, vagy másképpen a felejtés irányítása. vagy az olyan metódusok meghatározása, amit az embernél sem tudunk pontosan, hogy hol, vagy milyen esetben jó, vagy engedélyezett a változás lehetősége és mi az, amihez ragaszkodnunk kell.

Lényegében nem a mosógép, vagy a mikrósütő, sőt még csak nem is az intelligens arcfelismerő programok azok, amelyeknek veszélyei lehetnek, hanem az általános elemző és felügyelő rendszerek, amelyek korlátlanul bővíthetők.

Említve lett e gyerek tanulása, a párhuzam részben jogos.

Csak részben, de ahhoz eléggé, hogy egy MI létrehozásánál a tanulási, "nevelési" részt is figyelembe kell venni.

Az információk bevitelének szekvenciája, kontrollhatároknak a létrehozása fontos, mielőtt úgymond a nyakába árasztjuk a világot.

Meg kell szabni a kereteket.

És akármilyen bonyolult is lesz egy MI, ezt akkor is meg lehet tenni.

Ami a kérdésben szereplő MI-vel történt, az teljesen várható volt, ez körülbelül olyan volt, mint egy működő vágótárcsás fűkaszát bedobni a porcelánüzletbe és azt várni, hogy magától el fogja kerülni a vitrineket.

Kiegészíteném a 7-es válaszom azzal, hogy még mindig a humán intelligencia az igazán veszélyes, mert embereket is ki lehet képezni terroristának, vagy a katonai kiképzést is vehetjük alapul, mindig is vadították a harci kiképzésen a potenciális gyilkosokat, igyekeznek minél kegyetlenebb emberekké alakítani őket, ahol a szánalom nem játszik szerepet, csak a parancsok végrehajtása. Valójában valóságos pszichopata az ideális katona és nincs kecmec, csinálni kell, ha valakit civil beidegződések tartanak fogva, azt nem tolerálják, olyannyira, hogy a Vörös Hadsereg záróosztagai rögtön felállították a géppuskákat, amint felhangzott a 'hurrá' és a megfutamodókat maguk intézték el, mint beteg, káros, vagy felesleges elemeket.

Mi sem természetesebb, ha még az emberekkel is ezt csinálják, akkor egy sokkal könnyebben alakítható mesterséges intelligencia esetében olyan irányban történik a kívánatos fejlődés meghatározása, amely más szempontból kifejezetten veszélyesnek minősíthető, ráadásul a hatékonyság is a végletekig növelhető, csupán alkalmazott technológia kérdése, ami gyakorlatilag jórészt csak az anyagiaktól függ, mennyit költenek rá.

Ezt most csak úgy (bármilyen jellegű pro vs con állásfoglalás nélkül), érdekesség gyanánt hagyom itt:

Drones packed with explosives may have 'hunted down' and attacked HUMANS for the first time without using a remote pilot to guide them [link]