Tényleg indokolt olyan mértékű félelem a mesterséges intelligenciától mint sok ember teszi?

> Az MI tanulhat az emberektől, persze, de a saját korlátait nem tudja áthágni, ugyanúgy, ahogy egy ember se tudja.

Ez nyilván így van, ezért hívjuk korlátnak a korlátot. :-)

Viszont az MI képes meghaladni az ember tudását. Anno volt egy programozó, aki gó programot készített, de nem mesterséges intelligencia alapon. Mikor nekikezdett egy közepes amatőr szinten értett a góhoz. De ahogy finomítgatta a programot, úgy vált egyre jobb és jobb játékossá, mígnem profi játékossá nem vált. Viszont a program csak azt a tudást tudta, amit a készítője is.

Az MI esetén nem ez a helyzet. Az MI önmaga tanul. Egy gót játszó MI megírásához kell egy közepes szintű tudás, mert nagyon nem mindegy, hogy hogyan fordítjuk le a játékállást bemenetté. Pl. lehet úgy is, hogy a tábla egy-egy mezőjét adjuk meg inputnak, hogy az üres, fehér, vagy fekete kő áll ott. De lehet úgy is, hogy a lépések sorát adjuk meg. A két input eltérő hatékonysággal fog működni. De egy közepes szinten játszani tudó programozó képes olyan MI-t írni, ami legyőzi a világ legjobb játékosát. Az „alkotása” sokkal magasabb szintű tudást tud mutatni, mint amivel a programozója rendelkezett.

Az MI nem tudja átlépni a saját korlátait, egy gót játszó program soha nem fog, csak góval kapcsolatos problémákat megoldani. Viszont az MI képes átlépni az ember korlátait, többek között ezért is szeretjük, mert mondjuk időjárási adatok, meg azok következményei között – hogy holnap fog-e esni – olyan összefüggéseket is képes felfedni, ami az emberi gondolkodásmenet miatt az emberben fel sem merül.

2*Sü, azt hiszem, most te is bedőltél az agy egy ügyes trükkjének. Ez a természetes viselkedés, de mégse racionális. Nézzük.

Eszembe sem jutott, hogy féljek attól, mindenemet nyilvántartják. Mint mondtam, sokakkal ellentétben bosszankodom. Nem azon, hogy "nekik" birtokukban van mondjuk a mozgásom. Azon, hogy ők semmivel sem különb emberek. Ők is emberek. Nekem nincs birtokomban egy lehetséges eszköz, tehát nincs egyensúly. Az egyensúlytól eltérő állapot mindig instabil. Az atombombával 1946 óta rengeteg állam rendelkezik. ÉS rengeteg nem. Kivétel nélkül mindenki úgy fogja fel, ez egy elrettentő eszköz. Nem bevetni akarják, megfélemlíteni. Izrael kérkedik vele, hogy Dimonát (illegálisan és törvénytelenül, csalással) azért építette, hogy elrettentse vele a környező arab világot. Most minden eszközzel küzd azért, hogy Irán egyensúlyt teremtsen, rendelkezzen ezzel a fegyverrel. Nem képzelem felsőbbrendűnek Izraelt, de ők önmagukat annak képzelik. Ez az a pont, ahol a probléma kezdődik. Ne feledjük: Irán durva dolgokat mond. De eddig csak őt támadták meg, ő senkit. Ne legyünk elfogultak.

Nem gondolom, hogy például a Google visszaél hatalmával, ahogy ezt a szót sokan értelmezik. De gondolom, hogy visszaél hatalmával, ahogy én értelmezem. Persze hogy érdektelen, merre megyek naponta. Meg pár milliárd ember adatainak vizsgálatához ma még nem elegendő az erőforrás. Azonban gyanítom, Merkel és mások erről másképpen vélekednek. Gyanítom (valójában tudom), ez egy hatalmas üzlet, emberek befolyásolására , vásárlási szokások megváltoztatására és sok másra. Az egyensúlytalanság nem törvényszerűen bekövetkező katasztrófa! De egy lehetőség, méghozzá nagyon valóságos, alkalmazott lehetőség a hatalom gyakorlására más emberek felett. ÉS ennek nagyon sok formája van. Sok jószándékú ember elveti azt a részét, ami durva, ilyen a világképe. De ez nem változtat a tényen: van. És ez nem jó.

Még egyszer hangsúlyozom: nem érdekel, hogy a Google vagy más tudja (ha tudja), mikor megyek wc-re, vagy kirándulni. De ha a fejlődés elősegítésére teszem fel az életemet (akár politikusként, akár tudósként, vagy csak egyszerű ám felelős gondolkodóként) - nos akkor nagyon zavar. Azaz, játsszunk a porondon! Akár nézők előtt, akár nem. De azt kérni, hogy te állj a porondra, és nekem legyen lehetőségem sunyi eszközök felhasználására - ha ezt felismerem, nem a Google által képviselt cselekmény ellen fogok fellépni. Nem, a tömeget, köztük először is a gondolkodó embert próbálom meggyőzni: hamis képet kezd kialakítani. Nem tudom megmondani mikor és hogyan. De az meggyőződésem, hosszú távon az emberiség kárára. És nekem ennyi elég.

Az a baj az eddigi válaszokkal, hogy jórészt 15-20 éves pókháló van rajtuk.

Az MI képes arra, hogy tanuljon, éppenséggel a jelenlegi probléma éppen az, hogy miképpen felejtsen, miképpen nyerjenek információk prioritást, mi az, ami igazán fontos, mi ami kevésbé.

Mostanában a memória és a tárterület alaposan megnőtt, de bármekkora is, a felejtésre, a szelektálásra szükség van, mert minden tárterület hamar betelne különben.

Az Infóparkban két cég is foglalkozik MI kutatással, van egy gyermekkori iskolatársam, aki intenzíven foglalkozik vele és bár a konkrét megoldások többnyire titkosak, általános témákban beszélgetünk néha erről.

Nagyon érdekes módszerek vannak, egészen hatékony, kis programok, például mikrosütő, mosógép hatékony működéséhez, amik célorientáltak és megfigyelik szokásainkat.

Itt a csekély kódhoz viszonyított hatékonyság az, amiért érdemes számba venni, elképesztő módszerek vannak.

Közepes méretű kódolási lehetőség például az új operációs rendszerek kémprogramjai, amik az érdekünkben dolgoznak, észrevehetetlenül, hogy mindent könnyebbé és egyszerűbbé tegyenek számunkra, itt már az eredeti kód időszakos, vagy rendszeres bővülése is előfordul, amíg a program ki nem ismer minket.

Nagyobb projekteknél már létezik olyan struktúraépítés, amit maga a program végez, megtervezi magának a módszert, amivel eredményre juthat.

Egyes rendszerek bonyolultsági foka már nem teszi lehetővé, hogy mindent egy programozó alkosson meg, a program módosítja saját magát, és le is ellenőrzi a hatékonyságot.

Az információk szerzéséhez olyan inputvonalak szükségesek, mint nekünk az érzékszerveink, pl: látás, hallás, tapintás, ezeket egész fantasztikus területekre ki lehet terjeszteni MI esetén, akár infra, vagy ibolyán túli tartományba, vagy rádióhullámokra, radioaktív, röntgensugárzásra, stb.

Hallás esetén olyan frekvenciák válhatnak elérhetővé, amiről ember nem is álmodhat.

A mesterséges intelligencia érzékszervei nem korlátozódnak az embernél megszokottakra, de az is működik, például olyan robotkar, ami mázsákat bír felemelni, képes a tojást is beleütni a serpenyőbe.

Egyenlőre olyan univerzális robotra, mint az ember, még játékon kívül nem volt szükség, de részterületeken már számos ponton messze túl van a technológia az ember szintjén, egészen elképesztő bonyolultságú rendszerekben.

A határ a csillagos ég.

Hogy kell e ettől félni, azt a jövő, a fejlődés iránya döntheti el.

#14: erről próbáltam beszélni.

Az önfejlesztő szoftvereknek egy bizonyos fejlettség felett nincs olyan, hogy ott vannak a határai. Ezeknek szigorúan meg kell majd szabni az átléphetetlen határokat.

Maga az ember is így működik, vannak kisebb 'programok', például az ujjak mozgása, amik kezdetben elég durvák, de lehet a kézügyességet fokozni, például gitár, vagy zongoraművész is lehet valaki, ha a tanulás és gyakorlás során az ujjak mozgása finomodik.

Ilyeneket simán lehet modellezni, még az inputot is, amely vizuális is lehet, mondjuk látás útján egy kotta és le is lehet hallással ellenőrizni.

Persze robot esetén működhet a direkt betáplálás, mint egy midi file, de ha éppen az a cél, hogy szimuláljuk a vizuális, vagy audió inputot, egy más jellegű outputhoz, akkor simán meg lehet oldani, mégpedig úgy, hogy maga a program finomítja az ujjmozgásokat a hangszeren. (zongorázó robot)

Az emberi testben számos kis, közepes és nagy program fut, például a gerincvelő által koordinált 'hardveres' működés, a szívritmus, a vérkeringés, a légzés, de az agyi működés is idetartozhat néha, például a hormonok és a pszicho-aktív anyagok termelése.

Öröm, bánat esetén megfelelő kémiai vegyületek, amelyek néha elég bonyolult összetételűek, de lényegében meghatározhatók és ezek váltják ki az érzelmeinket.

Paranoid, pszichopata személyiségek esetén ez nem megfelelően működik, így nem jönnek létre a megfelelő érzelmek, de elvileg nincs akadálya ezt programozni, csak tanulmányozni kell az ember esetén a pszcichológiai mintákat:

[link]

és ha valamilyen megerősítést kap a hardver, amit pszichoaktívan, dinamikusan érzékel, akkor simán lehet érzelme egy MI-nek is.

Természetesen mivel mi humán szemszögből várunk gépi viselkedést, ezért legelőször a humán viselkedés okait, jellemzőit kell tisztázni és ez egyre jobban megy, a modern biokémia eredményeit a pszichológia vetületén keresztül vizsgálva, de nem fontos a MI esetén pontosan ugyanazt az utat bejárni, csupán tudni kell, hogy mi az elvárás.

Mindezt persze össze is lehet kapcsolni, lényegében ez motiválja a kísérleteket, például idegi impulzusokkal működtetett műkéz, művégtag, vagy hallókészülék, amely csatlakozik a hallóidegekhez, sőt, tudtommal látásjavításra is van lehetőség, bizonyos fajta vakság esetén.

Ezeknek a műszerveknek az irányítása ilyen apró kis programokkal fut, amely egy felületen összegeződik és csatlakozik, értelmezi az idegi impulzust.

Összességében a szervezetünk, személyiségünk is lemodellezhető akkor, ha kellően megismerhetjük és ebben az utóbbi években, évtizedekben komoly előrelépés volt, van.

Az ember is felfogható úgy, mint különböző szintű programok egymásra hatása, jellegzetesen egy hardverszintű idegrendszerrel, ami gyakran érzékel, de közvetlenül nem irányíthatjuk. Ilyen jellegű a szívdobogás, a szív működése, ami szükség esetén felgyorsul, de mindent lehet ilyen szempontból vizsgálni, még a nevetést is, a vidámságot, a humort, csak értelmezni kell az egész folyamatot, mind az élettanit, mint a biokémiai ingerek, mind a filozófiai, pszichikai vetületét. Lényegében az a fő probléma, hogy az emberi gondolkodás legnagyobb része rejtett, közvetlenül nem módosítható felületeken fut, amelyek változásainak módszereit kell megérteni és feltérképezni.

Ma már nem lehetetlenek ezek a korábban elképzelhetetlennek tartott humán jelenségek gépi megalkotása, amik már régen túl vannak az egyszerű szimulációk határain.

> Az a baj az eddigi válaszokkal, hogy jórészt 15-20 éves pókháló van rajtuk.

Az a baj, hogy 15-20 éve még a mesterséges intelligencia még inkább csak egy elmélet volt, mint valódi alkalmazás. Amit 15-20 éve a gyakorlatban mesterséges intelligenciának hívtak, azt ma nem tekintjük annak (pl. szakértői rendszerek).

> Mostanában a memória és a tárterület alaposan megnőtt, de bármekkora is, a felejtésre, a szelektálásra szükség van, mert minden tárterület hamar betelne különben.

A legtöbb mesterséges intelligencia algoritmusnak nincs szüksége nagyobb tárkapacitásra, sem memóriára. Bár pl. a neurális hálózatok elmélete még a számítógépek kora előtti időkre visszanyúlik, kvázi több, mint száz éves ötletről van szó, a gyakorlati megvalósításnak nem a memória és a tárhely, hanem a számítási kapacitás szabott gátat. Pl. vegyünk egy kézírás felismerő MI-t. A bemenete mondjuk egy 32*32 méretre lekicsinyített írott betű. Ez ugye 1024 bemenő adat. Álljon a közbenső rétegek mindegyike mondjuk 256 neuronból, legyen három ilyen réteg. A kimenet meg legyen 64 egység, az egyes betűk, számok, meg pár írásjel. Mit kell tárolni?

1. A neuronok állapotát. Ez 1024 + 3*256 + 64 = 1856 állapot.

2. Ugye a két réteg között mindegyik neuron össze van kapcsolva mindegyikkel, így a neuronok közötti állapotok száma: 1024*256 + 256*256 + 256*256 + 256*64 =409 600 kapcsolat.

Mindegyik leírható akár egyetlen bájttal is, az már elegendő pontosság lehet, ekkor a memóriaigény 411 456 bájt, azaz kb. 412 kB. Bill Gates azt mondta 1981-ben, hogy 640 kB elég lesz mindenkinek. Nem volt igaza, de ennek az MI-nek a működtetéséhez pl. elég.

Tehát a memória elég volt már 1980-ban is. A számítási kapacitás, na az nem volt elég. Meg a technológiai fejlettség. Egyrészt az MI betanításához kellene néhány tízezer, vagy néhány százezer írott betű. Na jó, ennek a tárolása már nehezebb, de nem is kell egyben meglennie. De a gyakorlatban ezek vagy túl kezdetleges feladatokat tudtak csak elvégezni, ami maximum demónak jó, gyakorlatban meg nincs rá szükség, vagy sokkal lassabban tudtak csak működni, ami miatt inkább csináltak meg bizonyos feladatokat emberi intelligenciával, meg egyszerű, bedrótozott, meg statisztikai alapon működő algoritmusokkal.

15-20 éves pókháló? A modern értelemben vett mesterséges intelligencia nincs ennyi idős.

> Nagyobb projekteknél már létezik olyan struktúraépítés, amit maga a program végez, megtervezi magának a módszert, amivel eredményre juthat.

Ez is egy kicsit félreérthető laikus megfogalmazás. Olyan van, hogy nem egy fix neurális hálózat kezdi el a tanulást, hanem magának a tanulásnak a folyamata során keletkeznek újabb neuronok, mikor a rendszer azzal találkozik, hogy egy-egy állapot kétesélyes módon viszonyul a kimenethez. Nem tervez a program semmit, hanem az ember tervezi meg azt a programot, amiben a neuronok száma és viszonyai dinamikusan, szintén az ember által meghatározott szempontok esetén változik.

> Egyes rendszerek bonyolultsági foka már nem teszi lehetővé, hogy mindent egy programozó alkosson meg, a program módosítja saját magát, és le is ellenőrzi a hatékonyságot.

Ilyen meg nincs. A program nem módosítja önmagát. Nincs az a modern operációs rendszer, ami ezt engedné. A program a neurális struktúrát, mint adatot módosítja. A kód viszont az marad, ami.

> A mesterséges intelligencia érzékszervei nem korlátozódnak az embernél megszokottakra, de az is működik, például olyan robotkar, ami mázsákat bír felemelni, képes a tojást is beleütni a serpenyőbe.

De ezeket sem az MI növeszti magának. Igen, rá tudok kötni egy számítógépre – amin egy MI fut – egy olyan kamerát, ami az emberi látás spektrumának 10-szer szélesebb sávjában képes érzékelni. De ha nem kötök rá ilyet, akkor soha nem lesz neki. Igen, lehet olyan robotkart rákötni egy számítógépre, ami mázsákat képes felemelni, de ha nem kötök rá a gépre ilyet, nem fog növeszteni magának egyet. Az MI, ha a készítője úgy akarja, képes meghaladni az ember képességeit. De az MI nem képes azokat a korlátokat meghaladni, amivel felruháztuk. Maximum pár sci-fi-ben.

Vagy hiába van a laptopomon internet elérés, ha egy chat MI-t tanítgatok, az soha nem fog felmenni a netre, ha én nem írtam bele, hogy menjen fel a netre. Az MI ugyanúgy egy program, ami változatlan, és ugyanúgy adatokon végez módosítást, csak éppen ennek a módja az, ami más. Emberi szempontból más, de technikailag semmivel nem másabb, mint egy szövegszerkesztő program. Ha nincs a forráskódban az, hogy internet.get(' [link] akkor soha nem fog a chat MI-m „kíváncsiságból” – amivel nem rendelkezik – rákeresni, hogy hogyan is néz ki egy alma, pláne nem fog tudni a találattal mit kezdeni, ha én nem írtam meg hozzá egy képelemző programrészt.

> Egyenlőre olyan univerzális robotra, mint az ember, még játékon kívül nem volt szükség, de részterületeken már számos ponton messze túl van a technológia az ember szintjén, egészen elképesztő bonyolultságú rendszerekben.

Nincs túl. Számos olyan dolog van, amiben az MI még mindig nem alternatíva. Logikai jellegű problémák megoldására kiválóan alkalmas, de kreativitásra még messze nem.

A másik oldalról nincs szükségünk egy általános MI-re. Anno a robotok megjelenésekor mindenki két kézzel, két lábbal rendelkező, beszélő robotokat vizionált. De nem volt rájuk szükség. A robotokat mindig célirányosan használtuk a gyakorlatban, amihez meg számos képességgel nem kell rendelkezniük, illetve számos tulajdonság messze nem hatékony. Egy csavarmeghúzó robotnak nem kell száj, nem kell beszélnie, nem kell láb sem, a keze sem öt ujjból áll, hanem egy célszerszámban végződik a kar. Az MI esetén is ez a helyzet. Szükség lehet időjárás előrejelző MI-re. Szükség lehet orvosi diagnosztikában használható MI-re. Szükség lehet önvezető autóra. Szükség lehet sakkprogramra. De nem lesz szükségünk egy sakkozni, diagnosztizálni, autót vezetni és időjárást előrejelezni szükséges öszvérre, mert a részfeladatokra osztás hatékonyabb.

Másik oldalról az ember nem hülye. Lehet, hogy lesz egy katonai program, ami esetleg ajánlást fog tenni az atomrakéták kilövésére. De az ember tudja, hogy minden programban lehetnek hibák. Az igazán jelentős dolgokban mindig ott fog maradni kontrollnak az ember, és az ember fogja megnyomni azt a bizonyos gombot, nem az MI. Illetve mindig lesz valami leállítási funkció, bármilyen MI-ről is van szó, ami független az MI működésétől, és amivel le lehet állítani az MI-t futtató részt. Egy csomó sci-fi esetén fogtam emiatt a fejem, mert a legtöbb story rövidre zárható lett volna a film negyedénél azzal, hogy „és akkor lekapcsoltuk az elektromos hálózatról a rendszert”, vagy „és akkor belelőttünk az épületbe 30 darab levegő-föld rakétát”.

"A program nem módosítja önmagát. Nincs az a modern operációs rendszer, ami ezt engedné."

Hogy ne lenne?

Simán lehetséges egy programmal alprogramokat íratni és utána azokat meghívni és futtatni.

Lehet vele paramétertáblát íratni és azt később meghívni.

Ezernyi módon megoldható a saját futás befolyásolása, sőt, önmagának bővítése is.

> Hogy ne lenne?

Ez olyan mint a lila ló. Mert lila ló nincs. Illetve van lila ló, hiszen ha lefestesz egy lovat lila festékkel, akkor van. Csak menj ki vele az utcára…

Egy program nem más, mint utasítások sora (mindenféle ciklusokkal, elágazásokkal, miegyebekkel persze). Ha tudom – teljesen mindegy, hogy milyen adatok alapján –, hogy egy létrehozandó program pontosan milyen utasításokat hajtson végre – márpedig tudnom kell, hiszen különben milyen utasítások kerülnének a létrehozandó programba? –, akkor jóval egyszerűbb végrehajtani ezeknek az utasítások sorát, mint készíteni egy programot, kiírni merevlemezre, majd elindítani. Ez kicsit olyan lenne, mintha nem egy gépet építenél, ami mondjuk kifúr egy lyukat, és becsavaroz egy csavart, hanem építenél egy gépet, ami majd megépíti azt a gépet, ami kifúrja a lyukat és becsavarja a csavart. Vagy olyan a dolog, mintha egy recept nem az étel elkészítésének módját írná le, hanem az étel elkészítéséhez szükséges recept előállításának módját írná le: „Írd le, hogy hozzávalók! Üss egy entert! Írd le, hogy 50 dkg liszt! Üss egy entert! Írd le, hogy 4 tojás! …” Nem sok teteje lenne a dolognak.

Anno még az őskorban voltak memóriában önmódosító programok, de ott is akkor csinált az ember ilyesmit, ha nagyon híján volt a memóriának. Ez már PC-n sem volt akkora divat, lévén a hardver bővíthető volt, még Commodore-oknál voltak ilyen tömörített, önkicsomagoló programok, mert ott volt egy erős hardver limit. Ma viszont egy operációs rendszertől minimális elvárás, hogy a program utasításait tartalmazó memóriablokkok írásvédettek legyenek, az adatokat tartalmazó – így írható – memóriablokkok viszont nem végrehajthatóak. Nyilván merevlemezzel közbeiktatásával megkerülhető ez a védelem is, egy fordító is adatból állít össze futtatható állományt, de annyira feleslegesek ezek a nyaktekerenciáskodások, hogy senki nem csinál ilyet, mert semmi értelme, ma nincsenek ilyen kőbe vésett hardver korlátok.