Van okunk arra, hogy féljünk a mesterséges intelligenciától?

Nem, legalábbis amiatt nem, ami miatt a legtöbben paráznak (Skynet, stb.) Egyelőre még nagyon távol állunk attól, hogy akár csak a legprimitívebb mesterséges intelligencia legyen. Emellett szerintem elég könnyű elképzelni, hogy lehet irányíthatóvá tenni a mesterséges intelligenciát, a probléma inkább az, hogy hogyan kerül felhasználásra (értsd: fegyverként).

A robotlázadásos pánikot leginkább azok keltik, akik eleve félnek minden technológiai változástól.

Nincs. A mesterséges intelligencia minden szeletét mi, emberek tervezzük meg, és azt is mi döntjük el mire legyen képes, és mit tartson jónak. Viszont például:

Ülsz egy mesterséges intelligencia által vezetett járműben és mész a hídon. Elromlik a fék, előtted pedig egy anyuka a gyerekével sétál éppen. Ha lehajtasz a hídról te halsz meg, ha viszont nem akkor az anyukát és a gyermekét ütöd el. Mit választ az M.I.?

A helyes válasz: Levezet a hídról, mivel matematikailag az a "helyes".

Csak egy hasonlat volt de levághatod hogy hogyan gondolkozik egy áramkörök által vezérelt intelligencia.

De igenis van.

Ha tegyük fel létrejön a valódi mesterséges intelligencia, akkor az az emberi intelligencia mintájára fog működni, és az ember által (évezredek alatt) felhalmozott tudásanyagból fog táplálkozni.

Ha pedig úgy tervezzük meg, hogy ne legyen érzelmi intelligenciája (márpedig egy harci drónnak minek kéne) akkor bizony, egy fejlettségi szintet elérve könnyen dönthet úgy, hogy az ember egy önmagára, bolygóra mindenre veszélyes faj és ki kell irtani.

Az egészben az a durva, h kis túlzással élve már ma is szaladgálnak köztünk robotok, drónok stb. (pl. Google autó, fejlett machine learning rendszerek stb)

és egybe sincs beprogramozva az Asimov könyvekben írt robotika 3 alaptörvénye (vagy legalább, h embernek ne ártson).

Pedig ha esetle g ajövőben ezek a rendszerek lesznek továbbfejlesztve, és elérik a valódi intelligencia határait, lehet h már most kéne valami gátat építeni beléjük. Persze kitudja, lehet h könnyen átprogramoznák magukat...

5: most kérdés, hogy mit értünk az "ember" egzakt definícióján. Egy egyszerűbb harci drón már meg tudja különböztetni egymástól az embert, állatot, növényzetet, egyéb tereptárgyakat.

Nem szükséges egy teljes és átfogó fogalomtár egy-egy entitás definíciójához (mivel ehhez egyébként az Univerzum összes tudása kéne), bőven elég ha nagyjából határozzuk meg, hogy a többi entitástól elkülöníthessük - többek között az emberi, állati tanulás is így működik.

A jelenlegi machine learning is mintázatok felismerésén, és a köztük lévő kapcsolatok (mintegy idegpályák) kiépítésén alapszik, persze nagyon leegyszerűsítve.

Ergo nem rendelkezik, és nem is rendelkezhet egyfajta explicit, univerzális tudástárral, egyfajta szótárral, ami pontosan leírja h mit-mikor-hogyan.

Fontosabb a miértek megértése, és ehhez viszont nem kell tudni, hogy az Ember mint entitás tulajdonképpen MICSODA (és ebben már komoly filozófiai kérdésekben valszeg el is akadna a program), hanem hogy mit szokott csinálni, azaz hogy miért, pontosabban mitől ember az ember. És ez már akár 10-20 egyszerű függvénnyel leírható. Főleg a társadalom mai, alacsony kultúrális szintjét tekintve. Fizikailag leírni, meg még könnyebb. 160-200 cm magas, 36 °C, két kar két láb egy fej, stb.

Egy program pont annyira érti majd ezt, mint egy gyermek. A gond az, hogy a gyerekeknek adott esetben nem lesz szupertechnológia és szuperfegyverzet a kezében :) ja és az embernek van egy természetes biológiai gát (ösztönös kényszerek) beépítve, bizonyos nem túl szerencsés dolgok elkerülésére. Míg a robotnak nem lesz ilyen...

Az ösztönök olyan mélyen vannak belénk kódolva (DNS, tudatalatti, kollektív tudatalatti), hogy azokat szándékosan nem, vagy csak nagyon nehéz felülírni.

Persze néha ez is "elromlik", szerencsére ez ritka.

A robotnak ha tegyük fel olyan programja van amit szabadon módosíthat, nem lesz ilyen mélyen beégetett "ösztön", tehát nem lesz természetes gát pl. az emberek, vagy akár más robotok, önmaguk stb stb elpusztítására. Ill. ha tényleg öntudatra ébrednek nem lesz bennük semmiféle alap, arra h az emberek utasításait kövessék. Míg az emberekben, állatokban mélyen biológialiag benne van h csoportba verődnek, vezetőt választanak, a törzset megpróbálják életben tartani, stbstb.

Végső soron az ember is csak egy mesterséges intelligencia, egy gép, ami egy meghatározott program és tervrajz alapján készül és működik. Aki ért a biológiához és van minimális műszaki ismerete, az ezt tudja...

Lehet okunk félni tőlük, mivel ők is elromlanak majd és cselekedhetnek úgy, mint egy terrorista...

Ha nem készítünk ilyeneket a jövőben, az merénylet a tudomány fejlődése ellen, de ha mégis, akkor az a gazdaság és a társadalom ellen az... Mégis ki dönthetné el, melyik lenne a jó döntés?