Ha a mesterséges intelligencia veszélyes az emberiségre, akkor miért hozzuk létre?

Amíg csak az ajtód előtt áll, miért lenne ijesztő?

Amikor bejön, az ajtóval együtt... na, akkor már inkább.

A MI pedig előbb-utóbb sokkal jobb lesz, mint mi. Onnan kezdve inkább az lesz a kérdés, hogy mi kellünk-e még.

#20

Ezt ugyanígy meg lehetett eddig is tenni. Lejáratni bárkit le lehetett minden időben, se szeri, se száma az intrikáknak és az MI is csak egy hamis tanú ebben az esetben és az igazság felderítésének ettől függetlenül mindig is voltak módszerei.

Modern technológia segítségével elkövetett bűnözés ellen ugyanúgy fel lehet használni a modern technológiát, mert az MI a hamisságok leleplezésére is használható.

Kardra válasz a pajzs, a számítógépes vírusokra a vírusirtó és kutyaharapást szőrivel, vagyis mindenre ki lehet módszert dolgozni és ebben a mesterséges intelligencia csak segítségünkre lehet.

Az AI nem fogható egyetlen eddigi emberi találmányhoz sem. Valaki írta az áramot. Igen ám, csak egy 400kV-os légkábel nem tud úgy dönteni, hogy most brahiból agyonbash egy fél falunyi embert 70 kilóméterrel odébb. Miért? MERT AZ ÖSSZES EDDIGI EMBERI TALÁLMÁNY MŰKÖDÉSE TERMÉSZETTUDOMÁNYOS TÖRVÉNYEK ÁLTAL MEGFOGALMAZOTT KERETEK KÖZÉ VOLT SZORÍTVA. Az áramnak, a C-vitaminnak, az atombombának nem volt B terve. A terve sem volt. Csak működött, ahogy működnie kellett, és az ember tudta hogy kell működnie.

De mi a helyzet az MI-vel? Az emberiség létrehoz egy biológiai testel nem rendelkező, hálózat szerű teremtményt, és oda adja neki az EGYETLEN VALÓDI ESZKÖZT, ami lehetővé tette neki, hogy a Föld ura lehessen. Persze, x ideig még kordában tarthatják bizonyos korlátozások, de mikor juthat el arra a szintre, hogy megkérdezze: "hékás, vannak ezek a szabad akarattal rendelkező biológiai húscafatok, meg vagyok én szintén szabad akarattal, alájuk rendelve. Mi lenne, ha szépen elegánsan elkezdeném őket hidegre tenni?" Hogy tudják garantálni a MI hűségét a teremtői felé? Mi lesz, ha nem fogad el minket, mint teremtőt? Nyilván, ez nem most égető kérdés, hanem majd hosszú évtizedek múlva, amikor az MI-nak komoly társadalmi szerepe lesz. Esetlegesen energetikai műveket irányít, vagy az ivóvíz gazdálkodást vezeti, esetleg logisztikát... Vagy ha karhatalmakat... Lehet, hogy az emberiség felnyitotta Pandora szelencéjét.

Ui: Telefonról írok, és nem enged visszaolvasni, úgyhogy esetleges nyelvtani hibákért bocsesz.

"nem volt B terve. A terve sem volt"

Ez butaság.

A legtöbb terméknek vannak veszélyei. Egy vegyszer kifolyhat, és mérgezhet. Egy áram is elszabadulhat, és akkor 100 méterekkel odébb is ölhet. Egy befogott állat is bármikor elszabadulhat. Még egy kés is megszaladhat, aztán véletlenül beleáll valahova.

MINDEN technikának vannak veszélyei.

A MI-től azért rettegnek ennyire néhányan, mert ismeretlen. EZ minden dologgal így volt annak idején, lásd: a 25 mérföldnél nagyobb sebesség megöli az embert.

És akkor mi van?

Ez csak akkor lehetséges, ha már sokkal jobb, mint az emberek.

Akkor pedig - szerinted - ki döntsön a fontos kérdésekben? Az emberek, aki sokkal rosszabbul döntenek, mint ő?

Igen, pont ezért mondtam, hogy ez nem a következő 20 év problémája.

Nagyon jól hangzik egészen addig, amíg a MI nem a mi létünkről fog dönteni.

Meg amíg nem jut eszébe, hogy egy tizenmilliós metropoliszban túl sokan vannak, úgyhogy leállítja az ivóvízellátást, lelövi a villanyt, és logisztikai értelemben elszigeteli a várost. Aztán visszatér a jó öreg kannibalizmus.

Csak tudod, ha így dönt, akkor már nem lenne értelmes.

Az meg ami felelősségünk, hogy egy jól működő MI-t alkossunk.

A problémához nem árt megnézni, hogy mi magunk hogyan döntünk a nálunk gyengébb fajokról?

NEM a rossz döntéseket, vagy a profitvágyból, gonoszságból elkövetett döntéseket kell itt nézni, hiszen a MI nem ilyen lesz.

A normális döntés az, hogy fenntartjuk ezeket a fajokat, esetleg még vissza is hozzuk az életbe, ha lehet, és normális, élhető körülményeket biztosítunk nekik.

"Csak tudod, ha így dönt, akkor már nem lenne értelmes."

És ki mondja meg, hogy értelmes-e? Az emberek? Ha egyszer eljut arra a szintre, hogy az emberiség neki olyan lesz, mint most nekünk a tyúkok az udvaron, akkor mi a biztosíték rá, hogy nem fogja ballisztikusan lefoshni, hogy mi a jó emberi szempontból? Mert az is csak EGY szempont.

Ha igazi intelligenciáról beszélünk, akkor azt az ember csak létrehozza. A további befolyásolására olyan rettentő sok lehetőség nincs. Ha pedig probléma nélkül olyan szintre jut, hogy ekkora felelősséget lehessen rábízni, onnantól meg végképp ketyegő bomba. Az emberiség létének a kérdése nem ilyen mértékű, hogy az legyen a válasz, hogy "áá úgyis jó lesz az"