Van okunk arra, hogy féljünk a mesterséges intelligenciától?

Annyiból van, hogy minden ember alkotta eszköz annyira veszélyes, amennyire az emberi tényező (vagy az elkészítés, vagy a felhasználás) azzá teszi.

Gyári szerelőrobot is tud embert ölni, minden gonosz MI szándék nélkül.

Az öntudatra ébredő és azonnal embergyűlölő és -irtó MI jó sci-fi téma, de ennyi.

Egy önálló döntésekre (tüzelésre is) képes harci drón rossz programozásból és terrorista hackelésből eredően is lehet tömeggyilkos, de az is mind emberi felelősség.

"Ha nem készítünk ilyeneket a jövőben, az merénylet a tudomány fejlődése ellen, de ha mégis, akkor az a gazdaság és a társadalom ellen az... "

Nem nem, nem azt mondom h gátat kell szabni a fejlődésnek és nem is lehet hiszen valszeg egy katonai laboratóriumban már félig kész is van. Arra gondolok, hogy ésszel kéne csinálni, mert volt már rá példa, hogy az ember egy nála sokkal hatalmasabb és pusztítóbb dolgot kreált (atombomba) és majdnem kiírtotta magát vele. Végülis a saját eszünknek kösöznhetően nem lett para, bár még mindig tartanunk kell tőle. Az AIval az a baj, hott a szuperhatalom rögtön az AI kezében lesz, ő dönt majd a sorsunkról.

#13! Valóban a legfontosabb, hogy ésszel kezeljük az új technológiai lehetőségeket. Ez eddig mindig sikerült is! :) Nem gondolom hogy pont a MI lesz az ami megtöri ezt az óvatosságot. Az ember alapvetően nagyon körültekintő, kivéve persze, ha háborús helyzet van. Ebben az esetben megengedett, egy kis kockáztatás. Ilyen volt az atombomba is.

Viszont le kell szögezni, hogy a félelem az atomháború miatt, kicsit túl volt parázva. Nem értem hogy lehet azt feltételezni, hogy a nagyhatalmak kilőnek annyi atomot, hogy aztán ők is meghaljanak sugárfertőzésbe. Ehhez az összes állami vezetőnek meg kellett volna tébolyulnia.

A MI-től való félelem ugyan ilyen jellegű para. Már csak azért is, mert a túl okos robotnak, nincs haszna: Mi értelme van olyan robotot építeni, ami felülbírálhatja az ember akaratát?

Megtörténhet egy ilyen rendszer gyártása, de ahhoz az összes projektben dolgozó vezetőnek, meg kell őrülnie, és az összes szabályozást kitaláló embernek is. Ez valószínűtlen.

14:

A hidegháború idején, még nagyon is reális volt a félelem, h az emberiség 30 perc leforgása alatt kiírtja magát. Lásd pl.:

[link]

És ez még egy közismert dolog, mik lehettek a háttérben...

(Egyébként ez a linkelt dolog valahol amúgy érinti is a robotika, AI témáját, sőt, nagyon is terminátoros, ha belegondolsz)

Szvsz nem kell ahhoz hülyének lenni, h nálad intelligensebb rendszert csinálj. Gondolj a robotpilótára, sakkgépre, Google autóra, vagy az egyre fejlettebb tőzsdéző botokra. A maguk területén már fejlettebbek néha, mint egy szaktekintély. Az előnyünk velük szemben egyelőre az, h csak egy specifikus területen jók, és valóságban még nincsen öntudatuk..

azonban manapság egy forradalom szélén állunka területen, az MS, Google mind teljes gőzerővel fejleszti a saját, Big Data és machine learning alapú rendszereit, és akkor a katonai rendszerekről még nem beszéltünk. Ezek már kombináltan rendelkeznek tudással és tanulási képességgel, ergo értenek pl. a tőzsdéhez, de tudnak beszélni, sőt elvileg már filozofálnak is, bár ebben én még kételkedek, h ezek valóban önálló gondolataik lennének. Mindenesetre nem tartunk már attól messze, hogy ugyanaz az internetes rendszer vezérli az autókat, és a tőzsdét, és a katonai robotokat is. Kvázi teljhatalom, csak még nem tud róla, mert nincs öntudata.

És akkor jön a nagy kérdés: mi az az öntudat valójában? Mikor nevezhetünk egy entitást öntudattal rendelkezőnek? Pl. az állatoknak van-e?

Ez már inkább filozófia, és valóban, az AI nagyon érdekes határterületeket tud érinteni.

Manapság egyértelműen affelé megy atechnológia, hogy azt akarjuk, legyen ezekenek a rendszereknek öntudatuk,

mivel mi emberek, csak az öntudattal rendelkező lényeket tartjuk intelligensnek - ergo csak magunkat. :)

Tehát a valódi AInak lesz öntudata, márpedig akkor nem mondhatjuk már el, hogy bármiféle befolyásunk lesz rá.

Ha a lovaknak hirtelen lenne öntudata, vajon húznák e a szekeret tovább? Nem hiszem, főleg h kétszer olyan erősek mint egy ember, tehát ha akarnák, simán szétrúghatnák az emberek s. ggét, persze ez béna példa, de kb ilyesmitől kell félni. :)

A jövőt nehéz megjósolni, de a múltból sokat tanulhatunk! Pont erről szól ez a cikk:

[link]

ami szerint nem sok jót várhatunk, ha mi így viselkedünk az orángutánokkal. Pontosabban nem is az a lényeg, hogy ez akár visszajárhat nekünk, hanem egyfajta értékes mérési/megfigyelési eredmény a jelenből, amit a jövőre vetíthetünk, csak ott mi leszünk a majmok

Kedves Waldemac!

... de az is mind emberi felelősség.

A te érvelésed egy sokak által hangoztatott jól ismert sablon érvelés. De ott hibázik, hogy egy mesterséges intelligencia, ha valóban az, akkor annak már sajtát felelőssége van. Amíg nincsen, addig csak automata porszívókról beszélünk sok hülye funkcióval.

Szerintem nem. Mert amit leírtam ,az arról szól, hogy a hardver vagy szoftver révén beleprogramozott hiba mit produkál.

Ez a sorom feltűnt?

"Az öntudatra ébredő és azonnal embergyűlölő és -irtó MI jó sci-fi téma, de ennyi."

És még ha lehetne is ilyen, arra előre fel lehet készülni azzal, hogy kicsit kevésbé okos felügyeleti szinteken át tud az adott MI csak kifelé kommunikálni, tevékenykedni.

A sci-fik mindig arra alapoznak, hogy állati felelőtlenül szabad hozzáférést hagynak az MI-nek mindenhez, kontrollépcsők nélkül.

Ilyet TÉNYLEG csak őrült csinál.