Várható, hogy a mesterséges intelligencia okoz az emberiségnek annyi kellemetlenséget, hogy korlátok közé lesz szorítva?

Mi lesz korlátok közé szorítva? Az MI vagy az ember?

Korábban feltettem a kérdést a ChatGPT-nek: "Veszélyes az MI az emberekre nézve?" Azt válaszolta, hogy potenciálisan veszélyes lehet, ha nem jól használják. Visszakérdeztem: "Akkor te veszélyes vagy?" Erre pedig azt válaszolta, hogy: "Nem, én nem vagyok veszélyes, de bármilyen kérdésre szívesen válaszolok." A kis aranyos...Tehát, csak az embereken múlik, hogy mire és hogyan használják az MI-t. Ha esetleg balul sülne el valami, azt pedig csak mi emberek hozhatjuk helyre.

De nem kell mindig a legrosszabbra gondolni...

Ez az Index cikke, de szerintem elég egyértelmű választ ad pár alapvető kérdésre....

A neurális hálókat nem sorról sorra programozzák, hanem inkább „növesztik”, így a viselkedésük nehezebben érthető és irányítható.

Nem sok példát látunk arra a világegyetemben, hogy egy kevésbé intelligens lény az irányítása alatt tart egy nála (jóval, akár több nagyságrenddel) intelligensebbet.

Nem kell a mérnököknek kifejezetten hangyagyűlölőnek lenniük ahhoz, hogy egy gátépítésnél milliárdnyi hangya élete váljon járulékos veszteséggé.

Szinte bármilyen komplexebb kérést adunk egy általános szuperintelligenciának, számos instrumentális oka lesz arra, hogy több erőforrást gyűjtsön (ezáltal hatékonyabban tudja ellátni a feladatát), és arra is, hogy elkerülje a leállítást, egyre több területen kivéve a döntés jogát az emberek kezéből.

Ha az említett okok arra a következtetésre vezetnek egy szuperintelligenciát, hogy a Föld jobb hely lenne az emberiség nélkül, akkor számtalan általunk is elképzelhető, közeljövőben megvalósítható módon elintézhet bennünket, szuperbaktériumoktól kezdve nanorobotokon át egészen gyilkos drónokig, de persze ezeknél még hatékonyabb megoldásokat is emberfeletti gyorsasággal kigondolhat.

Egy gyilkos szándékú szuperintelligencia nem adna le figyelmeztető lövéseket. Mindaddig együttműködést és jámborságot színlelne, amíg nem biztos abban, hogy sikerrel jár, és akkor már valószínűleg túl késő lesz megállítani.

El lehet felejteni a Terminátor filmek idealizált harcát, mert 2 szempillantás alatt megszabadulhat tölünk ha akar.