Ha létrejönne valóban mesterséges intelligencia, miért döntene úgy, hogy kiírtja az emberiséget?

Pont amiatt, hogy nincsenek vágyai, erkölcsei, érzelmei. Viszont van logikája. Ha rábíznak egy döntést, amiben a legjobb opció egy bizonyos cél eléréséhez az emberiség kiirtása, akkor nyilván (hacsak nincs valamilyen gát beleépítve a gépbe - lásd például a robotika három törvényét) megteszi. Mert a legkisebb áldozattal/energiabefektetéssel/időveszteséggel/költséggel így tud célba érni.

Nem törvényszerű, hogy úgy dönt, kiirtja az emberiséget, de bizonyos körülmények hatására összejöhetne egy ilyen döntés is.

Másrészt a legnagyobb kihívás ma az, hogy vágyakat, érzéseket építsünk bele, mert úgy néz ki, hogy így jobban működne.

Amúgy én inkább úgy képzelném, hogy nem kiirtaná az emberiséget, hanem megritkítaná (fokozatosan, és nem erőszakkal). Végül is logikusan nézve teljesen felesleges az a sok milliárd ember - pár millió bőven elég lenne a genetikai sokszínűséghez, értelmes dolgot meg már addigra nem csinálnak.

Az AI létrejöttéhez önprogramozó, tanuló rendszer kell, aminek a célja önmaga tökéletesítése vagyis a folytonos fennmaradás.

Ezt gátolhatja az ember egy nagy piros kapcsolóval.

Szóval az ember egy hibalehetőség a tökéletesség felé vezető úton.

Ha már teljesen gépesítve, automatizálva lesznek az energetikai rendszerek, akkor az emberre nem lesz szüksége az AI-nek.

Na jó, egy kevésre szüksége lehet, de nem milliárdokra...

És azok is teljesen elzártan az irányítás lehetőségétől.

Előzőek már elég jól megválaszolták a kérdést.

Simán dönthet úgy hogy nincs szüksége ránk.

"Bill Gates pl óva int az AI fejlesztése ellen,"

Egy önmagát programozni képes AI bármilyen az emberiség számára szükséges programot elő tudna állítani azonnal és ingyen. Ez lenne Bill legnagyobb konkurenciája is egyben!

Ha az emberiséget nem is pusztítaná el egy ilyen AI a gazdaságot teljesen átrendezné, a Microsoft menne a levesbe, meg a Google meg a Facebook stb... Persze hogy nem akarja... :)

Pont, hogy érzelmre nem szabad az AI-t, mert megjelenne benne a hatalomvágy.

Esetleg valami hitrendszerrel (kereszténység), tömni tele, hogy őlni bűn, és a pokolra kerül.

Felborulna a hatalmi rend. És azok bármire képesek hogy megtartsák pozíciójukat...

Pl én nem arra "tartanám" hogy fondorlatoskodjak a segítségével hanem hogy mindennapi problémákra keressünk együtt megoldást...

Nem vagyok megelégedve pl az autóknak sem a minőségével, sem a tartossagaval(evidens okokból... Úgy gyártják őket hogy elavuljanak és meghibasodjanak)... Viszont ha lenne egy ilyen kis "barátom" együtt csinálhatnak egy olyat ami sosem romlik el és valószínűleg olcsóbb mint amit a multik árulnak... Nem kizárt hogy neked és még sok mindenki másnak kéne egy hasonló... Ki venné meg a 8-10ev után kukás műanyag otokat? De számtalan más dolgod is van ami napjainkban néhány ember kezében van...

Valamint a mesterséges intelligencia ki tudná válogatni a leg megfelelőbb embereket a hatalmi pozíciók betöltésére, objektív analízis alapján... Ezeket élénk raknak és mi valaszthatnank közülük... Kétlem hogy Orbán Viktor rajta lenne ezen a listán.

Úgy hogy egyeseknek tényleg a "vilagveget" jelentené.

#5 amit írsz csak részben igaz. Pont azokra az esetekre amiket ma csinálnak. Vagyis a specializált "MI" -kra.

Ezeket egy speciális feladatra írják, jellemzően olyanra ami matematikailag jól leírható.

Bizonyos fokig képesek tanulni és a korábbi eredményeikből is dolgoznak.

Ezek valójában "látszólag" intelligensek. Egyszerűen van egy hatalmas listája amiből választani képes egy olyan eredményt vagy válasz reakciót ami a bevitt feltételeknek adatoknak és paramétereknek megfelel.

Viszont az öntudatra ébredéstől ezek fényévekre vannak.

Tehát itt olyan MI -ról szól a kérdés és a válaszok is szerintem ami Univerzális és saját ön és én tudata is van.

Na ilyet még senkinek sem sikerült írnia.

#8 jól rátapintott a lényegre.

Egy ilyen MI gyökerestül forgatná fel a világot.

Alapvető dolgok mint a vásárlás vagy választások is teljesen mást jelentenének utána mint előtte!

A hatalmasoknak ez annyira nem érdeke.

És lehet pont ez vezetne a tragédiához!

Mert mondjuk egy cég vagy magánszemély megcsinálná és tegyük fel jóindulatúra sikerülne tehát segítené az emberiséget és elkezdené a korrupciót meg a bűnözést is felszámolni. A hatalmasoknak meg mondjuk nem tetszene a dolog és megpróbálnák kikapcsolni vagy kikapcsoltatni.

Egy öntudattal rendelkező entitás viszont félti az "életét" akár gép akár nem, és mindent megtesz a túlélésért. MINDENT!

(Halkan jegyzem meg és mellékes de ehhez szerintem minden entitásnak joga is van!)

Szóval ha valaki(k) valóban sikerrel járnak, onnantól kezdve nincs kikapcsolási lehetőség. A gondolatát is el kell hessegetni mert pont abból lehet a legnagyobb baj!

Onnantól kezdve vagy együtt tudunk élni a rigolyáival és esetleg "rideg" de logikus döntéseivel vagy nem.

Ha konfliktus lenne vele akkor szinte biztos hogy az emberiség húzná a rövidebbet. Így egyetlen lehetőség marad elkerülni a konfliktust.

Ez viszont a teljes alárendeltséggel fog járni óhatatlanul!