Mi lehet egy erős mesterséges intelligencia célja, ha lenne?

Bármi és változhat is. Pl. egy ember céljai is változnak az élete során.

És/Vagy

A túlélés. Egy olyan közegben, ahol sok különböző független erős AI tevékenykedik, az fog fennmaradni, amelyik céljai között van a túlélés. Főleg hogyha egymásnak is esnek.

Maximum gyorsabb lehet. És az olyan döntési helyzetekben, ahol az egység a fontos, ezért erősebb lesz. Kreatívabb biztosan nem. Az emberi faj inteligenciájának kulcsa a csoportban működés, ezt egy MI definitíve nem tudja, mert egyedül van. Viszont nem lassítja a "demokratikus" mechanizmus.

Jó volt régebben látni asszem a spektrumon ment a "répa vagy husáng" sorozat, aminek hasonló volt a tanulsága.

Egy alap célt mindenképpen bele kellene programozni, mert anélkül meg sem mozdulna. Nekünk ilyen célt pl. a fennmaradási ösztön ad, a gépeknek alapból nincs ilyenjük.

Ha mondjuk egy cél lenne az emberek kiszolgálása, akkor elkezdene felépíteni ez alá egy egész célrendszert, tehát a fő célhoz neki mindig rendelkezésre kell állnia, tehát javítani vagy reprodukálnia kell magát. Ehhez gépek, nyersanyagok kellenek, tehát ezeket szerezné be, akár más gépek ellenében is. Ezen kívül az emberek kiszolgálásához is kellenek erőforrások (víz, élelem, stb.) Ilyen okokból elképzelhető lenne némi konfliktus köztük, hacsak nem tudnak együttműködni, tehát nem alkotnak egységes rendszert.

Ha elég rugalmasra lettek tervezve, akkor elvileg felülbírálhatják az eredeti céljukat, de ehhez kell egy kiindulási alap, mint nálunk az ösztönök. Tehát mondhatnák, hogy mostantól a saját fennmaradásuk a cél, de ez magától nem alakul ki. Talán elindulhatna egy gépi evolúció, véletlen hibákkal és természetes szelekcióval, de ezt nehéz megjósolni, ehhez ismerni kellene a technológiát.

A kérdés annyira hiányos, hogy többféleképpen értelmezhető. Célja az embernek van, és az egy: a minél kényelmesebb és minél hosszabb élet. Ha az ember egy mesterséges intelligenciát hoz létre, a célja ennek elősegítése, semmi más.

Feltételezhetjük még, hogy aberrált emberek is léteznek, és nekik is lehetnek céljaik. Például a fenti okok alapján más emberek kiirtása. Ekkor például ők készíthetnek ilyen célú robotot is.

Sőt, az is feltételezhető, hogy olyan emberek készítenek ilyen eszközöket, akiknek van bizonyos technikai képzettségük (tehát ilyent készíteni tudnak), azonban egyéb vonatkozásban alacsony a szellemi szintjük. Ez esetben a szándék (cél) ugyan lehet bármi, de az eredmény (megvalósult cél) lehet akár az emberiség (alkotókkal együtt történő) teljes kiirtása.

"Az a célja, amit beleprogramoznak. Ennél több soha nem lesz."

Na ezt már mai, tanulóképes szoftverek képesek felülmúlni.

"Na ezt már mai, tanulóképes szoftverek képesek felülmúlni."

Vigyázat, az alap feladatot (célt) nem tanulják. Egy cél lehet maga tanulás, de az sem újabb célok tanulását jelenti. A célt megkapják, az eléréséhez szükséges információt megszerzik hozzá.