Szerintetek nem ijesztő, hogy ennyire terjed a robottechnológia?

90+:

Arról nem is beszélve, hogy az ostoba emberek tömegei önként és örömmel szolgáltatják ki az adataikat és a technikai eszközeiket mindenféle ostoba alkalmazásoknak, mert höhö, de vicces, hogy Daenerys Targarien fejét kicserélem a sajátomra, már töltöm is le az alkalmazást.

Ennyi épp elég, hogy elterjedjen mindenhova.

"az embereknek kell reális fizu, a munkáltatónak meg reális bevétel"

Ezt lehetne kiegészíteni, ha már alapjövedelemről beszélsz.

Mindenki megkap egy átlagos 2 órás fizetésnek megfelelő jövedelmet.

A többi 6 órát meg ledolgozza.

A munkáltató meg TB és adminisztrációs könnyítést, állami támogatást kap, ahogy írtad.

NA, ENNEK lenne értelme!

Olcsóbb is lenne, mint az alapjövedelem.

"Viszont ha nekem azt mondanák, hogy holnaptól itt van annyi pénz, amiből a szükségleteid azért meglennének,... munkahelyen dolgoznod pedig nem kell, én lennék a legboldogabb ember a világon."

Én is. Kismillió hobbinak tudnák élni, van köztük olyan is, ami simán plusz bevételt is hoz, pl. a 3D nyomtatás, kerékpárszerelés, szeretem is csinálni.

Én a napi 8 órám nélkül sem unatkoznék.

De valószínűleg sokan nem így vannak ezzel.

Akinek ma nincs semmi hobbija, mellékes tevékenysége, amit szeret csinálni, annak gyanús, hogy akkor sem lesz, ha annyira szeretné, azért néha most is lenne rá kis ideje.

"Sandbox..

Mikor manapság is azt csinálják a tech cégek, hogy a teljes internetre ráeresztik az ágenseket? :)"

Oké, de milyeneket? Milyen kárt tudnak okozni?

Nem mindegy.

"Oké, de milyeneket? Milyen kárt tudnak okozni?

Nem mindegy."

Nem mondtam, kárt okoznak.

Azt állítottam, hogy hozzáférnek bármihez az interneten.

Nyilván ha te abból indulsz ki, hogy minden eshetőségre fel vagyunk készülve, akkor annyira naív vagy, hogy nincs értelme vitázni.

Mert előfordult már nem egyszer, hogy HFT ágensek komoly problémákat okoztak a tőzsdéken.

Az AI poisoningról, evasion-ről nem is beszélve, ezek is a kiszámíthatatlanságot növelik, és ugyanúgy a nagy képlet részei.

"Nyilván ha te abból indulsz ki, hogy minden eshetőségre fel vagyunk készülve, akkor annyira naív vagy, hogy nincs értelme vitázni."

Sehol nem állítottam ilyet. Minden technológiának van kockázata és nem lehet MINDENT kivédeni. De az igazán globálisan katasztrofálisokat simán.

Nyilván ha te abból indulsz ki, hogy az AI mindenhatóan kimászik a legkisebb résen is és majd jól elpusztítja a világot, akkor annyira naív vagy, hogy nincs értelme vitázni.

:)

"Nyilván ha te abból indulsz ki, hogy az AI mindenhatóan kimászik a legkisebb résen is és majd jól elpusztítja a világot, akkor annyira naív vagy, hogy nincs értelme vitázni. :)"

Ferdítesz, barátom.

Nem állítottam, hogy elpusztítja a világot. Minek is tenné? Azzal magát is ellehetetlenítené.

Azt állítottam, hogy nem fogjuk tudni korlátozni, ki fog csúszni az ellenőrzésünk alól.

És jó okom van ezt feltételezni, ha egyszer jóval intelligensebb lesz, mint mi, emberek.

Az a baj, hogy nagyon szűk látókörűen gondolkoztok egy felsőbbrendű intelligenciával kapcsolatban.

Szimplán technológiaként tekintetek rá, mint mondjuk a nukleáris technológiákra, és abból indultok ki, hogy azzal sem pusztítottuk el magunkat - nyilván, mert nem vagyunk hülyék, van ennyi életösztönünk.

De azt nem értitek, hogy onnantól, hogy a felsőbbrendű intelligencia realizálódik, már nem mi döntésünk, hogy mire és hogyan használjuk.

Nem fogjuk érteni, hogy mit csinál, egyáltalán, a motivációt sem fogjuk érteni, így aztán megjósolni sem a viselkedését.

Azon persze lehet vitatkozni, hogy egyáltalán létrejön-e valaha.

(De nem igazán érdemes, a terület szakértői szinte egybehangzóan azt mondják, hogy létrejön, a vita tárgya csak az, hogy mikor. És nem száz évekről beszélnek, hanem néhány évtizedes távlatokról szólnak a viták köztük - 20 év, vagy 40 év, esetleg 60)

A kontrollására pedig a szintén valódi szakértőknek is csak elképzeléseik vannak, veled ellentétben nem gondolják úgy, hogy annyira egyszerű a dolog, hogy sandboxba rakom, oszt' kész, meg van oldva.

A dilemma épp az, hogy ha addig a pontig, ameddig még lehetőség van korlátozni, és megtesszük, akkor az AGI soha nem fog kifejlődni, épp a korlátozás miatt.

Csakis úgy fejlődhet ki, ha elég nagy autonómiát és "teret" adsz neki, viszont ha ezt megteszed, és kifejlődik, onnantól már nem fogod tudni korlátozni, mert nagyon gyorsan sokkal okosabb lesz, mint te.

Szerinted a csimpánzok tudnak bármilyen módon kiszámítani, korlátozni, ellenőrizni minket, embereket? Nyilván nem. És ennek az oka az óriási intelligencia különbség.

Az egyetlen biztos korlátozási módszernek jelenleg az tűnne, ha teljesen felhagynának a törekvéssel az ezzel foglalkozó kutatók, cégek, szervezetek, hogy AGI-t fejlesszenek.

Ebben az esetben természetesen semmiféle olyan következménye nem lehet a dolognak, amiket vázoltam.

"A kontrollására pedig a szintén valódi szakértőknek is csak elképzeléseik vannak"

Pont annyira, mint a létrehozásáról. Ez a lényeg. És a két dolog együtt fog fejlődni.

"veled ellentétben nem gondolják úgy, hogy annyira egyszerű a dolog, hogy sandboxba rakom, oszt' kész, meg van oldva."

Mit vársz tőlem? Hogy előre megmondjam, egy majd talán kifejlesztendő AI-hez milyen fejlettebb megoldást fog jelenteni a mai sandbox szó?

Miért vagy képes az egyik végletben a távoli jövőben gondolkodni, de a másik végletben meg csak a mai lehetőségekben?

Így irreális az összevetésed.

"A dilemma épp az, hogy ha addig a pontig, ameddig még lehetőség van korlátozni, és megtesszük, akkor az AGI soha nem fog kifejlődni, épp a korlátozás miatt."

Ez alapján nem fog kifejlődni.

Én meg nem értem, miért kéne a kifejlődéséhez biztosítani a megállíthatatlanságot. A mi értelmünk is kötött keretek közt jött létre.

"Az egyetlen biztos korlátozási módszernek jelenleg az tűnne, ha teljesen felhagynának a törekvéssel az ezzel foglalkozó kutatók, cégek, szervezetek, hogy AGI-t fejlesszenek.

Ebben az esetben természetesen semmiféle olyan következménye nem lehet a dolognak, amiket vázoltam."

Ez MINDEN fejlesztés MINDEN feltételezett káros következményére igaz.