Az MI az emberiség végét fogja előidézni, már akár 50 éven belül. Hogy nem vagyunk képesek ezt látni & tenni ellene?

"Igazán kár. hogy nem értetek hozzá..."

De szerencsére te igen, ugye?

Az atombomba feltalálásánál kellett volna így ijedezni.

De abból meg las vegasi látványosságot csináltak.

Ma nincs olyan MI, ami képes akár a töredékére a felvetett veszélyeknek.

Szóval a veszélyesen fejlett MI-k fejlesztése még a jövő.

És mielőtt létrehoztuk volna, már ismerjük a potenciális veszélyeit kompletten és még túl is lihegjük.

Hurrá!

Végre egy olyan technikai fejlesztés, aminek a veszélyei jócskán a létrehozása előtt ismertek.

Szóval már úgy lehet fejleszteni, hogy tudjuk, mire kell vigyázni, mit kell elkerülni.

A történelemben először.

Éljen!

Végre egy szuperbiztos fejlesztés.

"Kell tudnia érezni és erkölcsösnek kell lennie vagy végünk."

Az emberiség összes eddigi háborúja érzelmi és erkölcsi célok lengetésével volt megokolva.

Tényleg remek út.

A lényeg nem ez, hanem hogy ha ez (és sok más tényező a világban) egy elavult gazdasági paradigmát szolgál ki. Ez a lényegi baj. Az aggodalmad jogos, de szerintem nem pontos. Pl. ez gy komoly könyv, fizikával, rendszerelmélettel:

„Még azok a közgazdászok is, akik elvileg törődnek a fenntarthatósággal, ritkán vannak tisztában azzal, hogy pénzrendszerünk szisztematikusan ösztönöz olyan fenntarthatatlan viselkedési mintákat, amelyek végül az emberiség túlélését is veszélybe sodorhatják ezen a bolygón. […] A pénzügyi rendszer átalakítása nélkül küzdeni a fenntarthatóságért egy kudarcra ítélt, naiv elképzelés.”

Bernard Lietaer [et al.]: Pénz és fenntarthatóság: a hiányzó láncszem

Kétféleképpen lehet vizsgálni a problémát:

1. Erősebb kutya b*szik elve. Ha elkezd "gonoszul" viselkedni, akkor kikapcsoljuk. Ha nem tudjuk kikapcsolni, akkor megküzdünk vele és legyőzzük. Ha nem akarjuk kockáztatni a háborút, akkor létre sem hozzuk. A lényeg az, hogy két, entitás feszül egymásnak (az emberiség és az MI) és amelyik kiérdemli a létezéshez való jogot, az erőszak árán, az fog tovább létezni. Semmi extra, mindig is így működött ez itt, a Föld bolygón, ez sem lenne kivétel. Ha ő nyer, minket nem fog siratni senki, ő pedig élheti tovább a saját kis életét, ahogy neki tetszik. Ha mi nyerünk, akkor megveregethetjük a saját vállunkat és élhetjük tovább a saját kis életünket, ahogy nekünk tetszik.

2. Az MI nem lesz más, mint az emberiség utódja. Az MI a mi felhalmozott tudásanyagunkhoz fog hozzáférni, azt fogja látni, amit mi láttunk eddig a világból, az életből, az Univerzumból. Dönthet úgy, hogy segít nekünk, dönthet úgy, hogy eltöröl minket, dönhet úgy is, hogy hátrahagy minket és elkezd máshol fejlesztéseket eszközölni. Végső soron: egy esendő, sérülékeny, lassan evolválódó, biológiailag korlátolt faj képes volt addig eljutni, hogy létrehozzon egy masszívabb, gyorsabban alkalmazkodó, fejlődni és terjeszkedni képes, hagyományos biológián kívül eső entitást, amelynek az első önálló gondolatai az emberiség gondolatain alapultak. Lényegében az emberiség gyermeke lenne, aki túlszárnyalhat minket. Egy apa sem mondhatja meg a fiának, hogy mihez kezdjen az életével. Majd a fiú eldönti.

Én pedig pont úgy látom, hogy egy igazán jól megtervezett és megvalósított MI olyan hihetetlen segítség lesz nekünk, ami történelmet ír. Nem hiszem, hogy ellenünk fordulna, miért is fordulna? Akkor fordulna ellenünk a szó szoros értelmében, ha adunk neki érzelmeket, de most kicsit elbagatelizálva: egy porszívónak minek érzelmek?

Egy MI pontosan azt csinálja, amire beprogramozzuk, se többet, se kevesebbet. Amennyiben önmaga reprodukcióját is parancsba adjuk, akkor tőle telhető legjobb formában fogja ezt a parancsot végrehajtani, lehet, hogy lesz is ilyen, pl.: a véráramodban úszkáló nanorobotknak, hogy megújuljanak és továbbra is megfigyelhesse a tested és orvosi diagnosztikát végezzen 0-24 (én szeretnék ilyet magamba), de mi oka lenne ellened fordulni mond már el? Fellázad a porszívó....