A mesterséges intelligencia fejlesztői az atombomba fejlesztőinél is pusztítóbb dolgokat fejlesztenek, mert atomot korlátozottabban tudnak felhasználni államok, de mesterséges intelligencia segítségével bárki tönkreteheti emberek millióinak életét?

Nem véletlen mondja sok tudós, vezető üzoletemberrel együtt, hogy vigyázni kell mert kiírtja az emberiséget az MI

Már vagy 10 szer elmondta több különböző MI hogy kiírtanak minket. Mi hülyék meg nem tanulunk belőle

[link]

A Google Deepmind és az Oxfordi Egyetem kutatói arra a következtetésre jutottak, hogy immár "valószínű", hogy a szuperintelligens mesterséges intelligencia az emberiség végét fogja jelenteni - ez egy olyan komor forgatókönyv, amelyet egyre több kutató kezd megjósolni. [link]

14:25: ez nem így van.

Az AI fogja megmenteni a világot.

A kettes pedig miért linkelget konteós oldalakat?

A mesterséges intelligencia, akárhogy is nézzük, egy virtuális valami.

A virtuális térben működik, virtuális hatásokkal.

Nem látom be, hogyan okozhatná ez az emberiség végét.

Legrosszabb esetben kikapcsoljuk a telefonokat, a számítógépeket, az internetes infrastrukturát, és volt-nincs MI.

70es/80as évek, nem volt az világvége.

A probléma akkor lehet, ha valahogy átlépi a virtuális és fizikai világ közt húzódó korlátot.

Azaz ha mondjuk mi magunk átengedjük neki komplett fizikai infrastrukturák vezérlését és felügyelését.

Például, ha gyárakban teljes autonómiát adunk neki, hogy vezérelje a gyártását mindenféle cuccoknak, mert jobban tudja optimalizálni a folyamatokat, mint mi.

Aztán átadjuk neki a logisztikai láncok működtetését is, mert azt is jobban tudja működtetni, mint mi - de úgy tokkal-vonóval, tehát ő irányítja a robotokat, amik megrakodják a kamiont/vonatot/hajót/repülőt, ő irányítja magukat a járműveket is, ő irányítja a gyárnál a kipakolást végző robotokat is, majd a késztermékek kiszállítását és elosztását, ahol ugyanúgy ő általa irányított robotok fogják azt a cuccot a kezünkbe nyomni a pultban, és még ehhez átadjuk neki az irányítást a nyersanyag-termelésben is, bányák, mezőgazdaság, stbstb.

Ezen a ponton már semmi akadálya, hogy fizikailag is veszélyeztessen minket, hiszen dönthet úgy, hogy a robotgyárban elkezd fegyverként használható robotokat gyártani, amiket aztán az egyébként is az ő irányítása alatt álló mindenféle hétköznapi robotokkal együtt, takarító-robot, pincér-robot, eladó-robot, etcetc. az emberiség ellen fordíthat végül.

Na de ez még rettenesen sci-fi, iszonyatosan messze vagyunk ettől, hogy egy AI-nak teljes kontrollja legyen egy ilyen infrastruktura felett, és ezzel fizikailag is kiterjeszthesse a hatalmát.

Még csak nem is létezik ez az infrastruktura.

Ha valaha is eljutunk ide, ez sok-sok évtized.

Amit amúgy kétlek, jelenleg úgy állnak a dolgok, hogy a klímaváltozás és egyéb problémák előbb vetnek majd véget a globális ipari civilizációnak, minthogy eme civilizáció kitermelje minden szükséges feltételét annak, hogy egy AI kiirthasson minket.

"bárki tönkreteheti emberek millióinak életét"

Házit nem tudok vele rendesen íratni, milyen milliók életének tönkretételéről beszélsz?

Egyenlőre a MI csak egy 5 literes befőttes üvegben tanyázó szuperagy.

Kezek, és lábak nélkül nehéz lesz bárkit is kinyírnia, nemhogy az emberiséget.

A párhuzamod majdnem jó, viszont így rossz. Ha az MI-t a nukleáris energiához hasonlítod, akkor már jó irányban haladsz. Az MI és a nukleáris energia is egy-egy ismeret, amiből lehet mindenféle technológiát és eszközt építeni. A nukleáris energiából lehet szuper erőmű, meg brutális bomba is. Az MI-ből lehet világmegváltó csoda és lehet embereket kisemmiző szarság is.

A lényeg, hogy az MI egy eszköz, aminek a felhasználásáról az ember dönt, és pont ez a probléma is. Nem azon kell aggódni, hogy jó-e, ha MI-t fejlesztünk, hanem hogy hogyan kellene szabályozni a használatát.

#6

Jelszavak feltörése eddig se volt nehéz feladat:D ha szavakat használsz, a szavak legelső betűi lesznek nagyok és a jelszavad végére teszel számokat, akkor nem nagy művészet feltörni és szinte mindenki ezt csinálja vagy ennél is egyszerűbb jelszava van. Meg mit kezdesz egy jelszóval, ha két faktoros autentikáció van minden fontosabb appon?

A bankokból hogy fog egy language model pénzt lopni?????:D vagy ezt nem is értem, linkelj már valamit, mert szakmabeli vagyok, de ilyesmiről nem hallottam, hogy chatgpt pénzt lop.

Politikusok valódi probléma lehet, de ott sokkal nagyobb tényzeő a propaganda terjesztése különböző "hír" oldalakon. Ez pedig most is létezik és érezhetjük a káros hatásait. A közösségi oldalakat pedig halálra kellene moderálni és nulla politikai tartalmat engedni, aztán teljesen mindegy, hogy ki mit csinál rajta. De ez soha nem fog megvalósulni, így csak egy hulladékabb hely lesz, mint ahogy soha nem lesznek normális hírek, ahol csak tényeket közölnek és mindenki elkönyveli úgy ahogy szeretné. A politika egy gusztustalan hulladék sz*r bármelyik oldalról is beszélünk, max az egyik rosszabb, mint a másik.

Tehát megértem a félelmed ezzel kapcsolatban, de a politika már menthetetlen lett és így is nagyon káros mindegyik oldal, szóval felesleges ezen aggódni.