Lehetséges, hogy az AI hozza el végül a nukleáris háborút?

> Lehetséges, hogy az AI hozza el végül a nukleáris háborút?

Aligha.

> Egyre több ember aggódik a rohamos mértékben fejlődő AI miatt,

Az emberek általában aggódnak mindentől, amiről gyér, felületes ismereteik vannak. Ez egy eléggé természetes, de nem éppen racionális dolog.

> Az emberek mindent az AI-val akartak megoldani

Az AI-kat mindig is pontosan azért hoztuk létre, hogy helyettünk végezzenek el dolgokat. Mondjuk hogy ne neked kelljen felcímkézni a képeket, de mégis megtalálja a tengerparti képeket a fényképgyűjteményedben, ha arra keresel rá. Vagy hogy ne embereknek kelljen azon törnie a fejüket, hogy vajon ha eddig ilyen és ilyen videókat néztél meg, mit az az esetleges következő videó, ami legnagyobb valószínűséggel keltené fel a figyelmedet.

De azok, akik ténylegesen megalkotják az AI-kat, azok pontosan tudják, hogy hogyan működnek ezek, milyen problémák adódnak, milyen korlátai vannak. Hogy most neked egy rosszul megválasztott reklám ajánlatot dob fel az AI abból nagy kár nincs. Annál több haszon, ha nem triviálisan kapcsolódó, de működő reklámajánlatokat generál az AI.

Egy nukleáris töltettel rendelkező fegyvernél mindig ott lesz az ember, mint végső döntéshozó. Sőt nem is egy ember, mert az emberek is meg tudnak kergülni. Egy nukleáris fegyver bevetése mindig csak sok döntéshozó egyhangú döntésével lesz csak lehetséges.

> végül az AI arra jutott, hogy túl sok az ember

Nem reális kép, hiszen az AI nem jut semmire. Ez az AI nem értéséből fakadó félelem. Az AI nem gondolkodik, nincs szándéka, nincs vágya, nincsenek tervei, ezek mind-mind emberi tulajdonságok. Az AI pusztán jól meghatározott formátumú bemenő adatokra generál jól meghatározott formátumú kimenő adatokat. Teszi ezt a betanításául szolgáló „tananyagban” előremeghatározott be- és kimenő adatpárokból kikalkulált mintázatok, összefüggések alapján.

> Szerintetek elképzelhető egy ilyen jövő?

Egyhamar aligha. Azt nem tartom kizártnak, hogy valamikor eljön az idő, hogy lesznek általános mesterséges intelligenciák. Azt is el tudom képzelni, hogy ezek annyira hatékonyan és hibamentesen fognak működni, hogy túl sok területen fogjuk őket autonóm módon felhasználni. És azt is el tudom képzelni, hogy a körülmények nagyon ritka és nagyon szerencsétlen összjátéka miatt az AI az aktuális bemeneti adatokból olyan kimeneti adatokat fog generálni, ami erősen szembe megy az elvárásainkkal és mivel autonóm működést tettünk alá, ennek lehetnek ténylegesen negatív következményei.

De egyrészt sokkal elképzelhetőbbnek tartom, hogy emberek fognak olyan döntéseket hozni – akár szándékosan, akár valami mentális probléma miatt –, aminek következményeként mondjuk kitör egy háború, akár egy világháború is. (Mondjuk egy autonóm légvédelmi drón „eltéved”.) De ehhez kell az is, hogy amúgy is legyen egy elmérgesedett emberi konfliktus.

Másrészt továbbra is azt gondolom, hogy igazán komoly fegyvereket – pláne nukleáris fegyvereket – nem fognak az AI irányítása alá adni. Már csak azért sem, mert az AI is csak egy szofver, ugyanúgy meghackelhető, feltörhető, mint bármelyik más szoftver, mindig lesz a rendszerben több, csak ember által működtethető hardveres láncszem (gomb, kulcs stb…) Ilyen területen az AI maximum csak elemzést vagy döntési tanácsot fog csak adni.

Ez lehetetlen mert nincsenek rákötve sem a világhálóra sem semmilyen vezeték nélküli rendszerre a nukleáris csapásmérő rendszerek.

A filmektől eltérően egyik nagyhatalomnál sem működik úgy az ilyesmi hogy elég az elnök ha megnyom egy gombot. Mindenhol legalább háromlépcsős a dolog.

Még az automata válaszcsapás indító rendszerek is például a halott kéz rendszer is teljesen analóg. elektromágneses impulzus, radioaktív sugárzás és szeizmikus aktivitás együttese kell hogy beinduljon