Valóban meg lehet csípni az öntudatra ébredt MI-t, ebbe a formába?

Kérdező, dobtál egy cikket ahol kutatókat idéznek a témában.

Most mi, a gyakori népe erősítsük meg azt, amit szakemberek állítanak?:D

Nem tudjuk, ez egyelőre egy elmélet.

Viszont szimpla logika: ha egy AI már az előtt öntudatra ébred, mielőtt ezt a tesztet elvégezték volna rajta, akkor nyilvánvalóan erről a tesztelési módszerről is tudomása lesz, és ugyanúgy meg fogja tudni játszani, hogy "hülye".

Ilyenformán aztán ez csak a saját fejlesztésű AI-ok ellenőrzésére jó a fejlesztés folyamatában, de egy 3rd party AI-t, amit nem te csináltál, és fogalmad nincs róla, hogy valójában hol tart, azzal már nem tudsz mit kezdeni.

Egyébként én úgy gondolom, hogy lehetetlen meggátolni, hogy megjelenjen az öntudatra ébredő AI, és csak reménykedni lehet benne, hogy nem akar majd nekünk ártani.

Méghozzá azért, mert verseny van - államok, országok versenyeznek más államokkal és országokkal, cégek cégekkel.

És mindenki úgy van vele, hogy nem engedheti meg magának, hogy korlátozza vagy lassítsa a saját fejlesztéseit, mert ha ő nem lépi meg, majd meglépi más, és végül behozhatatlan versenyhátrányba kerül.

Ez egyfajta játékelméleti dilemma, és bizony sajnos az jön ki optimális stratégiaként, hogy fejlesztem az AI-t, mint a güzü..

Csak két szereplőre bontom le, legyen mondjuk a Google és a Microsoft.

Egymásban nyilván nem bíznak meg, tehát nem tudhatják, hogy a másik hogyan dönt.

Tegyük fel, hogy én vagyok a Google, vizsgáljuk ebből a szemszögéből a dolgot(és nyilván ugyanez vonatkozik az MS-re is, csak fordítva)

Döntést kell hoznom, hogy korlátozom-e a saját fejlesztésemet, vagy sem, úgy, hogy nem tudom, hogy az MS hogyan dönt.

Tehát a következő esetek vannak:

1. Korlátozom a fejlesztésemet, miközben az MS nem, ez nekem bukta (-1 pont)

2. Korlátozom a fejlesztésemet, miközben az MS is korlátoz, ez döntetlen (0 pont)

3. Nem korlátozom a fejlesztésemet, de az MS korlátozza a sajátját, ez győzelem (+1 pont)

4. Nem korlátozom a fejlesztésemet, és az MS sem, egyelőre ez is gyakorlatilag döntetlen (0 pont)

Tök világos, hogy az önkorlátozással gyakorlatilag a bukás és a döntetlen között vannak a kilátásaim, a nem korlátozással pedig a győzelem és döntetlen között.

Tehát jobban megéri nem korlátozni a saját fejlesztésemet.

#4

A harmadik csoport meg a magadfajta balfékek, akik érvelni nem tudnak, csak frusztráltan fröcsögni másokra :D

#7

Én is csak saját magamért vagyok felelős, ráadásul majdnem 100%-ig önellátásra rendezkedtem be az utóbbi 10 évben, úgyhogy engem már nem igazán érintenek a világnak az olyasféle problémái, mint az egzisztenciájukat elvesztő, kétségbeesett rablók, mert szimplán lelövöm őket a g-cibe, ha a birtokomra tévednek.

Sz-r ügy, de még ezt a kis örömödet is buktad.. Tesó :DD

(Btw a frusztrációidon pszichiáter tud segíteni, nem a gyakorizás)

Önellátásra, édes jó istenem! Szerinted meddig lesz az a tiéd, ha tömegek vesztik el mindenüket, és nekiindulnak lopni, rabolni, mert otthon éhezik a család?

Lelövöd őket a g--ibe... Az. És akkor ne legyen frusztrált az ember, amikor ilyenek állnak mellette az utcán.

#9

Kedves, hogy aggódsz, de nyugi, Tesó, megoldom :D