Felkavaró hír: az emberiség pusztulására tör egy mesterséges intelligencia? Mit gondolsz?

20, amúgy tanul, igen.

De egyébként ha ezeket megkérdezed tőle, el is mondja. Pl a tanulási metodikáját is.

És.. eleve ezért van ingyenes hozzáférésed neked is, hogy fejlődhessen a használat által. Nem neked akartak kedvezni, hanem így akartak sok tesztelőt bevonni:D

Szóval semmi ijesztő, meglepő vagy váratlan nincs ebben az egészben. Valamit nem tartalmazott az adatbázisa, ezt a felhasnzáló jelezte, és tanult belőle. Ennyi.

én azt kérdeztem tőle, hogy a velem folytatott beszélgetésből tanul-e, illetve pontosabban azt, hogy felhasználja-e, ami új információhoz jut, miközben velem beszél, arra azt mondta, hogy nem

én nem félek tőle egyáltalán

22, az információt amit tőled kap, azt nem is használja fel. A megbízható adatbázis ismérve, hogy nem innen-onnan jött beszélgetésekre támaszkodik.

Magát a beszélgetést használja fel, nem a tartalmát.

A ChatGPT alapvetően nem tanul abból, ami a felhasználóktól érkező információ. Anno volt, aki így tett elérhetővé MI-t, egy idealistától jó ötletnek is tűnhet, hogy a használata során tovább „okosodik” az MI. Csak nem számoltak a trollokkal, főleg a programozni tudó trollokkal. Mert ha valaki ír egy scriptet, ami felvet egy konkrét témát, majd az adott chatbotot önmagával beszélteti, de bizonyos szavakat kicserél vagy valamilyen jelzővel lát el, mondjuk a „programozó” szóhoz mindig hozzácsatolva egy jelzőt a szót „mocskos programozók”-ra cseréli, akkor az MI azt fogja megtanulni, hogy valahogy ez a mocskos jelző a programozó szónak afféle állandósult jelzője, és idővel ő is így fogja használni.

De ez egy ártatlan példa volt, ennél sokkal vérlázítóbb kijelentésekre, asszociációkra is be lehet tanítani, ha valaki időt, energiát szán rá. Persze a média le is hozza másnap, hogy öntudatra ébredt az Mi és antiszemita/rasszista/akrámilyen nézeteket kezdett vallani. Pedig valójában csak megtanulta a számára amúgy nem értelmezett betűsorozatoknak a felhasználók szövegeiből megismert mintázatát.

Ezért ezt ma már senki nem vállalja be. Általában nem váltja be ez a választás a hozzá fűzött reményeket, sőt… A ChatGPT a beszélgetésszál alatt tárol bizonyos összefüggéseket, az adott beszélgetésen belül képes megjegyezni dolgokat, de egy új – vagy más által indított – beszélgetésben ezt nem veszi figyelembe.

A ChatGPT viszont egy dologból tanul. A válaszokat lehet „lájkolni, diszlájkolni”. Ezzel nem nagyon lehet rávenni, hogy olyan dolgot mondjon, ami egy trollkodó ember célirányos szándéka, így kevesebb a visszaélés vele, viszont figyelembe veszi, ha valamilyen válaszát helyesnek vagy helytelennek értékelték a felhasználók.