Mennyi idő van hátra szerintetek a valódi, önállóan gondolkodni, fejlődni, tanulni és érzelmet mutatni képes mesterséges intelligencia létrejöttéig?

Sokkal sürgetőbb gond, hogy egy felfoghatatlanul intelligens, visszafejthetetlen működésű izéről senki semmilyen eszközzel nem fogja tudni eldönteni, hogy mennyiben rideg számítás eredményei az érzelmi reakciói, mennyiben ártalmatlan utánzások, és hogy egyáltalán lehetséges-e, hogy csak a nagyra nőtt intellektus elegendő ahhoz, hogy érzelmek alakuljanak ki, és ha igen, akkor szükségszerű velejárója-e, vagy külön gondoskodni kell erről.

A rossz hír az, hogy a marhanagy intellektussal már jól elhaladtunk, az érzelmekkel meg kábé nem foglalkozik senki, nem is nagyon tudják, mit lehetne értelmezni rajtuk, szimulálgatáson túl hogyan kéne nekiállni megvalósítani. És még mindig meg se karcoltuk a felszínt a digitális elme esetleges betegségeivel kapcsolatban, mindössze annyi biztos, hogy érzelmek nélkül tankönyvi pszichopata a cucc.

"csak a nagyra nőtt intellektus elegendő ahhoz, hogy érzelmek alakuljanak ki"

El kell szomorítsalak: az érzelmek SOKKAL régebbiek, mint az intellektus, és sokkal egyszerűbbek is.

A hüllőktől kezdve tökéletesen működik az érzelmi agy, míg az intellektus valahol a majmoknál kezdődik.

Szóval...

11: annyit azért tudunk, hogy az LLM is reprezentálja az érzelmeket. Mi több, ez a reprezentáció megismerhető (párba tett boldog-szomorú / barátságos-ellenséges / zárkózott-nyílt tónusú szövegek által kiváltott aktivációk különbségeiből) és stimulálható az ezekből kinyert control vektorokkal. Azaz prompt engineering nélkül, "potméterrel" tekergethetőek az érzelmi és egyéb paraméterei.

Konkrétan matematikai agysebészkedést végeznek ezek a kutató és jailbreak csoportok. Hihetetlen érdekes téma.

és "begyógyszerezhető", tehát. A control vektoros kutatások nagyon érdekesek.