Létrejöhet a jövőben a tudattal bíró általános mesterséges intelligencia?

Ha érdekel a téma, van fel youtube-on egy Robert Miles nevű AI biztonság kutató.

Sok érdekes dologról beszél, például, hogy hogyan vesz föl egy általágos mesterséges inteligencia (AGI) olyan nem programozott köztes célokat, mint az önnfenntartás, az erőforrás szerzés, az önfejlesztés...

Arról is beszél, hogy milyen technikákkal igyekeznek ezeket kiszürni.

Mi az, hogy tudat?

Halvány gőzünk sincs róla a mai napig.

Így aztán nehéz létrehozni valamit, amiről nincs semmi elképzelés.

Mintha olyan ember kezdene csokoládét készíteni, aki soha életében még csak nem is hallott róla.

A mai chatgp sem több mint egy statisztikai alapon következő program. Egy nagy adatbázisból kiválasztja a válaszhoz tartozó legvalószínűbb szavakat, aztán mondatokba rendezi.

Soká lesz még igazi AI.

12: Elismered, hogy azt se tudjuk, hogy mi az a tudat, de közben olyan fogalmakat használsz, mint "igazi AI", mintha az bármivel jobban definiált lenne.

A GPT amúgy nem adatbázisból választja ki a legvalószínűbb szavakat, és ez most nem szemantikai kötözködés. Egy kibogozhatatlan neurális háló súlyaiba van kódolva minden, amit tud, semmiféle strukturált adatbázisban való keresés és kiválasztás nincs a bemenet -> kimenet folyamatban. Kb úgy ad reakciót, ahogyan egy hangya, ha megbököd. Az input ilyen-olyan mértékben aktivál x neuront, amik keresztbe aktiválnak másik y neuront, és néhány ilyen lépés után ott a válasz a képernyődön.

Persze ettől még lehetne mondani, hogy jó, akkor "ez csak egy neurális háló ami statisztikai alapon...", csak erre ugye rögtön jön a visszakérdezés, hogy miért, te mi vagy? :)

14: Miért, talán kiderült a hétvégén, hogy mi az a tudatosság?

A GPT alapja pont ugyanannyira a statisztikai következtetés, mint amennyire a mi agyunk statisztikai következtetőgép. A különbség sokkal inkább a modellek méretében és minőségében rejlik, mint a számítás módjában. Az adatbázisban való keresés és az emberi agy működése között alapvető különbség van, míg a neurális hálókról ez kevésbé mondható el.

"mint amennyire a mi agyunk statisztikai következtetőgép."

Ez nincs bizonyítva! ☝️