Végül is, érti, vagy nem érti a kódot?

Na akkor tanítsunk egy rossz kiskutyát (a.k.a kérdezőt) idézni:

Ha valahonnan akár csak egy fél mondatrészt is változtatás nélkül veszel át/írsz le, akkor forrást kéne megjelölni, te bü*ös par*szt! Online felületen konkrétan az access URL-t megadva.

Sebaj, ezt most pótlom neked:

[link]

És akkor a tartalomra is reagálok.

UGYAN EZ a cikk "konklúzióként", de kiemelve az alábbiakat mondja (a lényegi szavakat pedig én alakítom nagybetűssé):

"Egyértelmű, hogy NEM úgy értik a szavakat, mint az emberek” – mondja Lake. Véleménye szerint az LLM-ek jelenleg azt demonstrálják, „hogyan lehet nagyon folyékonyan beszélni, valódi megértés NÉLKÜL."

"Antropomorfizálunk mindent, ami intelligenciát MUTAT."

"Ez egy átok, mert nem tudunk olyan dolgokra gondolni, amelyek célorientált viselkedést mutatnak az emberi modelleken kívül. És azt KÉPZELJÜK, hogy azért teszi ezt, mert úgy gondolkodik, mint mi."

Teljesen felesleges ilyen tanulatlan debilekkel vitatkozni, neki szent meggyőződése hogy a ChatGPT érti amit mondanak neki, mint a szcientológusoknak hogy Xenu a vulkánból mászott ki és kiköpte a Földet úgy keletkeztünk.

Hagyni kell az ilyen szellemileg sérülteket majd elválaszolgat a saját kérdésére bulvárcikekket idézve, egyébként a hozzászólások zöme jó volt.

-Egy Senior AI Engineer

#22:

Tudom. Az "úRisTEn a aI mÁ' TúL oKOs oáÁÁÁáooááÁáÁ" tartalmú nyígás, illetve a forrásmegjelölés nélküli plagizálás és lopás.... krhm-krhm, akarom mondani írás...

az fixen Delphi Papa itt a GYIK-en.

Automatikusan jelenteni kell azt is amit kérdez.

Kedves kérdező! Én eléggé ráérek, nyitott vagyok sok mindenre szívesen meghallgatnám a Te véleményedet. Ezzel nem leszek népszerű, de:

Az agy számol? -hányas számrendszerben?

-melyik részén történik ez?( JK flip-flop-ok?, vagy mik)

-mit számol pl mikor fut egy macska? a dinamikát, az egyensúlyt, mozgáskoordinációt, a környezeti akadályokat, az egér mozgását, képi feldolgozás stb. Valahogy dönt, és irányít de nem a klasszikus matematika alapján számol alapvetően szerintem.

Ha mindezt számolnia kellene, az nem férne el a fejünkben.

Nekem ez olyan, mint a víz amikor folyik: nem számol semmit, csak megy amerre a fizika viszi. De ha ezt 3d folyadékszimulációval próbálom lemodellezni, az igencsak meg tudja terhelni a rendszert, és csak egy erősen egyszerűsített modellt használ. Nekem a fejemben is sok a víz, ezért irkálok ilyeneket.

Szerinted akkor érti a kódot?

#21/23 vagyok.

#25: És akkor tegyük hozzá a folytatást is delphi papper!

"Mások (köztük ő maga és az olyan kutatók, mint Mitchell) sokkal óvatosabbak. A megosztottság oka szerinte az, hogy egyik véleményt sem támasztják alá meggyőző bizonyítékok."

( [link] )

Ha már Ullman megjegyzését emeled ki ennyire, akkor tőle idézek válaszként.

"A tudatelmélet spontán megjelent a nagy nyelvi modellekben? Valószínűleg nem." (Ullman, 2023, p. 8.)

"Megjegyezzük, hogy nem vagyunk hitetlenek a tudatelmélet gépi intelligenciában való esetleges megvalósítását illetően. Sőt, már sok számítási modell létezik, amelyek megpróbálják közvetlenül megragadni ezt a képességet. Úgy gondoljuk, hogy jó irány az ilyen modellek nyelvi modellekkel való integrálása, ahelyett, hogy azt várnánk, hogy a tudatelmélet spontán módon alakuljon ki további nyelvi adatokból." (Ullman, 2023, p. 9.)

"Kosinski (arXiv:230202083) egy dilemmát hoz fel: Ha a jelenlegi LLM-ek átmennek a ToM-teszteken, akkor vagy a jelenlegi LLM-ek rendelkeznek ToM-mel, vagy a ToM-tesztek nem tesztelik a ToM-t. A jelenlegi kutatás (és más tanulmányok, mint Sap (arXiv:221013312) munkája) azt sugallja, ennek nem kell dilemmának lennie - a jelenlegi LLM-ek NEM mennek át a ToM-teszteken." (Ullman, 2023, p. 9.)

"Nehéz pontosan megadni, mi van a jelenlegi LLM-ek homályos hátterében. De bármilyen címkét is aggatnak rá, feltehetően nem a tudatelmélet." (Ullman, 2023, p. 9.)

Tehát Ullman kijelenti, hogy a jelenlegi LLM-ek (bár jó kutatóhoz híven, elérakja a "feltehetően" szót, ez így is van rendjén) a tudatelmélet szempontjából nem állják meg a helyüket.

Hogy ez miért is lényeges? Mi a tudatelmélet?

Az eredeti meghatározás szerint lehetővé teszi annak a megértését, hogy a mentális állapotok lehetnek okai – ezért használhatók magyarázatként vagy előjelként – mások viselkedésének (Premack & Woodruff, 1978).

Mások szándékainak megértése egy másik fontos előfeltétele az elme megértésének, mert a szándékosság vagy a „körüliség” alapvető vonása a mentális állapotoknak és eseményeknek. A „szándékossági irányvonalat” Dennett (1983) úgy határozta meg, mint annak a megértése, hogy mások tettei célirányosak, és bizonyos hiedelmekből, vágyakból erednek.

Az egyik legfontosabb mérföldkő megérteni, hogy másoknak lehetnek olyan elképzelései a világról, amelyek nem helyesek. Ahhoz, hogy ezt valaki meg tudja tenni, értenie kell, hogyan alakul ki a tudás. A hamisvélekedés-teszteknek sok fajtáját fejlesztették ki az eredeti tesztre támaszkodva (Wimmer & Perner, 1983).

Más feladatokat arra fejlesztettek ki, hogy a hamisvélekedés teszttel együtt járó problémákat próbálják megoldani. A látszat-valóság tesztben Gopnik és Astington (1988) azt találta, hogy a gyerekek négy- vagy ötéves korban tudják sikeresen elvégezni a tesztet.

A hamisfénykép-teszt (Leslie & Thaiss, 1992) egy másik feladat, ami a tudatelmélet fejlettségét hivatott mérni.

És akkor tisztázzuk az "understanding" és a "context" is. Altmann (1997) és Dey (2001) bár hosszasan, de kitárgyalják ezt a témakört. Az "understanding" feltétele a "tudat", vagyis a szándék megértése. Ehhez szükséges a tudatelmélet. A "context" pedig ennek kiegészítése, hogy az adott szöveget/eseményt/megértendő dolgot, a helyén tudjuk kezelni, környezet szerint más és más módokon.

Ahogyan Wang (2021, p. 145.) nagyon jól összefoglalja:

"Ahhoz, hogy megértsünk valamit, tudnunk kell, hogy mi az, és azt is, hogy miért olyan, amilyen. Azonban a technikai fejlődés jelenleg elérhető útvonalai nem tudják az AI-nak az események közötti ok-okozati összefüggés megértésének képességét megadni."

-------------------------

Altmann, G. T. M. (1997). The Ascent of Babel: An Exploration of Language, Mind, and Understanding. Oxford Universty Press.

Dennett, D. (1983). Intentional systems in cognitive ethology: The “Panglossian paradigm” defended. Behavioral and Brain Sciences, 6(3), 343-355. doi:10.1017/S0140525X00016393

Dey, A. K. (2001). Understanding and using context. Personal and ubiquitous computing, 5, 4-7. doi:10.1007/s007790170019

Gopnik, A., & Astington, J. W. (1988). Children’s Understanding of Representational Change and Its Relation to the Understanding of False Belief and the Appearance-Reality Distinction. Child Development, 59(1), 26–37. doi:10.2307/1130386

Leslie, A. M., & Thaiss, L. (1992). Domain specificity in conceptual development: neuropsychological evidence from autism. Cognition, 43(3), 225–251. doi:10.1016/0010-0277(92)90013-8

Premack, D., & Woodruff, G. (1978). Does the chimpanzee have a theory of mind? Behavioral and Brain Sciences, 1(4), 515-526. doi:10.1017/S0140525X00076512

Ullman, T. (2023). Large language models fail on trivial alterations to theory-of-mind tasks. arXiv preprint arXiv:2302.08399.

Wang, J. (2021). Is artificial intelligence capable of understanding? An analysis based on philosophical hermeneutics. Cultures of Science, 4(3), 135-146. doi:10.1177/20966083211056405

Wimmer, H., & Perner, J. (1983). Beliefs about Beliefs: Representation and Constraining Function of Wrong Beliefs in Young Children’s Understanding of Deception. Cognition, 13, 103-128. doi:10.1016/0010-0277(83)90004-5

Van a mérés, a számolás és a számítás. Önmagában a mérés, mérlegelés szerintem még nem számítás, skála nélkül is el tudom vele dönteni, hogy pl két dolog közül melyiknek nagyobb a súlya, mert látom merre billen.Az agyam sem számítgat a látottak kiértékelése közben, ez egy analógia. Ha ezt egy ai teszi (vizuálisan kiértékel egy mechanikus billenő mérleget) rengeteg számítási folyamatot végez közben. De értem mire célzol, elfogadom, hogy az agy számításokat végez a maga módján, de mint már írtam, ezt nem lehet a gépi számítási technológiához hasonlítani. Szóval,

gépi számítási technológia fejlesztésének mely szakaszában került az értelem képessége a rendszerbe szerinted?