Az MI-k kooperálhatnak ellenünk?

Nincs azzal baj, ha valaki nem ért valamihez, és az oldal céljának megfelelően feltesz egy kérdést. De annak mi értelme, hogy a megkapott válaszokat figyelmen kívül hagyva mantrázza tovább az általa előre eldöntött választ?

Kedves kérdező, ennek így olyan látszatja van, mintha nem kérdezni, információt gyűjteni, hanem "hittéríteni" jöttél volna, és nem megleő módon annak a Természettudomány kategóriában kevésbé van helye.

Egyáltalán mit keres még itt a kérdés?

Netán valaki azt gondolja, hogy a kérdező hirtelen értelmet növeszt?

Felismerték ám a tudod mit.

Egyszerűen megoldást találtak egy adott helyzetre.

#25 > Anno összeeresztettek két MI chatbotot évekkel ezelőtt. Felismerték egymást és megalkottak egy új nyelvet. Le kellett állítani őket.

Ez úgy kb. 30%-ban igaz.

A Facebook mesterséges intelligencia kutatói próbáltak „tárgyaló ügynököket” leprogramozni, valóban mesterséges intelligencia eszközökkel. Ez pl. praktikus lehet egy webáruháznál, ahol az MI tud tárgyalni első körben egy reklamáló vásárlóval, és el tudja érni, hogy a vételár teljes visszakövetelése helyett a vásárló belemenjen, hogy a terméket újraküldik, kap hozzá egy kiegészítőt és mondjuk 20% kedvezményt a következő vásárlása vételárából. A webáruház adott esetben lehet így jobban jár, és a vevő is lehet elégedett.

Praktikus lehet ez akkor is, ha két nagy cég között esetleg ilyen chatbotok tudnak előzetes egyességre jutni, az ember lehet hamarabb feladja, a chatbotok meg addig tárgyalnak, amíg csak kell, amíg meg nem születik a kompromisszum.

Nyilván először emberekkel tanítgatták ezeket a chatbotokat – amik tulajdonképpen egy erősen specializált MI-k –, aztán idővel egymásnak eresztették őket, hogy pl. osszanak ki egymást között tárgyakat úgy, hogy mindegyiknek mások preferenciái (mondjuk az egyik célja a könyvek megszerzése, a másiké a piros dolgok megszerzése stb…). Itt lehetnek kooperációk, lehetnek ellenérdekeltségek. Azt várták, hogy esetleg javulni fog a tárgyalókészségük.

Itt mindig félő, hogy az MI-k a már megtanult mintázatokat fogják ismételgetni. És tulajdonképpen ez is történt, csak éppen nem a legszerencsésebb formában. Olyan szövegeket generáltak alternatív ajánlat gyanánt, amik emberi olvasatban értelmetlenek. Az MI viszont nem ismer fel semmit. Sem azt, hogy MI-vel tárgyal, sem azt, hogy a bemenetként kapott szöveg tulajdonképpen értelmetlen. Ő a betanításául szolgáló mintázat alapján valamilyen szöveget fog generálni a bemenetre, ha a bemenet értelmetlen, akkor – ha speciálisan nincs betanítva ezekre az esetekre – jó eséllyel értelmetlen szöveget.

Nos ez az a bizonyos új nyelv. Egy példa egy ilyen beszélgetésre:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Nem nyelv ez, hanem egymást gerjesztő anomáliák sora a generált szövegben. Az tény, hogy ez a „kommunikáció” eltér a chatbotok megírásának eredeti céljától, attól a forgatókönyvtől, amire az MI-ket kifejlesztették, de ebben olyan hű de nagy meglepetés azért nincs.

És nem „kellett” leállítani, de leállították őket, mert semmi értelme nem volt folytatni.

Persze aztán ebből született egy korrekt cikk, amit átvett egy másik cikk – esetleg már a példapárbeszéd beidézése nélkül –, amit aztán már – hogy több kattintást kapjon – némileg kiszínezett egy újabb hírátvétel, mígnem el nem jutottunk addig, hogy „A Facebook mérnökei pánikba estek … az MI-k – hogy ne értsék őket az emberek – kifejlesztettek egy hátborzongató nyelvet … megalkották Frankeinstein szörnyét … világuralomra törnek … VESZÉLY, VESZÉLY, VESZÉLY”. Pedig az MI nem csinált mást, mint amire tervezték: Szöveges bemenetre az addigi diskurzusai alapján összerakott mintázatok alapján szöveges kimenetet generált.

Ez igaz.

Viszont sajnos az szokott lenni, hogy ahol ezotériás a kérdező, ott elárasztják a kérdést a turbo ezotériások, és mást se lehet ott olvasni.

Ez itt az üdítő kivétel. Bár azért itt is van ilyen válasz.