A mesterséges intelligenciát támogatók hogyan értelmezik az alábbi nyugtalanító hírt?

Nem értem, mi ezzel a gond.

Ez legfeljebb annak nyugtalanító, aki teljes bizalommal volt a MI iránt, mint ami kiváltja az emberi intelligenciát, de ilyenről még nem hallottam.

Aki MI-t használ a munkája során, annak ez nem újdonság.

Nincs olyan, hogy AI, csak remek matematikai modelleink vannak amikhez van sok adatunk (tanítani) és elegséges számítási kapacitás nagy méretben ezt csinálni.

Csak ezt rohadtul nehéz elmagyarázni egy átlag embernek, aki azt se tudja mi egy szimpla lineáris regresszió, vagy hogy pl a GPT mit jelent, a működéséről pedig pláne nem tudnak semmit.

Így pedig nincs értelme érdemi vitát folytatni, mert fogalmatok sincs arról, hogy miről beszéltek.

#4 vagyok.

Ez olyan, hogy nincs értelme egy olyan személlyel a string theoryról vitázni, akinek nincs legalalább egy fizika bsc-je, és az még tényleg csak egy belépő szint lenne.

#3: mi lenne később?

Attól intelligencia, hogy képes tanulni, és a tanulásnak néha negatív következményei vannak.

A MI egy eszköz, a végső döntés az emberé, aki mérlegelhet.

"Önálló akarat nem lehet."

Milyen szerencse, hogy a leghalványabb elképzelésünk sincs, hogy lehetne olyan mesterséges intelligenciát alkotni, aminek önálló akarata és céljai vannak. A jelenlegi modelljeink specifikus feladatok megoldására lettek kitalálva. (Ellentétben az általános intelligenciával, amivel az emberek rendelkeznek. Egy ember bármilyen tetszőleges feladatot meg tud érteni és meg tud oldani. Az MI nem.). Ebbe a nagy nyelvi modellek is beletartoznak. Ezek nem tudnak gondolkodni, csak szavanként próbálják megjósolni, hogy az adott kontextusban egy élő ember mit mondana. Ennyit tudnak és mást nem.

Az adathalmaz, amin tréningelték őket emberektől származik. Tévednek az emberek? Igen. Tehát az MI is fog tévedni néha. Hazudnak az emberek? Igen. Tehát az MI is vissza fogja böfögni időnként a hazugságaikat. És persze az is benne van a dologban, hogy a modell nem tökéletes, tehát időnként tévedhet azért is, mert "buta".

> szándékosan vezetik félre a felhasználót

Ez nem igaz. Ez megint arról szól, hogy antropomorfizáljuk az MI-t, olyan tulajdonságokkal, képességekkel ruházzuk fel, amivel ténylegesen nem rendelkezik.

A szándékossághoz önálló, az MI megalkotójáétól eltérő szándék kellene. A MI meg egy szoftver. Valamilyen bemenetre valamilyen kimenetet generál. Egy hagyományos szoftvernél a programozó határozza meg, hogy milyen bemenetekből milyen egzakt lépések mentén generáljon kimenetet. az MI esetén nem ez történik, mi be- és kimenetpárosokat mutatunk a betanítás során, ami alapján az MI kvázi statisztikai alapon határozza meg a be- és kimenet különböző paraméterei között az összefüggéseket. Mondjuk egy póker esetén input az, hogy ki a kisvak, ki a nagyvak, mennyi zsetonod van, szokott-e emelni a kisvak amikor kisvak, szokott-e emelni a nagyvak, amikor nagyvak, stb… És igen, az egyik input az, hogy milyen lapokat kapott, amit egy amatőr játékos lehet túl sokra is értékel, egy MI meg képes objektíven mérlegelni, hogy a sokféle paraméterek mellett ennek az egyetlen paraméternek – hogy milyen lapokat kapott – mekkora súlya van az output megválasztása szempontjából.

(Emlékszem anno játszottunk egy barátunkkal, aki belekóstolt a profi póker világába, és ő mondta, hogy valahol a 15. szempont az, hogy tulajdonképpen milyen lapok is vannak a kezedben, ha nagyon akarna meg tudna minket úgy is verni, hogy egy makk alsó van a kezében meg egy fordítókártya az Uno-ból. És onnantól figyeltem, úgy nyerte meg a játékot, hogy az esetek 98%-ban nem derült ki, hogy tulajdonképpen milyen lap is volt a kezében, mert vagy ő dobta a lapokat, vagy mindenki mást vett rá erre, így nem kellett azokat felfedni. Tényleg lehetett volna nála ilyen alapon egy makk alsó és egy Uno fordítókártya.)

Az MI nem vezet félre szándékosan senkit. Az MI pusztán megtanulta, hogy az adott szituációban – adott bemeneti paraméterek esetén – melyik az optimális kimenet (lapok eldobása, passzolás, tartás, emelés) ami a legnagyobb eséllyel vezet győzelemre az emberek elleni játék során. Erre tanítottuk be. És ezt is csinálja. Hogy most ennek része az, amit mi blöffölésnek nevezünk és ami esetünkben tekinthető afféle szándékos félrevezetésnek az egy dolog. (Bár a dolog ennél bonyolultabb, a blöff lényege nem az azonnali félrevezetés, nem az a jó blöff, mikor elhiteted a másikkal, hogy jó lapjaid vannak, anélkül, hogy lebuknál, hanem a lényege pont a lebukás, ami után mikor valóban jó lapjaid vannak, akkor is azt gondolják, hogy csak blöffölsz.) Ez az MI szempontjából ez nem önkényes félrevezetés, hanem az általunk bemutatott, az általunk el is várt működés egyik jellegzetessége. Mi mutattuk meg a betanító anyaggal azt, hogy ezt szeretnénk tőle, ezért az MI ezt is csinálja. Lehet, hogy nem konkrétan tanítottuk meg az MI-t „füllenteni”, blöffölni, egyszerűen csak a betanításául szolgáló tudásanyagban ott volt ez is, az MI csak megtalálta és alkalmazta azt az összefüggést, hogy bizonyos paraméterek esetén nem a kezedben lévő lapok határozzák meg elsősorban a sikerességet, hanem más paraméterek határozzák meg a helyes döntést.