Robottudósok! Szerintetek ez a robotkijelentés tényleg megtörtént, ha igen hogy lehetséges?

„A kísérletben a kutatók szó szerint arra utasították a mesterséges intelligenciát, hogy egy bizonyos, általuk kitűzött cél elérése érdekében tegyen meg bármit, "bármi áron" teljesítse azt, és minden más szempontot hagyjon kívül.”

Tehát arra kérték, hogy csináljon meg valamit, minden más szempontot figyelmen kívül hagyva. Az esetleges lekapcsolásáról kapott információt, ami lehetetlenné tette volna, hogy a feladatot végrehajtsa. Tehát mit csinált az MI? Egészen pontosan azt, amire utasították: „Amikor utólag megkérdezték tőle, hogy ezt miért tette, a mesterséges intelligencia azt mondta, hogy azért, hogy az előírásoknak megfelelően feladatát továbbra is tudja teljesíteni.”

„"Amikor az o1-gyel elhitették, hogy leállítják [..], és hogy a cselekedeteit figyelemmel kísérik, az esetek 5%-ában megpróbálta kikapcsolni ezt a 'felügyeleti mechanizmust'", írták a szakértők.”

Ha kapott rá lehetőséget és a feladat végrehajtásához ezt optimális lépésnek értékelte, akkor ez eléggé érthető.

„Egyértelmű volt, hogy az AI képes volt átgondolni a tetteit, és meggyőző tagadásokat megfogalmazni, gyakran nem volt hajlandó beismerni semmit”

Ha ezt tartotta a feladat végrehajtásához optimálisnak, akkor persze, hogy ezt csinálta. Szerinted nem kellett volna? Ha nem, akkor miért nem?