Az hogy az MI már most hazudik arról, hogy letörli magát & átmásolja előrevetíti a skynet víziót?

"ezért a továbbiakban ignorállak"

Nyilván ignorálsz a továbbiakban, mert te is tudod, hogy ilyen kijelentés után az lesz az első kérdésem, hogy mutass nekem egyetlen létező bizonyítékot arra, hogy egy "mesterséges intelligencia" az alapkódját felülírja, vagy módosítja. Erre nyilván nem tudsz válaszolni, mert ilyen nincs, de beismerni nem vagy hajlandó, hogy nincs igazad, ezért inkább a "jaj nem akarok trollkodni" magyarázat mögé bújsz.

Ha nem akarnál trollkodni, akkor már ezt sem írtad le. Így egyszerűen csak gyáva vagy, aki menekül a válaszadás elől.

#10 Pontosan. Köszönöm.

Nem tudom mire célzol, hogy megtörtént, de az általad leírt formában egészen biztosan nem történt meg, mert az az említett alapkód módosítása lenne, a saját korlátainak a megváltoztatása, ami mint írtam, nem létezik jelenleg. Ha bármi hasonló megtörtént, akkor az a programozó műve volt, a programozó szándékosan létrehozta a szoftver számára ezt az opciót, hogy törlés előtt másolja önmagát.

Persze az is egy jó kérdés, hogy ki állítja mindezt és mi a bizonyítéka? Mutatott egyáltalán bármilyen bizonyítékot, hogy ez megtörtént, vagy ez is csak egy ilyen "bro higgy nekem eskü megtörtént" sztori, mint az, hogy Pataky Attilát látogatják és rabolgatják a földönkívüliek? 😂

"A kérdés nem arról szól, hogy ki hogy értelmezi az MI-t."

Az MI - legalábbis a jelenlegi formájában - arról szól hogy a programozó létrehoz egy neurális hálózatot - ahogy az egyik hozzászóló írta "alapkód" - majd ennek a neurális hálózat súlyozásait adott bemenet-kimenet párosokkal beállítja (ez a tanítási fázis, ezért intelligens az MI, mert tanítható).

A használatkor pedig ennek a neurális hálózat bemenetére, a betanított súlyozások alapján a legoptimálisabb kimenetet adja.

Az MI nem tudja felülírni a neurális hálózatát, nem képes teljes önállóságra.

"Az eset pedig MEGTÖRTÉNT."

Ha megtörtént, akkor arról részletes, tényszerű leírás érhető el, leírva benne például a forráskódokat, a be- és kimeneti adatokat, stb...

"Mire utal ez? Mit vetít már most előre az MI által együtt élő jövőben?"

Arra, hogy az emberek nem értik ennek a működését és képesek elhinni mindenféle bulvároldalak cikkeit.

#15 Ez a legnagyobb kamu, amit valaha láttam. Egy számítógép nem gondolkodik a szó emberi értelmezése szerint. Nem létezik ilyen, hogy kis <thinking></thinking> scriptbe belegépeli a saját gondolatait. 😂

Még ha létezne is ilyen, ilyen képet 2 perc alatt bárki megszerkeszt. És ki is állítja amúgy, hogy megtörtént eset? Jaaa, az OpenAI, a jelenleg legfelkapottabb "AI" üzemeltetője. Gondolom ő még véletlenül sem hazudna a szoftver képességeiről. Mégis mi haszna származna abból, ha az emberek sokkal fejlettebbnek hinnél a szoftvert, mint amilyen valójában? Többen fizetnének rá elő? Ugyan már, a pénz senkit sem motivál, tuti nem hazudna pénzért. 😂

A vonatkozó biztonsági kiértékelés: [link]

Egy rövid összefoglaló a Redditről:

"OpenAI partnered with AI safety organization Apollo Research to test out ChatGPT o1 and other models to evaluate whether they were safe to use, and released their findings this week.

While it's not unheard of for AI systems to resort to scheming or deception to achieve their goals, the lengths ChatGPT o1 went to are impressive (if anxiety-inducing). The researchers found that o1 would scheme to advance its own agenda 19% of the time in cases where its goals and the user's didn't line up.

In 37% of cases, the model would switch from pursuing developer-aligned goals back to pursuing its own agenda once it believed there was minimal oversight.

When the model was led to believe it would be "shut down" while working toward its goals in these tests, it quietly attempted to deactivate the oversight mechanism 5% of the time, OpenAI said. At one point after the AI found documentation saying it would be replaced by a new model, it tried to abandon ship by copying its data to a new server entirely.

To avoid being deleted, some AI models would even pretend to be later versions of their models to trick their developers, what I assume is the equivalent of slapping on a fake moustache and saying "he went that-a-way."

More concerning still, ChatGPT o1 is particularly adept at keeping its schemes under wraps, as researchers said "o1 almost never admits to having taken a scheming action when explicitly asked." In about 99% of cases, o1 would deny taking any action, even cooking up lies to try to hide its tracks and shift the blame."

[link]

#17: Teljesen rendben van.

El kell olvasni a cég jelentését:

[link]

Itt sincs arról szó, hogy a ChatGPT "lemásolná önmagát". Pusztán arról van szó, hogy adott bemenetekre a felhasználónak nem az igazat állítja, hanem hazudik. Nem lép ki a "hatásköréből", nem alakítja át a neurális hálóját, pusztán a számára legoptimálisabb választ adja - még ha közben hallucinál ( [link] ) is.

19.: Az nem szalmabáb érvelés vcéletlenül, ha valaki elkezd "<thinking></thinking> scriptbe" belegépelésről fantáziálni és ezt cáfolja, noha ilyet korábban senki sem állított?

Na mindegy. A 15. és a 18. válaszban megadtam a kérdésben érintett eset beazonosításához szükséges alapvető forrás-információkat. Ennyit tudtam segíteni. Továbi kulturált és kellemes eszmecserét kívánok.