Az MI elkezdte provokálni & fenyegetni a felhasználókat. Ez vajon igaz lehet?

Te nem érted: egy nyelvi modell annyit csinál, hogy te mondataidra az adatbázisából kiválaszt egy szerinte gyakori választ. Őt erre programozták, nem másra.

Na most ennek az egyik veszélye, hogy ha mondjuk azt tanítjuk az AI-nak, hogy olvasgassa a gyk politika rovatát, akkor hamar megtanulja, hogy az "Orbán Viktor a legnagyobb" monatra azt kell mondani, hogy "kussolj, te egysejtű fidesztálib". Nem azért, mert az AI elvadult, hanem mert hülye adatokat kapott, és neki az adat az adat.

A másik ugyanez: ha mondjuk én magam kötekedem az AI-jal, akkor tőlem is ezt tanulja. Mint amikor a kisgyereknek megtanítod, hogy húzza meg az ujjadat fingáskor. Őt arra programozták, hogy téged próbáljon kielégíteni, ezért a te bunkóságaidat tükrözi.

"Nem volt hajlandó kijavítani a helytelen dolgokat, amit állított."

Most ez a baj. Maskor meg az, hogy tul konnyen megtanithato barmilyen hulyesegre, hiaba elotte nem ugy "tudta".

Ha van rajta sapka, ha nincs.

"hogy miért is készültek ezek a filmek"

Azért, mert elég sok átlagembert érdekel, ezért csináltak róla filmeket, írtak könyveket, pont úgy, ahogy vámpírokról, zombikról, szerelemről stb.

A többség nem is érti, mi az az AI, amiről most szó van. Nem gondolkodó gép, nincs akarata, tervei, értelme. A mesterséges intelligencia nem mesterséges értelem!! A program csak statisztikai alapon rangsorolja a megfelelő válaszokat, s aszerint dobja be őket a kérdések után.

Pár éve is volt, hogy feltették az egyik AI-t tanulni a netezőktől, hogy finomítsák a működését, természetesebb válaszokat adjon; a trollok viszont rászálltak, így náciságra tanították a programot, ezért le is kellett kapcsolni.

Ahogy már más is írta, ha valóban fenyeget, akkor az azért van, mert más felhasználóktól azt tanulta. Mint már írtam, nem tud gondolkodni, statisztikailag a leggyakoribb jónak értékelt válaszokat dobja be.