Miért félnek a mesterséges intelligenciától?

Félnek? Kik?

Félni a használójától kell. Esetleg a kitalálójától, megalkotójától, ha perverz, vagy haszonleső.

A Kalasnyikov elég intelligens, bár mesterséges intelligenciának még nem nevezném. Félni tőle fölösleges. De ha egy őrült kézbe veszi, az más. Az baj. Így van ez mindennel.

Szerintem is butaság attól tartani, hogy a mesterséges intelligencia magától fellázad. Programozás kérdése az egész!

Az más kérdés, hogy ma már vírusokkal, egyszerűbb botokkal is súlyos károkat lehet okozni, nemhogy egy erre kifejlesztett MI-val. Lehet, hogy a jövő alvilági háborúit robotok vívják majd egymás ellen, és a rendőrségnek is kiberkommandója lesz.

"Öntudatra ébredni" ugyan nem fog, de ha rábízunk döntéseket, akkor káros következményei lehetnek annak, ha rosszul működik: meghibásodik, vagy eleve nem úgy viselkedik hosszú távon, ahogy az alkotói elképzelték. Nem azért, mert "önállóvá vált", hanem mert az alkotóknak rossz volt az elképzelése.

Nekem a Skynettel kapcsolatban is ez volt az érzésem. Nem az volt a baj, hogy öntudatra ébredt, hanem hogy mivel fontos döntéseket bíztak rá, ezért a programozói úgy látták helyesnek, hogy erkölcsi fogalmakat, úgy mint jó és rossz, beleprogramozzanak. Ezeket nem tudta helyesen kezelni, és az emberiség kiirtása mellett döntött, mint a rossz megszüntetésének legbiztosabb módja.