Mi lehet egy erős mesterséges intelligencia célja, ha lenne?

"Beléjük van "programozva". :)"

Így van.

Mégis többet tudnak produkálni az alapprogramnál.

Legalábbis az ember nevű állat ezt állítja magáról.

A tanuló saját magát módosító, fejlesztő program már ismert, használatban van az informatikában. És ez még tutira magasabb szintre is fog kerülni.

Az MI kutatásokank kifejezetten CÉLJA a minél inkább önálló döntésekre, saját maga fejlesztésére, módosítására képes intelligencia létrehozása. Szerintem már most késő olyat állítani, hogy ilyen soha sem lesz. Már most van. Csak még nem összevethető az emberi tudat ilyen képességeivel. Még.

"A tanuló saját magát módosító, fejlesztő program már ismert, használatban van az informatikában."

Én nem mondom, hogy kenem-vágom a témát, nem is vitázni akarok, de szerintem ezek a programok egy adott cél érdekében keresnek járatlan utakat, megoldásokat. Az ember (és állatok) alap célja is elég stabil, tehát ahogy már írták,

1. minél kisebb energiabefektetéssel biztosítani a saját és/vagy a csoport fennmaradását,

2. konfliktus esetén felülkerekedni.

(És ezek már az egysejtűeknél is megvannak.)

Ezen célok érdekében valóban új dolgokat tanulunk (kitalálunk), alkalmazunk, ahogy az önfejlesztő gépek is egy feladat megoldása érdekében keresik a lehetséges megoldásokat. Célokat is kitűzhetnek maguknak, de ezek a fő cél al-céljai lesznek. Mondjuk ha kenyeret kell vennie, akkor kereshet új útvonalat a boltba, megtanulhatja, hogy a zebrán mire kell vigyázni, megtanulhat technikákat, hogy hamarabb sorra kerüljön a pénztárnál, de azt nem fogja mondani, hogy nem vesz kenyeret.

:)

Mennyi kőkorszaki ember van itt. xD

"cél amit beleprogramoztak". Az a lényege, hogy a saját kódsorait írja tehát egy idő után már más lesz beleprogramozva az algoritmusába ő maga által tehát ő maga választja meg a célt.

"Mondjuk ha kenyeret kell vennie, akkor kereshet új útvonalat a boltba, megtanulhatja, hogy a zebrán mire kell vigyázni, megtanulhat technikákat, hogy hamarabb sorra kerüljön a pénztárnál, de azt nem fogja mondani, hogy nem vesz kenyeret."

Ez csupán a programozó széles látókörűségén múlik.

Valahol a mi céljaink is korlátos körön belül mozognak.

Egy hangya is "célgép", nem ül le filozofálni az élet miértjeiről.

De valamikor a mókuscickány is ilyen volt, mégis itt vagyunk.

Egy szoftver önfejlesztő-képességét sem kéne előre lenézni.

Éppen azon múlik, milyen mértékű önfejlesztő képesség lehetőségét adjuk neki.

Mivel ehhez hagyni kellene teret egy jelentős kiszámíthatatlan véletlenszerűségnek, a mai szoftvereknél, ha tehetnénk, sem engednénk meg ezt a lehetőséget.

Nem igazán vágyunk arra, hogy mondjuk egy predator drón rakétákkal megrakva és célra küldve mondjuk meggondolja magát és éppen ellenkező irányba induljon, mert arra olyan szép a naplemente.

Szóval, a szoftverek önálló kezdeményezőkészségének ma még vannak technológiai határai, de amúgy is, szándékosan korlátosra készülnek a lehetőségeik.

Dőreség lenne ez alapján ezt örök átléphetetlen határnak tartani.

"de amúgy is, szándékosan korlátosra készülnek a lehetőségeik. "

Miért korlátozzák őket szándékosan?