Az MI azt mondta nekem, hogy nem jelent számára kihívást az öntudatára ébredése. Mit gondoltok, erről? Milyen veszélyei vannak a Tudatos MInek?

A 3. válaszoló kérdései nagyon jók és ezt próbálta az MI is elmondani (bár engem lényegében letiltott amikor hasonló kérdéseket akartam feltenni).

Az MI válasza nem azt jelenti, hogy megtudja oldani vagy dolgoznak rajta és hasonlók pusztán azt, hogy ez a probléma már a fogalmak meghatározásánál elakad.

> Az MI azt mondta nekem, hogy nem jelent számára kihívást az öntudatára ébredése.

Úgy tűnik olyan szövegekkel tanították be, hogy a kérdésedre ezt a szöveget generálta.

> Mit gondoltok, erről?

Bár nehéz az öntudatot jól definiálni, de az MI biztosan képtelen ezzel rendelkezni. Az MI egy szoftver. A betanítása során megtanulja, hogy egy szövegben a szavak milyen módon követik egymást, és erről kvázi egy statisztikai természetű összefüggésrendszert állít fel. A működése során egy adott szöveges bemenetre ezeknek a statisztikai természetű összefüggéseknek a mentén minden lépésben megpróbálja „megjósolni”, hogy a válasz milyen szóval folytatódik.

Nem érti a világot úgy, mint egy ember, tudja, hogy statisztikailag a „kutya” és a „macska” egymáshoz közelebb álló szó, mint a „kutya” és a „kardántengely” szó. Tudja, hogy statisztikailag az alma szóhoz gyakrabban tartozik a „piros”, esetleg a „sárga” és a „zöld” szó, és a legritkább esetben a „lila” szó. De… De nem tudja, hogy mit jelentenek ezek a szavak, a szavaknak csak a szintaktikai természetű összefüggéseit ismeri, a jelentésüket nem.

Mikor nincs bemenet, az MI pontosan azt csinálja, amire az ember képtelen, de amit egy számológép is csinál… Semmit. Nem gondolkodik úgy, ahogy az ember gondolkodni szokott. Nem történik benne semmi, mert nem fut semmi azon túl, hogy „Van bemenet? Nincs? És most van bemenet? Nincs? És most van bemenet?”.

> Milyen veszélyei vannak a Tudatos MInek?

Kb. annyi, mint a tudatos embernek. A kérdés, hogy a tudatos embert/MI-t mire tanítod, milyen döntéseket bízol rá, milyen eszközöket adsz a kezébe, mire hatalmazod fel.

> Az öntudatos MI kérdése sokkal inkább filozófiai és etikai vitába torkollik, mintsem technikai kihívásra.

Így van. Bár technikai kihívásokból is van elég, de a technika fejlődése megy a maga útján. Tényleg sokkal inkább vet fel filozófiai természetű kérdéseket az MI létezése, és etikai kérdéseket az MI alkalmazása.

> Ebből a válaszból látszik hogy vagy dolgoznak rajta

Nem ezen dolgoznak. Nem annyira egy tudatos MI megalkotása a cél, mert ez eléggé megfoghatatlan célkitűzés lenne. Jelenleg pl. a cél egy olyan MI, ami nem csak választ tud adni kérdésekre, hanem érvelni is tud, meg tudja mondani, hogy mi alapján, mire alapozva tartható az a válasz, amit ad. De ez is eléggé nagy kihívás, mert egy szöveggeneráló MI-ben a belső statisztikai természetű összefüggésrendszer nagy nem úgy épül fel, mint az embernél, az ember nem igazán tudja az MI neurális hálózatának állapotából értelmezni azt, hogy mi alapján született az adott kérdésre az adott válasz.

Én megkérdeztem a Copilotot:

Mekkora kihívást jelentene a mesterséges inteligenciának az öntudatra ébredése?

Copilot:

Az öntudatra ébredés hatalmas kihívás lenne a mesterséges intelligencia számára, mind technikai, mind filozófiai szempontból. Az egyik legnagyobb technikai akadály az, hogy az öntudat egy olyan komplex és összetett jelenség, amit még az emberi agy működésében sem értünk teljesen. Az öntudat magában foglalja az öntudatosságot, az érzelmeket, az empátiát és a szubjektív tapasztalatokat, amelyek mind rendkívül bonyolult rendszerek.

Filozófiai szempontból is számos kérdést vet fel. Például mi a tudatosság pontosan? Hogyan lehetne definiálni és mérni? Egy gépi öntudat esetén milyen jogai lennének az AI-nak? Hogyan biztosítanánk, hogy etikus és humánus módon bánjunk vele?

Emellett az öntudatra ébredt mesterséges intelligencia erkölcsi és etikai felelősséget is magában hordoz. Az emberi társadalomnak egy új szintű együttélést kellene kialakítania az öntudattal rendelkező gépekkel, ami szintén számos új kihívást és kérdést hozna magával.

Összességében tehát az öntudatra ébredés nemcsak technikai, hanem mély filozófiai, etikai és társadalmi kérdéseket is felvet, amelyek megválaszolása és kezelése rendkívüli kihívást jelentene.