Azt lehet tudni, hogy a chatGPT-be a korlátozó funkciókat, hogyan programozták be? Komoly szakmai része érdekelne.

Tekintve, hogy nem egyféleképpen lehet és nem mi fejlesztettük, így nem reális, hogy tudjuk a pontos választ.

Én azt feltételezem - legalábbis, ha itt a tabu témákra gondolsz -, hogy ugyanúgy, ahogy egyébként általánosan is tanították. Ahogy értelmezni tud egy kérdést, hogy válaszoljon rá, úgy értelmezheti, hogy olyan kategóriába esik, amire nem válaszolhat.

Ha ez így volt, akkor volt egy olyan adathalmazuk, ami a tabu témákról szólnak és arra is tanították.

#1

Meg nem is feltétlen kell értelmeznie mindent olyan nagyon, a backend is tudja checkolni az inputot és könnyű vele szűrni kényes témákra. Mármint elég drága betanítani egy ilyen modellt, lehet olcsóbb inputra szűrni és utána chatgpt errort raiselni.

Pl ha how to kill myself és hasonló témákra nem is generál, hamem errort dob.

De amire válaszol csak óvatosan, azokra betanították és finomhangolták emberekkel.

De igen, én is szakmabeli vagyok és mivel nincs közöm hozzá, így ez jó kérdés, hogy hogyan oldották meg. Viszont én nem tanítgatnám a modellemet olyanra, amire tudok szűrni egyszerűbben és egy errorral letudni.

#2 Nehezen hiszem, hogy költségoptimalizálási okból dob errort ezekre a kérdésekre. Ez inkább a felhasználónak szánt visszajelzés, hogy túltolta, és erre már hárító vagy óvatoskodó választ se fog kapni.

A tabutémák betanítását nem lehet megúszni, és nem is nehezebb, mint olyan inputszűrőt fejleszteni, ami pl. a virágnyelven megfogalmazott, de a ChatGPT számára mégis értelmezhető promptokat is elcsípi. Hiszen ez az inputszűrő akkor már maga is egy komplex modell kéne hogy legyen.

#2

Azért nem ilyen egyszerű ezt szűrni. Mi van, ha azt kérdezem, hogy X karakter egy könyvben hogyan akart öngyilkos lenni? Akkor arra érdemes lenne válaszolni, mivel egy könyv tartalmáról kérdezem.

Hosszútávon ezekre mindenképp be kell tanítani, így akár most is megtehetik.

Nem tudsz mindenre szűrni sem, mivel még te itt nagyon egyértelműen fogalmaztál a "kill myself"-fel, ezt egyébként 100 féleképpen körül lehet írni és akkor megint bajban lesz a szűrőd, ha máshogy fogalmaznak, esetleg más szavakkal.

Pont azért nehéz ilyen chatbot-okat fejleszteni, mivel nincs egy egyetemes szabályrenszer, amit az ember követ a beszéd során. Sok dolgot lehet mondani, sok féleképpen.