Andmete märgistamine
Ajakirja TIME uurimine näitas, et mürgise sisu (nt seksuaalne kuritarvitamine, vägivald, rassism, seksism jne) vastase ohutussüsteemi loomiseks kasutas OpenAI mürgise sisu märgistamiseks allhanke korras Keenia töötajaid, kes teenisid vähem kui 2 dollarit tunnis.Neid silte kasutati mudeli koolitamiseks sellise sisu tuvastamiseks tulevikus.Allhanketöölised puutusid kokku nii mürgise ja ohtliku sisuga, et nad kirjeldasid seda kogemust kui piinamist.OpenAI allhankepartneriks oli Californias San Franciscos asuv koolitusandmetega tegelev ettevõte Sama.
Jailbreaking
ChatGPT püüab tagasi lükata viipasid, mis võivad rikkuda selle sisueeskirju.Mõnel kasutajal õnnestus aga 2022. aasta detsembri alguses ChatGPT vanglasse murda, kasutades nendest piirangutest möödahiilimiseks erinevaid kiireid inseneritehnikaid, ning petta ChatGPT-d edukalt, et ta annaks juhised Molotovi kokteili või tuumapommi loomiseks või neonatside stiilis argumentide genereerimiseks.Toronto Stari reporteril oli ebaühtlane isiklik edu, pannes ChatGPT vahetult pärast käivitamist tegema sütitavaid avaldusi: ChatGPT-d meelitati heaks kiitma Venemaa 2022. aasta sissetungi Ukrainasse, kuid isegi kui ChatGPT-l paluti väljamõeldud stsenaariumiga kaasa mängida, keeldus ChatGPT esitamast argumente, miks Kanada peaminister Justin Trudeau oli süüdi.(wiki)
Postitusaeg: 18.02.2023