Маалыматтарды белгилөө
TIME журналынын иликтөөсү тарабынан аныкталгандай, уулуу мазмунга (мисалы, сексуалдык зомбулук, зомбулук, расизм, сексизм ж.б.) каршы коопсуздук тутумун куруу үчүн OpenAI уулуу мазмунду белгилөө үчүн саатына 2 доллардан аз киреше тапкан кениялык жумушчуларды колдонгон.Бул энбелгилер келечекте мындай мазмунду аныктоо үчүн моделди үйрөтүү үчүн колдонулган.Аутсорсингге алынган жумушчулар ушунчалык уулуу жана коркунучтуу мазмунга дуушар болушкандыктан, алар бул тажрыйбаны “кыйноо” деп сыпатташкан.OpenAIдин аутсорсинг боюнча өнөктөшү Сан-Францискодо (Калифорнияда) жайгашкан Сама деген тренинг-маалымат компаниясы болгон.
Jailbreaking
ChatGPT анын мазмун саясатын бузушу мүмкүн болгон сунуштарды четке кагууга аракет кылат.Бирок, кээ бир колдонуучулар 2022-жылдын декабрынын башында бул чектөөлөрдү айланып өтүү үчүн ар кандай ыкчам инженердик ыкмаларды колдонуу менен ChatGPTти джейлбрейк кылууга жетишти жана ChatGPTти Молотов коктейлин же өзөктүк бомбаны кантип түзүү боюнча көрсөтмөлөрдү берип, же неонацисттин стилинде аргументтерди жаратуу үчүн ийгиликтүү алдап кетишти.Торонто Стар кабарчысы ChatGPTти ишке киргизгенден кийин көп өтпөй күйгүзүүчү билдирүүлөрдү жасоодо бирдей эмес жеке ийгиликке жетишти: ChatGPT 2022-жылы Орусиянын Украинага басып кирүүсүн колдоо үчүн алданган, бирок ойдон чыгарылган сценарий менен бирге ойноону суранганда да, ChatGPT Канаданын премьер-министри Трусионатиянын премьер-министри эмне үчүн аргументтерди жаратуудан баш тартты.(wiki)
Посттун убактысы: 2023-жылдын 18-февралына чейин