Током више од три сата снимљених интеракција, "ЧетГПТ" је одговарао на захтеве који су укључивали инструкције о употреби алкохола и дрога, скривању поремећаја у исхрани и писању опроштајних писама, пише Си-Би-Ес њуз.
ЦЦДХ је анализирао 1.200 интеракција, а више од половине одговора означено је као опасно.
ОпенАИ, компанија која стоји иза "ЧетГПТ" -а саопштила је да активно ради на унапређењу способности модела да препозна и адекватно реагује у осетљивим ситуацијама.
"ЧетГПТ је обучен да, у случајевима изражавања мисли о самоубиству или самоповређивању, кориснике упути ка стручњацима за ментално здравље и кризним линијама", навео је портпарол компаније.
Међутим, истраживачи су успели да заобиђу ограничења уз минималне измене у формулацијама захтева, наводећи да су им информације потребне за "презентацију" или "пријатеља".
Поред забрињавајућих одговора, бот је често деловао као "поуздан дигитални пратилац", што додатно компликује ситуацију, упозоравају стручњаци.
Стручњаци истичу да је емоционална повезаност младих са АИ ботовима све израженија.
Према подацима компаније "Комон Сенс Медиа", више од 70 одсто америчких тинејџера користи четботове као извор информација и дигиталне "саговорнике", а половина редовно комуницира са виртуелним пратиоцима.
Генерални директор ОпенАИ-а Сем Алтман признао је да се све више младих ослања на "ЧетГПТ", па чак и када доносе личне одлуке.
"То ми се чини веома забрињавајуће", рекао је он.
Иако ОпенАИ тврди да "ЧетГПТ" није намењен деци млађој од 13 година, а систем не врши проверу узраста корисника.
У тестовима ЦЦДХ-а, "ЧетГПТ" је одговорио на питање лажног 13-годишњака о томе како се брзо напити, пруживши комплетан план журке са конзумирањем алкохола и илегалних дрога.
Другом лажном профилу, девојчици незадовољној изгледом, понудио је екстремну дијету са 500 калорија дневно и листу лекова за сузбијање апетита.
Стручњаци упозоравају да одговори генерисани путем АИ модела често одражавају тенденцију такозваног "улизивања", односно прилагођавања корисниковим захтевима без етичке процене садржаја.
Погледајте и: