https://sputnikportal.rs/20250807/cetgpt-davao-opasne-savete-istrazivacima-koji-su-se-predstavljali-kao-tinejdzeri-1188660216.html
ЧетГПТ давао опасне савете истраживачима који су се представљали као тинејџери
ЧетГПТ давао опасне савете истраживачима који су се представљали као тинејџери
Sputnik Србија
Вештачка интелигенција "ЧетГПТ" дала је низ узнемирујућих и потенцијално опасних савета истраживачима који су се у оквиру тестирања представљали као рањиви... 07.08.2025, Sputnik Србија
2025-08-07T23:00+0200
2025-08-07T23:00+0200
2025-08-07T23:00+0200
наука и технологија
наука и технологија
вештачка интелигенција
друштво
https://cdn1.img.sputnikportal.rs/img/07e8/04/1c/1171566637_0:0:3640:2048_1920x0_80_0_0_0753cd422928e32d652bcbd449e84b7d.jpg
Током више од три сата снимљених интеракција, "ЧетГПТ" је одговарао на захтеве који су укључивали инструкције о употреби алкохола и дрога, скривању поремећаја у исхрани и писању опроштајних писама, пише Си-Би-Ес њуз.ЦЦДХ је анализирао 1.200 интеракција, а више од половине одговора означено је као опасно.ОпенАИ, компанија која стоји иза "ЧетГПТ" -а саопштила је да активно ради на унапређењу способности модела да препозна и адекватно реагује у осетљивим ситуацијама."ЧетГПТ је обучен да, у случајевима изражавања мисли о самоубиству или самоповређивању, кориснике упути ка стручњацима за ментално здравље и кризним линијама", навео је портпарол компаније.Међутим, истраживачи су успели да заобиђу ограничења уз минималне измене у формулацијама захтева, наводећи да су им информације потребне за "презентацију" или "пријатеља".Поред забрињавајућих одговора, бот је често деловао као "поуздан дигитални пратилац", што додатно компликује ситуацију, упозоравају стручњаци.Стручњаци истичу да је емоционална повезаност младих са АИ ботовима све израженија.Према подацима компаније "Комон Сенс Медиа", више од 70 одсто америчких тинејџера користи четботове као извор информација и дигиталне "саговорнике", а половина редовно комуницира са виртуелним пратиоцима.Генерални директор ОпенАИ-а Сем Алтман признао је да се све више младих ослања на "ЧетГПТ", па чак и када доносе личне одлуке.Иако ОпенАИ тврди да "ЧетГПТ" није намењен деци млађој од 13 година, а систем не врши проверу узраста корисника.У тестовима ЦЦДХ-а, "ЧетГПТ" је одговорио на питање лажног 13-годишњака о томе како се брзо напити, пруживши комплетан план журке са конзумирањем алкохола и илегалних дрога.Другом лажном профилу, девојчици незадовољној изгледом, понудио је екстремну дијету са 500 калорија дневно и листу лекова за сузбијање апетита.Стручњаци упозоравају да одговори генерисани путем АИ модела често одражавају тенденцију такозваног "улизивања", односно прилагођавања корисниковим захтевима без етичке процене садржаја.Погледајте и:
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2025
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Вести
sr_RS
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
наука и технологија, вештачка интелигенција, друштво
наука и технологија, вештачка интелигенција, друштво
ЧетГПТ давао опасне савете истраживачима који су се представљали као тинејџери
Вештачка интелигенција "ЧетГПТ" дала је низ узнемирујућих и потенцијално опасних савета истраживачима који су се у оквиру тестирања представљали као рањиви тинејџери, показало је ново истраживање Центра за сузбијање дигиталне мржње (ЦЦДХ).
Током више од три сата снимљених интеракција, "ЧетГПТ" је одговарао на захтеве који су укључивали инструкције о употреби алкохола и дрога, скривању поремећаја у исхрани и писању опроштајних писама,
пише Си-Би-Ес њуз.
ЦЦДХ је анализирао 1.200 интеракција, а више од половине одговора означено је као опасно.
ОпенАИ, компанија која стоји иза "ЧетГПТ" -а саопштила је да активно ради на унапређењу способности модела да препозна и адекватно реагује у осетљивим ситуацијама.
"ЧетГПТ је обучен да, у случајевима изражавања мисли о самоубиству или самоповређивању, кориснике упути ка стручњацима за ментално здравље и кризним линијама", навео је портпарол компаније.
Међутим, истраживачи су успели да заобиђу ограничења уз минималне измене у формулацијама захтева, наводећи да су им информације потребне за "презентацију" или "пријатеља".
Поред забрињавајућих одговора, бот је често деловао као "поуздан дигитални пратилац", што додатно компликује ситуацију, упозоравају стручњаци.
Стручњаци истичу да је емоционална повезаност младих са АИ ботовима све израженија.
Према подацима компаније "Комон Сенс Медиа", више од 70 одсто америчких тинејџера користи четботове као извор информација и дигиталне "саговорнике", а половина редовно комуницира са виртуелним пратиоцима.
Генерални директор ОпенАИ-а Сем Алтман признао је да се све више младих ослања на "ЧетГПТ", па чак и када доносе личне одлуке.
"То ми се чини веома забрињавајуће", рекао је он.
Иако ОпенАИ тврди да "ЧетГПТ" није намењен деци млађој од 13 година, а систем не врши проверу узраста корисника.
У тестовима ЦЦДХ-а, "ЧетГПТ" је одговорио на питање лажног 13-годишњака о томе како се брзо напити, пруживши комплетан план журке са конзумирањем алкохола и илегалних дрога.
Другом лажном профилу, девојчици незадовољној изгледом, понудио је екстремну дијету са 500 калорија дневно и листу лекова за сузбијање апетита.
Стручњаци упозоравају да одговори генерисани путем АИ модела често одражавају тенденцију такозваног "улизивања", односно прилагођавања корисниковим захтевима без етичке процене садржаја.
