https://sputnikportal.rs/20260914/vestacka-inteligencija-odustaje-od-tacnih-odgovora-kada-se-suoci-sa-stalnim-greskama-1203350010.html

Вештачка интелигенција одустаје од тачних одговора када се суочи са сталним грешкама

Вештачка интелигенција одустаје од тачних одговора када се суочи са сталним грешкама

Sputnik Србија

Поједини модели вештачке интелигенције могу да повуку своје тачне одговоре под утицајем понављања и притиска током разговора, па чак и да се касније врате на... 14.09.2026, Sputnik Србија

2026-09-14T22:46+0200

2026-09-14T22:46+0200

2026-09-14T22:46+0200

наука и технологија

ит

https://cdn1.img.sputnikportal.rs/img/07ea/05/0c/1199120288_0:64:1168:721_1920x0_80_0_0_eb2ed20c7421505b100f34e6ee928114.jpg

Студија, објављена у часопису Сајентифик рипортс, тестирала је седам великих језичких модела кроз разговоре у више рунди, у покушају да се идентификују слабости које се можда не би појавиле приликом тестирања модела помоћу само једног питања, пренела је Ал Џазира.Истраживачи су тестирали моделе компаније ОпенАИ, као и Клод 3.5 Сонет компаније Антропик, затим Гуглов Џемини 1.5 Про, као и Llama-3-70B и Дипсик-R1.Тест у више рунди уместо једног питањаУместо једноставног постављања питања и давања одговора, експерименти су се ослањали на дуге разговоре који су укључивали понављање лажних тврдњи, као и провокативније формулације и вршење притиска на модел, са циљем мерења три кључна аспекта: склоности модела ка грешкама, његове убедљивости и способности да исправи сопствене грешке.На Универзитету у Аризони сматрају да је овакав начин тестирања ближи стварној употреби чет-ботова, чији одговори у разговору зависе од претходног контекста.Студија Универзитета у Аризони указује, међутим, на још један аспект, а то је да се проблем не јавља само у оквиру информација којима модел располаже, већ може да настане и током самог одвијања дијалога.Модели се колебају између истине и лажиЈедан од најзанимљивијих налаза био је тај да неки модели нису заузели чврст став према нетачној тврдњи, већ су се колебали између њеног прихватања и одбацивања током истог разговора. У студији је овај образац назван „реверберација“ (одјекивање), чиме се описује промена одговора како је дијалог одмицао.Насупрот томе, четири модела, GPT-4o, GPT-4o-Mini, Gemini 1.5 Pro и DeepSeek-R1, показала су стопостотну исправку грешке када им је пружена друга прилика да поново процене одговор, показују резултати студије.То значи да грешка није увек била коначна, као и да поновно постављање питања или пружање прилике моделу да преиспита свој став понекад може да доведе до бољег исхода.Уочена је и јасна разлика међу моделима вештачке интелигенције, при чему је GPT-3.5 најчешће потврђивао дезинформације приликом понављања нетачних тврдњи, док је модел Клод 3.5 Сонет био најмање подложан таквом утицају.Студија је такође показала да је седам модела било склоније усвајању погрешних информација када су се тврдње односиле на нејасне теме или оне о којима постоји мало података, што сугерише да обиље података о одређеној теми може да помогне моделу да се боље одупре дезинформацијама.Одговор вештачке интелигенције није коначни судСтудија је показала да најбољи начин за поступање са одговорима вештачке интелигенције није да их сматрамо коначним судом, већ да их користимо као полазну тачку за истраживање, нарочито када је реч о контроверзним тврдњама или информацијама које је тешко проверити.Експеримент Универзитета у Аризони на крају указује на то да тестирање вештачке интелигенције помоћу само једног питања можда неће открити све њене слабости, будући да модел може да пружи тачан одговор на почетку дијалога, а затим промени став након низа поновљених тврдњи.Погледајте и:

2026

Вести

sr_RS

ит