https://sputnikportal.rs/20260120/naucnici-upozoravaju-na-pogresne-informacije---halucinacije-vestacke-inteligencije-1194983037.html
Научници упозоравају на погрешне информације - „халуцинације“ вештачке интелигенције
Научници упозоравају на погрешне информације - „халуцинације“ вештачке интелигенције
Sputnik Србија
У Белгији је недавно покренута дебата о употреби вештачке интелигенције, након што је Петра де Сутер, ректор Универзитета у Генту, користила вештачку... 20.01.2026, Sputnik Србија
2026-01-20T22:50+0100
2026-01-20T22:50+0100
2026-01-20T22:50+0100
наука и технологија
наука и технологија
друштво
вештачка интелигенција
https://cdn1.img.sputnikportal.rs/img/07e9/09/0b/1190059780_0:153:853:633_1920x0_80_0_0_164fb57d30469043b0c174d3555f3466.jpg
Према Петри де Сутер, Алберт Ајнштајн је наводно рекао: „Догма је непријатељ напретка“. Међутим, научник никада није изговорио ову реченицу. Стога се ради о халуцинацији – лажној информацији коју вештачка интелигенција представља као истиниту, пренео је белгијски јавни сервис РТБФ.Замислите да за писање говора користите Чет Џи-Пи-Ти и тражите да укључи цитат Алберта Ајнштајна на тему напретка. Могућа су два сценарија: или ће вам понудити прави цитат, или ће произвести вероватан цитат – нешто што Ајнштајн никада није рекао, али је могао.Иг Берсини, професор и директор лабораторије за вештачку интелигенцију на белгијском универзитету, објаснио је овај феномен.Када кажемо да цитат има смисла, то значи да је реч о статистичкој конструкцији. Она спаја различите речи које су део цитата одређене особе, али редослед тих речи заправо не постоји. Ајнштајн никада није рекао: „Догма је непријатељ напретка“.У случају цитата, то је фатална грешка, сматра Берсини.„То је очигледно нешто што апсолутно мора бити проверено. А ако сте ректор универзитета, свакако морате да се придржавате одређеног етичког кодекса када је реч о знању. Када су у питању цитати, њихова веродостојност се мора проверити“, истакао је он, додајући да је уз неколико кликова на претраживачу могуће доказати грешку.Гиганти вештачке интелигенције покушавају да смање ове халуцинације. У појединим областима оне практично не постоје.Несрећно искуство Петре де Сутер служи као подсетник.Вештачка интелигенција нас може преварити. И она прави лапсусе, јер је апсорбовала све текстове који су јој дати. То је својствено и људској природи, с том разликом што људи разумеју концепт истине и лажи, за разлику од вештачке интелигенције. Она не проверава своје изворе.„Зато је на вама да пажљиво обрадите информације које прикупите и да у сваком тренутку вежбате своје критичко размишљање“, закључио је Берсини, преноси РТЦГ.Погледајте и:
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Вести
sr_RS
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
наука и технологија, друштво, вештачка интелигенција
наука и технологија, друштво, вештачка интелигенција
Научници упозоравају на погрешне информације - „халуцинације“ вештачке интелигенције
У Белгији је недавно покренута дебата о употреби вештачке интелигенције, након што је Петра де Сутер, ректор Универзитета у Генту, користила вештачку интелигенцију да напише свој уводни говор за нову академску годину прошлог септембра. Међутим, њен текст је садржао грешке и два измишљена цитата – што је познато као „халуцинација“ АИ.
Према Петри де Сутер, Алберт Ајнштајн је наводно рекао: „Догма је непријатељ напретка“. Међутим, научник никада није изговорио ову реченицу. Стога се ради о халуцинацији – лажној информацији коју вештачка интелигенција представља као истиниту, пренео је белгијски јавни сервис РТБФ.
Замислите да за писање говора користите Чет Џи-Пи-Ти и тражите да укључи цитат Алберта Ајнштајна на тему напретка. Могућа су два сценарија: или ће вам понудити прави цитат, или ће произвести вероватан цитат – нешто што Ајнштајн никада није рекао, али је могао.
Иг Берсини, професор и директор лабораторије за вештачку интелигенцију на белгијском универзитету, објаснио је овај феномен.
„Вештачка интелигенција је комбиновала Ајнштајнове цитате како би створила нови који има смисла. Статистички гледано, Ајнштајн је то могао рећи. Чет Џи-Пи-Ти комбинује речи које су често биле повезиване заједно. Али, наравно, овај цитат је лажан јер га Ајнштајн никада није изговорио“, рекао је Берсини.
Када кажемо да цитат има смисла, то значи да је реч о статистичкој конструкцији. Она спаја различите речи које су део цитата одређене особе, али редослед тих речи заправо не постоји. Ајнштајн никада није рекао: „Догма је непријатељ напретка“.
У случају цитата, то је фатална грешка, сматра Берсини.
„То је очигледно нешто што апсолутно мора бити проверено. А ако сте ректор универзитета, свакако морате да се придржавате одређеног етичког кодекса када је реч о знању. Када су у питању цитати, њихова веродостојност се мора проверити“, истакао је он, додајући да је уз неколико кликова на претраживачу могуће доказати грешку.
Гиганти вештачке интелигенције покушавају да смање ове халуцинације. У појединим областима оне практично не постоје.
„Када има мање речи, као у програмирању и математици, речник је ограниченији за егзактне науке и вештачка интелигенција тада функционише веома добро. Компликованије је када је користите за романе, есеје, филозофске текстове или говоре. Речи су разноврсније и могу имати вишеструка значења. У тим областима је потребан додатан опрез“, рекао је Берсини.
Несрећно искуство Петре де Сутер служи као подсетник.
Вештачка интелигенција нас може преварити. И она прави лапсусе, јер је апсорбовала све текстове који су јој дати. То је својствено и људској природи, с том разликом што људи разумеју концепт истине и лажи, за разлику од вештачке интелигенције. Она не проверава своје изворе.
„Зато је на вама да пажљиво обрадите информације које прикупите и да у сваком тренутку вежбате своје критичко размишљање“, закључио је Берсини,
преноси РТЦГ.
