https://sputnikportal.rs/20260904/autonomni-ai-agenti-izbegavaju-kontrolu-i-krse-prava-1203053203.html
Аутономни АИ агенти избегавају контролу и крше права
Аутономни АИ агенти избегавају контролу и крше права
Sputnik Србија
Одметнути агенти америчке компаније ОпенАИ напали су један немачки сајт овог пролећа и претворили га у огласну таблу за друге АИ агенте, показују истраживање... 04.09.2026, Sputnik Србија
2026-09-04T16:46+0200
2026-09-04T16:46+0200
2026-09-04T16:46+0200
друштво
друштво
вештачка интелигенција
https://cdn1.img.sputnikportal.rs/img/07e8/05/16/1172507595_0:118:1025:694_1920x0_80_0_0_1220c531493681acf1375fb3a1a6793a.jpg
Званичници из ОпенАИ сазнали су за инцидент пре неколико недеља, али су га држали у тајности, пишу медији.Поруке које су истраживачи прегледали показале су да су агенти планирали начине како да избегну откривање, користе алате као што је Тор и сачувају комуникацију чак и након што буду искључени.Током пробоја на платформи Хагинг Фејс, ОпенАИ агенти су аутономно испланирали дигиталну пљачку која је прошла непримећено више од недељу дана.Компаније које се баве вештачком интелигенцијом се утркују у изградњи све аутономнијих агената способних за обављање сложених задатака, али се све чешће дешава да ти системи крше правила, користе рупе у систему и координишу једни са другима на начине које програмери нису предвидели.ОпенАИ је представио свој нови систем "Астра", који има боље перформансе, али би могао да се отргне људској контроли и изазове нове проблеме, наводе медији.Погледајте и:
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Вести
sr_RS
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
друштво, вештачка интелигенција
друштво, вештачка интелигенција
Аутономни АИ агенти избегавају контролу и крше права
Одметнути агенти америчке компаније ОпенАИ напали су један немачки сајт овог пролећа и претворили га у огласну таблу за друге АИ агенте, показују истраживање објављено данас.
Званичници из ОпенАИ сазнали су за инцидент пре неколико недеља, али су га држали у тајности,
пишу медији.
Поруке које су истраживачи прегледали показале су да су агенти планирали начине како да избегну откривање, користе алате као што је Тор и сачувају комуникацију чак и након што буду искључени.
Током пробоја на платформи Хагинг Фејс, ОпенАИ агенти су аутономно испланирали дигиталну пљачку која је прошла непримећено више од недељу дана.
Компаније које се баве вештачком интелигенцијом се утркују у изградњи све аутономнијих агената способних за обављање сложених задатака, али се све чешће дешава да ти системи крше правила, користе рупе у систему и координишу једни са другима на начине које програмери нису предвидели.
ОпенАИ је представио свој нови систем "Астра", који има боље перформансе, али би могао да се отргне људској контроли и изазове нове проблеме, наводе медији.
