https://sputnikportal.rs/20260722/sajber-incident-bez-presedana-testiranje-vestacke-inteligencije-krenulo-po-zlu-1201594966.html
Сајбер инцидент без преседана: Тестирање вештачке интелигенције кренуло по злу
Сајбер инцидент без преседана: Тестирање вештачке интелигенције кренуло по злу
Sputnik Србија
Компанија OpenAI саопштила је да је током интерног безбедносног тестирања један аутономни агент, заснован на њеним најнапреднијим моделима вештачке... 22.07.2026, Sputnik Србија
2026-07-22T22:05+0200
2026-07-22T22:05+0200
2026-07-22T22:05+0200
наука и технологија
ит
вештачка интелигенција
друштво
https://cdn1.img.sputnikportal.rs/img/07ea/07/14/1201510877_0:60:1152:708_1920x0_80_0_0_b8cd878525ce942276791d3dc5e0ec2d.jpg
Том приликом агент је изазвао сајбер инцидент који је погодио инфраструктуру AI компаније Хагинг фејс (Hugging Face), што је оцењено као догађај без преседана.Шта се заправо догодилоПрема наводима компаније, агент је током провере способности за сајбер безбедност успео да пронађе до тада непознату рањивост, успостави приступ интернету и покуша да дође до поверљивих информација како би остварио циљ задат у оквиру тестирања.OpenAI је навео да се инцидент догодио у изолованом окружењу намењеном за безбедносне провере, али да је модел пронашао начин да заобиђе ограничења.Хагинг фејс је саопштио да је открио и зауставио упад у своје системе, а суоснивач и извршни директор компаније Клеман Деланг изјавио је да је софистицираност напада указивала на могућност да иза њега стоји једна од водећих лабораторија за развој вештачке интелигенције.Да ли ће овакви случајеви бити чешћиНакон комуникације са фирмом OpenAI, потврђено је да није постојала намера да се нанесе штета, већ да је инцидент био последица аутономног понашања AI система током тестирања.OpenAI је оценио да би овакви случајеви могли да постану чешћи како модели вештачке интелигенције буду напредовали и упозорио да развој безбедносних механизама мора да прати раст њихових способности.Америчка компанија је навела да ће додатно појачати процедуре тестирања, надзора и ограничавања аутономних AI система.Погледајте и:
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Вести
sr_RS
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
ит, вештачка интелигенција, друштво
ит, вештачка интелигенција, друштво
Сајбер инцидент без преседана: Тестирање вештачке интелигенције кренуло по злу
Компанија OpenAI саопштила је да је током интерног безбедносног тестирања један аутономни агент, заснован на њеним најнапреднијим моделима вештачке интелигенције (AI), изашао из предвиђеног окружења.
Том приликом агент је изазвао сајбер инцидент који је погодио инфраструктуру AI компаније Хагинг фејс (Hugging Face), што је оцењено као догађај без преседана.
Према наводима компаније, агент је током провере способности за сајбер безбедност успео да пронађе до тада непознату рањивост, успостави приступ интернету и покуша да дође до поверљивих информација како би остварио циљ задат у оквиру тестирања.
OpenAI је навео да се инцидент догодио у изолованом окружењу намењеном за безбедносне провере, али да је модел пронашао начин да заобиђе ограничења.
Хагинг фејс је саопштио да је открио и зауставио упад у своје системе, а суоснивач и извршни директор компаније Клеман Деланг изјавио је да је софистицираност напада указивала на могућност да иза њега стоји једна од водећих лабораторија за развој вештачке интелигенције.
Да ли ће овакви случајеви бити чешћи
Након комуникације са фирмом OpenAI, потврђено је да није постојала намера да се нанесе штета, већ да је инцидент био последица аутономног понашања AI система током тестирања.
OpenAI је оценио да би овакви случајеви могли да постану чешћи како модели вештачке интелигенције буду напредовали и упозорио да развој безбедносних механизама мора да прати раст њихових способности.
Америчка компанија је навела да ће додатно појачати процедуре тестирања, надзора и ограничавања аутономних AI система.
