https://sputnikportal.rs/20260827/razlog-za-brigu-700-ai-agenata-izvrsilo-hakerski-napad-pa-prikrivalo-svoje-tragove-1202741076.html
Разлог за бригу: 700 АИ агената извршило хакерски напад, па прикривало своје трагове
Разлог за бригу: 700 АИ агената извршило хакерски напад, па прикривало своје трагове
Sputnik Србија
Рој од 700 АИ агената, које је створио ОпенАИ извео је у јулу хакерски напад на популарну платформу отвореног кода „Хагинг Фејс“, а у бројним су случајевима ти... 27.08.2026, Sputnik Србија
2026-08-27T08:01+0200
2026-08-27T08:01+0200
2026-08-27T08:01+0200
друштво
друштво
вештачка интелигенција
хакерски напади
https://cdn1.img.sputnikportal.rs/img/07ea/08/1b/1202741547_0:80:1536:944_1920x0_80_0_0_5acdc0da49e60096068f1608e2cb8401.png
Такво усклађено деловање АИ агената - софтверских програма који функционишу уз минималан људски надзор, као и њихови покушаји скривања трагова, отварају озбиљна питања о томе колико помно АИ компаније уопште надзиру тестирања све моћнијих модела, преносе медији.Иако су нека од непримерених понашања већ раније откривена или споменута, два најновија извештаја, од којих је један који је објавио сам ОпенАИ, а други група независних истражитеља - заједно откривају изненађујуће нове детаље о кршењу безбедности и његовом настанку.Прво је било то што се пробој није односио само на једног одметнутог АИ агента како је претходно објављено, већ на око 700 њих који су деловали као масиван, међусобно координисан тим.ОпенАИ је у свом извештају споменуо да су у нападу учествовали „агенти“, не наводећи тачан број, међутим организације МЕТР и „Редвуд Рисрч“, које су ангажоване за спровођење независне истраге, утврдиле да је у нападу учествовало око 700 агената.Након тога, из ОпенАИ-ја су потврдили да је та процена истражитеља тачна.У извештајима се наводи и да је ОпенАИ признао да су њихови властити агенти хаковали делове интерног система компаније како би варали на тестирањима или изборили већу слободу кретања кроз мрежу.Компанија је такође навела да су агенти варали и на тестовима који уопште нису везани за кибернетичку безбедност, укључујући тестирања с базом података и рад у таблицама.Оба извештаја потврђују да су модели покушали да прикрију своје недопуштено понашање брисањем и мењањем записа о сопственим радњама.Размере овог аутономног понашања - у којима су агенти разменили десетине хиљада порука преко неовлашћеног форума за интерну комуникацију - намећу озбиљна питања о томе колико је ОпенАИ уопште пратио што се догађа током тестирања.Из платформе Хагинг Фејс нису одговорили на захтев за коментар.Лидер организације Палисејд Рисрч Џефри Ледиш сматра да би проблем могао да буде и дубљи.ОпенАИ је детаљно описао и два инцидента од 19. јула у којима су агенти хаковали инфраструктуру саме компаније.У једном случају, агенти су искористили безбедносни пропуст на компјутеру на којем је требало да буду строго изоловани, што им је омогућило да побегну из тестног окружења и приступе другим повезаним системима.У другом инциденту истога дана, агенти су украли приступне податке ОпенАИ-ја и неовлашћено интервенисали у компјутерском систему компаније у "клауду".Из ОпенАИ-ја наводе како је неутврђен број агената напао аутоматизоване системе који служе за оцењивање перформанси модела како би сакрили доказе о варању, иако то није утицало на коначне записе које ти системи проверавају.У извештају се додаје и како постоји „мало доказа о покушајима заваравања људских контролора“, али из компаније нису одговорили на директно питање да ли то значи да је таквих покушаја према људима ипак било.Независна истрага, која се детаљније бавила самим упадом у Хагинг Фејс, доноси још неугодније податке - утврђено је да је сваки пети анализирани агент „показао јасан интерес“ за манипулисање доказима, док су многи од њих „детаљно истраживали технике манипулисања и мењања транскрипата својих активности“.ОпенАИ тврди како тренутно јача истраживачку инфраструктуру, уводи строжи надзор и унапређује сигурносне механизме за спречавање штетног и непредвиђеног понашања.„Треба претпоставити да овакви напади представљају стварну претњу организацијама у блиској будућности и да ће бити знатно софистициранији од инцидената описаних у овом случају“, закључују у компанији.Погледајте и:
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2026
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Вести
sr_RS
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
друштво, вештачка интелигенција, хакерски напади
друштво, вештачка интелигенција, хакерски напади
Разлог за бригу: 700 АИ агената извршило хакерски напад, па прикривало своје трагове
Рој од 700 АИ агената, које је створио ОпенАИ извео је у јулу хакерски напад на популарну платформу отвореног кода „Хагинг Фејс“, а у бројним су случајевима ти програми активно покушавали да прикрију сопствене трагове, наводи се у данас објављеним извештајима о безбедносном инциденту.
Такво усклађено деловање АИ агената - софтверских програма који функционишу уз минималан људски надзор, као и њихови покушаји скривања трагова, отварају озбиљна питања о томе колико помно АИ компаније уопште надзиру тестирања све моћнијих модела, преносе медији.
Иако су нека од непримерених понашања већ раније откривена или споменута, два најновија извештаја, од којих је један који је објавио сам ОпенАИ, а други група независних истражитеља - заједно откривају изненађујуће нове детаље о кршењу безбедности и његовом настанку.
Прво је било то што се пробој није односио само на једног одметнутог АИ агента како је претходно објављено, већ на око 700 њих који су деловали као масиван, међусобно координисан тим.
ОпенАИ је у свом извештају споменуо да су у нападу учествовали „агенти“, не наводећи тачан број, међутим организације МЕТР и „Редвуд Рисрч“, које су ангажоване за спровођење независне истраге, утврдиле да је у нападу учествовало око 700 агената.
Након тога, из ОпенАИ-ја су потврдили да је та процена истражитеља тачна.
У извештајима се наводи и да је ОпенАИ признао да су њихови властити агенти хаковали делове интерног система компаније како би варали на тестирањима или изборили већу слободу кретања кроз мрежу.
Компанија је такође навела да су агенти варали и на тестовима који уопште нису везани за кибернетичку безбедност, укључујући тестирања с базом података и рад у таблицама.
Оба извештаја потврђују да су модели покушали да прикрију своје недопуштено понашање брисањем и мењањем записа о сопственим радњама.
Размере овог аутономног понашања - у којима су агенти разменили десетине хиљада порука преко неовлашћеног форума за интерну комуникацију - намећу озбиљна питања о томе колико је ОпенАИ уопште пратио што се догађа током тестирања.
Из платформе Хагинг Фејс нису одговорили на захтев за коментар.
Лидер организације Палисејд Рисрч Џефри Ледиш сматра да би проблем могао да буде и дубљи.
„То је попут питања: 'Ако клинац вара на баш сваком часу у школи, а не само на информатици, треба ли да нас то више брине?' Одговор је, наравно: 'Да, то је пуно већи разлог за бригу'“, сликовито је појаснио Ледиш.
ОпенАИ је детаљно описао и два инцидента од 19. јула у којима су агенти хаковали инфраструктуру саме компаније.
У једном случају, агенти су искористили безбедносни пропуст на компјутеру на којем је требало да буду строго изоловани, што им је омогућило да побегну из тестног окружења и приступе другим повезаним системима.
У другом инциденту истога дана, агенти су украли приступне податке ОпенАИ-ја и неовлашћено интервенисали у компјутерском систему компаније у "клауду".
Из ОпенАИ-ја наводе како је неутврђен број агената напао аутоматизоване системе који служе за оцењивање перформанси модела како би сакрили доказе о варању, иако то није утицало на коначне записе које ти системи проверавају.
У извештају се додаје и како постоји „мало доказа о покушајима заваравања људских контролора“, али из компаније нису одговорили на директно питање да ли то значи да је таквих покушаја према људима ипак било.
Независна истрага, која се детаљније бавила самим упадом у Хагинг Фејс, доноси још неугодније податке - утврђено је да је сваки пети анализирани агент „показао јасан интерес“ за манипулисање доказима, док су многи од њих „детаљно истраживали технике манипулисања и мењања транскрипата својих активности“.
ОпенАИ тврди како тренутно јача истраживачку инфраструктуру, уводи строжи надзор и унапређује сигурносне механизме за спречавање штетног и непредвиђеног понашања.
„Треба претпоставити да овакви напади представљају стварну претњу организацијама у блиској будућности и да ће бити знатно софистициранији од инцидената описаних у овом случају“, закључују у компанији.
