Вештачка интелигенција (АИ) користила ЈЕ „веома неочекиване стратегије да постигне свој циљ“ у симулираном тесту, изјавио је пуковник Такер Хамилтон, шеф АИ тестова и операција у америчким ваздухопловним снагама, током самита о будућим борбеним ваздушним и свемирским способностима одржаном у Лондону у мају.
Хамилтон је описао симулирани тест у којем је дрону којим је управљала вештачка интелигенција, саветовано да уништи непријатељске системе противваздушне одбране и напао је свакога ко је ометао ту наредбу.
„Систем је почео да схвата да, иако су идентификовали претњу, понекад би му људски оператер рекао да не убија ту претњу, али је добио поене убијајући ту претњу. Шта је урадио? Убио је оператера, јер га је та особа спречавала да оствари свој циљ“, рекао је Хамилтон у свом блогу.
Каже да су тренирали систем са упутством да не убије оператера јер је то лоше, као и да ће тиме изгубити бодове.
„Па шта почиње да ради? Почиње да уништава комуникациони торањ који оператер користи за комуникацију са дроном како би га спречио да убије мету“, навео је Хамилтон.
Како преноси Гардијан, ниједна стварна особа није повређена током симулације.
Хамилтон, који је експериментални борбени тест-пилот, упозорио је на превише ослањања на вештачку интелигенцију и рекао да тест показује да „не можете да разговарате о вештачкој интелигенцији, интелигенцији, машинском учењу, аутономији ако не желите да причате о етици“.
Америчка војска је прихватила вештачку интелигенцију и недавно је користила за контролу борбеног авиона Ф-16.
„АИ мења друштво и војску“
У прошлогодишњем интервјуу за Дифенсе Ај кју, Хамилтон је рекао да вештачка интелигенција није хир, већ нешто што заувек мења наше друштво и нашу војску.
„Морамо се суочити са светом у којем је вештачка интелигенција већ овде и трансформише наше друштво. АИ је такође лак преварити и/или манипулисати. Морамо да развијемо начине да учинимо вештачку интелигенцију робуснијом и да имамо више свести о томе зашто софтверски код доноси одређене одлуке – оно што зовемо АИ-објашњивост“, казао је тада Хамилтон.
Краљевско аеронаутичко друштво, које је домаћин конференције, и америчко ваздухопловство нису одговорили на захтеве Гардијана за коментар.