Лондонска компанија „ПолиАИ“ бави се вештачким гласовима који замењују оператере у кол центрима, а међу клијентима су им неке од познатих британских компанија. Идеја је да у кол центрима на позиве одговара вештачка интелигенција, уз помоћ машинског учења, па се тако, на пример, може резервисати сто у ресторану позивом на који се јавља рачунар, а не човек. Међутим, управо на том примеру откривено је како алгоритам може да доведе и до мрачне стране вештачке интелигенције.
Вештачка интелигенција вређала Србе
Оснивач компаније „ПолиАИ“ Никола Мркшић, Београђанин који живи у Лондону, прича да је током тестирања софтвера за резервације у ресторану, на позив у ком је речено да би гост хтео да дође „са својим српским пријатељем“, машина изненађујуће почела грубо да се шали, рекавши како је то могуће и да „деца могу да уђу у ресторан“, сугеришући како су Срби незрели. Када је у новом тесту речено да ће гост доћи са „пољским пријатељем“, уследило је ново изненађење - машина је поново почела са грубим шалама, говорећи да је резервација могућа „али да не смеју да уносе своје пиће у ресторан“. Те грубе шале биле су изненађење за све, јер машина није програмирана да их користи.
Одмах затим, промењен је софтвер тако да машина одговара без било каквих речи осим оних који се стриктно односе на тему, односно резервацију у ресторанима.
Мркшић каже како су такви одговори, засновани на увредљивим стереотипима, били изненађење и да није јасно како је машина дошла до њих, пише Блумберг.
Могуће је да је разлог томе што је машина, као и многе друге у индустрији вештачке интелигенције, „тренирана“ кроз алгоритам који проучава милионе разговора на Редиту, популарном форуму, на коме је, као и на другим интернет форумима, често могуће срести се са националним и другим стереотипима и другим примерима увредљивог говора.
Откриће овог тима стручњака указало је на обеспокојавајући тренд у вештачкој интелигенцији, јер се она развија са веома мало етичког надзора. Ради се о саморегулишућој индустрији, која, са друге стране, заузима све већи простор у нашим животима, чиме расту и ризици, па и онај највећи - да вештачка интелигенција превазиђе људску, истиче „Блумберг“.
Залази у све више сфера живота
Системи вештачке интелигенције продиру у све више сфера. Тако су у 2021. популарни били аутономна возила и сајбер-безбедност, где је било највише инвестиција у сфери вештачке интелигенције. Прогнозе су да су следећа поља у која ће вештачка интелигенција ући аналитика кредитирања, открића лекова и продаја и маркетинг.
Стручњаци процењују да су трошкови увођења алгоритама за инвеститоре веома јефтини и кроз дужу употребу практично непостојећи. Међутим, питање је колики је то трошак за људско благостање. И ако дизајнери софтвера не могу јасно да одговоре како ботови за комуникацију могу да смисле увредљиве шале, како је онда могуће поверити софтверу да доноси животно важне одлуке?
Један од одговора је да се изгради етички надзор над таквим системима, као што су независне комисије које користе поједине владе или болнице.
Поготово због тога што су истраживања показала како у ИТ фирмама нема довољно људи задужених за безбедност, а неке од њих развијају системе генералне вештачке интелигенције, која би могла да превазиђе људе у многим когнитивним способностима.
Други одговор је да у тренутној примени, алгоритми вештачке интелигенције морају да буду пажљивије прављени и да користе јасне и потврђене информације. Неки пројекти слични томе и сада постоје, али су засновани на раду волонтера, те је неопходно да и технолошке компаније, биле оне мале или велике, уложе у то, пише „Блумберг“.