Отпуштање тог тима, како је известио Платформер, део је недавне серије отпуштања 10.000 запослених широм компаније Мајкрософт.
Кључна улога за одговорност вештачке интелигенције
Тај потез оставља Мајкрософт без тима који би осигурао да принципи вештачке интелигенције буду уско повезани са дизајном производа, у тренутку када компанија покушава да алате вештачке интелигенције учини широко доступним, рекли су садашњи и бивши запослени.
Компанија и даље „одржава у животу“ канцеларију одговорне вештачке интелигенције, која има задатак да креира правила и принципе за управљање иницијативама компаније о вештачкој интелигенцији. Мајкрософт наводи да се њена укупна инвестиција у одговорност повећава упркос недавним отпуштањима.
„Мајкрософт је посвећен развоју производа вештачке интелигенције и искустава безбедно и одговорно, и то чини улагањем у људе, процесе и партнерства којима је то приоритет. Током протеклих шест година повећали смо број људи у нашим тимовима за производе и унутар Канцеларије за одговорну вештачку интелигенцију који су, заједно са свима нама у Мајкрософту, одговорни за то да принципе вештачке интелигенције применимо у пракси“, наводи се у саопштењу компаније.
Међутим, запослени су изјавили да је тим за етику и друштво играо кључну улогу у обезбеђивању одржавања принципа одговорности код примене вештачке интелигенције у дизајну производа.
„Људи би гледали на принципе који долазе из Канцеларије за одговорну вештачку интелигенцију и рекли да не знају како се то примењује. Наш посао је био да им покажемо и да створимо правила у областима где их није било“, рекао је један од бивших запослених.
Последњих година, тим је дизајнирао игру под називом Judgment Call која је помагала дизајнерима да предвиде потенцијалне штете које би могле да настану од вештачке интелигенције и да о њима разговарају током развоја производа. Био је то део већег „скупа алата за одговорне иновације“ који је тим јавно објавио.
Ризици технологије
Тим за етику и друштво је до недавно радио на идентификацији ризика које представља усвајање OpenAI технологије у читавом низу производа.
Највећи број запослених имао је 2020. године, када је у тиму било око 30 запослених, укључујући инжењере, дизајнере и филозофе. У октобру је тим смањен на отприлике седам људи.
На састанку са тимом након реорганизације, Џон Монтгомери, корпоративни потпредседник за вештачку интелигенцију, рекао је запосленима да су им челници компаније наложили брзе промене.
„Притисак од Кевина Скота, главног инжењера и директора Сатија Надела је веома, веома висок да се узму најновији OpenAI модели и оне који долазе после њих и да се пренесу у руке купаца веома великом брзином“, рекао је Монтгомери, наводи се у аудио-снимку састанка до ког је дошао Платформер.
Већина чланова тима је пребачена на друго место у оквиру компаније, а преостали чланови тима за етику и друштво рекли су да је мањи број људи отежао реализацију амбициозних планова.
Брзина важнија од одговорности
Чланови тима за етику и друштво рекли су да су покушавали да подрже развој производа, али да је Мајкрософт постао фокусиран на испоруку алата вештачке интелигенције брже од својих ривала, те да је руководство компаније постало мање заинтересовано за ту врсту дугорочног размишљања за коју се тим специјализовао.
С једне стране, Мајкрософт сада можда има шансу која се појављује једном у генерацији да стекне значајну предност у односу на Гугл у претрази, софтверу за продуктивност, клауду и другим областима.
Када је поново покренуо Бинг са вештачком интелигенцијом, компанија је рекла инвеститорима да би сваки један проценат тржишног удела који би могао да одузме Гуглу у претрази резултирао годишњим приходом од две милијарде долара.
Тај потенцијал објашњава зашто је Мајкрософт до сада уложио 11 милијарди долара у OpenAI, а тренутно се утркује да интегрише ту технологију у сваки кутак „царства“.
Успех оживљеног Бинга
Чини се да је успех већ дошао. Компанија је прошле недеље саопштила да Бинг сада има 100 милиона активних корисника дневно, од којих трећину нових, откако је претраживач Бинг поново покренут са OpenAI технологијом.
С друге стране, сви који су укључени у развој вештачке интелигенције сагласни су да та технологија представља моћне и могуће егзистенцијалне ризике, познате и непознате.
Технолошки гиганти су се потрудили да сигнализирају да озбиљно схватају те ризике. Само Мајкрософт има три различите групе запослених које раде на том питању, чак и након елиминације тима за етику и друштво. Али, било какво смањење тимова фокусираних на одговоран рад чини се вредним пажње, преноси Верџ.