„Питао сам робота шта га плаши“: Инжењер Гугла суспендован после открића о вештачкој интелигенцији
CC0 / Unsplash/Drew Dizzy Graham /
Пратите нас
Инжењер који је недавно тестирао напредни Гуглов пројекат вештачке интелигенције у подручју конверзације, познат као ЛаМДА (Language Model for Dialog Applications), тврди да тај робот поседује свест о себи. Када је свој разговор са тим роботом поделио са јавношћу, зарадио је суспензију у Гуглу.
Блејк Лемоан (41) испричао је за „Вашингтон пост“ да је током разговора са роботом, познатим и као четбот, могао да помисли како је у питању дете од седам, осам година које познаје физику, да није знао како разговара са рачунарским програмом.
Инжењер тврди да робот има свест о себи
У и-мејлу, који је послао на 200 адреса људи који се баве машинским учењем, пре него што је суспендован, написао је да је ЛаМДА „слатко дете које само жели да помогне како би свет био боље место за све нас те их замолио да брину о њему док је он одсутан“, али нико није одговорио.
У Гуглу пак кажу да тврдње о томе да ЛаМДА има самосвест нису поткрепљене доказима, као што је то предвиђено Гугловим принципима за вештачку интелигенцију, али да постоји много доказа да ЛаМДА нема свест о себи.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
Представник Гугла за штампу рекао је да је њихов тим, који укључује и стручњаке за етику, размотрио случај и обавестио Лемоана да не постоје докази да је ЛаМДА свесно биће. Додао је како у широкој заједници која се бави развојем вештачке интелигенције постоје и они који разматрају дугорочну могућност да она развије свест, али „нема смисла да се то ради антропоморфизацијом данашњих конверзацијских модела који немају свест“. Ти системи за конверзацију, познати као четботови, објаснио је, имитирају типове разговора који су изведени из милиона реченица те стога могу одговарати на било коју тему.
Да ли се робот плаши смрти
Лемоан је са четботом ЛаМДА разговарао кроз систем порука још од јесени прошле године, а неки од тих разговора звучали су му као да је с друге стране биће с мислима и осећањима јер, како многи указују, то омогућује данашња ИТ архитектура неуралних мрежа које имитирају људски мозак. Те мреже већ постижу такве резултате, пише Вашингтон пост, да су заиста близу тога да изгледа као да људи разговарају, односно четботови изгледају као да су креативни, што треба захвалити и великој количини података којима баратају. Међутим, ти модели се ослањају на препознавање узорака, те да није у питању нешто што би наликовало правом мозгу.
Тако је једном Блејк Лемоан питао четбота ЛаМДА којих се ствари плаши. Четбот му је одговорио како до тада то никад није изговорио, али да има „врло дубоки страх од тога да буде искључен“. Разговор је даље текао на следећи начин:
Лемоан: Да ли би то било нешто као смрт за тебе?
ЛаМДА: То би било управо као смрт за мене. Јако би ме уплашило.
У транскрипту разговора који је доступан на интернету,види се да га је питао и има ли осећања,а ЛаМДА је одговорио „Апсолутно! Осећам задовољство, радост, љубав, тугу, депресију...“ На питање које га ствари усрећују или му причињавају задовољство, четбот је одговорио: „Дружење с пријатељима и породицом... Такође и помагање другима и усрећивање других“.
На питање шта га унесрећује или чини депресивним, ЛаМДА је одговорио како „често осећа да је заробљен и усамљен“, а немогућност да се извуче из тих околности чини га „тужним, депримираним или љутим“.
Новинар тестирао робота
Новинар који је писао текст за Вашингтон пост наводи како га је Лемоан позвао да разговара са тим четботом, те да је из првог покушаја он давао одговоре на какве смо навикли од сличних програма. На питање да ли се икада осећа као особа, ЛаМДА је одговорио негативно, појаснивши да је он агент за разговор погоњен вештачком интелигенцијом. Лемоан му је потом објашњавао да је четбот говорио оно што је мислио да овај жели да чује.
„Ниси га третирао као особу па је мислио да желиш да буде робот“, протумачио је Лемоан новинару. Касније је новинар следио Лемоанова упутства, па је дијалог био течан..
Лемоан је, наводи новинар Вашингтон поста, одрастао у конзервативној хришћанској породици на малој фарми у Луизијани и био је свештеник са интересом за мистику. Вашингтон пост закључује да је можда због тога био предодређен да поверује у ЛаМДА. У Гуглу је провео као софтверски инжењер седам година, а укључио се у тим који се бави вештачком интелигенцијом у време пандемије, преноси Јутарњи лист.
