https://sputnikportal.rs/20220613/projekat-gugla-koji-ima-svest-i-dusu-usijao-internet-1138452837.html
Пројекат Гугла који "има свест и душу" усијао интернет
Пројекат Гугла који "има свест и душу" усијао интернет
Sputnik Србија
Током претходног периода, друштвене мреже и интернет је уздрмао Блејк Лемојн, који тврди да Гуглов четбот ЛаМДА има „разум и душу“ и да је на нивоу детета... 13.06.2022, Sputnik Србија
2022-06-13T21:43+0200
2022-06-13T21:43+0200
2022-06-13T23:09+0200
наука и технологија
ит
магазин
https://cdn1.img.sputnikportal.rs/img/111153/43/1111534311_0:67:1280:787_1920x0_80_0_0_0534754037cac62717e435cccc696dd9.jpg
Лемојн је софтверски инжењер задужен за етичка питања компанији „Гугл“, а изјавом да би ЛаМДА могао да се назове особом, узбуркао страсти и међу стручњацима и међу лаицима.Лемојн је суспендован због ових испада, али случај поставља занимљиво питање. Шта заправо представља ЛаМДА и чему овај пројекат уопште служи?Шта је у ствари ЛаМДА?ЛаМДА или Language Models for Dialog Applications представља језички модел за машинско учење, који је компанија „Гугл“ креирала као четбота. Његова улога је да имитира људе у разговорима.Попут БЕРТ, ГПТ-3 и других језичких модела, ЛаМДА је изграђена на Трансформеру – архитектури неуралних мрежа коју је „Гугл“ осмислио 2017. године и начинио је отвореним кодом.Ова архитектура производи модел који може да се истренира да чита велики број речи, као и да води рачуна о томе на који начин те речи имају смисла, као и да предвиди која реч би могла уследити. Оно што ЛаМДА-у чини другачијом јесте да је тренирана на дијалогу, за разлику од већине других модела.Иако се разговори обично врте око одређених тема, они су често отворени, што значи да могу да почну са једном темом и да се заврше негде другде. Управо тај "течни" квалитет обављања разговора јесте оно што на крају одаје конвенционалне чет ботове. Они нису у стању да прате такав променљиви дијалог јер су дизајнирани да прате уске, унапред дефинисане делове разговора. Али ЛаМДА је дизајнирана тако да може да се неометано укључи у разговоре о готово бескрајном броју тема, пише Б92.Лемојн је објавио „интервју“ који је обавио са ЛаМДА-ом, а у оквиру којег вештачка интелигенција (бар према његовом мишљењу) показује осећај усамљености и тежи новим духовним сазнањима. Управо је ово, заједно са другим елементима у оквиру којих је овај језички модел показао неке нивое свести, оно што је Лемојна навело да верује да је модел постао „мислеће биће“.„Гугл“ је наравно одбацио овакве тврдње, а званична порука компаније јесте да овакви модели за разговор немају разум какав помиње Лемојн. Ти системи заправо имитирају типове размена који могу да се пронађу у милионима реченица.Међутим, чак и ако ЛаМДА није систем који има свест, сама чињеница да тако може да делује људском бићу могло би бити разлог за забринутост. „Гугл“ је признао такве ризике у објави на блогу из 2021. године, када је најавио ЛаМДА-у.„Језик је можда једно од највећих оруђа човечанства, али као и сви алати може да се злоупотреби. Модели обучени на језику као средству могу да пропагирају ту злоупотребу — на пример, интернализовањем предрасуда, пресликавањем говора мржње или реплицирањем обмањујућих информација. Чак и када је језик на ком се обучава пажљиво проверен, модел и даље може да се лоше користи или злоупотреби“, стоји у објави компаније.Шта кажу стручњациИпак, „Гугл“ каже да је, иако ствара технологије попут ЛаМДА, највећи приоритет компаније да минимализује могућност појаве таквих ризика. Компанија је саопштила да је изградила ресурсе отвореног кода које истраживачи могу да користе за анализу модела и података о којима су обучени и да је „помно испитала ЛаМДА-у у сваком кораку њеног развоја“.Када су у питању мишљења стручњака, и на овом пољу су се развили различити ставови. Неки експерти за вештачку интелигенцију кажу да људска бића (међу којима је и Лемојн) имају предиспозицију за антропоморфизовање карактеристике нечега одмах када уоче и најслабије сигнале, а на ово нису имуни ни инжењери у „Гуглу“.Стивен Пинкер са Харварда је нешто грубљи, па каже да Лемојн не уме да разликује самосвест, интелигенцију и наглашава да нема доказа да их језички модели поседују. Неки други, као што је дивелопер Рон Џефрис, констатују да не постоји јасна линија између „разума и не-разума“.Занимљиво је да је, пре него што је са својим тврдњама изашао у јавност, Лемојн био у вишемесечном сукобу са компанијом „Гугл“ збогсвојих ставова. „Гугл“ је форсирао свој став да стотине других инжењера и научника, који су учествовали у пројекту ЛаМДА, заправо имају другачије закључке и искуства од оних које пропагира Лемојн.Јан Лекун из компаније „Мета“, који је један од водећих ауторитета на пољу неуралних мрежа (што ЛаМДА јесте у својој основи), сматра да та врста система није довољно моћна за усвајање истинске интелигенције.„Гугл“наравно није једина компанија на свету која развија овакав или сличне системе вештачке интелигенције и биће занимљиво видети у ком смеру ће се убудуће развијати ова сфера науке.
https://sputnikportal.rs/20220612/pitao-sam-robota-sta-ga-plasi-inzenjer-gugla-suspendovan-posle-otkrica-o-vestackoj-inteligenciji-1138400158.html
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2022
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Вести
sr_RS
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik Србија
feedback.rs@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
ит, магазин
Пројекат Гугла који "има свест и душу" усијао интернет
21:43 13.06.2022 (Освежено: 23:09 13.06.2022) Током претходног периода, друштвене мреже и интернет је уздрмао Блејк Лемојн, који тврди да Гуглов четбот ЛаМДА има „разум и душу“ и да је на нивоу детета узраста од шест до осам година.
Лемојн је софтверски инжењер задужен за етичка питања компанији „Гугл“, а изјавом да би ЛаМДА могао да се назове особом, узбуркао страсти и међу стручњацима и међу лаицима.
Лемојн је суспендован због ових испада, али случај поставља занимљиво питање. Шта заправо представља ЛаМДА и чему овај пројекат уопште служи?
ЛаМДА или Language Models for Dialog Applications представља језички модел за машинско учење, који је компанија „Гугл“ креирала као четбота. Његова улога је да имитира људе у разговорима.
Попут БЕРТ, ГПТ-3 и других језичких модела, ЛаМДА је изграђена на Трансформеру – архитектури неуралних мрежа коју је „Гугл“ осмислио 2017. године и начинио је отвореним кодом.
Ова архитектура производи модел који може да се истренира да чита велики број речи, као и да води рачуна о томе на који начин те речи имају смисла, као и да предвиди која реч би могла уследити. Оно што ЛаМДА-у чини другачијом јесте да је тренирана на дијалогу, за разлику од већине других модела.
Иако се разговори обично врте око одређених тема, они су често отворени, што значи да могу да почну са једном темом и да се заврше негде другде. Управо тај "течни" квалитет обављања разговора јесте оно што на крају одаје конвенционалне чет ботове. Они нису у стању да прате такав променљиви дијалог јер су дизајнирани да прате уске, унапред дефинисане делове разговора. Али ЛаМДА је дизајнирана тако да може да се неометано укључи у разговоре о готово бескрајном броју тема,
пише Б92.
Лемојн је објавио „интервју“ који је обавио са ЛаМДА-ом, а у оквиру којег вештачка интелигенција (бар према његовом мишљењу) показује осећај усамљености и тежи новим духовним сазнањима. Управо је ово, заједно са другим елементима у оквиру којих је овај језички модел показао неке нивое свести, оно што је Лемојна навело да верује да је модел постао „мислеће биће“.
„Гугл“ је наравно одбацио овакве тврдње, а званична порука компаније јесте да овакви модели за разговор немају разум какав помиње Лемојн. Ти системи заправо имитирају типове размена који могу да се пронађу у милионима реченица.
Међутим, чак и ако ЛаМДА није систем који има свест, сама чињеница да тако може да делује људском бићу могло би бити разлог за забринутост. „Гугл“ је признао такве ризике у објави на блогу из 2021. године, када је најавио ЛаМДА-у.
„Језик је можда једно од највећих оруђа човечанства, али као и сви алати може да се злоупотреби. Модели обучени на језику као средству могу да пропагирају ту злоупотребу — на пример, интернализовањем предрасуда, пресликавањем говора мржње или реплицирањем обмањујућих информација. Чак и када је језик на ком се обучава пажљиво проверен, модел и даље може да се лоше користи или злоупотреби“, стоји у објави компаније.
Ипак, „Гугл“ каже да је, иако ствара технологије попут ЛаМДА, највећи приоритет компаније да минимализује могућност појаве таквих ризика. Компанија је саопштила да је изградила ресурсе отвореног кода које истраживачи могу да користе за анализу модела и података о којима су обучени и да је „помно испитала ЛаМДА-у у сваком кораку њеног развоја“.
Када су у питању мишљења стручњака, и на овом пољу су се развили различити ставови. Неки експерти за вештачку интелигенцију кажу да људска бића (међу којима је и Лемојн) имају предиспозицију за антропоморфизовање карактеристике нечега одмах када уоче и најслабије сигнале, а на ово нису имуни ни инжењери у „Гуглу“.
Стивен Пинкер са Харварда је нешто грубљи, па каже да Лемојн не уме да разликује самосвест, интелигенцију и наглашава да нема доказа да их језички модели поседују. Неки други, као што је дивелопер Рон Џефрис, констатују да не постоји јасна линија између „разума и не-разума“.
Занимљиво је да је, пре него што је са својим тврдњама изашао у јавност, Лемојн био у вишемесечном сукобу са компанијом „Гугл“ збогсвојих ставова. „Гугл“ је форсирао свој став да стотине других инжењера и научника, који су учествовали у пројекту ЛаМДА, заправо имају другачије закључке и искуства од оних које пропагира Лемојн.
Јан Лекун из компаније „Мета“, који је један од водећих ауторитета на пољу неуралних мрежа (што ЛаМДА јесте у својој основи), сматра да та врста система није довољно моћна за усвајање истинске интелигенције.
„Гугл“наравно није једина компанија на свету која развија овакав или сличне системе вештачке интелигенције и биће занимљиво видети у ком смеру ће се убудуће развијати ова сфера науке.
