Позив на опрез! Опасне замке вештачке интелигенције: Од лажњака до порно уцена – мете су и деца
© Sputnik / Марија Јаковљевић
Пратите нас
Са развојем вештачке интелигенције и дипфејк технологија, расте опасност за безбедност деце. Родитељи често не схватају ризике објављивања фотографија на друштвеним мрежама, док технологије омогућавају стварање лажних и компромитујућих садржаја који могу озбиљно угрозити најмлађе, објашњава ИТ консултант Војислав Родић.
Европска унија је недавно покренула истрагу против четбота „Грок“, у власништву Илона Маска, због производње експлицитних фотографија, чиме је поново актуелизовала питање граница у коришћењу и злоупотреби савремених технологија. Овај случај отвара озбиљну расправу о безбедности и етици у дигиталном добу.
Дипфејк и нудификација – савремени алати злоупотребе
Војислав Родић, искусни ИТ консултант, детаљно објашњава појмове који су данас постали свакодневица – дипфејк и нудификација.
„Фејк, или лажњак, је свима познат као појам – лоша или неистинита копија, као што су фалсификати познатих брендова које људи често купују. Али дипфејк је нешто много сложеније: ради се о садржајима — фотографијама и видео-записима — који су толико веродостојни да посматрач верује да гледа стварну особу, било да је реч о њеном изгледу, гласу или начину говора, иако тај садржај нема никакве везе са реалношћу“, упозорава Родић.
Ова технологија генерише потпуно нови, уверљив материјал на основу постојећих фотографија и снимака, који је готово немогуће разликовати од оригинала.
„У раним фазама развоја АИ, пре само годину дана, корисници су још могли да препознају несавршености. Али данас, са напретком технологије, те разлике су готово невидљиве“, наглашава Родић.
Дипфејк отвара огромне могућности, али и велике опасности. Са друге стране, нудификација је још један проблематичан феномен:
„То је процес у коме се, на основу слике особе у одећи, генерише слика те исте особе без одеће, или у експлицитним позама и ситуацијама које никада нису постојале“, објашњава наш саговорник.
Комбинација нудификације и дипфејкa постаје снажно оруђе за злоупотребе, пре свега у сврху уцене, осветничког порно материјала или нарушавања угледа.
„Данас, за стварање компромитујућих садржаја није потребно поседовати специјална техничка знања. Довољно је унети текстуалну команду и уз мало експериментисања доћи до жељеног резултата“, категоричан је Родић.
Ово нарочито забрињава, јер се овакви садржаји често приказују као пародије, што је већ уобичајени изговор, али се користе и за озбиљну злоупотребу, додаје он.
Ризици за децу: од фотографија на мрежи до лажних садржаја
Највећа рањивост је код деце и њихових родитеља. Родић упозорава:
„Многи родитељи поносно објављују слике своје деце на друштвеним мрежама, не схватајући колико то може бити ризично.“
Он подсећа на случај који се догодио пре неколико година у Србији, када су француски криминалци искористили фотографије детета са друштвених мрежа за израду лажног пасоша са циљем отмице која је, на срећу спречена промптном реакцијом грађана и полиције.
Још опаснији феномен је појава лажних садржаја везаних за дечју порнографију, који се не стварају од снимака стварне деце, већ се користе генерисани ликови или слике преузете са постојећих дечјих фотографија.
„Ово поставља озбиљна правна и етичка питања — како квалификовати дело у којем формално нема директно оштећеног детета, али је штета огромна, не само за појединце, већ и за друштво у целини“, каже Родић.
Промена парадигме у комуникацији са дигиталним системима
Према Родићевим речима, начин на који комуницирамо са рачунарима и дигиталним агентима суштински је промењен. Некада су корисници морали да уче сложене команде, данас једноставно постављају питања обичним језиком, као да разговарају са саговорником.
Ова револуција је могућа захваљујући језичким моделима који „усисавају“ огромне количине података са интернета, укључујући и слободно доступне и плаћене садржаје, како би генерисали одговоре.
Међутим, Родић истиче да одговори нису производ размишљања, већ статистичке анализе.
„Систем процењује која реч са највећом вероватноћом долази након претходне и тако креира смислени текст“, истиче он.
Због тога се дешава да АИ често даје нетачне или збуњујуће одговоре, јер у обзир узима и непоуздане изворе, и то без разумевања контекста.
Емоционална манипулација и психолошки профили корисника
Дигиталне платформе живе од емотивног ангажмана корисника.
„Што је већа емоционална реакција корисника, то се прецизније пуни његов психолошки профил, који се користи за циљане огласе и манипулацију“, подвлачи Родић.
Циљ више није само да корисник пронађе производ који жели, већ да се убеди да жели производ који му се нуди. Другим речима, не ради се више само о личним подацима, већ и о информацијама о навикама, здрављу и интересовањима корисника.
Ипак, постоји и позитивна страна: персонализација помаже корисницима да лакше пронађу релевантне информације и производе, али то долази по цену великог прикупљања података.
Млађи корисници и виртуелна блискост са АИ
Све већи број младих улази у дубоке, интимне разговоре са АИ ботовима, износећи ствари које не би поделили ни са родитељима или пријатељима. Таква врста интеракције ствара илузију блискости и прихваћености, која може бити и штетна, јер то није права људска веза, објашњава Родић и додаје да старије генерације брже схватају да је реч о симулацији, млађи развијају другачије одбрамбене механизме и све више размишљају о корисности такве комуникације.
Реакције држава често су блокаде и забране, што Родић сматра рефлексном и непотпуном мером. Са друге стране предлоге о скраћењу школских часова због пада концентрације наш саговорник сматра капитулацијом. Децу, каже он, треба учити „дисциплини и управљању пажњом.“
Он позива на планско усмеравање слободног времена, јер многи млади проводе сате дневно на друштвеним мрежама, што негативно утиче на њихово здравље и развој.
Дигитална хигијена: савети за безбедност
У дигиталном свету не постоји потпуна приватност — већина људи је већ открила готово све о себи путем друштвених мрежа и других дигиталних канала. То отвара простор за злоупотребе и криминалне активности, попут лажних порука или симулација отмица.
Родић упозорава да цурења података нису случајна, већ резултат циљаних упада. Зато треба редовно мењати лозинке и користити различите шифре и генераторе лозинки.
На крају, основни савет за заштиту остаје исти као и некада:
„Буди опрезан, не говори свима све и добро размисли пре него што нешто поделиш. У дигиталном свету то је најбољи оклоп и заштита“, закључује Родић.
