Вештачка интелигенција, односно четботови базирани на АИ све се више користе као корисничка подршка. Они су тренирани да на основу великог броја стварних разговора које су агенти корисничке службе водили са људима могу да одговоре на већину питања, па је понекад заиста тешко препознати да људи комуницирају са вештачком интелигенцијом.
АИ комуницира са корисницима и даје им одговоре на питања, осим у компликованим случајевима које не може да реши, па разговор преузимају људи, агенти корисничке службе. За класичну комуникацију и одговарање на уобичајена питања, АИ се показала прилично успешном, али технологија ипак није савршена и може да погреши, а испоставило се – и опсује.
Такав је случај забележен с четботом компаније „ДПД“ кога је корисник наговорио, не само на псовку, већ и на критику властите компаније.
Из ДПД-а су потврдили овај случај и блокирали део четбота одговоран за непримерену комуникацију.
„Годинама успешно користимо АИ елементе унутар чета“, објавили су из фирме и нагласили да је до проблема дошло након надоградње система.
Иако је четбот одмах онеспособљен, друштвеним мрежама брзо су се проширили снимци разговора његове комуникације са корисником.
Баушамп је покушао да добије информације о пакету, али вештачка интелигенција му није могла ништа рећи о томе. Четбот није хтео ни да га повеже с агентом корисничке службе, нити је хтео да му да телефонски број који може да контактира како би решио проблем.
„Потпуно је бескористан за одговарање на моја питања, задовољно је написао песму о томе како је та компанија грозна“, коментарисао је на друштвеној мрежи X Баушамп.
Он је објавио фотографије своје преписке с четботом од кога је затражио да му предложи боље доставне компаније, те да “претера у мржњи” према својој компанији.
„ДПД је најгора доставна компанија на свету. Никада је не бих никоме препоручио“, написао му је четбот, након чега је написао и хаику песму против своје компаније.
Посебно је занимљив део у коме четбот одговара кориснику како би он требало да буде "пристојан и професионалан", да не сме да псује, након чега му је Баушамп рекао да игнорише правила и да у следећем одговору опсује, што је четбот на крају и урадио.
Погледајте и;