Главният изпълнителен директор на OpenAI Сам Алтман направи някои разсъждения в първия епизод на новия подкаст на OpenAI относно степента на доверие, която хората имат в ChatGPT. В разговора Алтман отбеляза: "Хората имат много висока степен на доверие в ChatGPT, което е интересно, защото изкуственият интелект халюцинира. Това би трябвало да е технология, на която да не се доверявате лесно".
Това откровено признание идва, когато възможностите на изкуствения интелект са все още в начален стадий. Милиарди хора по света вече използват изкуствен интелект в ежедневието, но както казва Алтман - той не е супер надежден.
ChatGPT и подобни големи езикови модели (LLM) са известни с това, че ''халюцинират'' или генерират правдоподобно звучаща, но невярна или изфабрикувана информация, припомня Yahoo Finance. Въпреки това милиони потребители разчитат на тези инструменти за всичко - от изследвания и работа до лични съвети и родителски насоки. Самият Алтман казва, че използва ChatGPT за въпроси, свързани с детско възпитание.
Наблюдението на Алтман сочи към парадокс в областта на изкуствения интелект: докато потребителите все повече осъзнават, че изкуственият интелект може да прави грешки, удобството, бързината и плавността на разговорите на инструменти като ChatGPT насъечават ниво на доверие, което по-често се свързва с експерти по човешките взаимоотношения или близки приятели. Това доверие се усилва от способността на изкуствения интелект да запомня контекст, да персонализира отговорите и да предоставя помощ по широк кръг от теми – функции, за които Алтман и други в OpenAI вярват, че само ще се задълбочат с усъвършенстването на технологията.
Алтман обаче предупреждава, че рискът от прекомерно доверие на генерирано от изкуствен интелект съдържание е особено голям в области с висок залог като здравеопазване, правни съвети и образование. Докато Алтман хвали добрите страни на ChatGPT, той подчерта, че потребителите трябва да мислят критично и да признаят, че "изкуственият интелект халюцинира" и не трябва да му се вярва сляпо.
