Изкуствен интелект или изкуствена реалност? Колкото по-умен е ИИ, толкова повече халюцинира

Колкото по-умен е ИИ, толкова повече халюцинира

Съвременните езикови модели, като GPT-4o на OpenAI, показват забележителни способности в разбирането и генерирането на текст. Въпреки това, те също така демонстрират склонност към халюцинации. Според тестове на самата компания, новите им системи халюцинират по-често от предишните версии . Това означава, че с увеличаването на параметрите и сложността на моделите, рискът от генериране на невярна информация също нараства.

Реални последици от нереални твърдения

Халюцинациите на ИИ не са просто технически проблем; те имат реални последици. Например, в случая с Cursor — инструмент за програмисти, ботът за поддръжка с изкуствен интелект съобщил за несъществуваща промяна в политиката на компанията, което довело до объркване сред клиентите и дори до отказ от услугите.

В медицинската сфера, инструментът за транскрипция Whisper на OpenAI е бил установен да създава измислени записи на лекарски консултации, включително несъществуващи медицински термини и лечения, което може да има сериозни последици за пациентите .

Парадоксът на доверието в ИИ

С нарастващата способност на ИИ да генерира убедителен текст, потребителите са склонни да му се доверяват повече. Това води до така наречения „парадокс на доверието в ИИ“ — колкото по-убедителен е ИИ, толкова по-трудно е за потребителите да различат истината от измислицата.

Какво може да се направи?

Решаването на проблема с халюцинациите изисква многопосочен подход. Изследователите работят върху методи като обучение с човешка обратна връзка и използване на външни източници за проверка на фактите. Въпреки това, пълното елиминиране на халюцинациите остава предизвикателство.

Докато изкуственият интелект продължава да се интегрира в различни аспекти на живота ни, е от съществено значение да бъдем наясно с неговите ограничения. Халюцинациите на ИИ подчертават необходимостта от критично мислене и внимателна проверка на информацията, особено когато тя идва от машини, които изглеждат все по-убедителни.