Галлюцинации языковых моделей: от математики обмана к честным ИИ
1. Введение: что такое галлюцинации в LLM?
1. Введение: что такое галлюцинации в LLM?
Как показывает мировая практика успешно проведённых взломов (успешно для атакующих, разумеется), большая часть проблем связана именно с проблемами с людьми. Если быть более точным — дело в их способности выдать любую информацию и совершать совершенно дурацкие действия. Думаю, IT-примеры вам и так прекрасно знакомы, поэтому напомню пример из книги «Психология влияния»: психологи обзванивали медсестёр в […]