Архив рубрики ‘галлюцинации ии’

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам

Тесты на Qwen и DeepSeek показали: одна системная инструкция превращает модель из «уверенного вруна» в инструмент, которому можно доверять. Всё началось с боли Делал проект на Unreal Engine 5 с помощью нейросети. Спрашиваю — отвечает уверенно, с примерами кода. Два часа искал функцию, которую она мне подсунула. Нашёл — в UE4. В пятёрке её убрали. […]

Когда ИИ становится троянским конем: 43% «галлюцинированных» имен пакетов регулярно повторяются в сгенерированном коде

Всем привет! Меня зовут Александр, я COO в SaaS-платформе аналитики данных. Тема безопасности с активным распространением «vibe coding» (на Хабре кажется прижился термин monkey-coding) вызывает большие вопросы, ниже один из них. У себя в телеграм-канале делюсь сжатыми и структурированными саммери статей. Распространение инструментов генерации кода на базе LLM меняет способы разработки программного обеспечения — и […]