Архив рубрики ‘prompt injection’

28
Июл
2026

416 тестов и кнопка «снести все»: где ломаются агентные проекты

Сурок: ральф-луп под —dangerously-skip-permissions У меня на ноутбуке с февраля 2026 года крутится автономный агент. Зовут Сурок (Groundhog, от известного мема). Claude Code по подписке, флаг —dangerously-skip-permissions, поверх — ральф-луп

Опубликовано в AI-DISRUPT PDLC, claude code, llm, prompt injection, автономия агентов, агентный харнесс, инженерные практики, регресс-тесты, эвалы

читать далее
20
Июн
2026

Сайты под управлением ИИ: как это работает под капотом. Часть 2 из 3

Часть 1 — Сайты под управлением ИИ: что это на самом деле и сколько стоит. Часть 2 — Вы сейчас здесь Часть 3 — На подходе Это вторая часть из трёх. В первой мы разбирались с концепцией: что такое сайт под управлением ИИ на самом деле, чем он не является, сколько стоит, есть ли инференс в рантайме (спойлер: для посетителя — нет). Если читали — отлично. Если нет — здесь будет понятно и без неё, потому […]

Опубликовано в DevOps, GitHub Actions, headless WordPress, ISR, JSON-LD, llm, MCP, next.js, prompt injection

читать далее
02
Апр
2026

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам

Тесты на Qwen и DeepSeek показали: одна системная инструкция превращает модель из «уверенного вруна» в инструмент, которому можно доверять. Всё началось с боли Делал проект на Unreal Engine 5 с помощью нейросети. Спрашиваю — отвечает уверенно, с примерами кода. Два часа искал функцию, которую она мне подсунула. Нашёл — в UE4. В пятёрке её убрали. […]

Опубликовано в deepseek, gemini, llm, prompt injection, qwen, безопасность LLM, галлюцинации ии, эпистемическая честность

читать далее