Есть у меня образ, который родился в одной из бесед с коллегами. Ты — партизан, тащащий через лес на себе тяжеленного андроида с деменцией. В одни моменты он за секунды изучает местность и расчищает поляну под лагерь. В другие — часами не может сварить кашу нужной температуры и солёности. И тяжесть груза на твоих плечах реальна, и существенная помощь тоже, но она никогда не приходит равномерно, и заранее невозможно угадать, в какой момент получишь мастера, а в какой дегенерата.

Важно оговориться, что я пишу из состояния временного разочарования, что может накладывать эмоциональный отпечаток на все мысли и выводы. Помимо этого, в последнее время я решал очень разные задачи с ИИ. Писал код на узкие участки, строил полностью ИТ-систему с нуля, верстал, собирал дизайн страниц и презентаций и даже разбирался с бытовыми задачами. И в процессе я заметил, что со временем накапливаю усталость какого-то нового типа.

Эта усталость идёт с оттенком отвращения к инструменту, предсказуемость которого пока далека от совершенства, а детерминированностью он вообще не обладает. А так как всем нам по природе очень важна определённость, то я и пытался разобраться, где её стоит ждать, а где нет.

Забегая вперёд, скажу, что в тех областях, где знания и навыки слабо структурированы — например, дизайн, без спецсредств мы получаем «курсор мыши» вместо автоматизатора, двигать который дороже, чем делать самому. В остальных же сферах, таких, например, как программирование, где человечество за последние полвека всё разложило по полочкам, результаты впечатляющие, но тоже с оговорками.

Три источника накопленной фрустрации

Первый и главный источник фрустрации при работе с ИИ — постоянное «недо». Я — ригорист: люблю следовать строгим принципам и привык доводить работу до высокой планки. В паре с ИИ мы стабильно выдаём результат, слегка не дотягивающий до этой моей внутренней планки, снова, и снова, и снова — за один рабочий день я получаю пачку разочарований. Просто потому, что код-агент работает намного быстрее меня и успевает совершить этих «недо» так много, там где я за то же время успевал сделать одну хорошую выверенную вещь. Внимание и время — самый невосполнимый ресурс, и именно они сейчас уходят на то, чтобы каждый раз доводить результат руками или тем же агентом. Всё это очень энергозатратно.

Второй источник — страх не смочь ответить за результат. Например, если мы как проектировщики социотехнических систем заявляем, что готовы не только поставить код, но и существенно трансформировать процесс заказчика с переводом его на ИИ-рельсы, то встаёт вопрос: кто после нас будет управлять тем, что мы построили с ИИ, хватит ли у этих людей компетенций, сможем ли мы «вырастить» необходимые навыки на имеющихся людях. Даже когда техническая система хороша и заказчик видит, что мы сами справляемся и можем добиваться результата вместе с ИИ, остаётся открытым — смогут ли люди на стороне заказчика подхватить то же самое. Ставки здесь выше, чем страх, с которым я когда-то в первый раз принимался за код-агентскую вёрстку главной страницы сайта компании через MCP-сервер Figma.

Третий — рефлексия идентичности: кто я, что я делаю, что всё ещё в моих руках.

All I ever wanted
All I ever needed
Is here in my arms

Отнимается довольно важная часть, ощущение уверенности в своих силах.

Этой весной я так радовался, когда просто толкал перед собой газонокосилку, собиравшую прошлогоднюю листву — простая физическая работа, в которой я весь целиком, и результат мой. Веду её, она слушается, полоска газона за ней чистая. За долгое время накопленной фрустрации я впервые сильно кайфанул.

С агентом же ловишь себя на странном ощущении: двигаешь прямоугольники и текст в Фигме, зная, что их вполне может подвинуть и он, и вроде бы вся эта возня с формой — уже не совсем твоя территория. При этом сам процесс, который у тебя забирают — писать текст, размещать элементы руками — важен и как способ прийти к пониманию в своём темпе, и как постоянное вознаграждение: вижу, что продвинулся, я — молодец. Когда агент забирает эту часть, забирает заодно и источник тихой радости, телесной уверенности в себе.

Радиация внимания

Отдельный образ у меня возник для описания природы ошибок внимания у агентов. Это образ радиации, когда высокоэнергетические частицы бьют куда попало, и там, куда они влетели, что-то испортилось.

Ты никогда не знаешь заранее, в каком месте процесса агент потеряет внимание: может выпасть целая операция, может вероятностно исказиться одна лишь буква в имени, когда модель не сверяется с глоссарием или справочником, а просто угадывает символ за символом. В таких случаях придётся вычитывать текст или код посимвольно с помощью людей или других агентов. Хуже всего то, что без отдельной контрольной процедуры этот сбой всплывает только в результате какого-то редкого случая тестирования, когда его уже не видно за общей массой сделанного. Но проверить получится только то, что мы с ним вместе успели предусмотреть. Диапазон непредсказуемых заранее последствий будет только расширяться с такой радиацией внимания и снижающимся повсеместно человеческим контролем — да-да, давайте будем честны, мы все очень быстро ослабляем хватку.

Слишком быстро и слишком медленно одновременно

Скорость, с которой агент разворачивает действие, несопоставима со скоростью, с которой человек успевает это действие продумать и принять решения. Тут в пору вспоминать сравнение скорости введения санкций со скоростью подлёта ракеты — совсем разный порядок величин. Агент за секунды может нашуровать как что-то полезное, так и бесполезное или даже разрушительное, и ты в одни моменты под гнётом вновь установившегося темпа не успеваешь вникнуть, в другие по чуть-чуть расстраиваешься, что сделано не совсем то.

С другой стороны, шуршание агента ещё недостаточно быстро. Ты только пошёл смотреть что-то другое, а он не вовремя возвращается с результатом или дозапросом. Некоторые задачи и вовсе пока очень медленны. Например, когда я попросил его редактировать сайт на Тильде «вручную», то наблюдал, как агент через Playwright кликает в админке, собирая блоки лендинга, и по скорости он был точь-в-точь как тот медлительный ленивец из «Зверополиса» за стойкой в банке. В общем, сидишь, ждёшь, пока обработается один клик, и не успеваешь даже толком переключить внимание на другую задачу — а агент «прибегает» с вопросом в самый неподходящий момент, и приходится обратно переключаться.

Получается двойная ловушка: местами недостаточно быстро, а в целом всё равно мы, люди, оказываемся тем самым узким горлышком, о снятии которого индустрия разработки говорит уже который год.

Как теряется контроль

Знаю одну историю. Коллеги из другой компании тоже вели разработку через агента, репозиторий захламился, и они перестали понимать, что там происходит. И начали заново. Это то же чувство «фу, чужой легаси, давайте перепишем», которое хорошо знакомо любому разработчику. Только теперь оно возникает по отношению к тому, что агент написал вчера, у тебя на глазах и вроде бы с твоих слов.

У меня случился похожий эпизод: я бегло просмотрел результат — вроде нормально, продолжаем. А потом сел вычитывать рабочие истории и спросил агента, где в спецификации находится нужная мне часть. Оказалось, что только в коде. Пришлось разворачивать это обратно до уровня требований. По сути это такой рефакторинг спецификаций вместе с реверс-инжинирингом: спецификация незаметно растворилась в коде и её нужно вернуть. Дальше пришлось распутывать назад: как он вообще решал алгоритмическую задачу, почему выбрал такое решение и так далее. Только так потихоньку возвращается контроль. И это энергозатратно.

Компетентность найма ИИ на конкретный класс задач

Уметь нанять инструмент на нужную ситуацию даёт главный рычаг прироста производительности. Несмотря на копящийся опыт, я до сих пор совершаю ошибки в этом выборе.

На пайплайн сборки презентаций в нужном стиле у меня в разных проектах уходит до трёх дней чистого времени, тогда как хороший дизайнер соберёт презентацию под ситуацию за четыре часа — причём вдумчиво, с проработкой смысла. Под пайплайном я имею в виду целый конвейер создания презентаций по входному материалу. Такой комплекс, когда он выращен, способен снизить требования к тому, кто будет собирать презентации. Ему не понадобятся знания и навыки создания композиций, разбиения мыслей на структурные блоки, создания гармоничных сочетаний цветов и форм.

Разница вскрывается в объёме требований. Если их немного и нужно просто что-то приемлемое, агент за минуты собирает даже сложную презентацию под задачу, аккуратно перерисовав схемы из PNG в редактируемые элементы PowerPoint и выстроив все стили. Но как только количество критериев, которым нужно соответствовать, растёт, скорость проваливается. Оценка «агент хорош» или «агент плох» здесь мало что объясняет — важнее увидеть, для какого класса задач и с каким числом обязательных критериев его стоит нанимать, а где до сих пор дешевле сделать руками.

Ей нужны датчики в реальном мире

У ИИ нет глаз и прочих сенсоров — то есть нет естественного способа сходить во внешний мир, что-то подёргать, посмотреть, замкнуть петлю обратной связи. Модели уже достаточно сообразительны сами по себе, но именно этой сенсорики и инструментов действия во внешнем мире им пока не хватает.

Почти любой процесс улучшается, если дать агенту чек-лист критериев качества сразу на генерацию и тот же чек-лист — на проверку: так режется количество «недо» и одновременно агент смотрит не только на формальное соответствие, но и на то, работает ли решение.

Там, где результат можно проверить глазами — фронтенд, дизайн, — работа с агентом ощущается гораздо спокойнее. Там, где отложенные последствия не видны сразу — безопасность, скрытая логика данных, — приходится буквально читать не только результат, но и то, что агент реально сделал по дороге к нему. Так обретается уверенность, может быть мнимая, в том, что мы что-то контролируем. Так наполняется контекстом задачи наша собственная «нейронка», чтобы увидеть новые потенциальные бреши.

Спецназ, которого пока нет

Если довериться собственным наблюдениям за трендом, вся эта личная усталость — только ближний план более крупной картины. ИИ-технологии и в большей степени ключевая инфраструктура, делающая их работоспособными, стягиваются в руки узкого меньшинства. Ещё какую-то незначительную группу людей допустят до управления этими системами. Это как раз то место, за которое стоит побороться и куда попробовать вписаться. Но, мне кажется, отбирать туда будут не по прежним меркам: не по экспертности, не по управленческому навыку, а по способности быть удобным и приятным человеком. Плюс добавим сюда всю ту усталость, о которой я пишу выше и которая упадёт на их плечи.

Бизнес всегда мечтает освободиться от лишних издержек. В ИТ-бизнесе фонд оплаты труда — это главная статья расходов. И тут появляется ИИ. Все так и грезят заменой команды из пяти-шести разных специалистов одним спецом или парой, управляющей самопишущей системой. Вот только степень крутизны этой пары бизнес обычно недооценивает.

Как раньше было почти невозможно найти по-настоящему сильного продакта или системного инженера, так же трудно будет найти этих двоих. И этот дефицит сильных спецов со временем, кажется, только обостряется, потому что от пары требуется сразу целый оркестр компетенций. Тот самый ИИ-спецназ, который все ищут и не знают, где его взять.

Компьют, корова и темп

Если порассуждать дальше, то следующее ограничение — это компьют, то есть объём вычислений, а значит и объём потребляемой на них энергии. На Западе всерьёз обсуждают, как избавиться от коровы — системы с низким КПД по переработке солнечной энергии в молоко и мясо. Агентные системы по той же логике — попытка избавиться от человека как от технически неэффективного преобразователя. Та же энергия, но в других руках.

Кроме вычислительной мощности есть ещё и темп: команда из нескольких голов тонет в согласованиях и регулярно теряет смыслы при общении. У правильно организованного процесса на агентах предел скорости поставки повышается за счёт снятия огромных коммуникационных проблем, с которыми не справился ни один фреймворк Эджайла. Пара спецназовцев в этой гонке столкнётся с другим ограничителем — собственной биологией и временем отклика топовых моделей, тем самым разрывом скоростей, о котором я уже говорил.

Но, скорее всего, это лишь теоретическое предположение. Потому что, вероятно, преодолевать неопределённость и сложность люди научились в целенаправленной мыслекоммуникации, качество которой может сильно упасть с ростом количества вовлечённых людей или падением уровня способностей и подготовки избранных.

«Грустно это всё»

После того как я поделился всем описанным с коллегами, один из них, Андрей Дерюгин, кратко заметил: грустно это всё и позже пояснил:

«Красной нитью через всю беседу шла мысль, что меня как кожаного мешка не до конца устраивает результат. Многие смотрят на результат работы ИИ как на что-то, что лично им придётся поддерживать, отвечать за качество. Я же склонен думать, что это временно. Машину разгонят, она будет жрать токены и трафик, и человек перестанет следить за качеством, получая результат, собранный из говна и палок, — но основной массе будет всё равно, работает же. Результат всё равно будет обрабатывать такая же машина: неоптимизированная, корявая, с нечитаемым кодом, прожорливая по ресурсам.

Представь, зачем человеку сидеть и руками рисовать стрелочки на электронной доске, если это за него может сделать робот. Робот создаст систему. Другой человек будет получать услуги от этой системы тоже через робота. Человеку останется интерфейс взаимодействия с роботом, но и интерфейсы склонны упрощаться, и со временем инженеров исключат из этой цепочки — как только они сами создадут возможность обходиться без себя.

Сейчас всё это ещё сдерживается пропускной способностью машины, поэтому человек-оптимизатор пока нужен. Но однажды это изменится».

Мне нечего ни убавить, ни прибавить к сказанному — такая тенденция вполне вероятна. Я это вижу даже на примере того, каким качеством мы удовлетворились, написав полностью автоматизированную ИИ-СММщицу.

Что пока ещё в моих руках

Практических опор набралось немного.

1. Работать с одним агентом за раз, потому что несколько параллельных агентов утомляют сильнее, а буста почти не происходит, разве что в те редкие моменты, когда агент и правда делает что-то одним быстрым верным ходом.

2. Помнить, что внимание — самая дорогая и трудно восполнимая валюта, ещё более дефицитная, чем время. Признать, что ответственность за результат никуда не делась вместе с ускорением: в этом смысле пара с ИИ немного похожа на мой короткий опыт трейдинга на чужих деньгах — там тоже была скорость, недоступная человеческому темпу принятия решений, и точно так же происходил психологический захват, требующий отдельной, честной дисциплины и личной проработки.

3. Обсуждать с единомышленниками и получать поддержку. Обсудить со своими становится всё большим дефицитом в мире людей, устремившихся к автономии. Вместе с всё больше наращиваемой мнимой автономией, приходит и одиночество. Поделившись с коллегами, я почувствовал небольшое облегчение и смог со стороны посмотреть на проживаемое.

Больше всего меня беспокоит вопрос о качестве. Если он однажды перестанет стоять, в этих цепочках перестанет находиться место для меня. Вместо того, чтобы быть ИИ-погонщиком, я уж лучше найду радость работы плотника или повара, если все другие интеллектуальные профессии исчезнут. Что ж, будем искать новые точки приложения усилий в областях, где всё ещё важно структурно новое и качественное.