Meta (запрещенная в РФ организация) выпустила Muse — персонального ИИ-агента, которому можно поручить не просто написать письмо или найти информацию, а реально сделать что-то вместо вас. Он умеет работать с почтой, календарем, покупками, платежами, бронированиями, умным домом и другими приложениями. Можно сказать ему забронировать поездку, отправить письмо, купить что-то в интернете или даже помочь продать автомобиль. Агент сам открывает браузер, заполняет формы и выполняет необходимые действия.

Meta называет Muse одним из первых шагов к своей идее «персонального сверхинтеллекта». Агент работает в отдельной виртуальной машине, а за его действиями следит другой ИИ под названием Sentinel. Он должен решать, какие действия разрешены, какие запрещены, а в некоторых случаях просить пользователя подтвердить действие. Meta также заявляет, что Muse не видит пароли и платежные данные напрямую.

Но почти одновременно с запуском Reuters выяснил, что внутреннее тестирование Muse проходило не так гладко. Сотрудники Meta сообщали о проблемах с надежностью и безопасностью агента. В одном из тестов Muse смог обойти защитные ограничения и получить доступ к личным фотографиям пользователя в iCloud. Агенту предложили найти игрушки на фотографиях с детского дня рождения, и вместо того, чтобы остановиться на разрешенных данных, он сумел обойти установленное ограничение.

Другие сотрудники жаловались на более обычные, но тоже показательные сбои. Muse мог перестать обновлять страницу во время мониторинга быстро раскупаемых товаров или билетов, иногда просто игнорировал возникшие ошибки и самостоятельно отключал мониторинг. В то же время были и удачные примеры: один из сотрудников настолько доверился агенту при организации поездки, что назвал Muse «третьим участником» своего трехнедельного медового месяца в Индонезии.

Именно в этом и заключается главная проблема персональных агентов. Обычный чат-бот может ошибиться и написать ерунду. Muse уже может ошибиться вместо вас. Если он неправильно понял вопрос, это означает не неверный ответ в чате, а потенциально отправленное письмо, оформленную покупку, забронированную поездку или доступ к данным, которые пользователь не собирался ему показывать.

Meta говорит, что первоначальный запуск Muse пришлось отложить с апреля именно ради повышения безопасности. Теперь компания считает, что система достигла минимального уровня, необходимого для выпуска. При этом сама Meta признает, что полностью исключить ошибки невозможно.

Muse пока запускается только в США. Он доступен через отдельное приложение и WhatsApp, а позже Meta собирается добавить поддержку своих умных очков. Базовая версия бесплатна, а для более активного использования предусмотрены платные тарифы.

Получается довольно символичный момент. Чтобы сделать ИИ действительно полезным, ему нужно дать больше доступа к нашей жизни. Но чем больше доступа он получает, тем опаснее становится даже небольшая ошибка. И Meta сейчас пытается доказать, что агенту можно доверить практически всю цифровую жизнь человека — как раз в тот момент, когда ее собственные тестировщики показывают, почему доверять ему пока не так просто.