Создали ИИ на украденных книгах и стали врагом Америки — История Anthropic

Dario Amodei и Daniela Amodei

Dario Amodei и Daniela Amodei

История Anthropic началась с раскола внутри OpenAI. В 2020 году в недрах исследовательской лаборатории группа ведущих ученых под руководством брата и сестры Дарио и Даниэлы Амодеи ощутила глубокое выгорание из-за коммерческого курса, который выбрала компания.

Это «Золотой состав» OpenAI конца 2015 года — кучка гиков, которые еще не знают, что скоро будут ворочать миллиардами и ссориться из-за власти.

Это «Золотой состав» OpenAI конца 2015 года — кучка гиков, которые еще не знают, что скоро будут ворочать миллиардами и ссориться из-за власти.

Исследователей все больше тревожило, что погоня за прибылью вынуждает OpenAI поспешно выпускать более мощные модели, пренебрегая надлежащим тестированием их безопасности. В результате в начале 2021 года Амодеи покинули проект вместе с девятью коллегами, чтобы основать принципиально иную структуру.

С самого начала компания пошла по весьма нетривиальному пути, зарегистрировав Anthropic как корпорацию общественного блага (Public Benefit Corporation, PBC), что является крайне редкой юридической формой.

В стандартной корпорации совет директоров по закону обязан управлять бизнесом так, чтобы извлекать максимальную прибыль для акционеров. Если они внезапно предпочтут безопасность доходам, инвесторы могут завалить их судебными исками. Однако статус PBC юридически защищает основателей. Он позволяет Anthropic зафиксировать главную цель прямо в уставе: создание безопасного ИИ на благо общества, ставя эту задачу выше финансовых амбиций любых инвесторов. Такая идеология альтруизма и спасения человечества помогла привлечь первоначальные инвестиции от идеологических инвесторов. Главным вкладчиком стал Яан Таллинн, сооснователь Skype.

Создали ИИ на украденных книгах и стали врагом Америки — История Anthropic - 3

Первые два года команда работала в режиме строжайшей секретности. Пока OpenAI во главе с Сэмом Альтманом стремительно набирала популярность, вела агрессивный пиар и мелькала во всех медиа, Anthropic действовала с точностью до наоборот. Ученые не давали интервью, не появлялись на конференциях, игнорировали светские мероприятия и не выпускали демо-версий.

Их главной задачей стала разработка нового метода обучения ИИ, названного Конституционным ИИ (Constitutional AI). Вместо привлечения тысяч людей для тренировки системы и модерации ответов они внедрили набор неких базовых принципов и правил непосредственно в саму структуру. Это позволило нейросети оценивать и корректировать собственное поведение.

В начале 2023 года мир наконец увидел результат этих трудов: чат-бота по имени Claude.

Создали ИИ на украденных книгах и стали врагом Америки — История Anthropic - 4

Его позиционировали как ультрабезопасного и исключительно честного ассистента. Индустрия сразу заметила главную особенность Claude, которая заключалась в способности обрабатывать колоссальные объемы текста за один раз, что сделало его невероятно эффективным инструментом для анализа объемных документов или книг.

Превосходство Anthropic над другими интеллектуальными системами заключалось в более грамотном распределении механизма «внимания». Большинство нейросетей показывают явное снижение памяти при увеличении объема текста. Модель может прекрасно помнить начало и конец документа, но факты, скрытые в середине масштабного массива данных, либо полностью игнорируются, либо даже искажаются.

Инженеры Anthropic, используя изящные математические методы, модернизировали механизм внимания, и научили свою модель сохранять фокус по всей длине контекстного окна. 

Когда стандартная нейросеть обрабатывает огромный документ, она тратит колоссальные вычислительные мощности на разнообразные фильтры безопасности, непрерывно проверяя текст на предмет нарушения правил. Из-за этого модель часто начинает генерировать недостоверные данные или вовсе отказывается отвечать, банально перегружаясь.

Метод Конституционного ИИ дает модели четкий свод принципов. Вместо сотни мелких запретов Claude опирается на внутреннюю конституцию, что делает его мышление более гибким и последовательным. Модель не паникует перед каждой двусмысленной фразой в тексте, а спокойно анализирует суть.

Создали ИИ на украденных книгах и стали врагом Америки — История Anthropic - 5

Если загрузить целую книгу в обычную модель и начать задавать вопросы, ИИ будет заново перечитывать весь том с самого начала для каждого нового запроса. Это не только дорого, но и замедляет работу системы из-за огромного количества избыточных вычислений.

Anthropic одной из первых внедрила полное кэширование контекста. Когда вы загружаете объемный документ, Claude обрабатывает и запоминает его структуру лишь единожды. Все последующие вопросы обрабатываются мгновенно, поскольку модель обращается к уже подготовленной цифровой копии текста в своей памяти.

Успех стартапа привлек внимание технологических гигантов. За короткий период Google и Amazon направили в Anthropic миллиарды долларов инвестиций, обеспечив компанию колоссальными вычислительными мощностями своих облачных платформ.

К 2024–2025 годам Claude эволюционировал до версий 3 и 3.5. Линейки моделей Opus и Sonnet превзошли конкурентов в сложной математике, программировании и даже анализе данных.

Однако в январе 2026 года вскрылись ошеломляющие подробности: оказалось, что еще в 2021 году сооснователь Anthropic Бен Манн в течение одиннадцати дней непрерывно скачивал книги из пиратской библиотеки LibGen.

Benjamin Mann, Co-founder of Anthropic

Benjamin Mann, Co-founder of Anthropic

Скриншот его браузера с торрент-клиентом позже фигурировал в судебных документах. Год спустя Манн отправил коллегам ссылку на новый ресурс Pirate Library Mirror — пиратский архив, который открыто признавал нарушение авторских прав почти во всех странах.

Внутренний документ Anthropic о секретном проекте Project Panama по сканированию книг, апрель 2024 года.

Внутренний документ Anthropic о секретном проекте Project Panama по сканированию книг, апрель 2024 года.

Когда использование пиратского контента стало слишком рискованным, Anthropic вместо переговоров с авторами выбрала иной путь. В начале 2024 года компания запустила операцию под кодовым названием Project Panama по сканированию буквально всех книг в мире.

Anthropic потратила десятки миллионов долларов на оптовую скупку миллионов подержанных книг. Корешки изданий срезались гидравлическими ножами, страницы сканировались, после чего уничтожались. Для руководства проектом был нанят Том Терви, ветеран Google Books.

Tom Turvey Anthropic

Tom Turvey Anthropic

Но это не решило проблему. В 2025 году авторы подали иск. Когда делу был присвоен статус коллективного иска, включающего всех правообладателей из пиратских библиотек, само существование Anthropic оказалось под угрозой, поскольку ущерб оценивался примерно в 70 миллиардов долларов.

В августе 2025 года стороны достигли мирового соглашения, Anthropic согласилась выплатить авторам 1.5 миллиарда, что стало крупнейшей выплатой по делу об авторских правах в истории США. Это составило 3000 долларов за книгу, поэтому авторы согласились прекратить споры.

К 2025 году Claude активно применяли в закрытых сетях Министерства обороны США. Однако Anthropic обозначила две красные линии: они запретили использовать Claude для автономного оружия без участия человека в принятии решения о применении силы, а также для массовой слежки за гражданами. Министр обороны Пит Хегсет счел это неприемлемым. Пентагон требовал неограниченного доступа к ИИ для любых законных целей.

Пит Хегсет

Пит Хегсет

Переговоры зашли в тупик. В феврале 2026 года Пентагон предпринял уже беспрецедентный шаг, Anthropic получила статус «угроза цепочек поставок» (т.е. была признана ненадежным поставщиком с точки зрения безопасности цепочек поставок) — ярлык, который ранее предназначался исключительно для иностранных противников, представляющих угрозу национальной безопасности.

Дональд Трамп опубликовал пост в Truth Social, призвав все федеральные ведомства немедленно прекратить использование технологий Anthropic. Американскую компанию фактически приравняли к внешнему врагу.

Скриншот поста Трампа (перевод chatGPT)

Скриншот поста Трампа (перевод chatGPT)

По оценкам Anthropic, все эти разногласия уже обошлись компании в 180 миллионов долларов из-за сорванных сделок. Более 100 корпоративных клиентов выразили глубокую обеспокоенность и недоверие. Однако Anthropic обратилась в суд и выиграла процесс. Судья заблокировал попытку Пентагона применить санкции против компании.

«Ничто в действующем законе не подтверждает оруэлловскую идею о том, что американскую компанию можно заклеймить потенциальным врагом и саботажником США лишь за несогласие с правительством.» — написала федеральный судья Рита Лин в своем 43-страничном постановлении.

Судья Рита Лин

Судья Рита Лин

В 2026 году Anthropic представила модели Mythos 5 и Fable 5. Они вызвали уже по настоящему огромный и жуткий резонанс, поскольку представляли собой уже не примитивных чат-ботов, а специализированные модели нового поколения, созданные для продвинутого программирования и кибербезопасности.

Эти модели могли мгновенно анализировать запутанные, устаревшие, гигантские системы вроде банковского софта, и сразу обнаруживать уязвимости и тончайшие бреши в безопасности, которые люди упускали годами.

Модель способна самостоятельно перестроить архитектуру несовершенного приложения, протестировать ее в симуляторе и предоставить готовое защищенное решение. В отличие от предыдущих версий, анализировавших код фрагментами, эти модели могли охватить весь проект целиком и понять принципы взаимодействия между тысячами файлов.

Главный подвох заключался в том, что грань между защитой и нападением в сфере кибербезопасности крайне тонка. Инструмент, который идеально находит уязвимости для их устранения, может быть использован злоумышленниками для эксплуатации этих же брешей. Это создало огромный риск массовых кибератак в случае попадания этой технологии в распоряжение других государств. Поэтому Белый дом охватила паника.

В результате Министерство торговли США потребовало от Anthropic полностью закрыть доступ к Mythos 5 и Fable 5 для всех иностранных граждан, даже находящихся внутри страны, включая собственных зарубежных сотрудников Anthropic. 

Компания выразила несогласие с этим решением. Однако из-за жестких формулировок директивы Anthropic пришлось полностью отключить обе модели для всех пользователей, чтобы избежать огромных штрафов.

Я уже много лет создаю драматичные истории о разных компаниях и брендах. Подписывайтесь на мой канал в телеграм.

Автор: ivanarefyev

Источник

Оставить комментарий