Архив рубрики ‘инференс’

Путь к локальному LLM. Модель, которую я наконец-то реально использую каждый день

Путь к локальному LLM: как требования по ИБ и “дух авантюризма” привели меня к 125B-модели под столом. И почему агенты больше не просят облако. ИИ-агенты у меня — не демо для презентаций, а производственная сила: пишут код, расследуют инциденты по трассировкам, формируют постановки и прототипы, развивают платформы и закрывают кучу процессов бэк офиса. Внутри компании […]

«Друзья не дают друзьям пользоваться Ollama»

Ниже — перевод статьи «Friends Don’t Let Friends Use Ollama»

Compute crunch пришёл: как считать экономику LLM в 2026

Build, Buy или Hybrid — рассуждаем о подходах к TCO. Статья — приглашение к диалогу и обсуждению, не экспертный нарратив. «Я говорил» или что случилось с тарифами на LLM API Два крупнейших API-провайдера одновременно сменили риторику. Anthropic ввёл usage-based billing для агентных фреймворков — плата за токены вместо фиксированных подписок. Часть сторонних обёрток потеряла возможность работать через […]