Архив рубрики ‘llm’

Зашкаливающая бюрократия на стыке проектов двух крупных банков — мой опыт

Я руководитель проектов, работаю с крупными корпоратами и банками первой пятёрки. Самый ад — это когда проект на стыке двух таких банков. У меня есть живой пример ) На этом проекте: Юристы и безопасники из двух банков 4 месяца гоняли договор по кругу. Надо было как-то их договорить и всё-таки начать работать. Договор был рассчитан […]

HalChatLocalAI: как я встроил офлайн-ИИ прямо в мессенджер

Большинство ИИ-ассистентов работают в облаке. А я сделал локальный — прямо внутри мессенджера HalChat. Большинство современных ИИ-ассистентов работают в облаке, требуют подключения к серверам и не дают контроля над данными. Я решил исследовать, возможно ли встроить искусственный интеллект прямо в мессенджер, чтобы он работал локально прямо в браузере, офлайн и под управлением самого пользователя.

Открываю карты: 12 лет работы в ФНС

Приветствую всех читателей Хабра! Настал день, когда я снял «оковы» и могу открыто говорить о том, чем я занимался на протяжении последних 12 лет. Ранее я опубликовал 3 статьи, в которых делился опытом гуманитария при работе с нейронными сетями, в том числе честно рассказал о своем опыте вайбкодинга, как я применяю LLM в повседневной жизни, […]

ADSM: видеочат на WebRTC через Codex-агента

Мои родители и вся моя семья живут в Риге, а большинство наших родственников — в России и Украине. Когда привычные мессенджеры начинают работать с перебоями, хочется иметь простой и независимый способ связи. Самый простой способ из мне известных — WebRTC. В рамках развития собственного понимания тонкостей парной разработки программ с участием LLM-агентов я решил создать […]

Мы были между двух огней

Всем привет! Меня зовут Артём Матюшечкин, я менеджер разработки из команды Толк.ИИ в продукте Контур.Толк — это сервис видеоконференцсвязи для общения и работы. Наша команда сделала суммаризацию, обновила и ускорила сегментацию виртуальных фонов, внедрила шумоподавление в продукт. В этой статье поделюсь опытом управления такой командой, которая пыталась одновременно уместить в себе требования бизнеса и технологий.

Я «уволил» LLM с должности «мозга» проекта. И его производительность взлетела

(…или почему будущее AI — не в увеличении контекстного окна, а в создании структурированной «памяти») Помните свой первый «вау-эффект» от LLM?

Автоматизация A-B-экспериментирования

Я сейчас работаю над автоматизированной системой A/B-экспериментирования заголовков и/или обложек статей и новостей на одной медиа-платформе в одиночку. Решил рассказать вам, как эта система работает и показать некоторые технические нюансы. Сразу оговорюсь, что название и сферу упоминать не стану, система находится в разработке, но есть, что рассказать. Немного об экспериментах

А вы точно умеете внедрять AI в бизнес?

Короткий гуглинг по теме показывает, что все рекомендации по внедрению ИИ в бизнесе сводятся к общим фразам. «Выделите одно приоритетное направление», «найдите рутинные операции», «проанализируйте доступные данные». Спасибо, кэп. А делать-то что?

Внедрение ИИ в бизнесе. Что внедрять, как внедрять и, главное, — зачем

Как ИИ помогает разгрести легаси и ускорить модернизацию

Спойлеры Когда речь заходит о модернизации легаси-систем, главная проблема обычно не в том, чтобы написать новый код. Самое больное место — это понять, как вообще всё устроено и что с этим делать дальше. Здесь на помощь приходит ИИ. Его можно использовать не только как «генератор кода», а как инструмент для восстановления архитектурных идей старых систем. […]