Архив рубрики ‘qwen’

Senior на бумаге, Junior в рантайме: как я тестировал локальные LLM на 120B параметров в Greenfield-проекте

Недавно я задался вопросом: можно ли организовать полноценный agent dev loop (то есть, цикл разработки агентов), используя только локальные модели? Идея заманчивая — гонять агента по задачам бесконечно, не оглядываясь на счета от OpenAI или Anthropic и не переживая за утечку кода. Чтобы проверить это, я выделил кластер и столкнул лбами три тяжеловеса из мира open source. Спойлер: архитектурно они все — Senior‑разработчики, но когда дело доходит […]

От каши к структуре: гибридная AI‑система для обработки свободного текста

Я занимаюсь проектом, где нужно из свободных текстов на естественном языке вытаскивать структурированные данные. Не разово — постоянно, по мере поступления. За несколько месяцев я перепробовал регулярки, чистый LLM и в итоге пришёл к гибриду. Ниже расскажу, что из этого всего вышло: архитектура, промпты, трудности и неочевидные решения. Стек: Python 3.12, Ollama + Qwen 2.5 (всё локально), YAML как формат хранения, SHA256 для дедупликации, Jinja2 для шаблонизации промптов. Проект называется Svyazi

Российский ИИ в прокрустовом ложе между суверенитетом и реальностью

Доступ к западным большим языковым моделям (далее — БЯМ) закрывается снаружи и, судя по всему, скоро начнёт закрываться изнутри. Что останется бизнесу и какую цену нам придётся за это платить?  Изоляция на практике

Ваша LLM галлюцинирует? Наденьте на неё экзоскелет — и заставьте работать по правилам

Тесты на Qwen и DeepSeek показали: одна системная инструкция превращает модель из «уверенного вруна» в инструмент, которому можно доверять. Всё началось с боли Делал проект на Unreal Engine 5 с помощью нейросети. Спрашиваю — отвечает уверенно, с примерами кода. Два часа искал функцию, которую она мне подсунула. Нашёл — в UE4. В пятёрке её убрали. […]

Шаблон промта для улучшения взаимодействия с ИИ (на примере Qwen) — старая версия поста

Upd. Почему-то эта версия взлетела лучше новой. В новой почему-то 50% отказов, больше просмотров. я в шоке. Возвращаю эту статью. Для кого эта статья? Устал от абстрактных советов в духе «просто спроси у нейросети»; Чувствует, что ИИ может больше, но постоянно получает «водянистые» ответы; Хочет выжить максимум из бесплатных решений; Хочет начать работать с нейросетями, […]

Я изучил десятки ИИ-стартапов в России. Вот почему большинство из них обречены

Оцифровываем сырую документацию компании с помощью ИИ локально! DeepSeek-OCR + Qwen 1.5

Недавно получил задачу сделать автоматизированную оцифровку характеристик из паспортов товаров в БД, а не изменение параметров вручную в ERP. Я подумал, было бы здорово поделиться, как я это сделал, с вами на Хабре! Базовые задачи: Нужно, чтобы это все работало локально Система должна принимать разные форматы (.doc, .pdf, .png) Возможность создавать динамические таблицы, куда ИИ […]

Как работает память в LLM и почему вы не обучаете ChatGPT своим prompt

Мы всё чаще не отличаем реального автора от AI

В прошлом гайде https://habr.com/ru/articles/918226/

Сколько процентов работы PM способен выполнять ИИ

AI заменяет менеджеров Страшно, но попробуем оценить масштабы