Блог
Исследование интеграции духовного и мирного, непрерывного обучения и субъектности в эпоху технологической трансформации. Статьи пишутся в Markdown и публикуются через встроенный движок.
agents (1)
aitunnel (1)
android (1)
comparison (1)
docker (1)
fastapi (1)
gemma (1)
guardrails (1)
harness (1)
isolation (1)
local (1)
monitoring (1)
morpher (1)
observability (1)
on-device (1)
qwen (1)
streaming (1)
telegram (1)
tool-calling (1)
web-automation (1)
yandexgpt (1)
Две локальные модели на быту и на коде: где сильная врёт, а слабая спешит
Прогнал две локальные модели — 24-миллиардную и 4-миллиардную — по бытовым вопросам, а потом дал им написать сервис заявок на FastAPI. Сильная всегда думает, слабая — через раз, и это предсказуемо разводит их по ролям: в кодинге отрывается одна, в знаниях выигрывает другая. Вывод для практики простой: локальный кодинг можно переводить на lfm. Столкнул их в паре по очереди — и оказалось, что ревью моделью не заменяет тестов.
Дикая лошадь: как я строю харнесс вокруг модели, которая не знает про инструменты
Я хотел потренироваться в одном навыке — строить жёсткие пайплайны и харнесс вокруг модели. Локальные ЛЛМ для этого не годятся: одни уже обучены протоколу, другие слишком слабы. Тренажёром стала сильная модель в веб-чате, которая не знает ни про инструменты, ни про сессии. Вот что значит объездить такую «дикую лошадь» и на чём я спотыкался.
Google AI Edge Gallery: модель прямо на телефоне
Попробовал Google AI Edge Gallery — приложение, которое запускает небольшие LLM локально на телефоне, без облака. Что получилось, а что нет.
Автономный агент на сервере: как я запустил LLM-исполнителя, не пуская его к сайту
Хотелось агента, который сам собирает Excel и PDF и общается через Telegram и веб, — но изолированного от продакшена. Как я поселил LLM-харнес в отдельный контейнер и завёл ему собственную одноразовую песочницу.
ИИ в морфере: как дешёвая модель работает под защитой гардрейлов
Я встроил в морфер чат, который отвечает про текущую страницу. Модель — самая дешёвая в каталоге, а качество держат пять гардрейлов: ссылки, орфография, повтор, запрет выдуманных статей и семантическое «да/нет». Вот как это устроено и что ломалось по пути.
ИИ-дайджест песочницы: как я поручил серверу писать отчёт
Метрики копятся каждый час, но читаю я их только когда что-то сломалось. Сделал круглую ИИ-иконку и сервис, который раз в сутки собирает метрики и пишет отчёт: новости, проблемы, риски.