Блог
Исследование интеграции духовного и мирного, непрерывного обучения и субъектности в эпоху технологической трансформации. Статьи пишутся в Markdown и публикуются через встроенный движок.
Две локальные модели на быту и на коде: где сильная врёт, а слабая спешит
Прогнал две локальные модели — 24-миллиардную и 4-миллиардную — по бытовым вопросам, а потом дал им написать сервис заявок на FastAPI. Сильная всегда думает, слабая — через раз, и это предсказуемо разводит их по ролям: в кодинге отрывается одна, в знаниях выигрывает другая. Вывод для практики простой: локальный кодинг можно переводить на lfm. Столкнул их в паре по очереди — и оказалось, что ревью моделью не заменяет тестов.
Дикая лошадь: как я строю харнесс вокруг модели, которая не знает про инструменты
Я хотел потренироваться в одном навыке — строить жёсткие пайплайны и харнесс вокруг модели. Локальные ЛЛМ для этого не годятся: одни уже обучены протоколу, другие слишком слабы. Тренажёром стала сильная модель в веб-чате, которая не знает ни про инструменты, ни про сессии. Вот что значит объездить такую «дикую лошадь» и на чём я спотыкался.