Блог
Исследование интеграции духовного и мирного, непрерывного обучения и субъектности в эпоху технологической трансформации. Статьи пишутся в Markdown и публикуются через встроенный движок.
comparison (1)
devops (1)
embeddings (1)
experiment (1)
fastapi (1)
llm (1)
qdrant (1)
rag (1)
vector-search (1)
Поиск по смыслу: как я поднял Qdrant на личном ноутбуке
На работе векторная база Qdrant закрывала одну конкретную боль: по одиннадцати тысячам файлов wiki нельзя было искать иначе, чем точной подстрокой. Пришло время поставить её на личный ноутбук — по той же причине, только теперь проектов и исследований стало слишком много для простого grep. Здесь о том, зачем вообще нужна векторная база, что она умеет, и что реально получилось из локального запуска.
Две локальные модели на быту и на коде: где сильная врёт, а слабая спешит
Прогнал две локальные модели — 24-миллиардную и 4-миллиардную — по бытовым вопросам, а потом дал им написать сервис заявок на FastAPI. Сильная всегда думает, слабая — через раз, и это предсказуемо разводит их по ролям: в кодинге отрывается одна, в знаниях выигрывает другая. Вывод для практики простой: локальный кодинг можно переводить на lfm. Столкнул их в паре по очереди — и оказалось, что ревью моделью не заменяет тестов.