Second Brain AI Assistant

источник ↗ ·

Бесплатный open-source курс из 6 модулей по созданию production-ready agentic RAG и LLM-системы для взаимодействия с личной базой знаний.

rag llmops fine-tuning agentic-rag second-brain zenml production-ai open-source-course

privacy

Эта заметка участвует в semantic memory.

AI Summary

🚀 TL;DR

6-модульный open-source курс по построению agentic RAG-ассистента, который работает с личной Second Brain (Notion/Google Drive). Курс учит архитектуре LLM-систем, data pipelines, fine-tuning Llama 3.1 8B, продвинутому RAG и LLMOps с использованием ZenML, Opik, Unsloth и Hugging Face.

📖 Что это такое

Часть open-source серии Decoding AI. Курс учит создавать production-ready GenAI-системы на базе LLM, RAG, агентов и LLMOps. Главный результат — AI-ассистент, который общается с вашей Second Brain (личной базой заметок, идей и ресурсов) и отвечает на вопросы, суммирует документы, даёт insights.

🔑 Ключевые факты

  • 6 модулей: от архитектуры до production inference
  • Используемые инструменты: OpenAI, Hugging Face, MongoDB, ZenML, Opik, Comet, Unsloth
  • Данные: ~100 страниц и 500+ ссылок из Notion (snapshot доступен в S3 без AWS)
  • Стоимость: ~$1–5 (или бесплатно при reading-only)
  • Требования: Python Intermediate, ML/LLM/RAG Beginner, современный ноутбук
  • Две отдельные Python-приложения: second-brain-offline (ML-пайплайны) и second-brain-online (inference)
  • Лицензия: MIT

⚙️ Как это работает / применить

Модуль 0 — обзор Модуль 1 — архитектура AI-ассистента для Second Brain Модуль 2 — data ETL: crawl, quality scoring (LLM + heuristics), ingest в MongoDB Модуль 3 — генерация summarization instruct dataset через distillation Модуль 4 — fine-tuning Llama 3.1 8B (Unsloth + Comet) и serverless deployment на HF Модуль 5 — modular RAG с contextual/parent retrieval и vector search Модуль 6 — agentic inference pipeline + observation pipeline (Opik)

Репозиторий: https://github.com/decodingai (apps/second-brain-offline и apps/second-brain-online)

💡 Вывод и значение

После прохождения курса вы получаете готовый кодовый шаблон и навыки построения production-grade agentic RAG-систем с LLMOps-практиками. Курс ориентирован на тех, кто учится через практику, и даёт возможность сразу применять знания в собственных GenAI-приложениях.

Мои мысли

graph

Карта связей