Що таке RAG система та як її побудувати [ukr]
Презентація доповіді
Сьогодні великі мовні моделі стають невіддільною частиною майже кожного IT рішення. Але їх використання дуже часто супроводжується певними обмеженнями, серед яких можна виділити, наприклад, актуальність інформації чи її глибину та специфічність. Одним зі способів усунення цих обмежень може бути метод роботи з LLM - RAG (Retrieval Augmented Generation).
У цій доповіді ми:
- Дізнаємося що таке RAG
- Розглянемо з яких компонентів можна побудувати RAG систему
- Розглянемо як змінюється MLOps для LLM/RAG в порівнянні з класичними ML моделями
- Створимо найпростішу RAG систему
Дмитро Сподарець
DevOps Architect у Grid Dynamics та засновник Data Phoenix
- Має понад 15 років досвіду роботи в tech індустрії
- Спеціалізується на хмарних технологіях та інфраструктурних рішеннях для AI/ML
- Має досвід побудови та запуску AI продуктів
- Працює з різного розміру компаніями від маленьких стартапів до Fortune 500 корпорацій
- Викладає практичний курс з MLOps
- Для розвитку своїх знань навчається в Stanford University
- Полюбляє бігати півмарафони та марафони