Воркшоп: Deep Dive into LLM APIs
Ментор - Олександр Краковецький, AI Expert | CEO at DevRain | CTO at DonorUA | Автор книг про генеративний штучний інтелект
Ми вже плануємо наступну розширену ітерацію! Залишайте свої дані у Waiting list і ми звʼяжемося з вами, як тільки будуть дати повторного курсу:
Запрошуємо на воркшоп, присвячений роботі з API мовних моделей!
Більшість користувачів працюють із сучасними мовними моделями через ChatGPT чи Gemini, але використання API відкриває зовсім інший рівень можливостей. Ви зможете керувати параметрами генерації, підключати зовнішні інструменти, виконувати тонке налаштування моделей, будувати RAG-архітектури та інтегрувати LLM як API-backend у власні продукти.
Також важливими є практичні навички роботи з контекстним вікном, оптимізація токенів, розуміння недетермінованості моделей та способи досягнення стабільної, контрольованої поведінки системи.
На воркшопі ви детально розберете:
- як сучасні мовні моделі працюють «під капотом»
- які механізми визначають їхню поведінку
- як застосовувати ці знання для створення надійних, керованих і масштабованих рішень
Окремий блок присвячений роботі з бенчмарками:
- як правильно оцінювати моделі
- які характеристики мають практичне значення
- як інтерпретувати результати тестів на instruction-following, роботу з довготривалим контекстом та інші показники
Після воркшопу ви зможете перевіряти моделі на релевантність під конкретні задачі й ухвалювати технічні рішення, спираючись на метрики, а не інтуїцію.
Кому буде цікаво?
- Розробникам програмного забезпечення
- Техлідам
- Архітекторам
- Всім, хто хоче розібратися, як працюють мовні моделі під капотом
Формат:
Дата та час: 15&16 грудня, online, старт о 18:30 (Kyiv time, GMT+2)
Тривалість кожної сесії: ~2,5 години
Платформа: Zoom. Ви отримаєте посилання на трансляцію напередодні воркшопу, а також воно буде доступне на цьому лендінгу
Рекомендований набір інструментів та підписок:
- OpenAI API Playground (Anthropic API Playground, Google AI Studio Playground теж ок)
- Ollama
- Postman або інший API-manager
Мова заходу та презентацій: українська
Програма
- Як працюють сучасні великі мовні моделі
- API параметри для конфігурації роботи великих мовних моделей
- Від Prompt Engineering до Context Engineering
- Використання LLM-as-API-backend
- Побудова RAG-рішень
- Інструменталізація: function calling, структуровані відповіді, міркування, використання зовнішніх інструментів
- Контекстне вікно, оптимізація токенів, ефективна робота з довгими запитами
- Оцінювання якості моделей («instruction following», робота з довгим контекстом, AGI тощо)
- Методи оптимізації токенів
- Практичні демо
Ментор: Олександр Краковецький
— Співзасновник та керівник української ІТ компанії DevRain
— Співзасновник та технічний керівник ДонорUA - інтелектуальної системи рекрутингу донорів крові.
— Кандидат технічних наук з інформаційних технологій.
—Microsoft Regional Director, Microsoft Artificial Intelligence Most Valuable Professional.
—Microsoft Certified: Azure Data Science Associate