Тестування LLM з langchain
Автор курсу
Ми будемо працювати з середовищем Ollama, яке дозволяє запускати потужні ШІ-моделі локально, безкоштовно та цілком безпечно для ваших даних.
Ви дізнаєтеся, як ШІ перетворює текст на токени , чому українська мова "коштує" дорожче для моделі , і як працює математика передбачення наступного слова (logits).
Ми навчимося філігранно налаштовувати Temperature, Top-K та Top-P, щоб змінювати рівень креативності, відсікати галюцинації та робити видачу стабільною.
За допомогою Modfiles ви створите власні спеціалізовані моделі: від непередбачуваного експресивного ютубера до педантичного програміста-асистента.
Чого ви навчитесь
Власну локальну інфраструктуру для експериментів з ШІ на базі Ollama.
Навички тонкого налаштування параметрів генерації тексту для досягнення бажаного результату.
Готовий фреймворк мислення та автоматизації для тестування LLM-додатків на реальних проєктах.
Вимоги
Бажано мати від 8 ГБ оперативної пам'яті для комфортної роботи з оптимальними моделями. Але якщо у вас старіший лептоп - не біда, ми покажемо, як запускати легкі моделі, які "потягне" майже будь-який пристрій.
Нам знадобиться безкоштовний редактор коду (наприклад, VS Code) та готовність відкрити термінал.
Якщо ви раніше не писали код - нічого страшного не буде. Ми покажемо базові скрипти та розберемо їх крок за кроком. Головне - цікавість!