Контекст-инжиниринг: особенности формирования и работы с контекстом

Современные LLM-системы и агентные решения демонстрируют, что качество и предсказуемость их поведения определяется не столько моделью, сколько контекстом, в котором она работает. Использование промптов без подготовки и анализа нужного контекста приводит к нестабильным результатам, галлюцинациям и трудностям масштабирования. 

В докладе рассматривается, какой контекст необходим для эффективного использования LLM, в каком объёме и формате его следует формировать, а также почему «больше контекста» не означает «лучше». 

Будут разобраны ключевые уровни контекста, особенности разметки и использования уже существующих артефактов. Также рассмотрим техники работы с контекстом и поговорим о роли системного аналитика в подготовке контекста и создания эффективных агентов.