Агентный ИИ: как языковая модель превращается из генератора текста в решателя задач
Агентные системы отличаются от обычных языковых моделей тем, что умеют использовать инструменты, проверять результаты и продолжать работу до достижения поставленной цели.
Обычная языковая модель предсказывает следующий токен – фрагмент текста из своего словаря. Поэтому её ответ может выглядеть убедительно, но не соответствовать действительности. Галлюцинации связаны с вероятностной природой генерации, а не только с ошибками конкретного сервиса.
Для выбора продолжения применяются разные подходы: от жадного выбора наиболее вероятного токена до сэмплирования, при котором сохраняется вариативность. Качество генерации также зависит от размера контекста – объёма текста, который модель учитывает одновременно, – и способов обучения. После предобучения на больших массивах текста модели дорабатывают на примерах желаемых ответов и обратной связи пользователей, чтобы они лучше следовали инструкциям.
Современные ИИ-системы включают не только языковую модель, но и фильтры, постобработку и инструменты. Мультимодальные модели работают с изображениями и документами, а открытые семейства вроде LLaMA и Mistral позволяют исследовать архитектуру и дообучать модели. Среди других технологий – разреженная архитектура Mixture of Experts, которая задействует лишь часть экспертных блоков, и спекулятивное декодирование, ускоряющее генерацию за счёт параллельной подготовки и проверки токенов.
Агент отличается от чат-бота тем, что не ограничивается одним ответом. Он может самостоятельно искать источники, запускать код, сверять результаты и продолжать выполнение задачи. Такой подход применяется и в системах проверки текстов: ИИ-помощник способен не только обнаружить заимствования или признаки генерации, но и объяснить результаты пользователю.
