Агенты ИИ: когда модель сама выполняет следующие шаги
Агент ИИ — это модель, которая не только отвечает, но и действует: читает файлы, запускает команды, исправляет код и проверяет результат, шаг за шагом продвигаясь к цели.
Чат и агент
- Чат: вы спрашиваете, модель отвечает, а копированием и запуском вы занимаетесь сами.
- Агент: получает цель и имеет доступ к инструментам, поэтому сам выполняет серию действий.
Из чего состоит агент
- Модель, которая планирует и принимает решения.
- Инструменты: чтение и запись файлов, терминал, поиск, браузер.
- Цикл: действие, наблюдение за результатом, следующее решение, пока задача не будет завершена.
- Рабочая память, то есть контекст, в котором помещаются план и предыдущие шаги.
Для чего они подходят
- Задачи с ясным критерием успеха, например «сделай так, чтобы тесты проходили».
- Повторяющиеся изменения во многих файлах.
- Наведение порядка и документирование проекта.
- Предварительное исследование ошибки и предложение исправления.
Где становится рискованно
- Агент может внести множество изменений сразу, поэтому их труднее оценить.
- Ошибка на раннем шаге способна перенестись на последующие.
- Доступ к терминалу и файлам означает возможность удалить или изменить что-то важное.
- Агент может выполнить команды, спрятанные в обрабатываемых материалах, если вы их не фильтруете.
Правила здравого смысла
- Выдавайте минимальные права и работайте с копией проекта.
- Сохраняйте состояние в Git перед каждой крупной задачей.
- Требуйте плана перед действием и подтверждения перед необратимыми операциями.
- Давайте небольшие, хорошо описанные задачи вместо «сделай всё приложение».
- Просматривайте diff после завершения работы.
Обзор категорий инструментов вы найдёте в тексте инструменты ИИ для программирования.
