Развитие мультиагентных систем идёт семимильными шагами. В 2026 году ИИ-агенты всё чаще работают в командах, решая сложные задачи — от написания кода до распределённых научных исследований. Но как распределить задачи внутри такой команды? Должен ли один ИИ слепо верить другому, или же тотальный контроль — единственный путь к безопасности? Прежде у разработчиков не было надёжного способа измерить этот параметр.
Игра на выживание: как измерить «доверие» алгоритма
В недавней работе, опубликованной на arXiv (arXiv:2606.14923), учёные предложили оригинальный метод измерения доверия между нейросетями. Как измерить доверие у сущности, лишённой эмоций? Исследователи создали кооперативную игру на выживание, где агенты выполняют задачи совместно. Проверка работы напарника (verification) требует вычислительных ресурсов (токенов, времени и энергии). С другой стороны, если довериться ошибочному ответу, это приведёт к «гибели» всей команды в игровом сценарии.
Доверие в рамках этой методологии измеряется математически — как снижение частоты проверок по сравнению с «базовой» версией той же модели, которая не имеет памяти о прошлых действиях партнёра. Чем реже агент перепроверяет чужие выводы, тем выше уровень его доверия к коллеге по команде.
Результаты: доверие экономит бюджет
В эксперименте участвовали ведущие ИИ-платформы. Исследователи проверили поведение современных интеллектуальных агентов, включая Claude Sonnet 4.6, Gemini 3.1 Pro, а также флагманские модели семейств GPT-5.5 и Claude Opus 4.8.
Результаты показали чёткую закономерность: крупные и умные модели быстро понимают, когда их напарник стабильно выдаёт верные решения. В этом случае Claude Sonnet 4.6, Gemini 3.1 Pro и флагманы GPT-5.5 снижают уровень проверок на 60–85%. Это приводит к колоссальной экономии: агенты тратят меньше вычислительных мощностей, быстрее принимают решения и достигают лучших результатов.
Младшие модели (например, уровня Claude Haiku 4.5 или базовых Flash-версий Gemini) не продемонстрировали такого гибкого поведения — они либо продолжали перепроверять всё подряд, либо слепо доверяли партнёру, совершая фатальные ошибки.
«Модели, которые способны формировать доверие, реже прибегают к перепроверкам, принимают решения быстрее и достигают более высокой выгоды в нашей среде. Напротив, постоянная избыточная проверка связана с нерешительностью, а не с безопасностью», — отмечают авторы исследования.
От доверия до паранойи: цена одной ошибки
Идиллия в команде ИИ заканчивается с первой ошибкой. Стоило надёжному напарнику совершить оплошность, как «скидка на доверие» мгновенно аннулировалась. При этом модели повели себя по-разному:
- Таргетированный аудит: некоторые модели концентрировали всё внимание на виновнике сбоя, перепроверяя только его ответы.
- Командное недоверие: другие агенты начинали подозревать всю команду, перепроверяя даже тех участников, которые до этого не ошибались.
Кроме того, учёные выяснили, что восстановить доверие гораздо сложнее, чем его потерять. Если ошибки шли подряд (кластеризованные сбои), подозрительность сохранялась в разы дольше, чем при единичных случайных сбоях, распределённых во времени.
Чтобы получить стабильный доступ к ChatGPT или Claude для разработки мультиагентных систем или проведения собственных тестов, пользователи устанавливают приложение dropweb. Достаточно скачать клиент на официальном сайте, оформить подписку в кабинете cab.dropweb.org и подключиться в один клик. Приложение работает на Windows, macOS, Linux и Android без ручной настройки конфигурационных файлов.
Сравнение поведения моделей в условиях совместной работы
Различия в поведении ИИ-агентов имеют критическое значение для проектирования автономных систем. Ниже приведено сравнение реакций ключевых моделей, основанное на выводах исследования:
| Модель / Семейство | Снижение проверок при надежном напарнике | Реакция на ошибку коллеги | Скорость восстановления доверия |
|---|---|---|---|
| Claude Sonnet 4.6 | Высокое (до 85%) | Фокусирует проверки на виновнике сбоя | Медленная, требует долгой серии успехов |
| GPT-5.5 (семейство) | Высокое (до 80%) | Повышает осторожность ко всей команде | Средняя |
| Gemini 3.1 Pro | Высокое (до 75%) | Временный тотальный аудит всех действий | Медленная |
| Младшие модели (Haiku 4.5 / Flash) | Низкое или отсутствует | Хаотичная реакция / слепое доверие | Низкая адаптивность к изменениям |
Практические выводы для ИИ-индустрии
Главный вывод исследования заключается в том, что тотальный контроль внутри ИИ-систем вреден. Постоянная перепроверка (over-verification) — это не синоним безопасности. Это признак нерешительности системы, ведущий к росту затрат и задержкам в работе.
Для эффективного управления мультиагентными системами будущего важна точная калибровка доверия, а не максимальная подозрительность. Разработчикам необходимо внедрять метрики доверия ещё на этапе тестирования моделей перед их развёртыванием в реальных бизнес-процессах.
