Почему нейросети не умеют думать: разбор исследования

Исследования на OpenReview доказали: языковые модели лишь имитируют мышление. Рассуждения ИИ ломаются на логических задачах, что ставит под сомнение AGI.

Редакция dropweb · Опубликовано · Источник: Hacker News

Почему нейросети не умеют думать: разбор исследования
Содержание4 разделов
  1. Почему ИИ-модели сбоят на простых логических задачах?
  2. Какие модели сегодня пытаются имитировать логику?
  3. Означает ли это крах надежд на сильный ИИ (AGI)?
  4. Читайте также
Коротко
  • Исследования на OpenReview доказали: языковые модели лишь имитируют мышление. Рассуждения ИИ ломаются на логических задачах, что ставит под сомнение AGI.
  • OpenAI выпустила GPT-5.6: умнее и заметно дешевле
  • Почему ChatGPT и современные нейросети никогда не станут сверхразумом
  • ChatGPT не работает в России: причины и как вернуть доступ
  • ChatGPT как AI-суперапп: зачем OpenAI меняет чат-бот

Проверка IP и геолокации

Что сайты знают о вас прямо сейчас

IP-адрес выдаёт страну, город и провайдера. А WebRTC порой раскрывает настоящий IP даже за VPN. Один клик — и вы увидите ровно то, что видят сайты.

Показываем то, что и так видит любой сайт. Ничего не сохраняем.

Нейросетевая имитация мышления — это процесс генерации статистически наиболее вероятного текста на основе найденных в датасетах закономерностей, создающий у пользователя иллюзию осмысленного рассуждения. Согласно научному исследованию, опубликованному на платформе OpenReview и вызвавшему дискуссии среди разработчиков на Hacker News, современные крупные языковые модели фундаментально не способны к абстрактному логическому планированию. Все ведущие флагманы — включая GPT-5.6 от OpenAI, Claude Fable 5 от Anthropic и Gemini 3.1 Pro от Google — демонстрируют высокие результаты лишь в рамках стандартных шаблонов, ломаясь при элементарном изменении условий логических задач.

Почему ИИ-модели сбоят на простых логических задачах?

Причина низкой устойчивости алгоритмов кроется в базовой математической природе трансформерной архитектуры: модель предсказывает следующий токен (слово или фрагмент кода) на базе статистических корреляций, а не строит ментальную модель реальности. В ходе эксперимента ученые давали нейросетям известные комбинаторные и логические головоломки, слегка меняя второстепенные детали — например, имена персонажей, число объектов или добавляя очевидно нерелевантные ограничения.

Результаты оказались разгромными: даже так называемые «рассуждающие» модели, использующие цепочки мыслей (Chain-of-Thought), начинали выдавать уверенные галлюцинации. Вместо истинной адаптации алгоритм пытался подогнать ответ под вызубренный во время обучения шаблон. Это доказало, что многошаговые выводы ИИ — не результат понимания проблемы, а сложная имитация человеческого стиля изложения.

Макро-съемка механической руки робота, пытающейся расставить фигурки классической логической задачи на рассыпающейся светящейся траектории.

Какие модели сегодня пытаются имитировать логику?

Чтобы скрыть ограничения архитектуры, ведущие лаборатории внедряют специальные режимы генерации скрытых токенов рассуждения. Они позволяют нейросети перепроверять промежуточные гипотезы перед выдачей финального ответа пользователю.

Модель / Движок Разработчик Особенности рассуждения Тарифный план / Доступ
GPT-5.6 Sol OpenAI Флагманский reasoning-движок для сложных задач ChatGPT Plus ($20/мес), Pro ($100–$200/мес)
Claude Fable 5 Anthropic Глубокая логика для долгосрочных агентов Claude Pro ($20/мес), Max ($100–$200/мес)
Gemini 3.1 Pro Google Специальный режим Deep Think Google AI Pro ($19.99/мес), Ultra ($99.99/мес)
DeepSeek-V4-Pro DeepSeek Thinking mode с контекстом до 1 млн токенов API ($0.435 ввод / $0.87 вывод за 1M)
Grok 4.5 xAI Контекст 500k токенов и усиленная аналитика API ($2.00 ввод / $6.00 вывод за 1M)

Чтобы получить стабильный доступ к ChatGPT и другим зарубежным нейросетям в условиях региональных ограничений, достаточно установить приложение dropweb — оно настраивается автоматически и позволяет подключаться в один клик.

Означает ли это крах надежд на сильный ИИ (AGI)?

Публикация на OpenReview нанесла ощутимый удар по обещаниям скорого прихода AGI (сильного искусственного интеллекта общего уровня). Простая экстраполяция текущего подхода — увеличение объема обучающих данных и наращивание вычислительных мощностей суперкомпьютеров (scaling laws) — уперлась в потолок архитектуры.

«Нейросеть может безупречно решить сложнейший дифференциальный интеграл из профильного учебника, но безнадежно запутается в детской задаче про волка, козу и капусту, если заменить козу на абстрактный предмет. Модели не знают, как устроена физика реального мира», — отмечается в материалах исследования.

Эксперты сходятся во мнении, что для создания действительно разумных систем отрасли потребуется совершить новый технологический скачок. Разработчикам придется отойти от исключительно авторегрессионных трансформеров и сфокусироваться на создании так называемых World Models (моделей мира) и нейро-символьных гибридных систем, способных верифицировать логические факты в реальном времени.

Монументальная башня суперкомпьютера, верхние ярусы которой разламываются и рушатся в светящуюся пропасть.

Читайте также

FAQ

Частые вопросы

Почему нейросети ошибаются в простых логических задачах?

Языковые модели предсказывают слова на основе статистики из обучающих данных, а не строят причинно-следственные связи. Изменение незначительных деталей ломает их шаблоны.

Что такое цепочка мыслей (Chain-of-Thought) в ИИ?

Это метод, при котором модель генерирует промежуточные шаги рассуждений перед ответом. Исследования показывают, что это имитация логики, а не реальное понимание.

Приведет ли простое увеличение нейросетей к созданию AGI?

Ученые считают, что нет. Для создания сильного ИИ понадобятся новые архитектуры, сочетающие нейросети с фундаментальными модельными представлениями о мире.

Источник:Hacker News

Сохраните доступ к AI-сервисам заранее

Подключить VPN

Внутри блога

Все статьи

Продолжите тему — подобрали материалы, которые логично открыть следующими.

4 мин

OpenAI выпустила GPT-5.6-Cyber: ИИ-инструмент для кибербезопасности

4 мин

ИИ решил математическую задачу 20-летней давности за 30 минут

6 мин

Как зарегистрироваться в Claude: модели Opus 5, Sonnet 5 и Fable 5

6 мин

Инструкция по настройке VPN для YouTube: стабильный доступ в 4K

О редакции →