Внутренняя речь ускоряет обучение ИИ

Лаборатория, научившая машины бормотать

На этой неделе исследователи из Окинавского института науки и технологий (OIST) сообщили о простой, но поразительной идее: искусственные агенты учатся лучше обобщать информацию, когда их обучают «разговаривать сами с собой». В исследовании, опубликованном 22 декабря 2025 года в журнале Neural Computation, показано, что добавление сигнала внутреннего речевого повторения — команда описывает это как своего рода запрограммированную «внутреннюю речь» или самобормотание — в сочетании с архитектурой рабочей памяти, предоставляющей модели несколько слотов кратковременной памяти, повышает производительность при выполнении сложных задач, требующих многозадачности и пошаговой генерации паттернов.

Как строился эксперимент

Исследователи провели компьютерное моделирование с использованием фреймворков активного вывода. Они сравнили несколько архитектур кратковременной памяти и проверили, меняет ли результаты обучения добавление цели, требующей от агента выдачи внутренних токенов — фактически заставляющей модель «пробормотать» про себя заданное количество раз. Системы с несколькими слотами временной памяти превзошли более простые схемы памяти в задачах на перенос навыков и многозадачность. Что крайне важно, когда цели внутренней речи были наложены поверх этой структуры памяти, показатели переключения между задачами и завершения многоэтапных последовательностей улучшились еще сильнее.

OIST позиционирует этот метод как не зависящий от содержания (content-agnostic): внутренняя речь не обязательно должна быть семантически значимой в человеческом понимании, но она действует как сигнал повторения и управления, структурирующий внутреннюю динамику. Это сделало подход особенно ценным в условиях малого объема данных, где стандартные модели глубокого обучения обычно с трудом обобщают знания за пределы обучающих примеров.

Почему проговаривание вслух — самому себе — помогает

За этим эффектом стоят две взаимодополняющие интуиции. Во-первых, слоты кратковременной памяти предоставляют системе временные контейнеры для промежуточных результатов и инструкций, позволяя ей удерживать несколько фрагментов преходящей информации во время выполнения длительных вычислений. Во-вторых, сигнал внутренней речи служит внутренним «каркасом»: повторение или перекодирование промежуточных шагов помогает обучаемой системе сохранять и повторно использовать информацию при переключении задач или когда последовательность содержит много шагов.

С точки зрения машинного обучения это можно рассматривать как добавление структуры во внутреннее пространство состояний агента, чтобы он мог продвигаться через вычисления поэтапным, воспроизводимым образом. Исследователи утверждают, что такого рода структурированное самовзаимодействие является недорогой альтернативой гигантским наборам обучающих данных или грубому масштабированию моделей для достижения гибкости.

Математические отголоски в неожиданных местах

Две другие недавние исследовательские работы помогают поместить результаты OIST в более широкий концептуальный контекст. В Пенсильванском университете инженеры показали, что внутренняя реорганизация пузырьков в пенах подчиняется математическим законам, которые зеркально отражают то, как современные глубокие сети перемещаются по своим ландшафтам обучения. Если старые метафоры представляли пузырьки как застревающие в «долинах», подобно стеклу, то новые анализы показывают, что и пены, и параметры обученного ИИ блуждают в широких плоских областях, а не погружаются в узкие оптимумы. Именно эта непрерывная реорганизация позволяет моделям обобщать: пребывание в более пологих частях ландшафта делает решения устойчивыми к новым входным данным.

Если рассматривать эти исследования вместе, они указывают на общую математическую интуицию: системы, поддерживающие гибкую, повторяемую внутреннюю динамику — будь то пузырьки в физическом материале или переменные внутри нейронного контроллера — избегают жесткого переобучения и остаются адаптивными. Внутренняя речь OIST может быть одним из практических механизмов, с помощью которых ИИ удерживает свою внутреннюю траекторию в этих более широких, способствующих обобщению «долинах».

Воплощенный интеллект и социальные сигналы: связи с робототехникой и аффективным ИИ

Внутренняя речь естественным образом вписывается в эти тренды. Воплощенный агент, который репетирует внутренние шаги — робот, который не только моделирует внешний мир, но и поддерживает и озвучивает короткий внутренний план — мог бы лучше координировать двигательные последовательности (липсинк или манипуляции), интерпретировать сигналы партнеров-людей и объяснять собственные решения на понятном человеку языке. Такое наслоение внутренних самомоделей на внешнее восприятие также занимает центральное место в усилиях по созданию ИИ, надежного за пределами узких обучающих распределений, например, в проектах по созданию устойчивых систем НИОКР с участием человека (human-in-the-loop) и машин, способных рассуждать о неявных целях экспертов.

Перспективы и ограничения

Результаты OIST многообещающие, но предварительные. Описанные эксперименты являются компьютерным моделированием; модели все еще нуждаются в проверке в шумных, динамичных средах реального мира, где датчики выходят из строя, возникают задержки, а цели непредсказуемо меняются. Команда открыто признает это, заявляя, что их следующие шаги будут направлены на то, чтобы «усложнить условия», имитируя развивающее обучение в естественной среде. Испытания с воплощенными роботами в бытовых или сельскохозяйственных условиях станут настоящей проверкой того, масштабируется ли внутренняя речь от симулированных токенов до надежного физического поведения.

Существуют также концептуальные и этические соображения. Ученые должны избегать антропоморфных упрощений: «внутренняя речь» модели — это не субъективное мышление, а спроектированный сигнал повторения. Тем не менее, формулировка важна для общественного восприятия. Системы, генерирующие направленный на себя язык или комментирующие свои внутренние шаги, могут быть ошибочно приняты за сознательных агентов. Это повышает требования к прозрачности: разработчики должны четко документировать, что именно делает канал внутренней речи, в каких случаях он может давать сбой и может ли он быть принудительно изменен или манипулируем с помощью состязательных входных данных.

Почему это важно

Если внутренняя речь и легковесные архитектуры рабочей памяти действительно улучшают обобщение и многозадачность при скромных объемах данных, практические последствия будут огромны. Системы ИИ, которым необходимо адаптироваться на лету — домашние роботы, совмещающие разные задачи, сельскохозяйственные дроны, реагирующие на изменения состояния посевов, или лабораторные ассистенты, работающие с дефицитными экспериментальными данными — могли бы стать более эффективными, безопасными и полезными без экспоненциального роста размеченных обучающих наборов. Более того, эта идея перекликается с математическими перспективами и концепциями воплощенного обучения, возникающими сейчас в материаловедении и робототехнике, предлагая плодотворные междисциплинарные пути развития.

То, что начиналось как когнитивный трюк — научить машину репетировать — может указывать на более глубокий инженерный принцип: создавать внутреннюю структуру, позволяющую агентам гибко реорганизовываться, а не жестко переоптимизироваться. Если будущие эксперименты в реальных условиях подтвердят результаты моделирования, «разговор с самим собой» может стать стандартным инструментом в арсенале архитектур для создания надежного, ориентированного на человека ИИ.

Источники

• Neural Computation (научная статья: Working Memory and Self-Directed Inner Speech Enhance Multitask Generalization in Active Inference)
• Пресс-материалы Окинавского института науки и технологий (OIST)
• Proceedings of the National Academy of Sciences (исследование пен, посвященное медленной релаксации и ландшафтной динамике в вязких созревающих пенах)
• Инженерная школа Пенсильванского университета
• Science Robotics (исследование синхронизации губ у роботов)
• Columbia Engineering (Creative Machines Lab)
• Японский передовой институт науки и технологий (JAIST) — исследования мультимодальных социальных сигналов
• ELLIS Institute Finland / Университет Аалто (исследования команд человек-ИИ и устойчивости вне распределения)