Декодирование доверия: как модели машинного обучения прогнозируют комфорт человека при взаимодействии с роботами

Декодирование доверия: как модели машинного обучения предсказывают комфорт человека при взаимодействии с роботами

По мере того как Индустрия 5.0 смещает акцент в сторону человекоцентричного производства, способность роботов оценивать доверие человека становится критически важным требованием безопасности. Исследователи из Aalborg University и Istituto Italiano di Tecnologia (IIT) разработали фреймворк на основе данных, который позволяет машинам интерпретировать поведенческие сигналы, давая им возможность корректировать свои движения и устанавливать раппорт с операторами-людьми в режиме реального времени. Отказавшись от традиционных опросов после взаимодействия, команда успешно продемонстрировала, что машины могут количественно оценить нематериальное качество человеческого доверия через параметры физического движения и взаимодействия, достигая высокого уровня точности прогнозирования в ответственных промышленных средах.

Эволюция Индустрии 5.0

Промышленный ландшафт в настоящее время претерпевает смену парадигмы от Индустрии 4.0, в которой приоритет отдавался гиперэффективности и массовой автоматизации, к более тонким целям Индустрии 5.0. Эта новая эра делает упор на человекоцентричное производство, где коллаборативные роботы (коботы) являются не просто инструментами, а партнерами, работающими плечом к плечу с операторами. Этот переход требует глубокого внимания к безопасности на рабочем месте, эргономике и психологическому комфорту. В условиях совместной работы «слепая» автоматизация больше не является достаточной; робот, который движется слишком быстро или слишком близко к оператору, может вызвать стресс, привести к человеческой ошибке или даже нанести физический вред.

Доверие является связующим звеном этого взаимодействия. Согласно определению исследователей в этой области, доверие — это вера в то, что агент будет поддерживать цели человека, особенно в неопределенных или уязвимых ситуациях. В промышленных условиях дисбаланс доверия опасен: недостаточное доверие может привести к перегрузке оператора, так как рабочие начинают чрезмерно контролировать машину, в то время как чрезмерное доверие может привести к беспечности и рискам для безопасности. Чтобы решить эту проблему, исследовательская группа, в которую вошли Giulio Campagna и Arash Ajoudani, стремилась создать систему, позволяющую роботам чувствовать эти тонкие психологические состояния и соответствующим образом перенастраивать свое поведение.

Механика моделирования доверия

Суть исследования, недавно опубликованного в журнале IEEE Robotics and Automation Letters, вращается вокруг нового фреймворка на основе данных, предназначенного для оценки доверия через поведенческие индикаторы. В его основе лежит алгоритм Preference-Based Optimization (PBO). В отличие от традиционных моделей, которые могут лишь догадываться о предпочтениях пользователя, алгоритм PBO генерирует специфические траектории робота, а затем активно запрашивает обратную связь от оператора. Это создает петлю обратной связи, в которой робот узнает, какие движения — такие как определенное время выполнения или дистанция разделения — воспринимаются человеческим партнером как заслуживающие доверия.

Исследование было проведено междисциплинарной группой, в состав которой вошли Marta Lagomarsino и Marta Lorenzini из Human-Robot Interfaces and Interaction Lab в IIT, совместно с исследователями из Human-Robot Interaction Lab в Aalborg University. Переведя субъективные человеческие чувства в математические параметры взаимодействия, команда преодолела разрыв между человеческой психологией и управлением роботами. Фреймворк оптимизирует три ключевые переменные: время выполнения задачи роботом, физическое расстояние между человеком и машиной и вертикальную близость рабочего органа робота к голове пользователя.

Перевод поведения в данные

Серьезной проблемой в робототехнике является переход от качественного наблюдения к количественному прогностическому моделированию. Чтобы преодолеть это, исследователи определили конкретные поведенческие индикаторы, полученные как из языка тела человека, так и из собственного движения робота, которые сигнализируют об уровне доверия. Факторы, связанные с человеком, отслеживались с помощью системы захвата движений всего тела, фиксирующей положение головы и верхней части тела на предмет признаков нерешительности или комфорта. Эти индикаторы затем сопоставлялись с характеристиками движения робота для получения целостного представления о взаимодействии.

Используя явную обратную связь от оператора в качестве «эталонных данных» (ground truth), исследователи обучили модели машинного обучения распознавать физические признаки доверия. Ведущий автор Giulio Campagna и его коллеги сосредоточились на динамической взаимосвязи между тем, как человек движется в ответ на траекторию робота. Эта методология позволяет модели предсказывать предпочтения в доверии, даже когда оператор не предоставляет активной обратной связи, превращая молчаливое физическое поведение в богатый поток данных, который информирует робота о его следующем шаге.

Тематическое исследование: симуляция в химической промышленности

Чтобы протестировать фреймворк в реалистичной среде с высокими рисками, команда реализовала сценарий, включающий опасную задачу по смешиванию химикатов. В этой симуляции робот-манипулятор помогал человеку-оператору в розливе и транспортировке химических агентов. Эта среда была выбрана специально, так как потенциальная опасность — и, следовательно, необходимость в доверии — здесь изначально высока. Эксперимент включал отслеживание движений всего тела оператора, пока робот выполнял различные траектории на основе параметров алгоритма PBO.

Результаты оказались убедительными. Исследовательская группа оценила несколько моделей машинного обучения, при этом модель «Voting Classifier» достигла выдающегося показателя точности в 84,07%. Что еще более впечатляюще, модель зафиксировала показатель площади под ROC-кривой (AUC-ROC) на уровне 0,90 — метрика, которая указывает на высокий уровень надежности и сильную способность различать разные уровни доверия. Эти показатели свидетельствуют о том, что фреймворк не просто угадывает, а точно декодирует связь между движением человека и внутренними состояниями доверия.

Будущие последствия для безопасности на рабочем месте

Последствия этого исследования выходят далеко за пределы лаборатории. Интегрируя датчики доверия в реальном времени в промышленных роботов, компании могут значительно повысить безопасность на рабочем месте. Робот, чувствующий дискомфорт оператора, может автономно замедлить свои движения или увеличить дистанцию, снижая когнитивную нагрузку и стресс работника. Это создает «замкнутую» систему, в которой робот постоянно перенастраивает свое поведение для поддержания оптимального уровня доверия, предотвращая несчастные случаи, которые часто возникают из-за трений в системе человек-робот.

Кроме того, использование значений SHAP (SHapley Additive exPlanations) в исследовании добавляет уровень объяснимости искусственному интеллекту. Это позволяет исследователям точно видеть, какие поведенческие показатели — такие как скорость отстранения человека или угол наклона его головы — больше всего влияют на оценку доверия. Поскольку Arash Ajoudani и команда IIT продолжают совершенствовать эти модели, акцент, вероятно, сместится в сторону персонализации. Будущие системы смогут адаптироваться к уникальным чертам личности и эмоциональным реакциям отдельных работников, способствуя созданию более интуитивной и устойчивой экосистемы сотрудничества. В мире Индустрии 5.0 самым эффективным роботом вскоре может стать тот, который лучше всего понимает своего человеческого партнера.