ИИ-агенты сравнялись с людьми в выполнении научных задач

Международный отчет по безопасности ИИ 2026: системы теперь не уступают экспертам-людям в биологических исследованиях

Универсальные системы ИИ официально достигли порога, при котором они могут сравниться с эффективностью человека в сложных рабочих процессах биологических исследований, согласно знаковому Международному отчету по безопасности ИИ 2026. Исследование, инициированное в ходе исторического саммита в Блетчли-парке и проведенное под руководством Yoshua Bengio, показывает, что фронтирные модели теперь способны выступать в роли «ко-ученых» в науках о жизни. Это достижение знаменует собой критический сдвиг в технических возможностях: ИИ превращается из простого вспомогательного инструмента в сложного агента, способного синтезировать молекулярные данные и ускорять исследования патогенов на уровне, который ранее был доступен только специалистам со степенью PhD.

Необходимость в данном исследовании была вызвана стремительной и зачастую непредсказуемой траекторией развития фронтирных моделей ИИ. Поскольку эти системы все глубже интегрируются в глобальную экономику, 29 стран, представленных на саммите в Блетчли, совместно с ООН, ОЭСР и ЕС, стремились выработать окончательный научный консенсус в отношении возникающих рисков. Обобщив данные более чем 100 независимых экспертов, отчет закладывает строгий эмпирический фундамент для будущего регулирования, переходя от разрозненных свидетельств к документально подтвержденным тестам возможностей и безопасности ИИ.

Каковы ключевые выводы о возможностях ИИ в Международном отчете по безопасности ИИ 2026?

Международный отчет по безопасности ИИ 2026 констатирует, что ИИ общего назначения достиг паритета с экспертами-людьми в биологических исследованиях и все чаще используется в преступных целях. Ключевые выводы указывают на то, что 23% высокопроизводительных биологических инструментов ИИ обладают высоким потенциалом для злоупотреблений, в то время как синтетический медиаконтент, созданный ИИ, становится почти неотличимым от реальности, что создает значительные угрозы целостности информации и общественной безопасности.

Помимо биологических показателей, в отчете тщательно задокументирован рост использования ИИ общего назначения для создания синтетического контента. Эксперты, включая Stephen Casper и Yi Zeng, представили данные, показывающие, что генерация текста, аудио и видео в мошеннических целях превратилась из теоретического риска в повседневную реальность. В исследовании отмечается, что хотя технические меры защиты становятся все более надежными благодаря многоуровневым стратегиям эшелонированной обороны, опытные злоумышленники по-прежнему обходят эти ограничения с «умеренно высокой частотой», что требует перехода к более устойчивым архитектурам безопасности.

Оценка возможностей в биологической сфере звучит особенно тревожно. Группа экспертов установила, что модели ИИ теперь могут помогать в молекулярном синтезе и идентификации новых патогенов с точностью, сопоставимой с исследователями-людьми. Эта возможность двойного назначения, хотя и многообещающая для разработки лекарств, представляет собой беспрецедентный вызов для сектора наук о жизни, так как барьеры для создания опасных биологических агентов снижаются именно теми инструментами, которые предназначены для лечения болезней.

Могут ли ИИ-агенты выполнять полные циклы научных работ согласно отчету?

Хотя ИИ-агенты преодолели порог экспертности в конкретных исследовательских задачах, отчет 2026 года уточняет, что полностью автономные сквозные научные рабочие процессы еще не реализованы в полной мере. В настоящее время ИИ выступает в качестве «ко-ученого», преуспевая в генерации гипотез, сложном анализе данных и планировании экспериментов, однако эти системы все еще требуют вмешательства человека для физического выполнения лабораторных работ и принятия высокоуровневых стратегических решений.

Методология, использованная исследователями, включала тестирование фронтирных моделей ИИ на соответствие стандартным лабораторным протоколам и исследовательским тестам. Результаты показывают, что хотя ИИ-агент может спроектировать сложный эксперимент и предсказать результаты с человеческой точностью, автоматизация всего научного процесса по «замкнутому циклу» остается развивающимся направлением. Álvaro Soto и другие участники подчеркнули, что текущее ограничение заключается в интеграции программного обеспечения ИИ с физической робототехникой и необходимости тонкой отладки процессов в реальных биологических средах.

Несмотря на эти ограничения, отчет предупреждает, что разрыв быстро сокращается. Автоматизация генерации гипотез уже демонстрирует значительный рост, позволяя исследователям изучать обширные химические и биологические пространства, которые ранее были слишком трудоемкими. Эта возможность позволяет предположить, что по мере совершенствования интеграции робототехники в лаборатории переход к полностью автономным научным открытиям может произойти раньше, чем прогнозировали отраслевые аналитики.

Что говорится в отчете об ИИ в сфере кибербезопасности и дипфейков?

Отчет подтверждает, что дипфейки, созданные ИИ, становятся все более реалистичными и труднообнаружимыми, при этом отмечается особый рост персонализированной дипфейк-порнографии, нацеленной на женщин. В сфере кибербезопасности ИИ общего назначения активно используется преступными группировками и субъектами, связанными с государствами, для повышения масштаба и сложности фишинговых атак и методов социальной инженерии.

Целостность информации находится под угрозой, поскольку дипфейки становятся основным инструментом дезинформации. Группа экспертов, включая Gaël Varoquaux, отметила, что технические проблемы в маркировке водяными знаками и обнаружении контента, созданного ИИ, остаются серьезным препятствием. Поскольку инструменты обнаружения часто отстают от генеративных моделей, «гонка вооружений» между создателями и детекторами в настоящее время складывается в пользу производителей синтетического контента, что ведет к «кризису реальности» в цифровых коммуникациях.

В области кибербезопасности отчет фиксирует переход от ручного поиска уязвимостей к поиску с помощью ИИ. Хотя роль ИИ в непосредственном исполнении эксплойтов нулевого дня в настоящее время оценивается как ограниченная, его способность автоматизировать фазу разведки кибератаки позволяет малоквалифицированным злоумышленникам действовать на уровне продвинутых устойчивых угроз (APT). Системный риск заключается в демократизации хакерских инструментов высокого уровня, что может привести к экспоненциальному росту частоты глобальных киберинцидентов.

Как Yoshua Bengio и экспертная группа оценивали биологические риски

Оценка биологических рисков проводилась путем тщательного синтеза эмпирических данных и упражнений по ред-тимингу под руководством Yoshua Bengio. Группа пришла к выводу, что те же модели, которые используются для идентификации жизненно важных белковых структур, могут быть перепрофилированы для поиска токсичных соединений или усиления вирулентности известных патогенов, создавая дилемму «двойного назначения», для которой в настоящее время отсутствуют глобальные стандарты предотвращения.

Под руководством Yoshua Bengio Консультативный совет экспертов сосредоточился на потенциале биологического злоупотребления моделями общего назначения. Отчет показывает, что многие модели «забывают» фильтры безопасности при использовании сложных техник джейлбрейка, открывая пользователям доступ к закрытым биологическим протоколам. Это открытие привело к рекомендации по внедрению более строгого «управления вычислениями» и проведению обязательных аудитов безопасности для любой модели, демонстрирующей высокий уровень компетентности в науках о жизни.

Для количественной оценки этих рисков исследователи разработали набор эмпирических тестов. Эти показатели показали, что топовые модели ИИ могут предоставлять пошаговые инструкции по синтезу регулируемых агентов. Эксперты подчеркнули, что риск не является сугубо теоретическим; «информационный барьер», который когда-то защищал конфиденциальные биологические данные, размывается из-за того, с какой легкостью ИИ может синтезировать разрозненные фрагменты информации в действенные инструкции.

Мнения экспертов: Yoshua Bengio и наука тестирования (benchmarking)

Yoshua Bengio подчеркнул, что стремительная траектория исследований в области безопасности ИИ должна соответствовать экспоненциальному росту возможностей моделей. По его оценке, отчет 2026 года служит «научной Полярной звездой», предоставляя доказательства, необходимые политикам для перехода от реактивных мер к проактивным структурам безопасности, способным выдержать выпуск моделей следующего поколения.

• Yoshua Bengio отметил необходимость международного сотрудничества для предотвращения «гонки на выживание» в области стандартов безопасности.
• Gaël Varoquaux выступил за разработку открытых и прозрачных тестов, чтобы контроль за оценкой безопасности не находился исключительно в руках частных корпораций.
• Группа экспертов пришла к консенсусу, что «возникающие риски», такие как автономное целеполагание у ИИ-агентов, требуют немедленного и стандартизированного мониторинга.

Коллективное мнение экспертов заключается в том, что эпоха разработки «черных ящиков» должна закончиться. Внедряя строгий научный контроль на этапах обучения и развертывания фронтирных моделей ИИ, группа стремится создать культуру прозрачности. В отчете подчеркивается, что без такой прозрачности мировое сообщество не сможет точно оценить системные риски, вызванные внезапным появлением новых возможностей в универсальных системах.

Блетчлийский мандат и глобальный консенсус

Подготовка этого отчета стала прямым результатом Блетчлийского мандата — соглашения, подписанного 29 странами, о признании безопасности ИИ глобальным общественным благом. Этот мандат гарантировал независимость Консультативного совета экспертов от политического и коммерческого влияния, что позволило более чем 100 участникам представить беспристрастный взгляд на текущее состояние технологий безопасности ИИ и связанные с ними опасности.

Методология отчета опиралась на междисциплинарный подход, объединяющий компьютерные науки, этику, биологию и политологию. Этот целостный взгляд был необходим для понимания того, как ИИ общего назначения взаимодействует со сложными социальными и техническими системами. Участие ООН и ОЭСР гарантировало применимость выводов в различных регуляторных средах: от высокоразвитых рынков ЕС до быстрорастущих технологических секторов Глобального Юга.

Глобальные последствия для политики и будущее управления ИИ

Ожидается, что выводы Международного отчета по безопасности ИИ 2026 спровоцируют новую волну регуляторной активности в рамках ОЭСР и ЕС. Устанавливая четкую научную связь между возможностями моделей и биологическим злоупотреблением, отчет дает регуляторам доказательства, необходимые для требования более жестких испытаний и протоколов «аварийного отключения» для систем, превышающих определенные пороги экспертного уровня.

Будущие саммиты по безопасности ИИ будут использовать этот отчет в качестве отправной точки для измерения прогресса. Ключевым выводом для мировых лидеров является необходимость международной прозрачности при обучении моделей. Поскольку ИИ продолжает развиваться в сторону более автономных научных агентов, отчет предполагает, что окно возможностей для установления надежного управления сужается, что делает выводы 2026 года важнейшей дорожной картой для технологического развития на ближайшее десятилетие.