Google DeepMind и его «сосед» по разработке лекарств Isomorphic Labs 16 июля объявили о совместной программе bioresilience — инициативе, призванной превратить модели, принесшие DeepMind Нобелевскую премию, в постоянную инфраструктуру для защиты от пандемий, как впервые сообщил Axios и как следует из публикации в блоге компании.

Три направления работы

Программа охватывает надзор за патогенами, ускоренную разработку вакцин и терапевтических препаратов и реагирование на вспышки. Она формализует работу, которую, по словам DeepMind, компания вела тихо: более 15 партнерств с правительствами и организациями по биобезопасности, выстроенных за последний год и теперь объединенных под одной программой.

Подразделение Isomorphic для быстрого реагирования

Самое конкретное новое обязательство исходит от Isomorphic Labs, которое создало специализированное подразделение быстрого реагирования для применения своей системы разработки лекарств, основанной на AlphaFold, в создании медицинских контрмер. Особенно примечателен открыто обозначенный масштаб задачи: мандат подразделения распространяется как на природные пандемии, так и на сценарии злоупотребления ИИ — это признание того, что те же инструменты генеративной биологии, которые создает DeepMind, в чужих руках могут породить именно те чрезвычайные ситуации, на которые теперь предлагается отвечать.

Осторожная открытость

Параллельно с программой DeepMind расширяет ограниченный доступ к моделям для проверенных исследователей и государственных органов в рамках своей Frontier Safety Framework — многоуровневого режима, регулирующего самые мощные биологические модели компании. Эта схема по сути представляет собой ставку на то, что контролируемый обмен с легитимными участниками, а не полное сокрытие, — наиболее обоснованный компромиссный путь.

Тайминг

Объявление прозвучало спустя несколько дней после того, как гендиректор Demis Hassabis публично призвал создать орган по стандартизации для frontier AI, и в ту же неделю индекс безопасности Future of Life Institute поставил всем frontier-лабораториям, включая DeepMind, оценку C — посредственные баллы по готовности к катастрофическим рискам. Это происходит и на фоне того, что биобезопасность стала самым весомым единичным аргументом в споре о безопасности ИИ: это та возможность, к которой, по признанию каждой лаборатории, их модели уже приближаются, и та, к застигнутой врасплох готовой быть не хочет никто.