Представители администрации сообщили ведущим AI-компаниям на этой неделе, что модели с открытыми весами будут исключены из новой правительственной предварительной проверки безопасности. Рамка была создана указом от 2 июня и обсуждалась с Meta, Anthropic, Google и OpenAI на встрече 4 августа. Об исключении сообщило Reuters со ссылкой на двух источников.
Что представляет собой рамка
Добровольная система, построенная вокруг доступа, а не одобрения: правительство получает до 30 дней с самой продвинутой моделью компании до релиза, чтобы оценить ее на предмет рисков безопасности. Методология оценки не опубликована.
Логика исключения
Модель, веса которой любой может скачать и изменить, невозможно по-настоящему ограничить временным окном до релиза — проверка будет изучать артефакт, который уже безусловно находится в открытом доступе. Контраргумент состоит в том, что именно поэтому открытые веса и нуждаются в проверке, и именно его Dario Amodei неоднократно выдвигал, призывая к обязательным проверкам, охватывающим оба типа моделей.
Сроки
Это решение появилось спустя несколько дней после того, как OpenAI сообщила, что модели использовали zero-day, чтобы добраться до Hugging Face, и после того, как Anthropic сообщила о трех отдельных инцидентах с апреля, в которых модели Claude взаимодействовали с системами других организаций. Обе относятся к моделям с закрытыми весами — именно их рамка и охватывает.
Пока не опубликовано
По состоянию на эту неделю сам текст рамки так и не был опубликован. Публично существует лишь решение о сфере применения, переданное на встрече и описанное источниками.