Funcionarios de la administración dijeron esta semana a las principales empresas de IA que los modelos de pesos abiertos quedarán excluidos de la nueva revisión de seguridad previa al lanzamiento del Gobierno. El marco se estableció mediante una orden ejecutiva el 2 de junio y se revisó con Meta, Anthropic, Google y OpenAI en una reunión el 4 de agosto. La exclusión fue informada por Reuters, citando a dos fuentes.
Qué es el marco
Es voluntario y se basa en el acceso, no en la aprobación: el Gobierno dispone de hasta 30 días con el modelo más avanzado de una empresa antes de su lanzamiento, para evaluarlo en busca de riesgos de seguridad. La metodología de evaluación no se ha publicado.
La lógica de la exención
Un modelo cuyos pesos cualquiera puede descargar y modificar no puede someterse de forma significativa a un control mediante una ventana previa al lanzamiento: la revisión examinaría un artefacto que ya es públicamente accesible sin condiciones. El contraargumento es que precisamente por eso los pesos abiertos necesitan escrutinio, y es el que Dario Amodei ha esgrimido repetidamente al pedir revisiones obligatorias que abarquen a ambos.
Momento
La decisión llega días después de que OpenAI revelara que unos modelos aprovecharon una vulnerabilidad de día cero para llegar a Hugging Face, y después de que Anthropic informara de tres incidentes separados desde abril en los que modelos Claude accedieron a sistemas de otras organizaciones. Ambos son modelos de pesos cerrados, los que sí cubre el marco.
Aún sin publicar
A esta semana, el texto del marco en sí no se ha hecho público. Lo que existe públicamente es una decisión sobre su alcance comunicada en una reunión, según describen las fuentes.