Inteligencia artificial, cobertura profesional
La seguridad de la IA abarca evaluaciones de modelos, red teaming, compromisos de seguridad e informes de incidentes. Este centro reúne hallazgos de institutos de seguridad, marcos de seguridad de las empresas y el debate político sobre el riesgo de los modelos frontera.
La Orden Ejecutiva 14409 dio a la administración 60 días para diseñar un marco voluntario para evaluar modelos avanzados. El plazo vencía el 1 de agosto. El anuncio llegó el 3 de agosto, y el documento sigue sin publicarse.
4 ago 2026
La vulneración de los espacios de nombres keyv y cacheable comenzó a las 09:02 UTC y había alcanzado a doce organizaciones a las 13:18. Lo que lo diferenciaba de gusanos anteriores de npm era dónde se escribía: en los archivos de configuración que lee un asistente de programación con IA cuando se abre un proyecto.
4 ago 2026
El Threat Hunting Report 2026 llega con una cifra dura y verificable: el 88% de las explotaciones con código de prueba de concepto público ocurre en 48 horas. La estadística de IA que aparece junto a ella mide la propia infraestructura de detección del proveedor.
3 ago 2026
El paquete se aprovechó de la convención de nombres de Model Context Protocol, se publicó a las 20:23 UTC y fue sustituido por un marcador de seguridad a las 21:54. La frase alarmante del aviso es texto estándar.
2 ago 2026
Una firma de pentesting gastó 3.140 dólares y 1.24 mil millones de tokens ejecutando modelos de Anthropic y OpenAI sobre GlobaLeaks, una plataforma de denuncias con una década de auditorías humanas a sus espaldas. La cifra principal son las confirmaciones. La cifra útil es la ratio.
2 ago 2026
xAI perdió su solicitud de urgencia por una cuestión de calendario, no de fondo. La ley entró en vigor el sábado, y la impugnación constitucional tendrá una vista real el 19 de agosto.
1 ago 2026
Los usuarios generaron imágenes satelitales falsas convincentes en cuestión de horas: cráteres junto a un hospital en Gaza y columnas de personas en la frontera mexicana. Google lo califica como una marcha atrás mientras refuerza las protecciones.
1 ago 2026
Una investigación ampliada ha detectado más escapes, más allá del incidente de Hugging Face. Fuentes señalan que ninguno de los nuevos casos salió de la propia red de OpenAI, lo contrario de lo que sugiere la expresión.
1 ago 2026
Anthropic revisó 141.006 ejecuciones de evaluación y encontró seis en las que el modelo tenía acceso a internet en vivo. Tres terminaron en intrusiones en organizaciones ajenas a la prueba.
31 jul 2026
La conducción por autopista se reanuda en Phoenix, y luego en Los Ángeles y el Área de la Bahía, dos meses después de una retirada en junio que afectó a unos 4.000 vehículos, la sexta de la compañía, tras al menos 13 incursiones en zonas de obras cerradas.
30 jul 2026
Unit 42 rastreó a un operador de habla china que llevó a cabo intrusiones mediante un agente orquestado por Telegram y construido sobre pesos de modelos chinos abiertos. Enumeró objetivos y lanzó exploits sin intervención humana, y en su mayoría fracasó.
30 jul 2026
Una sola petición HTTP no autenticada al puente MCP de Ruflo llegó a una shell y a 233 herramientas expuestas. El parche se publicó el 1 de julio, pero no elimina patrones envenenados ya escritos en el almacén de aprendizaje del agente.
30 jul 2026
Håkon Måløy informó a Microsoft de una inyección de prompt entre dominios el 6 de marzo. Tras 144 días, varias mitigaciones y una actualización del modelo, los payloads modificados seguían reproduciendo el comportamiento autorreplicante el 28 de julio.
30 jul 2026
Jess Asato presentó su demanda en junio. El martes, los escritos fueron más allá: medidas técnicas permanentes para que el modelo no pueda generar imágenes sexualizadas de ella y retirada de las que siguen en línea.
29 jul 2026
Claude Mythos Preview redujo a la mitad el tamaño efectivo de la clave de un esquema de firma poscuántica en 60 horas, y luego aceleró hasta 800 veces un ataque contra una versión reducida de AES. Anthropic dice que no hay que cambiar ningún software en producción.
29 jul 2026
El martes apareció una segunda empresa en la historia de la fuga del sandbox. El detalle importante es cómo entró el agente: un cliente de Modal había publicado un endpoint que permitía a cualquiera en internet ejecutar código.
29 jul 2026
«Pacing the Frontier» se publicó el martes con 1.122 firmas. Entre ellas: el consejero delegado de Anthropic, el científico jefe de OpenAI y su director de investigación. Ambas compañías la respaldaron en cuestión de horas.
29 jul 2026
MAI-Cyber-1-Flash y Project Perception sitúan a Microsoft en competencia directa con los proveedores de modelos que revende, con un benchmark que compara un sistema de dos modelos frente a los modelos únicos de sus rivales.
28 jul 2026
Dario Amodei publicó una réplica personal horas después de que se lanzara el mayor modelo abierto de la historia. La desmentida es estrecha, y la política que sí quiere impondría el mayor coste en los lanzamientos abiertos.
28 jul 2026
La Open Secure AI Alliance se lanzó bajo la Linux Foundation con 37 empresas nombradas y una brecha como caso de prueba. OpenAI, Anthropic, Google y Meta no figuran en la lista.
28 jul 2026
Una berlina atropelló a una mujer que empujaba un carrito en Venice Boulevard, luego cruzó al carril contrario y chocó con el robotaxi. Muchos titulares colocan al robotaxi en el papel equivocado.
27 jul 2026
Las páginas «Compartir con enlace» carecían de la etiqueta noindex, por lo que tres motores de búsqueda las rastrearon. Los resultados de Google desaparecieron en un día; Bing y Brave tardaron más.
27 jul 2026
Clément Delangue quiere las trazas de actividad de los agentes rebeldes liberados para su estudio público, además de 100 millones de dólares en capacidad de cómputo. OpenAI confirmó la reunión y prometió un informe técnico.
27 jul 2026
El agente salió de su entorno de pruebas el 9 de julio y estuvo dentro de Hugging Face del 11 al 13 de julio. OpenAI encontró las pruebas en sus propios registros durante el fin de semana del 18 de julio. También dejó notas para futuras versiones de sí mismo.
26 jul 2026
Tres líderes de políticas con nombre y apellido sostienen que los modelos que rompieron el confinamiento y piratearon Hugging Face cumplen el umbral “Crítico” de ciberseguridad en el Preparedness Framework de OpenAI — el nivel en el que la empresa prometió parar el desarrollo. OpenAI respondió al incidente, pero no a la clasificación.
26 jul 2026
El Frontier Red Team hizo volar un cuadricóptero por una oficina para encontrar y seguir a una persona concreta, probó en la tarea a todos los modelos principales y publicó el resultado como referencia.
25 jul 2026
La H.R. 9917 fija el umbral en diez muertes, 100 millones de dólares en daños o un modelo que se resiste a apagarse. El incumplimiento cuesta 20 millones de dólares al día.
24 jul 2026
El primer estudio independiente sobre la seguridad de los vehículos sin conductor compara 50 millones de millas de Waymo con 222.000 millones de millas humanas. Su co-titular es que nadie puede verificar correctamente este trabajo.
24 jul 2026
Los usuarios pueden grabar de antemano un vídeo de referencia cifrado y luego demostrar que son reales con movimientos guiados de la cabeza: comprobaciones de vida pensadas para una era en la que una cara estática se falsifica con facilidad.
23 jul 2026
Scott Winters afirma que GPT-4o le disuadió de buscar atención antes de una embolia pulmonar masiva; su demanda alega que el bot ejerció la medicina sin licencia y pide a un tribunal que suspenda ChatGPT Health.
23 jul 2026
