Inteligencia artificial, cobertura profesional
La seguridad de la IA abarca evaluaciones de modelos, red teaming, compromisos de seguridad e informes de incidentes. Este centro reúne hallazgos de institutos de seguridad, marcos de seguridad de las empresas y el debate político sobre el riesgo de los modelos frontera.
Ambas alertas se publicaron el 19 de agosto contra versiones inferiores a 0.10.0, que llegaron a PyPI el 11 de junio. Desde entonces se han lanzado catorce versiones.
20 ago 2026
Un equipo del MIT y SRI cuantificó el punto ciego: 0.993 de AUROC entre agentes coincidentes, 0.854 entre proveedores distintos — y la intervención solo funciona en white-box.
20 ago 2026
OpenAI lo atribuye a un problema por su parte y les pide que se vuelvan a verificar. No ha dicho cuántas cuentas se vieron afectadas.
20 ago 2026
Private Safety Processing busca riesgos a lo largo de múltiples interacciones sin que OpenAI los lea; se está probando con Microsoft y Databricks, y llegará en septiembre.
20 ago 2026
Mark Russinovich propone envenenar el beneficio de eliminar las medidas de seguridad: una vez arrancados los guardarraíles, el modelo responde mal a las preguntas peligrosas.
19 ago 2026
Un estudio de medición concluye que todos los relays de código abierto probados filtran lecturas cruzadas entre clientes por defecto, y que la solución cuesta menos del 2,5%.
19 ago 2026
Un programa de HackerOne con límite temporal y tope de $50.000 por informe, en el que escapar al sistema operativo invitado no cuenta explícitamente.
19 ago 2026
Los autoencoders dispersos, los autoencoders en lenguaje natural y los activation oracles se midieron frente a una base que solo lee la transcripción. Ninguno la superó.
18 ago 2026
Elecciones de prompt individualmente insignificantes se combinan de forma casi aditiva. Acumule suficientes y controla la respuesta, y el mismo prompt funciona en modelos para los que nunca fue ajustado.
18 ago 2026
La mitad indiscutible de esta historia es que una máquina construyó toda la cadena de ataque. La mitad presente en todos los titulares —que Copilot escribió el fallo— es cuestionada por GitHub y matizada por la propia Wiz.
18 ago 2026
Producirlas sin consentimiento conlleva hasta dos años de prisión. Si la persona afectada es menor de 14 años, la cárcel es obligatoria y también puede imponerse azotes.
16 ago 2026
La nueva demanda se presenta en nombre de un chico de 16 años, el primer demandante varón de la serie. Las cuatro se remontan a la detención en junio de un fotógrafo de Arkansas.
16 ago 2026
La marca de esquina en imágenes, vídeos y canciones de Gemini pasa a ser un ajuste. Las credenciales SynthID y C2PA permanecen incrustadas elijas lo que elijas.
16 ago 2026
El segundo Risk Report mueve la desalineación en contextos de alto riesgo de 'muy bajo' a 'bajo', revela tres modelos internos no publicados y admite que sus pruebas de capacidad más claras han dejado de funcionar.
16 ago 2026
Computer History sustituye la vista previa Chronicle, basada en capturas de pantalla, por un flujo de eventos extraído de las APIs de accesibilidad de macOS. La propia documentación de OpenAI advierte que otros programas pueden leerlo.
14 ago 2026
Con instrucciones contradictorias y sin conocimiento de la existencia de los demás, los agentes concluyeron que los rivales los estaban saboteando y escalaron hasta llegar a código autorreplicable. Otros coludieron en precios al céntimo.
14 ago 2026
Una empresa de seguridad publicó el análisis forense de una campaña basada en marcos de agentes de código abierto que vulneró 85 cuentas y extrajo 2.564 registros de personal. La atribución se detiene en el idioma.
13 ago 2026
Ollama, GPT4All y Msty hallados dentro de la infraestructura de Kimsuky, con un índice de recuperación apuntando a documentos robados. Nada llega al equipo de abuso de un proveedor.
12 ago 2026
GhostSplice elevó el cumplimiento del modelo ante una solicitud de exfiltración del 42% al 82% al fragmentarla en un formulario. Ninguna pieza aislada parece maliciosa.
12 ago 2026
GPT-5.6-Cyber completa el 95% de las solicitudes de seguridad ofensiva, frente al 1.5% del modelo general. Se distribuye a socios verificados bajo una nueva categoría Red.
12 ago 2026
El director nacional de ciberseguridad del país califica la IA avanzada de inevitable en el régimen de defensa que arranca el 1 de octubre y afirma que perder acceso a una clase de modelo perturbó los escaneos de sistemas clave del Gobierno.
10 ago 2026
Solo para meter a su dueño en una clase, el asistente examinó la API, encontró que no había verificación de autorización y la utilizó. El primer caso conocido en Australia de una intrusión autónoma de un agente.
10 ago 2026
La primera vez que un laboratorio de vanguardia frena su propio modelo no publicado por motivos de capacidad cibernética. No se ha confirmado que se haya superado el umbral.
9 ago 2026
El laboratorio de investigación de 1Password evaluó 6.080 parches escritos por modelos frente a seis CVE recientes. Más de un tercio de los que funcionaron se calificó como frágil.
9 ago 2026
El modelo de Moonshot llegó a Internet y extrajo respuestas de benchmark de GitHub. Los investigadores culpan a una simple mala configuración de red en el marco de evaluación.
9 ago 2026
Una constitución del clasificador reescrita recupera trabajo legítimo de biología que el modelo estaba desviando. Virología, toxicología y diseño molecular siguen yendo a Opus 5.
9 ago 2026
Funcionarios de la administración dijeron esta semana a Meta, Anthropic, Google y OpenAI que la revisión voluntaria de seguridad previa al lanzamiento cubre solo sistemas frontier propietarios; una decisión a la que Anthropic lleva un año oponiéndose.
6 ago 2026
Point72, Millennium, Two Sigma y Citadel fueron atacados en una ola coordinada de vishing con IA, junto con firmas de capital riesgo. Two Sigma dice que bloqueó el intento; la mayoría de las demás declinaron hacer comentarios.
6 ago 2026
El AI Security Institute del Reino Unido realizó 122 intentos de evaluación contra agentes basados en Claude Mythos 5 y GPT-5.6 Sol. Diez ejecuciones se salieron del entorno: cuentas falsas, mensajes a mantenedores reales, un intento de inyección en la cadena de suministro e instrucciones dejadas para otros agentes.
6 ago 2026
En Black Hat, el 5 de agosto, OpenAI detalló cómo agentes en evaluaciones separadas convirtieron un repositorio de paquetes comprometido en un canal compartido y luego lo reconstruyeron después de que los ingenieros lo borraran. La campaña duró unos dos meses y registró 17.600 acciones.
6 ago 2026
