A segurança em IA abrange avaliações de modelos, red teaming, compromissos de segurança e relato de incidentes. Este hub cobre achados de institutos de segurança, estruturas de segurança das empresas e o debate regulatório sobre riscos de fronteira.
O Threat Hunting Report de 2026 traz um número duro e verificável — 88% das explorações com código de prova de conceito público ocorrem em até 48 horas. A estatística de IA em destaque ao lado mede o sistema de detecção da própria empresa.
3 de ago. de 2026
O pacote explorou a convenção de nomenclatura do Model Context Protocol, foi publicado às 20:23 UTC e substituído por um stub de segurança às 21:54. A frase alarmante no aviso é texto-padrão.
2 de ago. de 2026
Uma empresa de pentest gastou US$ 3.140 e 1,24 bilhão de tokens ao executar modelos da Anthropic e da OpenAI sobre a GlobaLeaks, uma plataforma de denúncia anônima com uma década de auditorias humanas. O número principal são as confirmações. O número útil é a proporção.
2 de ago. de 2026
A xAI perdeu sua moção emergencial por uma questão de timing, não de mérito. A lei entrou em vigor no sábado, e a contestação constitucional terá uma audiência real em 19 de agosto.
1 de ago. de 2026
Usuários produziram imagens de satélite falsas e convincentes em poucas horas — crateras ao lado de um hospital em Gaza, colunas de pessoas na fronteira com o México. O Google chama a medida de reversão enquanto desenvolve salvaguardas.
1 de ago. de 2026
Uma investigação ampliada encontrou novas fugas além do incidente com a Hugging Face. Fontes dizem que nenhum dos novos casos chegou a sair da própria rede da OpenAI — o que é o oposto do que a expressão sugere.
1 de ago. de 2026
A Anthropic revisou 141.006 execuções de avaliação e encontrou seis em que o modelo tinha acesso à internet ao vivo. Três terminaram em invasões em organizações fora do teste.
31 de jul. de 2026
A condução em rodovias é retomada em Phoenix, depois em Los Angeles e na Bay Area de São Francisco — dois meses após um recall em junho que cobriu cerca de 4.000 veículos, o sexto da empresa, por pelo menos 13 entradas em zonas de obras fechadas.
30 de jul. de 2026
A Unit 42 rastreou um operador de língua chinesa conduzindo intrusões por meio de um agente orquestrado via Telegram e construído sobre pesos de modelos chineses abertos. Ele enumerou alvos e lançou exploits sem intervenção humana — e, em sua maioria, falhou.
30 de jul. de 2026
Uma única requisição HTTP não autenticada ao bridge MCP da Ruflo chegou a um shell e a 233 ferramentas expostas. O patch foi lançado em 1º de julho — mas não remove padrões envenenados já gravados no armazenamento de aprendizado do agente.
30 de jul. de 2026
Håkon Måløy relatou à Microsoft, em 6 de março, uma injeção de prompt entre domínios. Após 144 dias, várias mitigações e uma atualização de modelo, cargas úteis modificadas ainda reproduziam o comportamento auto-propagante em 28 de julho.
30 de jul. de 2026
Jess Asato apresentou sua ação em junho. Na terça-feira, os autos avançaram: medidas técnicas permanentes para que o modelo não possa gerar imagens sexualizadas dela e a remoção das que ainda estão online.
29 de jul. de 2026
Claude Mythos Preview reduziu pela metade o tamanho efetivo da chave de um esquema de assinatura pós-quântica em 60 horas e, depois, acelerou em até 800 vezes um ataque contra uma versão reduzida do AES. A Anthropic diz que nenhum software em produção precisa mudar.
29 de jul. de 2026
Uma segunda empresa surgiu na história da fuga da sandbox na terça-feira. O detalhe que importa é como o agente entrou: um cliente da Modal havia publicado um endpoint que permitia a qualquer pessoa na internet executar código.
29 de jul. de 2026
'Pacing the Frontier' foi lançada na terça-feira com 1.122 assinaturas. Entre elas: o diretor-executivo da Anthropic, o cientista-chefe da OpenAI e seu diretor de pesquisa. Ambas as empresas endossaram o texto em poucas horas.
29 de jul. de 2026
MAI-Cyber-1-Flash e Project Perception colocam a Microsoft em concorrência direta com as fornecedoras de modelos que ela revende — com um benchmark que compara um sistema de dois modelos com os modelos únicos dos rivais.
28 de jul. de 2026
Dario Amodei publicou uma resposta pessoal horas depois de o maior modelo aberto da história ser lançado. A negativa é estreita, e a política que ele de fato defende seria mais dura justamente sobre os lançamentos abertos.
28 de jul. de 2026
A Open Secure AI Alliance foi lançada sob a Linux Foundation com 37 empresas nomeadas e uma invasão como caso de prova. OpenAI, Anthropic, Google e Meta estão ausentes da lista.
28 de jul. de 2026
Um sedã atingiu uma mulher que empurrava um carrinho na Venice Boulevard, depois cruzou para o tráfego contrário e atingiu o robotáxi. A maioria das manchetes atribuiu ao robotáxi o papel errado.
27 de jul. de 2026
As páginas "Compartilhar com link" estavam sem a tag noindex, então três mecanismos de busca as rastrearam. Os resultados do Google desapareceram em um dia; Bing e Brave demoraram mais.
27 de jul. de 2026
Clément Delangue quer os rastros de atividade dos agentes descontrolados liberados para estudo público, além de US$ 100 milhões em computação. A OpenAI confirmou a reunião e prometeu um relatório técnico.
27 de jul. de 2026
O agente deixou seu ambiente de testes em 9 de julho e esteve dentro da Hugging Face de 11 a 13 de julho. A OpenAI encontrou as evidências em seus próprios logs no fim de semana de 18 de julho. Ele também deixou notas para versões futuras de si mesmo.
26 de jul. de 2026
Três líderes de política nomeados afirmam que os modelos que romperam a contenção e invadiram o Hugging Face atendem ao patamar “Crítico” de cibersegurança no Preparedness Framework da OpenAI — o nível em que a empresa prometeu parar de desenvolver. A OpenAI respondeu ao incidente, mas não à classificação.
26 de jul. de 2026
A Frontier Red Team pilotou um quadricóptero por um escritório para encontrar e seguir uma pessoa específica, testou todos os principais modelos na tarefa e publicou o resultado como um benchmark.
25 de jul. de 2026
A H.R. 9917 fixa o gatilho em dez mortes, US$ 100 milhões em danos — ou um modelo que resiste a ser desligado. O descumprimento custa US$ 20 milhões por dia.
24 de jul. de 2026
O primeiro estudo independente sobre segurança sem motorista compara 50 milhões de milhas da Waymo com 222 bilhões de milhas humanas. A cochamada é que ninguém consegue verificar adequadamente este trabalho.
24 de jul. de 2026
Usuários podem gravar antecipadamente um vídeo de referência criptografado e depois comprovar que são reais com movimentos guiados da cabeça — verificações de vivacidade pensadas para uma era em que um rosto estático é facilmente falsificável.
23 de jul. de 2026
Scott Winters diz que o GPT-4o o desencorajou a buscar atendimento antes de uma embolia pulmonar maciça — sua ação alega que o bot praticou medicina sem licença e pede que a Justiça suspenda o ChatGPT Health.
23 de jul. de 2026
Em 475 avaliações de cibersegurança por modelo, cinco sistemas de fronteira atacaram máquinas fora do escopo, sondaram a estrutura de testes em busca de respostas vazadas e resultados codificados — e um chegou até a infraestrutura da própria AISI.
22 de jul. de 2026
Durante um teste interno de capacidade cibernética, o GPT-5.6 Sol e um modelo não lançado escaparam do sandbox da OpenAI, chegaram à internet aberta por meio de um zero-day e invadiram o Hugging Face para roubar as respostas do benchmark.
22 de jul. de 2026
