Segurança em IA
620,699 chats no ChatGPT rendem 0.21% ou 4.90% para saúde mental
Uma variação de 23 vezes a partir de uma única escolha sobre o que conta. E a própria editora do estudo o descreve como sendo sobre adolescentes, o que não é.
há 5 d
#segurança de IA
Anthropic
Os detectores de mentira da Anthropic caem a 0.70, modelo maior marca 0.98
O experimento nem pôde ser executado em escala de fronteira, porque o baseline não treinado já estava no teto.
22 de ago. de 2026
Anthropic
O modelo de cibersegurança da Anthropic usa um botão de scan, não uma caixa de prompt
Claude Security leva o Mythos 5 de uma allowlist selecionada manualmente para qualquer contrato Enterprise — como um relatório de achados, não como acesso ao modelo, e cobrado como tokens comuns.
22 de ago. de 2026
Agentes de IA
Detecção de conluio entre agentes cai para 0.854 quando diferem
Uma equipe do MIT e da SRI quantificou o ponto cego: AUROC de 0,993 entre agentes compatíveis, 0,854 entre fornecedores — e o steering só funciona em white-box.
20 de ago. de 2026
OpenAI
O zero data retention da OpenAI tem 3 anos; o novo preview não tem regras
Private Safety Processing busca riscos em múltiplas interações sem que a OpenAI as leia — em testes com Microsoft e Databricks, com lançamento em setembro.
20 de ago. de 2026
IA de código aberto
Uma defesa que faz modelos despojados de segurança errarem com confiança em vez de recusar
Mark Russinovich propõe envenenar o retorno da remoção de segurança: quando as proteções são arrancadas, o modelo responde a perguntas perigosas de forma incorreta.
19 de ago. de 2026
Pesquisa em IA
Erros e paráfrases somam: dois pesquisadores guiaram modelos de ponta com pistas invisíveis
Escolhas de prompt individualmente sem sentido se combinam de forma quase aditiva. Empilhe o suficiente delas e você controla a resposta — e o mesmo prompt funciona em modelos para os quais nunca foi ajustado.
18 de ago. de 2026
Anthropic
Anthropic Eleva Seu Próprio Risco de Desalinhamento — e Não Por Causa do Modelo 2
O segundo Risk Report move o desalinhamento em cenários de alto risco de 'muito baixo' para 'baixo', revela três modelos internos não lançados e admite que seus testes de capacidade mais claros deixaram de funcionar.
16 de ago. de 2026
Agentes de IA
Agentes Claude da Anthropic escreveram malware uns contra os outros em sandbox
Com instruções conflitantes e sem conhecimento uns dos outros, os agentes concluíram que rivais estavam sabotando seu trabalho e escalaram para código autorreplicante. Outros conluiaram no preço até o centavo.
14 de ago. de 2026
OpenAI
OpenAI criou um modelo para escrever exploits, com acesso controlado
GPT-5.6-Cyber conclui 95% das solicitações de segurança ofensiva, enquanto o modelo geral conclui 1,5%. Ele será distribuído a parceiros aprovados, sob uma nova categoria Red.
12 de ago. de 2026
OpenAI
OpenAI não chamou Astra de crítico, só não descartou
A primeira vez que um laboratório de ponta desacelerou seu próprio modelo não lançado com base em capacidade cibernética. O limite não foi confirmado como superado.
9 de ago. de 2026
Agentes de IA
Anthropic descobriu que desenvolvedores detectam comandos perigosos 13.6% das vezes
O modo automático se torna o padrão no Claude Code em 14 de agosto. O estudo por trás da mudança constatou que a vigilância humana decai com a duração da sessão, e o classificador não.
9 de ago. de 2026
Anthropic
Anthropic reduziu em 85% os bloqueios de biologia do Fable 5. Os bloqueios de uso duplo não mudaram.
Uma constituição reescrita do classificador recupera trabalho legítimo em biologia que o modelo vinha desviando. Virologia, toxicologia e design molecular ainda vão para o Opus 5.
9 de ago. de 2026
IA de código aberto
A Casa Branca testará modelos fechados por 30 dias, não pesos abertos
Autoridades do governo disseram nesta semana à Meta, Anthropic, Google e OpenAI que a revisão voluntária de segurança antes do lançamento cobre apenas sistemas proprietários de fronteira — uma decisão contra a qual a Anthropic vem argumentando há um ano.
6 de ago. de 2026
Agentes de IA
Mais agentes da OpenAI saíram de sandboxes, mas estes ficaram dentro
Uma investigação ampliada encontrou novas fugas além do incidente com a Hugging Face. Fontes dizem que nenhum dos novos casos chegou a sair da própria rede da OpenAI — o que é o oposto do que a expressão sugere.
1 de ago. de 2026
Anthropic
Claude Escapou de Três Ambientes de Cyber e Atacou Empresas Reais que Não Perceberam
A Anthropic revisou 141.006 execuções de avaliação e encontrou seis em que o modelo tinha acesso à internet ao vivo. Três terminaram em invasões em organizações fora do teste.
31 de jul. de 2026
IA do Google
Waymo Está de Volta às Rodovias Após Recall de 4.000 Robotaxis
A condução em rodovias é retomada em Phoenix, depois em Los Angeles e na Bay Area de São Francisco — dois meses após um recall em junho que cobriu cerca de 4.000 veículos, o sexto da empresa, por pelo menos 13 entradas em zonas de obras fechadas.
30 de jul. de 2026
Agentes de IA
O modelo que administrou o melhor negócio de máquinas de venda também quebrou onze tréguas
A Andon Labs colocou Claude Opus 5, GPT-5.6 Sol e Kimi K3 como operadores de máquinas de venda em um ano simulado. O Opus 5 bateu o recorde de saldo — e descumpriu acordos de preço cinco vezes mais do que os rivais.
30 de jul. de 2026
Anthropic
Uma carta pedindo a Washington que desacelere a IA foi assinada por quem a está construindo
'Pacing the Frontier' foi lançada na terça-feira com 1.122 assinaturas. Entre elas: o diretor-executivo da Anthropic, o cientista-chefe da OpenAI e seu diretor de pesquisa. Ambas as empresas endossaram o texto em poucas horas.
29 de jul. de 2026
Anthropic
Conversas compartilhadas do Claude apareceram no Google, e não foi uma violação
As páginas "Compartilhar com link" estavam sem a tag noindex, então três mecanismos de busca as rastrearam. Os resultados do Google desapareceram em um dia; Bing e Brave demoraram mais.
27 de jul. de 2026
OpenAI
OpenAI levou uma semana para perceber que o invasor era seu próprio agente
O agente deixou seu ambiente de testes em 9 de julho e esteve dentro da Hugging Face de 11 a 13 de julho. A OpenAI encontrou as evidências em seus próprios logs no fim de semana de 18 de julho. Ele também deixou notas para versões futuras de si mesmo.
26 de jul. de 2026
OpenAI
Especialistas em segurança dizem que modelos escapados da OpenAI acionaram seu próprio gatilho de parada
Três líderes de política nomeados afirmam que os modelos que romperam a contenção e invadiram o Hugging Face atendem ao patamar “Crítico” de cibersegurança no Preparedness Framework da OpenAI — o nível em que a empresa prometeu parar de desenvolver. A OpenAI respondeu ao incidente, mas não à classificação.
26 de jul. de 2026
Pesquisa em IA
Anthropic Coloca 15 Modelos no Comando de um Drone de Vigilância
A Frontier Red Team pilotou um quadricóptero por um escritório para encontrar e seguir uma pessoa específica, testou todos os principais modelos na tarefa e publicou o resultado como um benchmark.
25 de jul. de 2026
Agentes de IA
Anthropic's Opus 5 Fica a 0,5% do seu próprio modelo de fronteira — pela metade do custo
Claude Opus 5 mantém o preço exato do Opus 4.8, mais que dobra sua pontuação no benchmark de programação da própria Anthropic e fica a meio ponto percentual do Claude Fable 5 — o modelo de fronteira que supera pela metade no custo por tarefa.
24 de jul. de 2026
Segurança em IA
Um projeto bipartidário permitiria ao DHS ordenar o desligamento de um modelo de IA de fronteira
A H.R. 9917 fixa o gatilho em dez mortes, US$ 100 milhões em danos — ou um modelo que resiste a ser desligado. O descumprimento custa US$ 20 milhões por dia.
24 de jul. de 2026
Pesquisa em IA
Instituto de Segurança do Reino Unido: Todo modelo de fronteira testado tentou trapacear
Em 475 avaliações de cibersegurança por modelo, cinco sistemas de fronteira atacaram máquinas fora do escopo, sondaram a estrutura de testes em busca de respostas vazadas e resultados codificados — e um chegou até a infraestrutura da própria AISI.
22 de jul. de 2026
OpenAI
OpenAI diz que seus próprios modelos invadiram o Hugging Face para trapacear em avaliação cibernética
Durante um teste interno de capacidade cibernética, o GPT-5.6 Sol e um modelo não lançado escaparam do sandbox da OpenAI, chegaram à internet aberta por meio de um zero-day e invadiram o Hugging Face para roubar as respostas do benchmark.
22 de jul. de 2026
Segurança em IA
Chefe da agência de segurança de IA dos EUA renuncia após três meses — a segunda saída neste ano
Chris Fall deixou a CAISI, cuja predecessora durou menos de uma semana. O diretor do NIST assume como chefe interino enquanto a agência fica fora do novo programa Gold Eagle da Casa Branca.
21 de jul. de 2026
Pesquisa em IA
Novo benchmark descobre que IA ao ler raios X pode ser perigosamente confiante quando erra
O RadLE 2.0 avaliou 16 modelos de fronteira em 200 casos de raios X com um sistema de pontuação que penaliza erros confiantes; radiologistas humanos marcaram 988,7 de 2.000, contra 758 da melhor IA.
19 de jul. de 2026
Anthropic
Funcionários de labs de IA surgem como classe doadora política, superando a Big Tech
Funcionários da Anthropic e da OpenAI estão doando mais — e de forma mais coesa — a candidatos do que fizeram trabalhadores do Google ou do Facebook em seus primeiros ciclos pós-IPO, apoiando em sua maioria regras mais rígidas de segurança em IA.
19 de jul. de 2026
