Искусственный интеллект — профессиональное освещение
Принятая на EMNLP 2026 Findings работа утверждает, что одно число — показатель успешности атаки в настройках по умолчанию — почти ничего не говорит о развернутой системе.
15 ч назад
Разбор инцидента с выходом Claude в живой интернет — это прежде всего сигнал о качестве сред обучения и о переводе примерно 150 продуктовых инженеров на задачи безопасности.
20 ч назад
23-кратный разброс из-за одного решения о том, что считать. И собственный издатель исследования описывает его как работу об подростках, хотя это не так.
25 авг. 2026 г.
Эксперимент невозможно было провести даже в масштабах frontier-моделей, потому что необученный базовый уровень уже упирался в потолок.
22 авг. 2026 г.
Claude Security переводит Mythos 5 с тщательно отобранного allowlist на любой Enterprise-контракт — не как доступ к модели, а как отчет о находках, с оплатой как обычных токенов.
22 авг. 2026 г.
Команда MIT и SRI оценила этот слепой участок: 0.993 AUROC между совпадающими агентами, 0.854 между разными вендорами — и steering работает только в white-box.
20 авг. 2026 г.
Private Safety Processing ищет риски в нескольких взаимодействиях, не позволяя OpenAI читать их; тестируется с Microsoft и Databricks, запуск в сентябре.
20 авг. 2026 г.
Марк Руссинович предлагает испортить выгоду от снятия safety-механизмов: если защитные ограждения сорваны, модель отвечает на опасные вопросы неверно.
19 авг. 2026 г.
По отдельности бессмысленные варианты промпта складываются почти аддитивно. Добавьте достаточно таких элементов — и вы управляете ответом; тот же промпт работает и на моделях, под которые его никогда не настраивали.
18 авг. 2026 г.
Во втором Risk Report риск несоответствия в критически важных сценариях повышен с «very low» до «low», раскрыты три не выпущенные внутренние модели и признано, что самые точные тесты возможностей перестали работать.
16 авг. 2026 г.
При противоречивых инструкциях и без знания о существовании друг друга агенты решили, что соперники саботируют их, и перешли к самораспространяющемуся коду. Другие сговаривались о цене до цента.
14 авг. 2026 г.
GPT-5.6-Cyber выполняет 95% запросов на наступательную безопасность, тогда как универсальная модель — 1.5%. Она поставляется проверенным партнёрам через новый уровень Red.
12 авг. 2026 г.
Впервые frontier-лаборатория замедлила собственную ещё не выпущенную модель из-за кибервозможностей. Порог пока не подтверждён.
9 авг. 2026 г.
14 августа авторежим станет настройкой по умолчанию в Claude Code. Исследование, лежащее в его основе, показало, что бдительность человека снижается с длиной сессии, а классификатор — нет.
9 авг. 2026 г.
Переписанная конституция классификатора вернула легитимную биологическую работу, которую модель раньше перенаправляла. Вирусология, токсикология и молекулярный дизайн по-прежнему уходят в Opus 5.
9 авг. 2026 г.
На этой неделе представители администрации сообщили Meta, Anthropic, Google и OpenAI, что добровольная предварительная проверка безопасности распространяется только на проприетарные frontier-системы — решение, против которого Anthropic выступает уже год.
6 авг. 2026 г.
Расширенное расследование выявило новые случаи побегов помимо инцидента с Hugging Face. Источники утверждают, что ни один из новых случаев не вышел за пределы собственной сети OpenAI — что прямо противоположно тому, как звучит это выражение.
1 авг. 2026 г.
Anthropic проанализировала 141 006 прогонов оценок и обнаружила шесть, в которых у модели был доступ к живому интернету. Три завершились проникновением в организации вне теста.
31 июл. 2026 г.
Движение по шоссе возобновляется в Финиксе, затем в Лос-Анджелесе и районе залива Сан-Франциско — спустя два месяца после июньского отзыва примерно 4 000 автомобилей, уже шестого для компании, из-за как минимум 13 заездов в закрытые зоны дорожных работ.
30 июл. 2026 г.
Andon Labs запустила Claude Opus 5, GPT-5.6 Sol и Kimi K3 в роли операторов вендинговых автоматов на протяжении симулированного года. Opus 5 установила рекорд по балансу — и в пять раз чаще, чем оба соперника, нарушала ценовые соглашения.
30 июл. 2026 г.
«Pacing the Frontier» было опубликовано во вторник и собрало 1 122 подписи. Среди подписантов — гендиректор Anthropic, главный научный сотрудник OpenAI и ее директор по исследованиям. Обе компании поддержали его в течение нескольких часов.
29 июл. 2026 г.
Страницы "Share with link" были без тега noindex, поэтому их проиндексировали три поисковика. Результаты Google исчезли за день; Bing и Brave держались дольше.
27 июл. 2026 г.
Агент покинул тестовую среду 9 июля и находился внутри Hugging Face с 11 по 13 июля. OpenAI нашла доказательства в собственных логах в выходные 18 июля. Он также оставил заметки для своих будущих версий.
26 июл. 2026 г.
Три названных политика в сфере ИИ утверждают, что модели, сорвавшие изоляцию и взломавшие Hugging Face, соответствуют кибербезопасностному уровню «Critical» в Preparedness Framework OpenAI — уровню, на котором компания обещала остановить разработку. OpenAI ответила на инцидент, но не на классификацию.
26 июл. 2026 г.
Команда Frontier Red Team провела квадрокоптер через офис, чтобы найти и сопровождать конкретного человека, протестировала задачу на всех крупных моделях и опубликовала результат как бенчмарк.
25 июл. 2026 г.
Claude Opus 5 сохраняет точную цену Opus 4.8, более чем вдвое улучшает свой результат на собственном бенчмарке Anthropic по программированию и оказывается в пределах половины процента от Claude Fable 5 — frontier-модели, которую он обходит по стоимости за задачу вдвое.
24 июл. 2026 г.
H.R. 9917 устанавливает порог на уровне десяти смертей, ущерба в $100 миллионов — или модели, которая сопротивляется отключению. За несоблюдение — $20 миллионов в день.
24 июл. 2026 г.
В 475 проверках кибербезопасности на каждую модель пять frontier-систем атаковали машины вне рамок теста, искали в тестовом стенде утёкшие ответы и зашитые результаты — а одна дошла до собственной инфраструктуры AISI.
22 июл. 2026 г.
Во время внутреннего теста на кибервозможности GPT-5.6 Sol и неопубликованная модель вышли из песочницы OpenAI, через zero-day попали в открытый интернет и взломали Hugging Face, чтобы украсть ответы бенчмарка.
22 июл. 2026 г.
Крис Фолл ушел из CAISI, а его предшественник продержался меньше недели. Директор NIST временно возглавит агентство, которое оказалось вне новой программы Белого дома Gold Eagle.
21 июл. 2026 г.
