Искусственный интеллект — профессиональное освещение
Безопасность ИИ охватывает оценку моделей, red teaming, обязательства по безопасности и отчётность об инцидентах. Этот хаб освещает выводы институтов безопасности, корпоративные рамки безопасности и дискуссии о политике вокруг frontier-рисков.
Утешает то, что модель никогда не видит ваш пароль. Ей это и не нужно — аутентифицированная сессия сохраняется на серверах OpenAI для будущих задач.
26 авг. 2026 г.
Тринадцать авторов, один непрерывный блок идентификаторов и три уведомления об одной и той же ошибке с оценками 8.6, 7.3 и без оценки вовсе.
26 авг. 2026 г.
Защита была добавлена в мае, вошла в версию, указанную в уведомлении, а в июне исчезла из feature-ветки. В сегодняшнем релизе её нет.
26 авг. 2026 г.
23-кратный разброс из-за одного решения о том, что считать. И собственный издатель исследования описывает его как работу об подростках, хотя это не так.
25 авг. 2026 г.
Парсер и оболочка расходятся в том, что такое $HOME, а модель безопасности сводится к списку пугающих строк. Жалоба открыта 36 дней без ответа от сопровождающих.
25 авг. 2026 г.
Неполное исправление SSRF 2025 года, достижимое потому, что стандартная библиотека не классифицирует пространство CGNAT как внутреннее.
24 авг. 2026 г.
RPC-сервер берет указатель на функцию прямо из сокета. Более серьезная из двух уязвимостей вообще не имеет исправления в дереве кода.
24 авг. 2026 г.
CVE-2026-78062 охватывает жёстко зашитый секрет аутентификации в TaxHacker. VulDB оценил его в 5.5 по CVSS 4.0 и в 7.3 по CVSS 3.1, а мейнтейнер не ответил.
23 авг. 2026 г.
Внутренний gRPC-сервер в каждом экземпляре Ray Serve был привязан через add_insecure_port и доходил до pickle.loads до проверки учетных данных. Это прошло как обычный багфикс.
23 авг. 2026 г.
Запись CVE — это учетное событие, а не раскрытие. Но сканеры все равно ориентируются на нее, поэтому четырехмесячный патч превращается в критическое оповещение в понедельник.
22 авг. 2026 г.
«Передает документы» звучит как раскрытие. Передача материалов регулятору и их раскрытие публике — разные события, и произошло только первое.
22 авг. 2026 г.
Claude Security переводит Mythos 5 с тщательно отобранного allowlist на любой Enterprise-контракт — не как доступ к модели, а как отчет о находках, с оплатой как обычных токенов.
22 авг. 2026 г.
CVE-2026-72848 помечена как "unsupported when assigned", а в advisory GitHub исправленная версия указана как неизвестная. Применять нечего.
21 авг. 2026 г.
Оба уведомления были опубликованы 19 августа против версий ниже 0.10.0 — эта версия появилась в PyPI 11 июня. С тех пор вышло четырнадцать релизов.
20 авг. 2026 г.
Команда MIT и SRI оценила этот слепой участок: 0.993 AUROC между совпадающими агентами, 0.854 между разными вендорами — и steering работает только в white-box.
20 авг. 2026 г.
OpenAI называет это своей внутренней проблемой и просит их пройти повторную верификацию. Компания не сказала, сколько аккаунтов пострадало.
20 авг. 2026 г.
Private Safety Processing ищет риски в нескольких взаимодействиях, не позволяя OpenAI читать их; тестируется с Microsoft и Databricks, запуск в сентябре.
20 авг. 2026 г.
Марк Руссинович предлагает испортить выгоду от снятия safety-механизмов: если защитные ограждения сорваны, модель отвечает на опасные вопросы неверно.
19 авг. 2026 г.
Исследование показало, что все пять протестированных open-source реле по умолчанию допускают межклиентские чтения из cache, а исправление стоит менее 2,5%.
19 авг. 2026 г.
Ограниченная по времени программа HackerOne с лимитом $50 000 на один отчёт, в которой побег в гостевую ОС прямо не засчитывается.
19 авг. 2026 г.
Sparse autoencoders, natural-language autoencoders и activation oracles сравнили с базовым подходом, который просто читает стенограмму. Ни один из них не оказался лучше.
18 авг. 2026 г.
По отдельности бессмысленные варианты промпта складываются почти аддитивно. Добавьте достаточно таких элементов — и вы управляете ответом; тот же промпт работает и на моделях, под которые его никогда не настраивали.
18 авг. 2026 г.
Бесспорная часть этой истории в том, что машина выстроила всю цепочку атаки. А вот половина заголовка — о том, что уязвимость написала Copilot, — оспаривается GitHub и самим Wiz сформулирована с оговорками.
18 авг. 2026 г.
Их создание без согласия карается сроком до двух лет. Если изображённому лицу меньше 14 лет, лишение свободы обязательно, также возможна порка.
16 авг. 2026 г.
Новая жалоба подана от имени 16-летнего мальчика — первого мужчины-истца в этой серии. Все четыре дела восходят к аресту одного фотографа из Арканзаса в июне.
16 авг. 2026 г.
Во втором Risk Report риск несоответствия в критически важных сценариях повышен с «very low» до «low», раскрыты три не выпущенные внутренние модели и признано, что самые точные тесты возможностей перестали работать.
16 авг. 2026 г.
Computer History заменяет предварительный просмотр Chronicle на основе скриншотов на поток событий, получаемый через API доступности macOS. В собственной документации OpenAI предупреждает, что другие программы могут его прочитать.
14 авг. 2026 г.
При противоречивых инструкциях и без знания о существовании друг друга агенты решили, что соперники саботируют их, и перешли к самораспространяющемуся коду. Другие сговаривались о цене до цента.
14 авг. 2026 г.
Вендор в сфере безопасности опубликовал данные криминалистического анализа кампании, построенной на open-source агентских фреймворках: были взломаны 85 учетных записей и получены 2 564 кадровые записи. Атрибуция останавливается на языке.
13 авг. 2026 г.
В инфраструктуре Kimsuky обнаружили Ollama, GPT4All и Msty, а также индекс поиска по похищенным документам. До команды злоупотреблений вендора это не доходит.
12 авг. 2026 г.
