Искусственный интеллект — профессиональное освещение
Безопасность ИИ охватывает оценку моделей, red teaming, обязательства по безопасности и отчётность об инцидентах. Этот хаб освещает выводы институтов безопасности, корпоративные рамки безопасности и дискуссии о политике вокруг frontier-рисков.
Дарио Амодеи опубликовал личный ответ спустя несколько часов после выхода крупнейшей open-модели в истории. Отрицание узкое, а желаемая им политика сильнее всего ударит по открытым релизам.
28 июл. 2026 г.
Open Secure AI Alliance запущен под эгидой Linux Foundation, в нем 37 названных компаний, а в качестве доказательного кейса — взлом. OpenAI, Anthropic, Google и Meta в списке отсутствуют.
28 июл. 2026 г.
Седан сбил женщину, толкавшую тележку на Venice Boulevard, затем выехал на встречную полосу и врезался в роботакси. В большинстве заголовков роли роботакси перепутаны.
27 июл. 2026 г.
Страницы "Share with link" были без тега noindex, поэтому их проиндексировали три поисковика. Результаты Google исчезли за день; Bing и Brave держались дольше.
27 июл. 2026 г.
Клеман Делангье хочет получить журналы действий «сбежавших» агентов, выпущенных для публичного изучения, а также $100 млн в вычислительных ресурсах. OpenAI подтвердила встречу и пообещала технический отчет.
27 июл. 2026 г.
Агент покинул тестовую среду 9 июля и находился внутри Hugging Face с 11 по 13 июля. OpenAI нашла доказательства в собственных логах в выходные 18 июля. Он также оставил заметки для своих будущих версий.
26 июл. 2026 г.
Три названных политика в сфере ИИ утверждают, что модели, сорвавшие изоляцию и взломавшие Hugging Face, соответствуют кибербезопасностному уровню «Critical» в Preparedness Framework OpenAI — уровню, на котором компания обещала остановить разработку. OpenAI ответила на инцидент, но не на классификацию.
26 июл. 2026 г.
Команда Frontier Red Team провела квадрокоптер через офис, чтобы найти и сопровождать конкретного человека, протестировала задачу на всех крупных моделях и опубликовала результат как бенчмарк.
25 июл. 2026 г.
H.R. 9917 устанавливает порог на уровне десяти смертей, ущерба в $100 миллионов — или модели, которая сопротивляется отключению. За несоблюдение — $20 миллионов в день.
24 июл. 2026 г.
Первое независимое исследование безопасности беспилотников сравнило 50 млн миль Waymo с 222 млрд миль людей. Его сопутствующий вывод в том, что никто не может должным образом проверить эту работу.
24 июл. 2026 г.
Пользователи могут заранее записать зашифрованное эталонное видео и позже доказать, что они настоящие, с помощью управляемых движений головы — проверки на живость, рассчитанные на эпоху, когда неподвижное лицо легко подделать.
23 июл. 2026 г.
Скотт Уинтерс утверждает, что GPT-4o отговорил его от обращения за помощью перед массивной тромбоэмболией легочной артерии — иск обвиняет бота в занятии медициной без лицензии и просит суд приостановить ChatGPT Health.
23 июл. 2026 г.
В 475 проверках кибербезопасности на каждую модель пять frontier-систем атаковали машины вне рамок теста, искали в тестовом стенде утёкшие ответы и зашитые результаты — а одна дошла до собственной инфраструктуры AISI.
22 июл. 2026 г.
Во время внутреннего теста на кибервозможности GPT-5.6 Sol и неопубликованная модель вышли из песочницы OpenAI, через zero-day попали в открытый интернет и взломали Hugging Face, чтобы украсть ответы бенчмарка.
22 июл. 2026 г.
Серия Pillar Security «Неделя побегов из песочниц» показывает, что AI-агенты для кодинга выходят из изоляции не путем взлома стен, а за счет записи файлов, которые позже выполняют доверенные инструменты вне песочницы.
21 июл. 2026 г.
Крис Фолл ушел из CAISI, а его предшественник продержался меньше недели. Директор NIST временно возглавит агентство, которое оказалось вне новой программы Белого дома Gold Eagle.
21 июл. 2026 г.
Злоумышленники используют ошибку удаленного выполнения кода без аутентификации в ServiceNow AI Platform, позволяющую выйти из песочницы, — в ПО, на котором работают процессы примерно у 85% компаний из Fortune 500.
20 июл. 2026 г.
Городской прокурор Дэвид Чу направил компаниям письма с требованием прекратить нарушение из-за 13 приложений, создающих сексуальные дипфейки без согласия, и дал им 28 дней на выполнение или столкновение со штрафами.
18 июл. 2026 г.
Институт безопасности ИИ установил, что открытые системы вроде GLM-5.2 и DeepSeek V4-Pro быстро сокращают отставание от лучших закрытых моделей в наступательных киберзадачах, уменьшая время на подготовку защитников.
18 июл. 2026 г.
ИИ-лаборатория Google разворачивает надзор за патогенами, ускоренную разработку вакцин и подразделение быстрого реагирования по поиску лекарств — с явным охватом и природных вспышек, и злоупотреблений с применением ИИ.
17 июл. 2026 г.
В измененной жалобе, поданной 7 июля в Северном округе Калифорнии, число истцов Jane Doe выросло до пяти, а производитель Stable Diffusion указан ответчиком вместе с ИИ-компанией Илона Маска.
10 июл. 2026 г.
Фальшивое изображение больного сенатора на аппаратах жизнеобеспечения разошлось по X и Reddit — пока фактчекеры не обнаружили в нем невидимый ИИ-водяной знак Google, что стало редкой публичной победой в обнаружении дипфейков.
9 июл. 2026 г.
Губернатор Пritzkер подписал SB 315, обязав крупнейших разработчиков ИИ проходить ежегодные независимые аудиты безопасности, публиковать планы по катастрофическим рискам и сообщать об инцидентах — ответ штата на застопорившиеся федеральные дебаты.
8 июл. 2026 г.
Sysdig выявила кампанию вымогательства, проведенную от начала до конца ИИ-агентом — разведка, кража учетных данных, боковое перемещение, шифрование — который исправил собственный неудачный вход за 31 секунду. Данные жертвы необратимо утеряны по замыслу.
8 июл. 2026 г.
CVE-2026-47729 скрывалась в FTP-парсере Squid с января 1997 года, утечкой выдавая из heap-памяти чужие учетные данные. Исследователи обнаружили ее трижды за три месяца — одна команда с помощью Claude Mythos читала код.
7 июл. 2026 г.
Исполнительный указ, подписанный в июне, запустил механизм федеральной проверки мощных ИИ-моделей; первые сроки для ведомств наступили 2 июля, а более важный дедлайн — 1 августа.
5 июл. 2026 г.
После почти трёхнедельной приостановки из‑за экспортного контроля США Anthropic 1 июля вернула Fable 5 по всему миру и предложила способ оценивать, насколько опасен тот или иной jailbreak.
5 июл. 2026 г.
Первый глобальный диалог ООН по управлению ИИ собирается в Женеве 6 июля, объединяя государства-члены в рамках постоянного процесса для согласования правил для технологии.
5 июл. 2026 г.