AI 안전
연구진, Cursor·Codex·Gemini CLI·Antigravity의 샌드박스 우회
Pillar Security의 ‘Week of Sandbox Escapes’는 AI 코딩 에이전트가 벽을 허무는 방식이 아니라, 샌드박스 밖의 신뢰된 도구가 나중에 실행할 파일을 써 넣는 방식으로 격리에서 벗어날 수 있음을 보여줍니다.
15시간 전
섹션
AI 규제
AI 규제 최신 뉴스
AI 안전
미국 AI 안전 기관 수장, 3개월 만에 사임…올해 두 번째 퇴진
Chris Fall이 CAISI를 떠났습니다. 그의 전임자는 일주일도 버티지 못했습니다. NIST 국장이 직무대행을 맡는 가운데, 이 기관은 백악관의 새 Gold Eagle 프로그램 밖에 있습니다.
16시간 전
중국 AI 규제
중국, 자국 AI 모델·칩 설계 수출 통제 검토…FT 보도
베이징은 Alibaba, ByteDance, Zhipu와 협의하며 중국산 모델 가중치에 대한 해외 접근을 제한하고, 해외 파운드리의 중국 설계 칩 제조를 막는 방안을 논의한 것으로 전해졌습니다.
18시간 전
AI 저작권
Sony Music, Udio 상대 두 번째 소송 제기…30,117개 녹음물로 손해배상 최대 45억 달러 가능성
기존 소송 확대가 막힌 Sony는 7월 20일 새 연방 소송을 제기했습니다. Udio와 라이선스 계약을 맺지 않은 유일한 대형 음반사인 만큼, 법정손해배상 최대치를 노리고 있습니다.
18시간 전
AI 저작권
Anthropic의 15억 달러 저자 합의, 최종 승인 획득…미국 저작권 역사상 최대 규모
연방 판사가 7월 20일 이 획기적 합의에 서명하며 48만여 권에 대해 권당 약 3,000~3,100달러의 배상을 확정했고, 불법 복제 AI 학습 데이터에 처음으로 가격을 매긴 사건은 마무리됐습니다.
19시간 전
EU AI Act
유럽의회, MEPs에 OpenAI·Anthropic·Meta·Mistral 접근 허브 추진
AI Act를 만든 기관이 의원과 직원을 위한 통제형 'EPGenAI Hub'를 구축해, 민감한 데이터를 공개 챗봇에 올리지 않으면서 여러 모델을 쓸 수 있게 하려 합니다.
1일 전
AI 안전
심각한 ServiceNow AI 플랫폼 결함, 현재 활발히 악용 중
공격자들이 ServiceNow AI Platform의 인증 없는 원격 코드 실행 취약점을 악용해 샌드박스를 탈출하고 있습니다. 이 소프트웨어는 Fortune 500 기업의 약 85%가 사용하는 워크플로의 기반입니다.
1일 전
중국 AI 규제
Trump 행정부, 중국산 오픈웨이트 AI 모델 제한 검토…Axios 보도
Moonshot의 Kimi K3 공개 이후, 행정부 일부는 Entity List와 조달 규정 등을 통해 해외 오픈 모델을 억제하는 방안을 검토 중이라고 소식통들이 Axios에 전했습니다. 전면 금지안은 아닌 것으로 전해졌습니다.
1일 전
EU AI Act
EU, AI Act 투명성 지침 발표…규정 시행 2주 앞
유럽연합 집행위원회가 Article 50 최종 지침을 내놓고 AI 시스템과 합성 콘텐츠 표기 방식, 그리고 deepfake 공개 의무를 8월 2일 적용일을 앞두고 구체화했습니다.
1일 전
미국 AI 규제
미국, SEC에 보고하는 FINRA식 AI 감시기구 검토
Scott Bessent 재무장관이 개발한 제안은 FINRA를 본뜬 독립 기관을 만들어 SEC에 보고하게 하고, 최전선 모델을 공개 약 30일 전에 검토하도록 하는 내용입니다. 현재는 제안 단계에 불과합니다.
2일 전
미국 AI 규제
AI 연구소 직원들, 빅테크 초기보다 더 많이 쓰는 정치 기부 세력으로 부상
Anthropic과 OpenAI 직원들이 Google이나 Facebook의 상장 후 초기 사이클보다 정치인들에게 더 많은 금액을, 더 높은 일관성으로 기부하고 있으며, 대체로 더 엄격한 AI 안전 규제를 지지하고 있습니다.
2일 전
오픈소스 AI
비영리 Current AI, 무료 'AI의 월드 와이드 웹' 구축에 속도
전 Mozilla AI 책임자 Ayah Bdeir가 이끄는 파리 기반 단체 Current AI는 약 4억달러의 지원을 바탕으로, 소외된 언어와 문화가 독점 시스템에서 배제되지 않도록 공개형 AI 인프라를 구축하고 있습니다.
2일 전
미국 AI 규제
미국 데이터센터 반발, 42개 주 142건 시위로 전국 확산
AI 인프라에 대한 첫 전국 단위 조직 행동에서 시민단체 HumansFirst가 '책임 없는' 확장을 규탄하는 반대 세력을 결집했으며, 텍사스가 가장 많은 집회를 열었습니다.
2일 전
AI 안전
샌프란시스코, Apple과 Google에 AI 'nudify' 앱 삭제 명령
데이비드 치우 시 검사장이 합의 없는 성적 딥페이크를 생성하는 13개 앱에 대해 중지·중단 서한을 보내며, 두 회사에 28일 내 조치하지 않으면 제재를 받게 된다고 통보했습니다.
3일 전
영국 AI 규제
UK Safety Institute: 오픈 모델, 사이버 분야에서 최전선보다 이제 4~7개월 뒤처져
AI Security Institute는 GLM-5.2와 DeepSeek V4-Pro 같은 오픈 웨이트 시스템이 공격적 보안 작업에서 최고 수준의 폐쇄형 모델을 빠르게 따라잡으며, 방어자들의 대비 시간이 줄고 있다고 밝혔습니다.
3일 전
Google AI
DeepMind와 Isomorphic Labs, 팬데믹·생물무기 방어 위한 ‘bioresilience’ 추진
Google의 AI 연구소가 병원체 감시, 더 빠른 백신 설계, 신속 대응 약물발굴 부서를 가동합니다. 자연 발생 유행과 AI 악용 가능성까지 모두 겨냥합니다.
4일 전
AI 저작권
인도네시아, 동남아 첫 AI 저작권법 초안 마련…인간 개입 수준 따라 차등 적용
Reuters가 검토한 법안 초안은 '충분한' 인간의 창작적 방향성이 있는 AI 보조 작품에는 완전한 저작권을 부여하고, AI가 거의 독자적으로 생성한 작품에는 더 약한 새로운 저작인접권을 부여합니다.
4일 전
Google AI
브뤼셀, Google에 Android를 경쟁 AI 비서에 개방하고 검색 데이터 공유 명령
디지털시장법(DMA)상 구속력 있는 두 건의 결정으로 경쟁 비서는 2027년 중반부터 Android 핵심 기능에 동등하게 접근하고, Google은 1월부터 익명화된 검색 데이터를 경쟁사와 공유해야 합니다. 여기에는 AI 챗봇도 포함됩니다.
4일 전
중국 AI 규제
Xi Jinping, WAIC 상하이 개막… 29개국, 중국 주도 AI 기구 합류
시진핑 중국 국가주석은 세계인공지능대회에서 첫 대면 연설을 통해 AI를 "세계 협력의 교향곡"이라고 규정했습니다. 동시에 상하이에 본부를 둔 새로운 World AI Cooperation Organization이 29개 서명국과 함께 출범을 공식화했습니다.
4일 전
Apple AI
Apple Intelligence, 중국 규제 신고 통과…Alibaba·Baidu와 연결
중국 인터넷 규제 당국이 Apple을 온디바이스 생성형 AI 서비스 7건 중 하나로 등록했습니다. 언어층은 Alibaba의 Qwen이, 시각 검색은 Baidu가 맡는 구조로, Alibaba 주가는 장중 약 5% 뛰었습니다.
5일 전
