AI 안전
Anthropic 연구진, 해석 가능성 도구 시험했지만 전혀 향상 없음 확인
희소 오토인코더, 자연어 오토인코더, 활성화 오라클을 대화록만 읽는 기준선과 비교했지만, 어느 것도 이를 뛰어넘지 못했다.
2시간 전
#interpretability
AI 안전
오타와 패러프레이즈가 쌓인다: 두 연구자가 보이지 않는 단서로 최첨단 모델을 조종하다
개별적으로는 무의미한 프롬프트 선택이 거의 가산적으로 결합합니다. 충분히 쌓이면 응답을 통제할 수 있고, 같은 프롬프트는 원래 맞춰지지 않았던 모델에서도 작동합니다.
2시간 전
