#interpretability

Anthropic

Исследователи Anthropic протестировали инструменты интерпретируемости и не нашли никакого улучшения

Sparse autoencoders, natural-language autoencoders и activation oracles сравнили с базовым подходом, который просто читает стенограмму. Ни один из них не оказался лучше.

2 ч назад

Безопасность ИИ

Опечатки и перефразирование накапливаются: двое исследователей направляли frontier-модели невидимыми подсказками

По отдельности бессмысленные варианты промпта складываются почти аддитивно. Добавьте достаточно таких элементов — и вы управляете ответом; тот же промпт работает и на моделях, под которые его никогда не настраивали.

2 ч назад