OpenAI объявила 18 августа в 19:00 UTC об инициативе, призванной помочь органам демократического надзора отслеживать, как правительства используют ИИ в сфере национальной безопасности. Заголовочное обязательство — $5 миллионов. Но стоит прочитать предложение — и эта цифра меняет характер.
Что это за деньги
В тексте сказано: "We will provide $5 million in training, technical support, and OpenAI credits to democratic government oversight bodies." Это не пожертвование и не $5 млн наличными. Пакет, крупнейший компонент которого — потребление собственного продукта OpenAI, оцененное по собственному прайс-листу компании, ближе к промокредиту, чем к филантропии.
Что обычно трактуют неверно
Вокруг новости будут ходить две интерпретации, и обе неверны. Первая — "OpenAI жертвует $5 млн надзорным органам" — см. выше. Вторая — "OpenAI будет проводить аудит использования ИИ государством", что прямо опровергается в посте: "OpenAI does not perform an oversight role over the government, nor should it." По словам компании, эта ответственность лежит на избранных должностных лицах и государственных институтах. Есть и третья деталь, на которую стоит обратить внимание: все глаголы действия — в будущем времени. Компания "will work with", "will provide", "will pilot", "will engage". Ни одного конкретного органа надзора не названо, ни одной страны не указано, и никакой даты начала не дано — только "over the next year".
Единственная конкретная идея
Содержательное предложение — пилотный проект, который позволит уполномоченным проверяющим изучать записи по решениям государства с использованием ИИ — inputs, outputs and tool use — чтобы установить, как модель повлияла на результат. OpenAI говорит, что эти инструменты будут interoperable or model-agnostic where feasible, а участвующие учреждения, а не OpenAI, сохранят контроль над доказательствами, результатами и выводами. По сути, это зачаток журнала аудита, и если он действительно станет model-agnostic, то превратится в стандарт, который конкурентам придется догонять.
Что стоит за этим аргументом
Проблема, о которой идет речь, реальна: традиционный надзор требует больших трудозатрат и "becomes nearly impossible when small teams using paper-era methods are asked to review systems operating at machine speed." Три принципа, изложенные в посте, таковы: ИИ должен усиливать, а не заменять человеческое суждение; государственное использование ИИ должно быть прослеживаемым и понятным для уполномоченного надзора; и сами надзорные органы должны использовать ИИ, потому что ручная проверка не масштабируется.