Регуляторы и бизнес обсудили тесты на духовно‑нравственные ценности искусственного интеллекта.
На августовском совещании по регулированию ИИ была представлена концепция тестовых заданий и эталонов, призванных оценивать соответствие ИИ духовно‑нравственным ценностям.
Сообщается, что проект пока находится на стадии концепции и не предусматривает массового внедрения.
Стороны обсудили положение о том, что данные для тестов не должны становиться публичными, и что разработчики не смогут легко подстроить модели под тест.
Представители бизнеса отметили, что закрытые датасеты могут усложнить задачу и затруднить развитие моделей; предложено сочетать закрытые и открытые данные с различной формулировкой вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам страны и духовно‑нравственным ценностям.