Яндекс разрабатывает методику проверки ИИ на соответствие духовно‑нравственным ценностям.
На совещании по регулированию искусственного интеллекта компания представила концепцию тестовых заданий и эталонов для оценки ИИ по духовно‑нравственным критериям.
По данным источников, близких к регуляторам, проект сейчас рассматривается как концептуальный.
Задача тестов — определить соответствие ИИ принятым в стране ценностям и духу времени.
Детали пока не опубликованы: проект находится на стадии концепции.
На совещании по регулированию обсуждалась идея не публиковать данные для тестов и не позволять разработчикам легко переносить настройки на модели.
Представитель бизнеса отметил, что закрытые датасеты могут быть слишком сложными для прохождения и не позволят быстро развивать модели.
Обсужден компромисс: для проверки будут использоваться как закрытые, так и открытые данные с различной формулировкой вопросов.
Контекст: в конце июля подписан закон о суверенных и национальных моделях ИИ, которые должны соответствовать законам России и духовно‑нравственным ценностям.
