Яндекс предложил тестировать ИИ на духовно‑нравственные ценности.
На августовском совещании по регулированию ИИ компания представила властям концепцию тестовых заданий и эталонов.
Цель — оценивать соответствие ИИ духу времени и ценностям страны.
Согласно участнику заседания, проект пока находится на стадии концепции.
Обсуждался вопрос: данные для тестов должны оставаться закрытыми, чтобы разработчики не могли легко подстроить модели под тест.
Предприниматели рынка отметили, что закрытый датасет может быть слишком сложным для прохождения и не позволит быстро развивать модели. Предложено компромиссное решение: использовать и закрытые, и открытые данные с различной формулировкой вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам России и духовно‑нравственным ценностям.
Дискуссии о балансе между открытостью данных и безопасностью продолжаются.
