Искусственный интеллект под контролем: тесты на ценности
На августовском совещании по регулированию ИИ обсуждалась концепция тестовых заданий и эталонов для проверки ИИ на соответствие духовно‑нравственным ценностям.
Сообщается, что проект пока находится на стадии концепции.
Участники подчеркнули, что закрытые наборы данных могут быть слишком сложными для прохождения и затруднять развитие моделей. Был предложен компромисс: для тестирования будут использоваться как закрытые, так и открытые данные с разной формулировкой вопросов.
Контекст: в конце июля подписан закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам России и духовно‑нравственным ценностям.