Российские ИТ-компании с одобрения Минцифры смогут передавать большие модели искусственного интеллекта (ИИ) в независимые испытательные лаборатории для проверки на соответствие законодательству и традиционным духовно-нравственным ценностям, пишут «Ведомости».

Отмечается, что обсуждение процедуры проходило в конце июля — начале августа на площадке «Цифровая экономика». Сейчас ведомства и бизнес готовят подзаконные акты к закону об ИИ, который вступил в силу 26 июля.

Закон вводит два специальных статуса для больших фундаментальных моделей — национальный и суверенный. Для их получения разработчикам потребуется подтвердить соответствие ИИ российскому законодательству, а также традиционным ценностям.

Проверка может проходить в несколько этапов. Сначала разработчик самостоятельно оценит модель по рискориентированной методике, после чего аккредитованная лаборатория проверит результаты и проведет собственные тесты.

В ходе экспертизы планируют проверять ответы моделей с помощью бенчмарков, а также устойчивость ИИ к попыткам обойти установленные ограничения с помощью «промпт-инъекций» — это метод взлома и манипуляции моделью. По итогам лаборатория направит заключение в правительственную комиссию.

Финальное решение о соответствии модели и присвоении ей национального или суверенного статуса останется за Минцифры. Безопасность ИИ для государственных информационных систем будут отдельно оценивать ФСБ и ФСТЭК.

Отмечается, что обязательной проверки всех представленных на российском рынке ИИ-моделей не предусмотрено. Процедура будет распространяться на разработки, претендующие на специальные статусы и связанные с ними меры господдержки.

При этом конкретные критерии проверки пока находятся в разработке.

личные финансы

В Госдуме рассматривают законопроект об ИИ. Почему он может лишить дохода создателей контента

Источник: «Ведомости»