В России создадут систему проверки нейросетей на соответствие традиционным ценностям

В России формируется новая система государственного контроля за искусственным интеллектом: крупные языковые модели начнут официально тестировать на соответствие отечественному законодательству и традиционным духовно-нравственным ценностям. Об этом сообщает газета «Ведомости» со ссылкой на источники в Минцифры и IT-отрасли.

Зачем нужна экспертиза нейросетей

Процедура проверки не станет обязательной для абсолютно всех нейросетей на коммерческом рынке. Однако её прохождение критически важно для разработчиков, претендующих на получение официального статуса «национальной» или «суверенной» ИИ-модели, введенного новым законом об искусственном интеллекте. Наличие такого статуса откроет компаниям доступ к дополнительным мерам государственной поддержки, государственным информационным системам и преимущество в госзакупках.

В первую очередь суверенные нейросети планируют внедрять в сферы образования и предоставления государственных услуг. По словам источников «Ведомостей», с одобрения Минцифры разработчики смогут направлять свои модели в специализированные аккредитованные лаборатории, где их проверят на «этическую чистоту» и устойчивость к манипуляциям.

Методологическая основа и ценности

Методологическую базу для аудита готовят профильные ведомства, включая Минцифры, ФСБ и ФСТЭК. Эксперты будут опираться на категории из президентского указа № 809 о традиционных российских ценностях. В их число входят крепкая семья, труд, единство народов, историческая память и другие установки.

Созданием системы бенчмарков и критериев оценки занимаются указанные ведомства совместно. По итогам обсуждений на площадке АНО «Цифровая экономика» было решено, что проверять алгоритмы будут специальные независимые испытательные лаборатории, а не единый монопольный оператор.

Как будет проходить тестирование

Методика тестирования предполагает использование специализированных автоматизированных тестов. Лаборатории будут «штурмовать» нейросети провокационными и вредоносными запросами, чтобы оценить надежность внутренних фильтров и устойчивость моделей к попыткам добиться неэтичного или запрещенного ответа. Это позволит выявить уязвимости систем безопасности и соответствие заданным ценностным ориентирам.

После прохождения проверок и получения заключения от лаборатории пакет документов будет направляться в правительственную комиссию для принятия итогового решения о присвоении статуса.

Перспективы и риски

На текущем этапе проверка носит добровольный характер и нужна только тем, кто претендует на особый статус. Однако эксперты не исключают, что в будущем она может стать обязательной для всех крупных языковых моделей, работающих на территории страны. Внедрение такой системы контроля станет значительным шагом в регулировании отечественного ИИ-сектора и формировании суверенной технологической экосистемы.