Это первый в российской практике ведомственный документ, который пока распространяется только на ОИАЭ, но он неизбежно положит начало для безопасного использования ИИ на других объектах критической инфраструктуры.
Атомная отрасль имеет самую высокую планку к безопасности, однако такие правила кибербезопасности применимы для всех и в своих локальных актах вы уже можете опираться на эти критерии.
Основные принципы Заявления
- Решения, влияющие на безопасность, принимает только человек! Искусственный интеллект – советник.
- Вся ответственность за обеспечение безопасности лежит на эксплуатирующей организации на всех этапах жизненного цикла. Применение любых ИИ-технологий не освобождает от этой ответственности.
- Доверие к модели не предполагается, а доказывается проведением экспертизы в организации научно-технической поддержки Ростехнадзора. Экспертиза проводится с обоснованием границ применяемости модели ИИ, результатов её верификации и валидации.
- Критические процедуры должны быть изолированы, иметь запрет на подключение к Интернету и публичным облачным сервисам.
- В критических вопросах формата «жизни и смерти» система должна выдавать строго один и тот же ответ. Никаких вариантов быть не должно.
Планируется установить ограничение на применение в системах ИИ «самообучения» в контуре безопасности. Дообучение моделей ИИ во время эксплуатации допускается, если алгоритмы обучения верифицированы и установлено ограничение на выход за границы установленной области.
Иностранные модели можно использовать при условии их полного соответствия установленным критериям безопасности.
Применение ИИ в контрольно-надзорной деятельности
Ростехнадзор будет развивать компетенции своих сотрудников в области применения ИИ, необходимые для эффективного надзора и проведения оценок безопасности, в том числе по вопросам возможностей и ограничений ИИ, интерпретации его результатов, распознавания ошибок.
Также Ростехнадзор будет осуществлять взаимодействие с поднадзорными организациями по вопросам подготовки персонала, оценки и поддержания его компетенций, а также проверки программ обучения персонала, использующего технологии ИИ в профессиональной деятельности.
Резюме
Хотите вы того или нет, но ИИ-инструменты плотно входят в нашу повседневную жизнь. Так что продолжайте учиться, учиться и учиться (как завещал Ленин) и не забывайте о безопасности не только физической, но и виртуальной.
Продолжение следует…
Готовы получить больше возможностей?
Оформите PRO+ и откройте доступ ко всем преимуществам уже сегодня.
