Президент Казахстана Касым-Жомарт Токаев во время выступления на пленарном заседании IT-форума Digital Bridge 2023 высказался о развитии искусственного интеллекта (ИИ) в Казахстане, а также дал ряд поручений в части повышения грамотности и развития необходимой инфраструктуры.
Я не буду повторяться и писать тезисы о пользе ИИ и рисках, связанных с ним.
Стоит лишь отметить, что вопрос весьма актуален и вот почему.
Европейский Союз (ЕС) продолжает работать над формированием и развитием своей нормативной базы ИИ, первым важным шагом стал 𝐄𝐔 𝐀𝐈 𝐀𝐜𝐭 (Закон ЕС об ИИ), который после окончательного утверждения и вступления в силу станет одним из наиболее значимых актов с точки зрения формализации использования и контроля ИИ.
Основная задача 𝐄𝐔 𝐀𝐈 𝐀𝐜𝐭 — защитить права граждан ЕС, а также определить запрещенные практики ИИ (влияние на политические кампании, социальную оценку граждан, распознавание лиц в общественных местах).
Прочитал интересный документ «Cybersecurity of Artificial Intelligence in the AI Act. Guiding principles to address the cybersecurity requirement for high-risk AI systems» (Кибербезопасность искусственного интеллекта в Законе об искусственном интеллекте. Руководящие принципы выполнения требований кибербезопасности для систем искусственного интеллекта высокого риска), в котором определены руководящие принципы в отношении требований кибербезопасности систем искусственного интеллекта, такие как как:
- Фокус на системы ИИ;
- Соблюдение данного закона обязательно требует оценки рисков безопасности;
- Обеспечение безопасности систем ИИ требует комплексного и непрерывного подхода с использованием проверенных практик и средств контроля, ориентированных на ИИ.
Если же посмотреть на данные вопросы более широко и выйдя за пределы Казахстана и ЕС, то уже сейчас ISO (Международная организация по стандартизации) совместно с IEC (Международная электротехническая комиссия) выпустили документ ISO/IEC 22989:2022 «Information technology — Artificial intelligence — Artificial intelligence concepts and terminology» (Информационные технологии — Искусственный интеллект — Концепции и терминология искусственного интеллекта).
Как следует из названия данного документа, он посвящен ИИ и является хорошим тизерным контентом для гуманитариев с точки зрения понимания технических терминов «искусственный интеллект», «машинное обучение», «нейронные сети», а также дает формализованное представление о концепции ИИ.
Документ должен помочь понять технологию ИИ и оказать положительное влияние на широкий круг заинтересованных сторон (правительства, организации, эксперты), а также структурировать будущую работу с ИИ.
Вопросы ИИ начнут внедряться в различные нормативные правовые акты стран, в том числе с целью гармонизации использования этой технологии с уже налаженными процессами в части защиты персональных данных, противодействия отмыванию денег и многому другому. Казахстан в данном случае не будет исключением.
Мы находимся в начале очень сложного, но интересного пути, о котором писали писатели-фантасты — Азимов, Брэдбери, Шекли…
