Одной из таких позиций может стать Chief AI Risk Officer (CAIRO) — руководитель, контролирующий безопасность и надежность систем искусственного интеллекта. По мере того как ИИ начинает использоваться в корпоративных процессах, увеличивается число новых угроз: атаки на модели машинного обучения, манипуляции обучающими данными, генерация ложных ответов и ошибки алгоритмов. По оценкам Gartner, уже к 2028 году около 30% крупных компаний создадут специализированные команды по управлению рисками ИИ.
В задачи нового руководителя может входить аудит моделей машинного обучения, контроль качества данных, мониторинг поведения алгоритмов и управление инфраструктурой так называемых AI control rooms — центров наблюдения за работой интеллектуальных систем.
«По мере того как искусственный интеллект становится частью корпоративной инфраструктуры, возникает необходимость управлять его рисками так же системно, как финансовыми или операционными. Поэтому к 2030 году в крупных компаниях может появиться новая роль — Chief AI Risk Officer. Такой специалист будет отвечать за валидацию моделей, контроль “галлюцинаций”, атаки на модели и работу так называемых AI control rooms», - отмечает Алексей Пилипчук, технический директор «Софтлайн Решения».
Еще одним направлением развития станет усиление роли финансового управления киберрисками. Компании все чаще рассматривают безопасность не только как техническую функцию, но и как экономический фактор. По данным Cybersecurity Ventures, глобальный ущерб от киберпреступности может достигнуть $10,5 трлн в год к 2025 году, что делает киберриски одним из ключевых факторов влияния на стоимость бизнеса. Исследования показывают, что повышение уровня киберготовности экономики может положительно влиять на макроэкономические показатели. Например, повышение уровня киберзрелости страны способно увеличить ВВП на душу населения примерно на 1,5%. На этом фоне компании начинают формировать новые управленческие роли, отвечающие за экономическую эффективность инвестиций в безопасность.
