В секции «Практические вопросы обеспечения доверия к технологиям ИИ» Лидия Виткова выступила с докладом «Рой без интеллекта: реальные киберугрозы для мультиагентных систем». Она на конкретных примерах показала, где начинаются специфические риски безопасности технологий ИИ, а где для мультиагентных систем по-прежнему актуальны классические вопросы информационной безопасности.
В секции «Подготовка кадров и новые роли в эпоху ИИ» эксперт сделала акцент на необходимости обучать студентов работе с искусственным интеллектом. По её словам, это значительно ускоряет разработку и повышает эффективность, однако ключевой проблемой сегодня остаётся недостаток критического мышления у пользователей ИИ. «В процессе взаимодействия студент или сотрудник сам наберётся опыта и поймёт, где надо быть внимательнее и где проверять результаты работы ИИ. Но отворачиваться от технологии нельзя. При этом важно сохранить инженерное мышление, глубокое понимание математики и физики», — отметила Лидия Виткова.
В рамках пленарной сессии состоялось награждение активных участников Консорциума исследований безопасности ИИ. Диплом эксперту компании «Газинформсервис» вручили Александр Шойтов, заместитель министра цифрового развития, связи и массовых коммуникаций РФ, и Арутюн Аветисян, директор Института системного программирования РАН. Высокую оценку получила работа Лидии Витковой по созданию методологической базы для реестра доверенных решений ИИ.
«Участие в Консорциуме доверенного ИИ — это возможность не только влиять на развитие отрасли, но и напрямую транслировать практический опыт кибербезопасности в методологию. Полученная награда — признание того, что безопасность систем искусственного интеллекта становится неотъемлемой частью доверия к ИИ в целом», — подчеркнула Лидия Виткова.
