Thales Group: Report on the Role of AI in Information Security

Экспертно-аналитический центр Thales Group провел опрос более 3000 респондентов из 20 стран. Выяснилось, что уже 34% организаций используют ИИ-агентов, а 73% планируют их внедрение в ближайший год. С ростом агентных приложений увеличились скорость и объем обрабатываемых данных, что усложняет обеспечение безопасности. Количество компаний, выделяющих отдельный бюджет на безопасность ИИ, выросло на 50% в год (с 20% до 30%). 70% респондентов назвали скорость изменений в ИИ-экосистемах главным фактором, влияющим на безопасность. 61% сообщили об атаках на ИИ-приложения с целью кражи данных, 48% понесли убытки от сгенерированной ИИ дезинформации, а 59% столкнулись с дипфейками. Основными целями атак остаются облачные хранилища (35%), SaaS-приложения (34%) и облачная инфраструктура (32%). Человеческий фактор остается главной причиной нарушений ИБ (28%). Компании, регулярно проводящие аудит, реже сообщают об утечках (54-57% без утечек против 6% у непрошедших аудит). Ассоциация по защите деловой информации (BISA) опросила российских специалистов: 89% считают передачу конфиденциальных данных в публичные ИИ-сервисы наиболее критичным риском, 59% назвали угрозы от встроенных ИИ-агентов и раскрытия информации третьим лицам. 46% сталкивались с утечками через ИИ. Большинство (59%) частично поддерживают регулирование ИИ, но без снижения эффективности бизнеса и с поддержкой отечественных аналогов. 59% видят пользу от ИИ, но отмечают необходимость регламентов и методов детекции сгенерированного текста. В организациях 46% разрешают ИИ с ограничениями, 48% проводят обучение сотрудников, 30% усиливают контроль.