«Генеративный ИИ в 2025 году принесёт преобразующие возможности, но повысит риски кибербезопасности, включая случайное раскрытие данных и неправильное использование новых моделей ИИ», — говорит Олжас Сатиев, основатель TSARKA GROUP.
Важно обеспечить безопасность агентов ИИ, на рабочих местах, внедрить управление данными в коллаборации с ИИ и развернуть платформы безопасности для ИИ-систем. Совместные усилия поставщиков средств безопасности, поставщиков ИИ и самих предприятий будут иметь ключевое значение для противодействия автоматизированным масштабируемым атакам на системы ИИ.
«Защита в режиме реального времени и проверенный подход к обеспечению безопасности персонала имеют решающее значение для обеспечения устойчивости», — Евгений Питолин, управляющий директор DataStar.
Сложность искусственного интеллекта и злоупотребление им растут по мере снижения затрат, что приводит к всплеску мошенничества с использованием МО и атак на физические устройства. Организации сталкиваются с растущими рисками социальной инженерии на основе искусственного интеллекта и новых взломов персональных устройств. По мере снижения вычислительных затрат вырисовываются автономные операции и обнаруженные ИИ эксплойты нулевого дня. Хотя полностью вредоносное ПО с искусственным интеллектом не пришло в РК, отрасль должна подготовиться уже сейчас.
«В 2024 году 65% нарушений были связаны с облачными данными, что подчеркивает серьёзный пробел в облачной безопасности», — говорит Назгуль Таимова, директор Elcore Kazakhstan.
Несмотря на широкое внедрение облачных технологий, большинство команд DevSecOps полагаются на локальные инструменты оповещения, что приводит к пропущенным угрозам и пустой трате ресурсов на ложные срабатывания. Чтобы уменьшить количество облачных атак, организации должны интегрировать облачные данные в режиме реального времени в SOC, обеспечивая последовательное обнаружение угроз, более быстрое реагирование и снижение рисков существенных нарушений в 2025 году и в последующий период.
«В 2025 году безопасность приложений перейдет от выявления уязвимостей к интеллектуальной приоритизации и автоматизированному устранению уязвимостей», — Батыржан Шакманов, CyberX.
Это позволит разработчикам устранять критические риски в своих рабочих процессах. При более ограниченном бюджете организации будут использовать интегрированные платформы для повышения эффективности и экономичности. Традиционные инструменты, отключенные от SDLC, исчезнут, в то время как возможности искусственного интеллекта станут важными, расширяя возможности команд безопасности и защищая приложения на базе искусственного интеллекта.DevSecOps переводит безопасность с реактивного процесса на проактивные действия, внедряя её на ранних этапах разработки. Сотрудничество между командами по кибербезопасности, разработками и бизнесом требует анализа данных и общих приоритетов. Заблаговременно устраняя векторы атак и согласовывая безопасность с бизнес-целями, организации могут повысить устойчивость и сделать кибербезопасность фундаментальным бизнес-требованием.
«В 2025 году угрозы кибербезопасности будут распространяться на API, облачные настройки, цепочки поставок и блокчейн» — Alper Cem Yılmaz, Основатель Crypttech.
Эксплойты API будут нацелены на теневые API и проблем авторизации на уровне объектов (BOLA). Неправильные настройки облака в гибридных блоках инфраструктуры будут терять конфиденциальные данные. Атаки на цепочки поставок будут усиливаться из-за «отравленных» API и неконтролируемых обновлений (а точнее, их отсутствия) программного обеспечения. Для компаний в РК важно будет автоматизировать облачный мониторинг, укрепить цепочки поставок и использовать средства защиты искусственного интеллекта.
«Нехватка навыков в области безопасности ИИ вызывает лично у меня растущую обеспокоенность» — говорит Даурен Салипов, основатель и СЕО MSSP.Global.
Организации должны инвестировать в обучение безопасности ИИ, уделяя особое внимание на фундаментальных знаниях и возникающих угрозах, таких как быстрое введение. Партнёрство с университетами и службами по типу АО ГТС может стандартизировать учебные программы, а содействие сотрудничеству между командами ИИ, безопасности и инженеров повышает эффективность реагирования на угрозы. Интеграция инструментов безопасности с поддержкой искусственного интеллекта требует тестирования в реальных условиях, обновления устаревших инфраструктур и принятия гибких политик, чтобы опережать развивающиеся угрозы.