С увеличением глобального использования генеративного ИИ почти вдвое за последний год, отмечает McKinsey, его быстрая адаптация создаёт новую привлекательную цель для киберпреступников. Хотя значительная часть этого внедрения обусловлена готовыми решениями, компании, осознав мощь настраиваемых для нужд бизнеса ИИ-ответов, направляют значительные средства на обучение собственных моделей ИИ.
Непрерывные инновации, такие как агентный ИИ, способствуют росту его использования. Значительная автономность агентного ИИ позволяет ему принимать решения, планировать действия и учиться на собственном опыте в контексте конкретного бизнеса, что делает его применимым для различных бизнес-функций.
Однако за восторгом от ИИ скрываются серьёзные киберриски, которые зачастую остаются без внимания. Используя любое новое программное обеспечение, компании открывают новый вектор атак для киберпреступников. Проблема собственных разработанных ИИ моделей в том, что они фактически являются хранилищем ценных данных компании — от интеллектуальной собственности до данных клиентов, сотрудников и торговых секретов, что делает их крайне привлекательными для атак.
Это программное обеспечение функционирует на аппаратных средствах, которые, вероятно, размещены в датацентре. Руководители бизнеса должны убедиться, что они оснащены необходимыми инструментами для контроля всех аспектов своей сети, чтобы гарантировать безопасность конфиденциальных данных компании в новых векторах атак.
Проблема с существующими схемами безопасности заключается в том, что многие компании просто не готовы к новым вызовам. В течение многих лет ИТ-отделы рассматривали кибербезопасность больше как формальность, чем как средство защиты данных компании. Это привело к чрезмерной зависимости от защиты периметра и решений единого входа, создавая ложное чувство безопасности.
Традиционные программные решения и подходы к защите данных, такие как брандмауэры, всё ещё играют роль в обеспечении безопасности данных компании, но требуется более глубокая защита для обеспечения стабильной работы. ИИ, хотя и мощный, остаётся видом программного обеспечения, работающего на оборудовании, обычно находящемся в датацентре. Датацентры представляют сложные и чувствительные среды. Факторы такие как потребности в электропитании, системы охлаждения и физическая безопасность делают эти объекты привлекательными целями. Более того, природа разработки и внедрения ИИ требует частого доступа и обновлений. Это требует строгого контроля за тем, кто и когда может получить доступ к этим системам. Организациям необходимо убедиться, что у них есть правильная структура для надлежащей работы их моделей ИИ и защиты на всех уровнях.
Многие уже располагают некоторыми необходимыми компонентами. Однако большинству не хватает последнего слоя защиты, который можно установить с помощью физической сегментации сети. Основанный на аппаратных средствах, подход физической сегментации сети позволяет пользователям сегментировать цифровые активы дистанционно и мгновенно, без использования интернета. С помощью нажатия кнопки из любой точки мира организации могут изолировать выбранный сегмент от общей сети, отключая его от интернета. Эта технология служит защитой для ИИ, контролируя доступ и обеспечивая использование его преимуществ. Для компаний, использующих ИИ, она может предложить улучшение безопасности и сокращение рисков.
В контексте защиты модели ИИ, этот вид защиты предотвращает отравление ИИ и злоумышленное использование технологии. Отсутствие подключения к интернету позволяет физически изолировать модель, предотвращая возможность кибератаки или нежелательного доступа, скрывая активы от посторонних глаз и усиливая существующую защиту.
Организации могут не успевать за этой техникой, опасаясь перебоев в работе. Однако это необязательно ведет к прерыванию операций. Важно внедрить процесс, который позволит оперативно подключаться и отключаться вне зависимости от времени. Модели генеративного ИИ не всегда должны быть подключены к интернету для правильной работы. Подключение требуется в короткие периоды, когда пользователи отправляют запросы. После этого модель можно отключить, а затем снова подключить, доставив собранный ответ. В результате этого киберпреступники получат гораздо меньше времени, чтобы клонировать модель или завладеть конфиденциальными корпоративными данными.
Правительства всего мира адаптируют свои политики к требованиям безопасности данных. Физическая сегментация сети помогает соблюдать правила, защищая чувствительные данные за физическими барьерами и вне доступа к интернету.
При кибератаке сегментация сети может помочь быстрому изолированию взломанных активов и предотвращению дальнейших атак. Во время восстановления руководители смогут быстро восстановить изолированные сегменты, обеспечивая сохранность моделей ИИ и восстановление предоставляемых сервисов.
По мере роста числа моделей ИИ, обучаемых «под крышей» компании, киберпреступники, вероятно, начнут атаковать эти источники чувствительных данных. Организациям необходимо внедрять такие системы, которые дают уверенность в безопасности, не жертвуя возможностями ИИ. При грамотном подходе к зонеям и сегментации сети бизнес сможет не только нейтрализовать угрозы, но и разработать эффективные механизмы реагирования и восстановления, обеспечивая максимальную производительность.
Источник: TechRadar
