От оптимизации операций до автоматизации сложных процессов, искусственный интеллект (ИИ) преобразует подход организаций к выполнению задач. Однако, с увеличением распространенности этой технологии, компании обнаруживают, что стремление к внедрению ИИ может привести к непредвиденным последствиям.
Отчет компании Swimlane показывает, что несмотря на значительные преимущества ИИ, его внедрение опережает способность многих компаний защищать конфиденциальные данные. При глубокой интеграции ИИ в свои операции, бизнесам также приходится учитывать связанные риски, такие как утечки данных, несоблюдение нормативных требований и сбои в системе безопасности.
ИИ работает с большими языковыми моделями (LLM), которые обучаются на обширных наборах данных, зачастую включающих общедоступную информацию. Эти наборы данных могут включать текст из источников, таких как Википедия, GitHub и другие онлайн-платформы, которые предоставляют богатую базу для обучения моделей. Это означает, что если данные компании доступны в интернете, они, вероятно, будут использованы для обучения LLM.
Обработка данных и публичные языковые модели
Исследование выявило разрыв между протоколами и практикой при обмене данными в больших публичных языковых моделях. Хотя 70% организаций утверждают, что у них есть определенные протоколы для защиты передачи конфиденциальной информации в публичные LLM, 74% респондентов осознают, что сотрудники их организаций все еще вводят конфиденциальную информацию в эти платформы.
Это несоответствие подчеркивает критический недочет в обеспечении выполнения и соблюдении сотрудниками установленных мер безопасности. Кроме того, постоянный поток сообщений, связанных с ИИ, изнашивает специалистов, и большинство респондентов сходятся во мнении, что рынок в настоящее время насыщен ажиотажем вокруг ИИ.
Это чрезмерное воздействие вызывает усталость от ИИ; более половины опрошенных сообщают о чувстве подавленности из-за постоянного фокуса на ИИ, что сигнализирует о необходимости изменения подхода к продвижению технологии.
Интересно, что несмотря на эту усталость, опыт в области ИИ и машинного обучения (ML) становится важным фактором при принятии решений о найме. Большинство организаций отмечают, что знакомство с ИИ играет значительную роль в оценке пригодности кандидатов. Это показывает, насколько ИИ становится неотъемлемой частью не только инструментов кибербезопасности, но и рабочей силы, необходимой для их управления.
В сфере кибербезопасности ИИ и LLM оказали положительное воздействие, так как многие организации признают, что технологии ИИ способствуют повышению эффективности их команд безопасности.
Источник: TechRadar
