19 июля 2024 года одна незначительная ошибка в программном обеспечении компании CrowdStrike, специализирующейся на кибербезопасности, привела к остановке международных авиалиний, срыву экстренной медицинской помощи и параличу мировой торговли. Огромная сеть, которая позволяла CrowdStrike обрабатывать информацию более чем из триллиона событий ежедневно и предотвращать более 75,000 случаев взлома ежегодно, неожиданно внесла новый тип неопределенности. Небольшая ошибка в коде, распространяемая по сети, смогла вызвать колоссальные последствия, подобных которым мир еще не видел.
Механизм, созданный для снижения неопределенности киберугроз, одновременно увеличил вероятность глобальной катастрофы, что выявило проблемы в нашем отношении к неопределенности и технологиям.
Наша врожденная неприязнь к неопределенности была наглядно продемонстрирована в эксперименте 2017 года, когда лондонские исследователи давали добровольцам болезненные электрошоки и измеряли физиологические реакции. Узнав, что шанс получить шок составляет 50-50, испытуемые испытывали большее беспокойство, чем при уверенности в получении боли, показывая, насколько сильно неопределенность может расстраивать.
Стремление к устранению неопределенности долгое время служило двигателем технологического прогресса и инноваций. От использования огня для избавления от страха перед темнотой до механизации сельского хозяйства для обеспечения достатка пищи — человечество постоянно стремилось сделать неопределенность управляемой и предсказуемой.
Однако, подобно энергии, неопределенность можно лишь трансформировать, а не уничтожить. В попытках устранения одной неопределенности мы лишь перемещаем её на другой уровень. Это порождает интересный парадокс: с каждым технологическим достижением, предназначенным для снижения неопределенности, мы, вероятно, внедряем новые формы неопределенности, делая мир еще более непредсказуемым.
Автоматизированные алгоритмы произвели революцию в финансовой торговле, преодолевая человеческие ограничения по скорости, точности и аккуратности. Но, устраняя человеческую ошибку и расшифровывая сложные вероятности, эти системы вводят свои собственные новые неопределенности — слишком сложные для человеческого восприятия. Что когда-то ограничивало ежедневную торговлю неопределенностью человеческого масштаба, преобразовалось в технологические риски.
Ярким примером является алгоритмическая торговля, при которой используется программное обеспечение для уничтожения неопределенности и улучшения финансовых систем. Однако проверка всех возможных решений в сложных алгоритмах невозможна, что неизбежно приводит к новым неопределенностям. Небольшие ошибки, скрытые в сложных кодах, становятся незаметными на фоне молниеносного выполнения алгоритмов. В августе 2012 года, когда была запущена программа Retail Liquidity Program на NYSE, фирма Knight Capital использовала алгоритм высокочастотной торговли. Ночная ошибка в коде стоила компании 440 миллионов долларов всего за 30 минут.
По мере усложнения технологий они не только устраняют неопределенность времени и расстояний в нашей повседневной жизни, но и трансформируют само восприятие неопределенности. Приложения сообщают точное время прибытия автобуса, отметки о прочтении сообщений информируют о доставке и прочтении сообщения, а уведомления пугают нас множеством новых частичных данных. Вместо разрешения неопределенности, информация часто оставляет нас в еще большей неопределенности.
Редко мы задаем себе вопрос, так ли ужасны те мелкие ежедневные неопределенности, которые современная технология пытается устранить. Если бы мы это делали, то могли бы понять, что неопределенность человеческого масштаба делает нас более стойкими, выявляя слабые места, о которых мы не подозревали.
История показывает, что устранение неопределенности не всегда приносит пользу. Средневековая столица древней империи Кхмеров — Ангкор — стала крупнейшим доиндустриальным городом мира благодаря своей системе водоснабжения, устраняющей неопределенность муссонных дождей. Тем не менее, эта же система стала причиной уязвимости города при засухах и наводнениях 14-15 веков.
Парадокс неопределенности не возникает из самих инноваций. Решения, разработанные для крупных масштабов неопределенности, спасли бесчисленное множество жизней. Примеры включают технологии санитарии, помогающие искоренить холеру, и амортизационную систему, защищающую здания при землетрясениях. Однако стремление полностью устранить мелкие неопределенности из нашей жизни делает нас уязвимыми, когда возникают непредвиденные события.
Одним из решений может быть намеренное создание возможностей для тренировки в условиях неопределенности. Инженеры Netflix создали инструмент «Chaos Monkey», который преднамеренно вызывает сбои в системе, чтобы выявлять слабые места и улучшать механизмы восстановления. Многие организации теперь проводят подобные «тренировки неопределенности» для подготовки к неожиданным вызовам. Спортсмены и спецназовцы включают в свои тренировки сценарии худшего случая, чтобы развить ментальную стойкость и приспособляемость.
Отношения между неопределенностью и технологиями похожи на уроборос: мы создаем технологии, чтобы устранить неопределенность, но эти технологии создают новые неопределенности, которые мы снова должны устранять. Возможно, чтобы сделать мир более определенным, нам нужно научиться ежедневно принимать немного больше неопределенностей.
Источник: Time
