Когда Бен Ниммо в 2014 году начал отслеживать операции по влиянию на выборы в интернете, ему приходилось по несколько часов прокручивать ленту в Twitter, изучая, как сети фальшивых аккаунтов пытались захватить партийные нарративы.
Спустя десятилетие, ИИ изменяет правила игры не только для иностранных угроз, но и для тех, кто работает против них. «Очень много разговоров о том, как плохие парни могут использовать ИИ,» говорит Ниммо, который теперь работает главным следователем по угрозам в OpenAI. «Моя любимая цитата из Гарри Поттера: Мы тоже можем использовать магию.»
Ниммо возглавляет команду, которая занимается выявлением иностранных и внутренних злоумышленников, использующих ChatGPT и другие инструменты OpenAI для проведения скрытых операций по влиянию. Однако, по его словам, инструменты OpenAI также предоставляют его команде беспрецедентную возможность видеть большие или подозрительные паттерны активности. «Вы даете модели задание, и через пару минут она возвращает ответ,» говорит он. «Скорость, с которой мы можем исследовать и анализировать это, на порядки быстрее.»
В мае OpenAI объявила, что она удалила пять скрытых операций по влиянию, обнаруженных командой Ниммо, базирующихся в России, Китае, Иране и Израиле. Все они пытались использовать инструменты ИИ компании для манипуляции общественным мнением.
Один из важных уроков 2016 года, когда Россия провела масштабную операцию вмешательства в президентские выборы в США, заключается в том, что операции по влиянию похожи на плесень в ванной, говорит Ниммо. «Они процветают в темноте и тогда, когда никто не пытается их ликвидировать.» Сейчас, по его словам, злоумышленники, стремящиеся повлиять на выборы, могут использовать другие тактики. «Похоже, что операторы сознательно стараются быть пойманными, чтобы посеять страх о потенциальной возможности тысяч или миллионов подобных им, разжигающих хаос,» добавляет он, хотя большинство таких операций сами по себе почти не набирают оборотов. Цель, по мнению экспертов, заключается в том, чтобы вызвать недоверие ко всей информации.
«Сделайте глубокий вдох и оставайтесь бдительными, но прежде всего, сохраняйте спокойствие,» советует Ниммо. «Да, это будет насыщенный год. Просто продолжайте сосредотачиваться на фактах и спрашивать, имело ли это реальное воздействие.»
Источник: Time
