Если вы хотите собрать огромные суммы денег, вам лучше иметь на это серьезные основания.
Именно это описывает генеральный директор Anthropic Дарио Амодей в более чем 14 000 словах своего материала, опубликованного в пятницу: невиданные способы, которыми искусственный общий интеллект (AGI — хотя он предпочитает называть его «мощным ИИ») изменит нашу жизнь. В блоге под названием «Машины любви и благодати» он воображает будущее, в котором ИИ может сжать сто лет медицинского прогресса в одно десятилетие, вылечить психические заболевания и избавить от нищеты. В то же время сообщается, что Anthropic планирует привлечь дополнительные средства, оценивая компанию в 40 миллиардов долларов.
Однако сегодняшний ИИ не может сделать ничего из воображаемого Амодеем. По его собственным словам, понадобится сотни миллиардов долларов на вычислительную мощность для обучения моделей AGI, возведенных благодаря триллионным инвестициям в дата-центры и энергию, чтобы поддерживать электричество в миллионах домов. Помимо этого, никто не может с полной уверенностью сказать, возможно ли это в принципе. Амодей сам признается: «Конечно, никто не может знать будущее с точностью, и эффекты мощного ИИ, скорее всего, будут более непредсказуемыми, чем изменения, принесенные предыдущими технологиями».
Руководители компаний ИИ овладели искусством больших обещаний перед сбором крупного финансирования. Взять, к примеру, Сэма Альтмана из OpenAI, чей блог «Эпоха интеллекта» предшествовал выпуску с инвестициями в 6,6 миллиарда долларов. В своем блоге Альтман заявил, что мир достигнет сверхинтеллекта в течение «нескольких тысяч дней», что приведет к «огромному процветанию». Это вызывает доверие: нарисуйте утопическое будущее, намекните на решения глубоких страхов человечества, таких как смерть и бедность, затем аргументируйте, что только убрав некоторые избыточные преграды и вложив беспрецедентный капитал, мы сможем достичь этого техно-рая. Это блестящий маркетинговый подход, который играет на наших великих надеждах и страхах, умело обходя необходимость в конкретных доказательствах.
Время публикации этого блога также подчеркивает, насколько велика конкуренция. Как отмечает Амодей, манифест на 14 000 слов — это необычно для Anthropic. Компания была основана после того, как Амодей и другие покинули OpenAI из-за соображений безопасности, и заработала репутацию за сдержанную оценку рисков, а не за звездные футуристические прогнозы. Поэтому компания продолжает переманивать исследователей безопасности от OpenAI. Даже в прошлой записи он утверждает, что Anthropic будет отдавать предпочтение честным обсуждениям рисков ИИ, а не соблазнительным видениям техноутопии.
«Техногиганты давно представляют свои инновации как решения, спасающие мир.»
Но безопасность — неинтересный предмет для презентаций, и новые конкуренты появляются ежедневно. Соучредитель OpenAI Илья Суцкевер запустил собственную лабораторию ИИ, а уходящий технический директор OpenAI Мира Муратти якобы намерена создать собственное предприятие. Блог Амодея — это не только продажа своего видения, но и удержание конкурентной позиции.
Несмотря на требование избегать громких заявлений, Амодей использует тысячи слов для описания будущего, в котором ИИ может изменить судьбу человечества, стремясь не уступить в красноречии Альтману, чьи выступления в мире технологий известны. Однако в его посте упоминается лишь одно упоминание о согласованности, то есть об обеспечении того, чтобы системы ИИ работали в соответствии с человеческими ценностями, и нет упоминаний о безопасности. Это противоречие открывает суровую истину: в высокорисковой сфере развития ИИ даже те, кто осторожен с ажиотажем, вынуждены играть на больших обещаниях, чтобы привлечь необходимое финансирование.
Сейчас существует огромный разрыв между тем, на что способна эта технология, и той утопией, которую руководители ИИ представляют. Это вызывает обоснованную критику: как она изменит мир в течение нескольких лет, если не может даже надежно подсчитать количество «Р» в слове «клубника»? Что ИИ действительно делает на высоком уровне — это автоматизация рутинных задач и анализ больших массивов данных с выявлением закономерностей. Эта сила уже помогает в таких сферах, как финансы, медицина и автономные транспортные средства. Однако эти достижения впечатляют, заявления, такие как Амодея о том, что ИИ может «структурно отдать предпочтение демократии», кажутся преждевременными и излишне оптимистичными. Стоит отметить, что сторонники AGI считают его пост немного сдержанным (сам Амодей в примечаниях указывает, что они должны «прийти в себя»).
Блог Амодея не предназначен для обывателей, интересующихся ИИ, он не является убедительной дорожной картой для будущего AGI — еще одной вещи, которая не существует и, возможно, никогда не будет существовать в том виде, в каком её представляет индустрия ИИ. Это предложение для инвесторов: поддержите Anthropic, и вы не просто финансируете компанию, вы покупаете участие в светлом будущем человечества. С различной степенью изысканности это то, что обещает каждый ИИ-руководитель — будь то Альтман в OpenAI, Илон Маск в xAI или Сергей Брин в Google. Присоединяйтесь к их видению будущего, или останетесь позади.
При всей новизне ИИ, технологические титаны долгое время продавали свои инновации как спасительные решения для мира. Марк Цукерберг рекламировал универсальный интернет как лекарство от бедности. Брин однажды сказал, что Google может «побороть смерть». Маск представил амбиции SpaceX по освоению других планет как резервный план для нашего вида. Но когда количество денег у инвесторов ограничено, альтруизм становится игрой с нулевой суммой. Как однажды справедливо заметил технологический магнат в сериале «Силиконовая долина» Майка Джаджа, «я не хочу жить в мире, где кто-то делает мир лучше, чем мы».
Амодей явно осознает риск выглядеть гиперболичным. «Компании, говорящие об удивительных преимуществах ИИ, могут прозвучать как пропагандисты или попытка отвлечь от недостатков», пишет он. Это его не остановило от участия в этой игре.
«Это вещь, обладающая трансцендентной красотой», завершает блог Амодей. «У нас есть возможность сыграть небольшую роль в том, чтобы сделать её реальной».
Источник: TheVerge
