Размышления Сэма Альтмана об Эволюции Искусственного Интеллекта
Недавно генеральный директор OpenAI Сэм Альтман опубликовал пост в своем личном блоге, где делится своими размышлениями по поводу прогресса в области искусственного интеллекта (ИИ) и его предсказаниями о влиянии технологий на будущее человечества. По его словам, в OpenAI уверены, что знают, как создать AGI (общий искусственный интеллект) в традиционном понимании. Компания, создавшая ChatGPT, начинает переключать фокус на исследования в области суперинтеллекта.
Понимание AGI и его Потенциал
Общепринятого определения AGI пока не существует, однако OpenAI дает ему следующую характеристику: это «высокоавтономная система, превосходящая человека в большинстве экономически значимых задач». Хотя системы ИИ уже превосходят людей в узких областях, таких как игра в шахматы, главная задача AGI — это универсальность. Такая система способна, например, управлять сложным проектом программирования от начала до конца, использовать биологические открытия для решения инженерных проблем или написать книгу, достойную Пулитцеровской премии. Цель OpenAI — «обеспечить, чтобы польза от AGI досталась всему человечеству».
Прогнозы о Внедрении ИИ в Рабочую Среду
Альтман в своем посте указал, что значительные достижения в технологиях могут привести к более заметному внедрению ИИ на рабочем месте в следующем году. Это может выражаться в использовании AI-агентов — автономных систем, которые могут выполнять конкретные задачи без вмешательства человека. «В 2025 году мы, вероятно, увидим первых AI-агентов на рабочих местах», — пишет он.
Споры о Скорости Развития AGI
В интервью Bloomberg Альтман предположил, что AGI, возможно, будет разработан в течение срока работы действующего президента США, отметив, что термин AGI стал достаточно размытым. Конкуренты также считают, что AGI не за горами: Илон Маск и Дарио Амодей полагают, что системы ИИ могут превзойти людей до 2026 года. Однако некоторые эксперты настроены скептически. Гарри Маркус, один из ведущих комментаторов в области ИИ, сомневается, что AGI является «практически решенной проблемой», и Мустафа Сулейман из Microsoft тоже выражает сомнение.
Финансовые Партнёрства и Перспективы
Майкрософт, который является эксклюзивным поставщиком облачных услуг для OpenAI и её крупнейшим инвестором, заключил соглашение с компанией, согласно которому потеряет доступ к моделям OpenAI после достижения AGI. Определение AGI в этом контексте заключается в достижении максимальной прибыли в 100 миллиардов долларов. Несмотря на это, OpenAI пока далека от прибыльности, в настоящее время компания ежегодно теряет миллиарды долларов.
Погоня за Суперинтеллектом
OpenAI заявляет, что AGI может помочь человечеству, увеличивая благосостояние, ускоряя рост экономики и способствуя открытиям в науке. Тем не менее, комментарии Альтмана стали более сдержанными в последнее время. «Мое предположение — мы достигнем AGI раньше, чем многие думают, и это будет гораздо менее значимо», — заявил он. В будущем внимание будет сосредоточено на суперинтеллекте, который превышает человеческие возможности.
Опасения по Поводу Суперинтеллекта
Концепция суперинтеллекта вызывает беспокойство, так как эксперты признают, что пока не знают, как согласовать эти системы с человеческими ценностями. Потенциальный вред может исходить не только из злонамеренных действий, но и из неспособности людей точно задать цели системе. Озабоченности выражены и в высказываниях СтЮарта Рассела, который предупредил о рисках, связанных с целью исправления изменений климата подобными системами.
Уроки из Недавней Истории
Альтман также поделился своими переживаниями по поводу событий, связанных с его кратковременным отстранением от должности генерального директора OpenAI в 2023 году. Он назвал это событие «большой ошибкой в управлении», отметив, что многому научился за то время. Вместе с тем было много обвинений в токсичной корпоративной культуре и ложных новостях. Это повлекло за собой значительные изменения в структуре компании.
В декабре OpenAI объявила о планах реструктуризации, чтобы стать общественно полезной корпорацией, убрав руководство из-под контроля некоммерческой организации. Несмотря на радикальные перемены, компании по-прежнему предстоит много работать над раскрытием полного потенциала AGI и суперинтеллекта, учитывая все риски и преимущества.
Источник: Time
