Два выдающихся ученых, получивших сегодня премию Тьюринга за создание фундаментальных техник обучения искусственного интеллекта, используют этот момент, чтобы обратить внимание на опасности поспешного вывода AI-моделей на массовый рынок.
Исследователь из Массачусетского университета Эндрю Барто и бывший научный сотрудник DeepMind Ричард Саттон предупредили, что компании, разрабатывающие AI, не проводят тщательного тестирования своих продуктов перед их выпуском. Они сравнили этот подход с «постройкой моста и тестированием его через использование людьми», как сообщает The Financial Times.
Премия Тьюринга, которая часто рассматривается как «Нобелевская премия в области информатики», включает денежное вознаграждение в размере 1 миллиона долларов и была совместно вручена Барто и Саттону за разработку метода «обучения с подкреплением». Этот метод машинного обучения нацелен на обучение AI-систем принимать оптимальные решения методом проб и ошибок. Старший вице-президент Google Джефф Дин называет эту технику «опорой прогресса в AI» и отмечает, что она остается «центральным столпом AI-бурного развития», что привело к прорывным моделям, таким как ChatGPT от OpenAI и AlphaGo от Google.
«Выпуск программного обеспечения, рассчитанного на миллионы пользователей, без мер предосторожности не является хорошей инженерной практикой», — заявил Барто The Financial Times. «Инженерная практика развивалась с целью минимизации негативных последствий технологий, и я не вижу, чтобы это применялось компаниями, которые занимаются разработкой».
Источник: TheVerge
