Grammarly расширяет возможности от помощи в написании текстов до использования ИИ-инструментов, которые могут писать тексты за вас. В этом направлении на этой неделе появился новый инструмент, предназначенный для выявления текстов, созданных с помощью ИИ. Grammarly Authorship вводится в Google Docs в бета-версии и нацелен на помощь преподавателям в обнаружении случаев использования ИИ учащимися для написания своих работ.
Проблема обнаружения текстов, написанных с помощью ИИ, стоит перед преподавателями и организаторами образовательного процесса уже давно. С появлением ChatGPT и его аналогов возникла еще большая необходимость в таких инструментах, так как традиционные методы стали менее надежными. Сложность усугубляется за счет ложных срабатываний и трудностей в отличении текстов, созданных ИИ, от тех, которые написаны учащимися, особенно если английский язык для них не родной.
Grammarly Authorship пытается решить эти проблемы, отслеживая процесс написания текста в реальном времени, а не анализируя его постфактум. Это позволяет определить, что именно было напечатано, скопировано или сгенерировано с помощью ИИ. Инструмент интегрируется с более чем полумиллионом приложений и веб-сайтов, включая Google Docs, Microsoft Word и Apple Pages.
Функция отслеживает процесс печати текста и фиксирует моменты копирования или генерации текста ИИ-инструментами, такими как Google Gemini или Bing AI. Grammarly Authorship затем создает отчет, разделяя документ на категории в зависимости от того, был ли текст написан вручную, сгенерирован ИИ или скопирован из другого источника. Он также предоставляет возможность воспроизвести процесс написания документа, чтобы показать, как именно он создавался.
Основной целевой аудиторией Grammarly Authorship являются преподаватели и образовательные учреждения. Вопрос использования ИИ для написания текстов студентами вызывает много споров и может привести к необоснованным обвинениям, даже когда сами студенты признаются в использовании ИИ для написания своих работ.
Как объяснила руководитель отдела образования Grammarly Дженни Максвелл: «Многие учебные заведения не имеют четких и последовательных политик в отношении ИИ, хотя половина молодых людей в возрасте от 14 до 22 лет заявляют, что хотя бы раз использовали генеративный ИИ. Это приводит к чрезмерному доверию несовершенным инструментам для обнаружения ИИ-текстов и возникновению конфликтов между преподавателями и студентами, когда работы отмечаются как созданные ИИ. Нам нужен инструмент, который сможет способствовать конструктивному диалогу о роли ИИ в образовании. Authorship помогает студентам легко показать, как они писали свои работы, включая использование ИИ-инструментов.»
Также стоит отметить, что инструмент Grammarly Authorship необходимо протестировать в реальных условиях, чтобы убедиться в его эффективности и надежности. В этом направлении существуют и другие разработки, например, OpenAI также работает над созданием инструментов для детекции контента, созданного ChatGPT и его ИИ-моделями.
Однако пользователи могут быть обеспокоены вопросами конфиденциальности при использовании таких инструментов. Студенты могут не захотеть демонстрировать весь процесс написания работы, включая неудачные попытки, они могут предпочесть показывать только итоговый результат. Но в будущем написание текстов дома может напоминать сдачу экзамена, когда за студентами наблюдает проктор, чтобы предотвратить списывание, и даже невинные действия могут вызвать подозрения.
Источник: TechRadar
