OpenAI имеет систему для водяного знака текстов, созданных ChatGPT, и инструмент для его обнаружения уже около года, сообщает The Wall Street Journal. Однако компания разрывается между идеей выпустить ее и опасениями потерять прибыль.
Водяной знак в текстах создается с помощью изменения вероятностных прогнозов модели по поводу следующих слов и фраз, что формирует обнаружимый паттерн. (Это упрощение, более подробное описание можно найти в статье Google о водяных знаках для текста Gemini здесь).
Оказалось, что эта система имеет «99.9% эффективность» для обнаружения текста, созданного ИИ, если его достаточно много. Это может стать полезным для преподавателей, стремящихся предотвратить использование ИИ в выполнении учебных заданий, при этом не ухудшая качество текстов, создаваемых чат-ботом. Согласно опросу, проведенному компанией, «люди по всему миру поддержали идею инструмента для обнаружения ИИ с преимуществом четыре к одному», пишет Journal.
Однако, OpenAI обеспокоена тем, что внедрение водяного знака может отпугнуть пользователей ChatGPT. Почти 30 процентов опрошенных сообщили, что будут реже пользоваться программным обеспечением в случае внедрения водяного знака.
Некоторые сотрудники выражают иную обеспокоенность. По их мнению, водяной знак можно легко обойти, например, переводя текст туда и обратно через Google Translate или добавляя и затем удаляя эмодзи, как сообщает Journal.
Несмотря на это, сотрудники по-прежнему считают, что такой метод эффективен. Однако, учитывая негативные настроения пользователей, как говорится в статье, некоторые предложили попробовать менее противоречивые, но пока непроверенные методы. Что-то все же лучше, чем ничего, полагаю.
Источник: TheVerge
