OpenAI розгортає невидиме маркування текстів ChatGPT, Codex і API

OpenAI оголосила про систему невидимого маркування текстів textGrain, яка має допомагати визначати матеріали, згенеровані її моделями. Рішення представили в контексті вимог Закону ЄС про штучний інтелект щодо ідентифікації контенту, створеного ШІ.

Клієнти API по всьому світу зможуть добровільно ввімкнути маркування для окремих моделей від сьогодні. У ChatGPT і Codex OpenAI планує додати його до придатних текстових відповідей у Європейському Союзі протягом найближчих тижнів.

Як працює textGrain

textGrain додає до вибору слів невидимий статистичний сигнал. Окремий детектор шукає цей сигнал у тексті й оцінює, чи містить уривок водяний знак OpenAI.

Компанія відкрила подання заявок на доступ до детектора. Спочатку ним зможуть користуватися лише схвалені дослідники та експертні організації, які допомагатимуть оцінювати й удосконалювати технологію. OpenAI також планує опублікувати її у відкритому коді.

Обмеження виявлення

OpenAI попереджає про хибнопозитивні та хибнонегативні результати, особливо для коротких текстів і сфер із меншою свободою вибору слів, зокрема математики.

У тесті на уривках обсягом 400 токенів заміна 10% слів синонімами знизила показник виявлення приблизно з 92% до 66%, а заміна 25% — до 17%. Результати також можуть погіршуватися після редагування або перекладу.

Водяний знак не визначає внесок людини, право власності, відповідальність чи особу користувача і не підтверджує достовірність тексту. Відсутність виявленого маркування, за словами OpenAI, також не доводить, що текст написала людина.

Компанія заявила, що переглядатиме підхід у міру розвитку технологій, стандартів і доказової бази, зокрема вивчатиме, чи можна надійніше відрізняти допомогу ШІ від повністю машинного авторства.