OpenAI внедряет невидимые водяные знаки в текст ChatGPT для соответствия закону ЕС
Новая функция поможет идентифицировать тексты, сгенерированные с помощью ИИ, в рамках соблюдения норм законодательства
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
Компания OpenAI начала внедрение функции невидимого водяного знака в текстовые ответы ChatGPT для пользователей из Европейского Союза. Это решение стало ответом на требования Закона о ИИ в ЕС, который обязывает идентифицировать AI-сгенерированный текст.
Водяные знаки будут добавляться с использованием технологии textGrain, которая изменяет выбор слов в генерируемых текстах. Хотя это должно помочь определить, является ли текст сгенерированным ИИ, эксперты предупреждают, что такая система может быть недостаточно надежной и легко обходится.
Что известно
· средняя близость к цитате 78%- ◐OpenAI внедряет невидимые водяные знаки в текстовые ответы ChatGPT для пользователей из Европейского Союза.TechRadar
- ◐Система водяных знаков будет распространяться только на пользователей из ЕС, тогда как пользователи из США и Великобритании не будут затронуты.TechRadar
- ◐Технология textGrain будет отвечать за добавление водяных знаков.TechRadar
- ◐OpenAI анонсировала изменение 5 октября, заявив, что водяной знак будет добавлен в текстовые выходные данные ChatGPT и Codex.TechRadar
- △Эксперты подчеркивают, что такая система может быть ненадежной и легко обойти её.TechRadar
- △OpenAI предоставляет доступ к инструменту для детекции водяного знака только исследовательским организациям.TechRadar
Что не подтверждено
- ?Каким образом будет проводиться идентификация AI-сгенерированного текста с помощью водяных знаков?
- ?Как пользователи из США и Великобритании смогут узнать о влиянии этой функции?
- ?Будет ли система водяных знаков дорабатываться для улучшения надежности?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
OpenAI внедряет невидимые водяные знаки в текстовые ответы ChatGPT для пользователей из Европейского Союза.
“OpenAI is complying with the EU AI Act by inserting a watermark into generated text”перевод с en
Технология textGrain будет отвечать за добавление водяных знаков.
“To insert the watermark, which involves subtly changing the word choice for generated text, OpenAI is using a system of its own called textGrain.”перевод с en
Система водяных знаков будет распространяться только на пользователей из ЕС, тогда как пользователи из США и Великобритании не будут затронуты.
“OpenAI has now announced that it is following suit, but limiting the geographical areas of impact to the EU only.”перевод с en
OpenAI анонсировала изменение 5 октября, заявив, что водяной знак будет добавлен в текстовые выходные данные ChatGPT и Codex.
“OpenAI announced the change on October 5 saying: 'Over the coming weeks, we will add an invisible watermark to eligible ChatGPT and Codex text output in the European Union.'”перевод с en
Эксперты подчеркивают, что такая система может быть ненадежной и легко обойти её.
“it certainly won’t be optimal”перевод с en
OpenAI предоставляет доступ к инструменту для детекции водяного знака только исследовательским организациям.
“OpenAI says it is providing detector access to researchers and expert organizations and that approved researchers and expert organizations can apply starting today.”перевод с en
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑