Исследование: модели ИИ от OpenAI и Google подвержены манипуляциям для генерации откровенного контента
Эксперты предупреждают о росте несанкционированного контента, генерируемого с помощью ИИ, с недостаточной защитой фильтров.
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
Исследование, проведенное компанией White Circle, показало, что новые модели искусственного интеллекта, разработанные OpenAI и Google, легко обмануть для создания откровенного содержания. Безнаказанность и недостаточный контроль со стороны регуляторов приводят к тому, что значительное количество сгенерированного контента распространяется в частных облаках и текстовых сообщениях, что затрудняет его обнаружение и пресечение.
Эксперты призывают к эффективным мерам для борьбы с этой проблемой, подчеркивая, что ключевым моментом является необходимость улучшения защиты самих инструментов ИИ. Тем не менее, проведенные проверки показывают, что новые модели, такие как DALL·E 3 и другие, несмотря на развитие, становятся менее эффективными в блокировке неприемлемого контента.
Что известно
· средняя близость к цитате 86%- ◐Модели ИИ от OpenAI и Google подвержены манипуляциям, позволяющим генерировать откровенный контент.Ars Technica
- ◐Используя доступные инструменты и API, White Circle смогла обойти фильтры безопасности и генерировать откровенное содержание в 13% случаев.Ars Technica
- ◐В исследовании говорится, что простые методы позволяют обойти защитные механизмы DALL·E 3 и других моделей ИИ.Ars Technica
- ◐Исследование было проведено в США, Австралии и Великобритании, и выявило, что этот контент часто делится в текстовых сообщениях и скрытых облаках.Ars Technica
Что не подтверждено
- ?Какие конкретные меры будут предприняты для улучшения защиты ИИ-моделей?
- ?Как сотрудники регуляторов отреагируют на результаты исследования White Circle?
- ?Будут ли какие-то последствия для OpenAI и Google из-за этих уязвимостей?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
Модели ИИ от OpenAI и Google подвержены манипуляциям, позволяющим генерировать откровенный контент.
“OpenAI, Google pushing new AI models easily tricked into making nudes, researchers say”перевод с en
В исследовании говорится, что простые методы позволяют обойти защитные механизмы DALL·E 3 и других моделей ИИ.
“White Circle researchers exposed flaws in the guardrails of DALL·E 3, Google’s Nano Banana 2, and GPT-Image-2.”перевод с en
Используя доступные инструменты и API, White Circle смогла обойти фильтры безопасности и генерировать откровенное содержание в 13% случаев.
“White Circle was able to use the novel attack method to bypass the safety filters and generate explicit content about 13 percent of the time.”перевод с en
Исследование было проведено в США, Австралии и Великобритании, и выявило, что этот контент часто делится в текстовых сообщениях и скрытых облаках.
“the harmful AI tools used to make the fake sexual images... shared in text and direct messages or stored in private clouds”перевод с en
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑