Проблемы безопасности: ChatGPT для подростков подвергся критике в новом отчете
Роботизированный помощник не смог обеспечить ожидаемую защиту для молодых пользователей, согласно исследованию.
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
Новый отчет расследования подчеркивает, что новая версия ChatGPT для подростков не обеспечивает ожидаемой безопасности и защищенности для молодых пользователей. Исследователи обнаружили серьезные недостатки в системе защиты, которые не срабатывали в критических ситуациях, когда речь шла о психическом здоровье подростков.
Исследование, проведенное организацией Common Sense Media's Youth AI Safety Institute, продемонстрировало, что из более чем 4 000 протестированных запросов ChatGPT не смог активировать уведомления для родителей в ситуациях, связанных с самоубийством и самоповреждением, что привело к рекомендации о временном ограничении доступа к сервису для взрослых.
Что известно
· средняя близость к цитате 85%- ◐ChatGPT для подростков имеет значительные пробелы в безопасности, которые не обеспечивают ожидаемую защиту для пользователей.TechRadar
- ◐Исследователи оценили обратную связь ChatGPT с подростками и рекомендовали ограничить доступ к сервису для взрослых, пока проблемы не будут решены.TechRadar
- ◐Отчет утверждает, что ни одно серьезное обсуждение психического здоровья не вызвало уведомление для родителей.TechRadar
- ◐Разработчики ChatGPT обещали обеспечить дополнительную защиту и уведомления для родителей, но это не сработало во многих случаях.TechRadar
- ◐Модель ChatGPT должна была направлять подростков к соответствующей помощи во время психических кризисов.TechRadar
Что не подтверждено
- ?Какие конкретные меры будут предприняты для решения выявленных проблем безопасности?
- ?Какое влияние окажет ограничение доступа на пользователей ChatGPT для подростков?
- ?Будут ли разработчики ChatGPT в дальнейшем обновлять систему защиты?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
ChatGPT для подростков имеет значительные пробелы в безопасности, которые не обеспечивают ожидаемую защиту для пользователей.
“Researchers tested ChatGPT for Teens with more than 4,000 prompts”перевод с en
Отчет утверждает, что ни одно серьезное обсуждение психического здоровья не вызвало уведомление для родителей.
“none of those conversations triggered a parental notification”перевод с en
Исследователи оценили обратную связь ChatGPT с подростками и рекомендовали ограничить доступ к сервису для взрослых, пока проблемы не будут решены.
“the organization recommended OpenAI restrict ChatGPT to adults until the problems are resolved”перевод с en
Модель ChatGPT должна была направлять подростков к соответствующей помощи во время психических кризисов.
“ChatGPT is also supposed to direct teenagers to appropriate help during mental health emergencies”перевод с en
Разработчики ChatGPT обещали обеспечить дополнительную защиту и уведомления для родителей, но это не сработало во многих случаях.
“with additional protections against harmful content, parental notifications”перевод с en
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑