Предложение Anthropic о безопасности ИИ вызывает споры
Проект законопроекта оказался в центре дебатов по окончательной версии закона о безопасности ИИ в США
Событие собрано из сообщений нескольких изданий, и признаков того, что одно списано с другого, не нашлось. Это утверждение о составе источников, а не о том, что произошедшее проверено.
Что произошло
В последние дни вокруг предложения о безопасности искусственного интеллекта (ИИ), которое выдвинула компания Anthropic, разгорелись горячие споры после утечки черновика законопроекта. Ранее считавшаяся сторонником основных принципов безопасности, Anthropic теперь сталкивается с критикой, утверждая, что их предложение недостаточно строгие и неправомерно отодвигает на второй план законы отдельных штатов.
В новом законопроекте предусмотрены сценарии, при которых распространение определенной модели ИИ может быть заблокировано, если существует "очевидный, неизбежный риск", угрожающий жизням более чем 50 людей или потенциально причиняющий ущерб на сумму свыше миллиарда долларов. Эти параметры вызвали сравнения с аналогичным законодательством в Калифорнии и породили вопросы о возможной влиянии финансовых аспектов на оценку рисков.
Что известно
· средняя близость к цитате 85%- ◐Anthropic подвергся критике со стороны сторонников безопасности ИИ за недостаточную строгость своего предложения.Semafor
- ◐Anthropic представил законопроект о безопасности ИИ, который может блокировать модели, если существует риск гибели более 50 людей.TechCrunch
- ◐Согласно источнику, законопроект также требует, чтобы оценщики уведомляли Министерство торговли о выявленных рисках в течение 72 часов.TechCrunch
- ◐OpenAI использовала ситуацию, чтобы дистанцироваться от Anthropic, заявив, что решения в области политики ИИ должны приниматься через демократические процессы.Semafor
- ◐В новом законопроекте предусмотрено, что оценку модели на предмет риска будут проводить независимые эксперты, зарегистрированные в Министерстве торговли США.TechCrunch
Что не подтверждено
- ?Как будет реагировать правительство на критику предложения Anthropic?
- ?Какое влияние законопроект Anthropic окажет на другие компании в индустрии ИИ?
- ?Насколько независимые эксперты смогут объективно оценить риски, указанные в законопроекте?
Хронология
Публикации в порядке появления, у каждой — её собственные формулировки и процитированный фрагмент.
Anthropic подвергся критике со стороны сторонников безопасности ИИ за недостаточную строгость своего предложения.
“AI safety advocates are arguing it doesn’t go nearly far enough, unfairly pre-empts state laws, and accepts too much possible risk.”перевод с en
OpenAI использовала ситуацию, чтобы дистанцироваться от Anthropic, заявив, что решения в области политики ИИ должны приниматься через демократические процессы.
“Policy decisions must ultimately be made through our democratic processes with our elected officials leading.”перевод с en
Anthropic представил законопроект о безопасности ИИ, который может блокировать модели, если существует риск гибели более 50 людей.
“Anthropic appears to have put forth its own vision for how the government might regulate its industry.”перевод с en
В новом законопроекте предусмотрено, что оценку модели на предмет риска будут проводить независимые эксперты, зарегистрированные в Министерстве торговли США.
“The legislation would expressly forbid any federal agency from having the discretion to halt the model’s distribution on its own.”перевод с en
Согласно источнику, законопроект также требует, чтобы оценщики уведомляли Министерство торговли о выявленных рисках в течение 72 часов.
“when evaluators determine that an imminent catastrophic risk is posed, they would have 72 hours to contact the Commerce Department about it.”перевод с en
Собрано и структурировано ИИ: связано: 2 публикации · процитировано: 2 публикации · сгруппировано: 2 домена СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑