Anthropic представила законопроект по безопасности ИИ США
Предложение компании ограничить использование мощных ИИ моделей с поддержкой судов
Событие собрано из сообщений нескольких изданий, и признаков того, что одно списано с другого, не нашлось. Это утверждение о составе источников, а не о том, что произошедшее проверено.
Что произошло
Компания Anthropic консультируется с законодателями США по поводу своего законопроекта, который должен регламентировать безопасность и использование продвинутых моделей искусственного интеллекта. Согласно информации, предоставленной Politico, законопроект позволит блокировать модели ИИ, если их использование создает угрозу более 50 жизням или приносит ущерб в размере свыше 1 миллиарда долларов, но только с согласия суда.
Законопроект, оформленный в рамках инициативы "Advanced AI Framework", призван обеспечить контроль над потенциально опасными разработками. Он требует от разработчиков прозрачности в тестировании и независимой оценки своих моделей, а также создает механизм для оценки рисков со стороны независимых экспертов.
Что известно
· средняя близость к цитате 83%- ◐Anthropic предложила законопроект, по которому правительство сможет блокировать использование ИИ моделей в случае угрозы свыше 50 жизней или ущерба более 1 миллиарда долларов.Channel News Asia
- ◐Законопроект требует от разработчиков тестирования ИИ моделей и независимой оценки их безопасности.Channel News Asia
- ◐Законопроект позволяет процедуру остановки модели только по решению федерального судьи.Channel News Asia
- ◐Согласно словам представителя Anthropic, их законопроект направлен на предотвращение опасных развертываний мощных моделей.Le Devoir
- ◐Законопроект позволяет выполнять оценку безопасности образцов, однако запрещает другим государственным органам останавливать их разработку.Channel News Asia
- ◐Независимые оценщики должны будут уведомлять Министерство торговли о любой угрозе, связанной с ИИ, в течение 72 часов.Channel News Asia
- ◐Законопроект имеет значительные ограничения по сравнению с существующими законами штатах, включая Калифорнию.Le Devoir
- ◐Предложение Anthropic было представлено законодателям на фоне отсутствия федерального законодательства по безопасности ИИ в США.Le Devoir
Что не подтверждено
- ?Как будет организован процесс независимой оценки моделей ИИ?
- ?Какие меры будут принимать независимые оценщики при выявлении угрозы?
- ?Какие последствия ожидают компании, не соблюдающие требования нового законопроекта?
Хронология
Публикации в порядке появления, у каждой — её собственные формулировки и процитированный фрагмент.
Законопроект позволяет выполнять оценку безопасности образцов, однако запрещает другим государственным органам останавливать их разработку.
“the language explicitly prohibits any other US government department, agency, or officer from suspending development, deployment, or internal use”перевод с en
Независимые оценщики должны будут уведомлять Министерство торговли о любой угрозе, связанной с ИИ, в течение 72 часов.
“they must report it to Commerce within 72 hours of completing their assessment”перевод с en
Anthropic предложила законопроект, по которому правительство сможет блокировать использование ИИ моделей в случае угрозы свыше 50 жизней или ущерба более 1 миллиарда долларов.
“the bill would let the government block a model's release or use only if it poses a foreseeable, imminent risk of more than $1 billion in damages, or of killing or seriously injuring more than 50 people”перевод с en
Законопроект позволяет процедуру остановки модели только по решению федерального судьи.
“A federal judge for the District Court for the District of Columbia could order the suspension of a model”перевод с en
Законопроект требует от разработчиков тестирования ИИ моделей и независимой оценки их безопасности.
“the bill also requires developers to test frontier AI models, be transparent about findings, and get them independently evaluated”перевод с en
Законопроект имеет значительные ограничения по сравнению с существующими законами штатах, включая Калифорнию.
“le texte proposé primerait aussi sur certaines lois des États, comme celle en vigueur en Californie”перевод с fr
Предложение Anthropic было представлено законодателям на фоне отсутствия федерального законодательства по безопасности ИИ в США.
“Faute de loi fédérale, Anthropic, le créateur de l’assistant d’IA Claude, propose à des élus américains son propre texte pour encadrer l’IA”перевод с fr
Согласно словам представителя Anthropic, их законопроект направлен на предотвращение опасных развертываний мощных моделей.
“notre proposition donne aussi au gouvernement fédéral la capacité de bloquer ou de dissuader les déploiements dangereux des modèles les plus puissants”перевод с fr
Собрано и структурировано ИИ: связано: 2 публикации · процитировано: 2 публикации · сгруппировано: 2 домена СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑