Anthropic предоставляет METR доступ на уровне сотрудников для оценки безопасности ИИ
Компания сотрудничает с некоммерческой организацией для оценки рисков и практик в области искусственного интеллекта
Событие собрано из сообщений нескольких изданий, и признаков того, что одно списано с другого, не нашлось. Это утверждение о составе источников, а не о том, что произошедшее проверено.
Что произошло
Компания Anthropic объявила о предоставлении команде METR, некоммерческой организации, отвечающей за оценку моделей ИИ, доступа на уровне сотрудников к своим системам. Это позволит METR независимо оценивать модели компании, включая практики безопасности и управление рисками. Это решение принято на фоне обеспокоенности исследователей по поводу влияния крупных лабораторий ИИ на независимые оценки, в том числе через ограничения по публикациям и доступу к чувствительной информации.
Отметим, что данный шаг делает Anthropic более открытой по сравнению с недавними поступками, когда компания и OpenAI стремились сохранить контроль над тем, что публикуются внешние оценщики. METR получит возможность публиковать свои оценки без предварительного одобрения Anthropic, предусмотрены лишь ограниченные редакции, касающиеся, например, данных клиентов и защищенной информации.
Что известно
· средняя близость к цитате 84%- ◐Anthropic предоставила 6 работникам METR доступ на уровне сотрудников для оценки своих моделей ИИ и практик безопасности.Channel News Asia
- ◐METR сможет публиковать независимые отчеты без предварительного одобрения Anthropic, за исключением ограниченных редактирований.TechCrunch
- ◐Положения о «красной линии» и предыдущие проблемы с доступом к информации остаются актуальными для обсуждения с оценщиками.Channel News Asia
- ◐Anthropic разработала трехуровневую систему доступа для оценщиков, где METR находится на верхнем уровне с доступом к полному спектру данных.TechCrunch
- ◐Новые меры направлены на повышение прозрачности и ответственности со стороны разработчиков ИИ.TechCrunch
Что не подтверждено
- ?Как будут обеспечивать защиту чувствительной информации при оценке METR?
- ?Какие конкретно категории информации могут быть отредактированы при публикации отчетов METR?
- ?Каковы будут последствия для Anthropic, если METR выявит серьезные проблемы в моделях ИИ?
Хронология
Публикации в порядке появления, у каждой — её собственные формулировки и процитированный фрагмент.
Anthropic предоставила 6 работникам METR доступ на уровне сотрудников для оценки своих моделей ИИ и практик безопасности.
“Anthropic said on Thursday it has granted a team from nonprofit AI evaluator METR employee-level access to its systems, allowing the group to independently assess its advanced models, safety practices and risk management.”перевод с en
Положения о «красной линии» и предыдущие проблемы с доступом к информации остаются актуальными для обсуждения с оценщиками.
“A key sticking point between evaluators and AI labs is that information the companies might consider crucial intellectual property can also be relevant to assessing a model's risks.”перевод с en
METR сможет публиковать независимые отчеты без предварительного одобрения Anthropic, за исключением ограниченных редактирований.
““Anthropic can’t veto publication, but we can require them to redact information if it falls into narrow, pre-defined categories.””перевод с en
Anthropic разработала трехуровневую систему доступа для оценщиков, где METR находится на верхнем уровне с доступом к полному спектру данных.
“METR is the only evaluator so far at the top of a three-tier system Anthropic is building.”перевод с en
Новые меры направлены на повышение прозрачности и ответственности со стороны разработчиков ИИ.
““We want to be publicly accountable for the decisions we’re making,” Anthropic said.”перевод с en
Собрано и структурировано ИИ: связано: 3 публикации · процитировано: 3 публикации · сгруппировано: 2 домена СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑