Конфликт вокруг независимых оценок в индустрии ИИ
Anthropic и OpenAI требуют контроля над публикациями внешних оценщиков
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
В последние недели в индустрии искусственного интеллекта разгорелся конфликт между компаниями Anthropic и OpenAI и внешними оценщиками, касающийся прав на публикацию результатов оценок. Несмотря на заявление генерального директора Anthropic Дарио Амодеи о важности независимости оценщиков, обе компании стремятся контролировать, что именно будет опубликовано, опасаясь раскрытия своих коммерческих тайн.
Обсуждение условий вмешательства и контроля над публикациями ведется на фоне растущих угроз потенциальной опасности, исходящей от мощных ИИ-систем. Утверждения о том, что независимость оценщиков может быть под угрозой, подтверждают опасения экспертов, которые указывают на необходимость четких стандартов и законодательства в данной области, чтобы избежать вмешательства компаний в процедуру оценки.
Что известно
· средняя близость к цитате 82%- ◐Anthropic и OpenAI стремятся получить значительный контроль над тем, что внешние оценщики могут публиковать.Channel News Asia
- ◐Некоторые эксперты утверждают, что отсутствие согласованных стандартов для независимых оценок может привести к тому, что компании будут диктовать, как будут исследоваться их системы.The Indian Express
- ◐Обсуждаются меры по предотвращению утечек интеллектуальной собственности, включая наблюдение сотрудников лабораторий за работой оценщиков.Channel News Asia
- ◐Обсуждения показывают напряженность между необходимостью информировать общественность об ИИ и требованиями компании защитить свои коммерческие секреты.Channel News Asia
- ◐Собеседники издания заявили, что 5 октября Anthropic и OpenAI требовали строгого редакционного контроля над публикациями оценщиков.Channel News Asia
- ◐Генеральный директор Anthropic Дарио Амодеи заявил, что внешние оценщики должны иметь право публиковать ключевые результаты "без редакционного контроля".The Indian Express
- ◐Доказательства независимости оценщиков вызывают озабоченность, поскольку Anthropic и OpenAI выбирают, кто будет проводить эти оценки.The Indian Express
- △Сторонние оценщики могут быть под давлением со стороны лабораторий, где они проводят оценки, что ставит под вопрос их независимость.The Indian Express
Что не подтверждено
- ?Каковы будут последствия для компаний, если независимость оценщиков будет поставлена под угрозу?
- ?Какие конкретные меры будут внедрены для защиты интеллектуальной собственности?
- ?Как индустрия отреагирует на необходимость согласованных стандартов для независимых оценок?
Хронология
Публикации в порядке появления, у каждой — её собственные формулировки и процитированный фрагмент.
Обсуждаются меры по предотвращению утечек интеллектуальной собственности, включая наблюдение сотрудников лабораторий за работой оценщиков.
“Measures under discussion to prevent intellectual-property leaks include having lab employees observe embedded teams as they work.”перевод с en
Собеседники издания заявили, что 5 октября Anthropic и OpenAI требовали строгого редакционного контроля над публикациями оценщиков.
“The two people with knowledge of the matter said that as recently as October 5, Anthropic and OpenAI were seeking strict editorial control over what the evaluators could publish.”перевод с en
Обсуждения показывают напряженность между необходимостью информировать общественность об ИИ и требованиями компании защитить свои коммерческие секреты.
“The discussions highlight the tension between a need to make the world aware of powerful and potentially dangerous AI and demands to safeguard trade secrets by AI companies seeking trillion-dollar valuations.”перевод с en
Anthropic и OpenAI стремятся получить значительный контроль над тем, что внешние оценщики могут публиковать.
“Anthropic and OpenAI have sought significant control over what outside evaluators can publish, concerned that findings could reveal trade secrets.”перевод с en
Сторонние оценщики могут быть под давлением со стороны лабораторий, где они проводят оценки, что ставит под вопрос их независимость.
“Evaluators at the mercy of the labs themselves.”перевод с en
Генеральный директор Anthropic Дарио Амодеи заявил, что внешние оценщики должны иметь право публиковать ключевые результаты "без редакционного контроля".
“Anthropic CEO Dario Amodei said last month that external evaluators should have the right to publish key findings "without editorial control."”перевод с en
Некоторые эксперты утверждают, что отсутствие согласованных стандартов для независимых оценок может привести к тому, что компании будут диктовать, как будут исследоваться их системы.
“Without agreed standards and legislation for independent reviews, some experts said the companies building the most powerful AI models could dictate how their systems are examined.”перевод с en
Доказательства независимости оценщиков вызывают озабоченность, поскольку Anthropic и OpenAI выбирают, кто будет проводить эти оценки.
“Experts have said independence of evaluators is a concern as Anthropic and OpenAI choose who gets to carry out the reviews.”перевод с en
Собрано и структурировано ИИ: связано: 2 публикации · процитировано: 2 публикации · сгруппировано: 2 домена СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑