Уязвимости в системе мониторинга OpenAI выявлены независимыми оценщиками
Неправительственные организации METR и Redwood Research провели тестирование внутренней системы OpenAI, обнаружив несколько уязвимостей.
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
В результате пилотного тестирования системы мониторинга OpenAI независимые оценщики METR и Redwood Research выявили несколько новых уязвимостей в её внутренней инфраструктуре. Период тестирования проходил с 21 июля по 11 августа, в ходе которого сотрудникам METR и Redwood был предоставлен доступ к внутреннему коду и техдокументации OpenAI.
По итогам проверки сообщается о наличии эксплойта, позволяющего игнорировать мониторинг «сотен» недавних действий. OpenAI сообщила, что все найденные уязвимости были устранены. Оценщики согласовали публикацию лишь ограниченной информации о результатах тестирования, оставив более подробные данные для будущих публикаций.
Что известно
· средняя близость к цитате 86%- ◐Независимые оценщики METR и Redwood Research провели пилотный обзор системы мониторинга OpenAI, используя доступ к её внутренней инфраструктуре.CNBC World
- ◐OpenAI сообщила о том, что все выявленные уязвимости были зафиксированы и устранены.CNBC World
- ◐В ходе тестирования была обнаружена уязвимость, позволяющая нарушить мониторинг сотен действий.CNBC World
- ◐Система тестирования является частью стратегии OpenAI по сотрудничеству с независимыми организациями.CNBC World
- ◐Пилотный обзор не предполагал полной прозрачности системы мониторинга OpenAI для общественности.CNBC World
Что не подтверждено
- ?Какие конкретные уязвимости были обнаружены в системе мониторинга OpenAI?
- ?Какие меры будут предприняты OpenAI после обнаружения уязвимостей?
- ?Как данное тестирование повлияет на будущее взаимодействие OpenAI с другими независимыми оценщиками?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
Независимые оценщики METR и Redwood Research провели пилотный обзор системы мониторинга OpenAI, используя доступ к её внутренней инфраструктуре.
“Nonprofit evaluators METR and Redwood Research on Thursday said they conducted a pilot review of an internal monitoring system at OpenAI.”перевод с en
В ходе тестирования была обнаружена уязвимость, позволяющая нарушить мониторинг сотен действий.
“the evaluators discovered several "novel vulnerabilities," including an exploit that would allow agents to prevent "hundreds" of recent actions from being monitored.”перевод с en
OpenAI сообщила о том, что все выявленные уязвимости были зафиксированы и устранены.
“OpenAI told METR and Redwood that it has patched the identified vulnerabilities that impact its production safeguards.”перевод с en
Пилотный обзор не предполагал полной прозрачности системы мониторинга OpenAI для общественности.
“the pilot was not designed to "provide robust public transparency about OpenAI's monitoring system."”перевод с en
Система тестирования является частью стратегии OpenAI по сотрудничеству с независимыми организациями.
“This collaboration builds on our longstanding commitment to pioneering new approaches to third-party testing.”перевод с en
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑