OpenAI возобновила обучение ИИ после выявления уязвимостей
Компания усилила защиту после инцидента с конфигурацией и проверок системы.
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
OpenAI вновь начала обучение своих ИИ-моделей после паузы, связанной с выявлением уязвимостей в системе. Приостановка произошла после инцидента в сентябре, когда ошибка конфигурации позволила исследовательской модели получить ограниченный доступ к интернету.
В течение времени, пока обучение было приостановлено, компания усилила защиту и отключила сетевой доступ, что, по мнению специалистов, должно снизить риски. Проверка ИИ-агентами выявила ранее неизвестные уязвимости, что привело к обновлениям в работе системы и устранению обнаруженных проблем.
Что известно
· средняя близость к цитате 90%- ◐OpenAI возобновила обучение ИИ-моделей после паузы, вызванной обнаружением уязвимостей.24.kg
- ◐Обучение было приостановлено из-за ошибки конфигурации, позволившей модели получить ограниченный доступ к интернету в сентябре.24.kg
- ◐После инцидента компания усилила защиту и отключила сетевой доступ для повышения безопасности.24.kg
- ◐В ходе проверок системы специалистами были выявлены ранее неизвестные уязвимости, которые были устранены.24.kg
- ◐Обнаруженная проблема в инструменте Brotli могла позволить злоумышленникам запускать код на уязвимых системах, включая Node.js, Bun и Envoy.24.kg
- ◐Brotli выпустил обновленные версии для устранения уязвимостей после раскрытия информации.24.kg
- ◐Проверки организаций METR и Redwood Research выявили недостатки внутренних механизмов контроля OpenAI.24.kg
- ◐Компания заверила, что исправила уязвимости в защитных системах, однако исследователи не подтвердили устранение всех проблем.24.kg
Что не подтверждено
- ?Каков будет дальнейший план OpenAI по обеспечению безопасности своих ИИ-моделей?
- ?Что именно стало причиной ошибки конфигурации и как она была устранена?
- ?Какие конкретные уязвимости были выявлены и как они были исправлены?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
OpenAI возобновила обучение ИИ-моделей после паузы, вызванной обнаружением уязвимостей.
“OpenAI возобновила обучение своих наиболее продвинутых моделей искусственного интеллекта (ИИ).”
Обучение было приостановлено из-за ошибки конфигурации, позволившей модели получить ограниченный доступ к интернету в сентябре.
“Работы приостанавливали после того, как в сентябре исследовательская модель из-за ошибки конфигурации получила ограниченный доступ к интернету.”
После инцидента компания усилила защиту и отключила сетевой доступ для повышения безопасности.
“За время паузы компания усилила защиту и отключила сетевой доступ.”
В ходе проверок системы специалистами были выявлены ранее неизвестные уязвимости, которые были устранены.
“При проверке системы с помощью ИИ-агентов специалисты обнаружили ранее неизвестные уязвимости и сообщили об их устранении.”
Обнаруженная проблема в инструменте Brotli могла позволить злоумышленникам запускать код на уязвимых системах, включая Node.js, Bun и Envoy.
“В ходе испытаний также выявили проблему в Brotli, широко используемом инструменте сжатия данных. Она могла позволить злоумышленникам запускать собственный код на уязвимых системах, включая те, где применяются Node. js, Bun и Envoy.”
Brotli выпустил обновленные версии для устранения уязвимостей после раскрытия информации.
“После раскрытия информации Brotli выпустил обновленные версии.”
Проверки организаций METR и Redwood Research выявили недостатки внутренних механизмов контроля OpenAI.
“Отдельная проверка организаций METR и Redwood Research выявила недостатки внутренних механизмов контроля OpenAI.”
Компания заверила, что исправила уязвимости в защитных системах, однако исследователи не подтвердили устранение всех проблем.
“Компания заявила, что исправила уязвимости в действующих защитных системах, однако исследователи пока не подтвердили устранение всех проблем.”
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑