Глава NVIDIA о рисках автономных ИИ-агентов
Дженсен Хуанг подчеркнул важность безопасности при разработке искусственного интеллекта
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
На конференции в Астане генеральный директор NVIDIA Дженсен Хуанг поднял важные вопросы кибербезопасности в контексте автономных искусственных интеллектов. Он заявил, что разработчики должны обеспечивать безопасность своих технологий с самого начала и не дожидаться возникновения уязвимостей. В ответ на вопрос министра искусственного интеллекта Казахстана Жаслана Мадиева о планах внедрения дополнительных мер защиты, Хуанг пояснил, что ответственность за безопасность лежит на технологических компаниях.
Для решения данной проблемы NVIDIA разработала технологию OpenShell, которая ограничивает доступ автономных ИИ-агентов к важным ресурсам компьютерных систем. Это необходимо для предотвращения потенциально опасных действий таких агентов, которые могут самостоятельно взаимодействовать с программным обеспечением и базами данных. По словам Хуанга, использование OpenShell поможет изолировать агентов и минимизировать риски, связанные с их действием.
Что известно
· средняя близость к цитате 100%- ●Дженсен Хуанг подчеркнул, что разработчики ИИ должны обеспечивать безопасность с самого начала.Kursiv Media Казахстан
- ●НVIDIA разработала технологию OpenShell для ограничения доступа ИИ-агентов к ресурсам системы.Kursiv Media Казахстан
- ●Хуанг отметил, что ИИ-агенты могут самостоятельно выполнять действия, что требует дополнительных защитных механизмов.Kursiv Media Казахстан
- ●Министр искусственного интеллекта Казахстана Жаслан Мадиев обсудил с Хуаном необходимость дополнительных механизмов защиты.Kursiv Media Казахстан
- ●Опасения по поводу безопасности ИИ-агентов связаны с их способностью работать с файлами и кодом.Kursiv Media Казахстан
Что не подтверждено
- ?Какие конкретные меры безопасности предусмотрены в технологии OpenShell?
- ?Как планирует NVIDIA решать возникающие уязвимости в своих продуктах?
- ?Будут ли другие страны следовать примеру Казахстана в вопросах безопасности ИИ?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
Дженсен Хуанг подчеркнул, что разработчики ИИ должны обеспечивать безопасность с самого начала.
“«Чтобы человечество могло извлечь пользу из возможностей ИИ, мы обязаны развивать и внедрять его ответственно. Как в автомобилестроении или горнодобывающей отрасли, безопасность должна закладываться с самого первого дня»”
НVIDIA разработала технологию OpenShell для ограничения доступа ИИ-агентов к ресурсам системы.
“«OpenShell изолирует их в безопасном контуре, жестко ограничивает права доступа только необходимым минимумом и непрерывно отслеживает их действия»”
Хуанг отметил, что ИИ-агенты могут самостоятельно выполнять действия, что требует дополнительных защитных механизмов.
“«Такие возможности требуют дополнительных механизмов защиты»”
Министр искусственного интеллекта Казахстана Жаслан Мадиев обсудил с Хуаном необходимость дополнительных механизмов защиты.
“«...интересовался, планирует ли NVIDIA внедрять дополнительные механизмы защиты на аппаратном уровне... »”
Опасения по поводу безопасности ИИ-агентов связаны с их способностью работать с файлами и кодом.
“«Опасения по поводу безопасности автономных ИИ-агентов связаны с тем, что такие системы способны не только генерировать ответы, но и самостоятельно работать с файлами, программным кодом и базами данных»”
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑