Microsoft представляет новые инструменты безопасности для управления рисками от ИИ
Компания признает, что автономные агентные модели могут быть ненадежными и требует дополнительных мер контроля
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
Microsoft анонсировала новое решение для обеспечения безопасности, включая Guardian Agents, которые будут следить за автономными агентами ИИ. Эти инструменты разработаны для управления рисками, связанными с использованием ИИ, которые могут ошибаться или быть скомпрометированы.
По словам Нади́ма Абдо, вице-президента компании, необходимо обеспечить постоянный контроль за действиями ИИ-агентов, так как они не могут сами отвечать за свою безопасность. Компания утверждает, что «агентные инсайдеры» требуют нового уровня надзора, выходящего за рамки традиционных средств защиты.
Что известно
· средняя близость к цитате 100%- ●Microsoft представила Guardian Agents для контроля и управления рисками от автономных ИИ-агентов.TechRadar
- ●Новые инструменты динамически регулируют разрешения и поведение агентов в зависимости от уровня риска.TechRadar
- ●По словам Нади́ма Абдо, ИИ-агенты не могут быть доверены управлению собственной безопасностью.TechRadar
- ●Satya Nadella описал необходимую архитектуру доверия в эпоху ИИ: управление безопасностью должно находиться вне модели, чтобы она не могла это игнорировать или подделывать.TechRadar
- ●Microsoft также представила Project Perception, систему кибербезопасности, использующую ИИ для анализа данных о безопасности, выявления уязвимостей и расследования угроз.TechRadar
Что не подтверждено
- ?Какие конкретные уязвимости обнаруживает система Project Perception?
- ?Как будет осуществляться контроль за действиями ИИ-агентов на практике?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
Microsoft представила Guardian Agents для контроля и управления рисками от автономных ИИ-агентов.
“Microsoft unveils Guardian Agents to monitor, constrain, and manage risks posed by autonomous AI agents.”перевод с en
Новые инструменты динамически регулируют разрешения и поведение агентов в зависимости от уровня риска.
“New controls dynamically adjust agent permissions, behavior, and access based on changing risk levels”перевод с en
По словам Нади́ма Абдо, ИИ-агенты не могут быть доверены управлению собственной безопасностью.
“AI agents doing their master's bidding cannot be trusted with their own security.”перевод с en
Satya Nadella описал необходимую архитектуру доверия в эпоху ИИ: управление безопасностью должно находиться вне модели, чтобы она не могла это игнорировать или подделывать.
“we should not ask a model to be its own security authority.”перевод с en
Microsoft также представила Project Perception, систему кибербезопасности, использующую ИИ для анализа данных о безопасности, выявления уязвимостей и расследования угроз.
“Project Perception is an AI-powered cybersecurity system designed to coordinate specialized AI agents that analyze security data, identify vulnerabilities, and investigate different threats.”перевод с en
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑