Инструмент для восстановления удалённых AI-чатов: как это работает
Учёные из Georgia Tech разработали инструмент, который может извлечь информацию из памяти устройства даже после удаления чатов.
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
Недавно учёные из Georgia Tech представили инструмент под названием ORISA, который может восстанавливать удалённые сообщения из AI-чатов, хранящихся в оперативной памяти устройства. Это открытие ставит под сомнение предположения о безопасности данных, сохранённых локально, поскольку информация может оставаться в памяти даже после удаления чатов.
ORISA был создан для целей кибербезопасности и способен находить фрагменты данных, которые могут быть использованы в судебных расследованиях. Инструмент извлекает информацию из кэша памяти процесса, что позволяет восстановить часть сеансов общения с AI-ассистентом, что может быть полезно для предотвращения преступлений в области кибербезопасности.
Что известно
· средняя близость к цитате 90%- ●ORISA может восстанавливать удалённые сообщения из AI-чатов, хранящихся в оперативной памяти устройства.ZDNet
- ◐Инструмент способен находить фрагменты данных, которые могут быть использованы в судебных расследованиях.ZDNet
- ◐ORISA использует кэш-память процесса для восстановления сеансов общения с AI-ассистентом.ZDNet
- ◐Результаты эксперимента показывают ограниченные возможности по обеспечению безопасности локальных AI-систем.ZDNet
- ◐Восстановление информации из локально хранящихся данных может препятствовать преступлениям в области кибербезопасности.ZDNet
Что не подтверждено
- ?Каковы ограничения безопасности, связанные с использованием инструмента ORISA?
- ?Какие меры могут быть предприняты для защиты личных данных от восстановления?
- ?Как это открытие повлияет на будущее разработки AI-чатов?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
ORISA может восстанавливать удалённые сообщения из AI-чатов, хранящихся в оперативной памяти устройства.
“An experimental tool recovered deleted information from chats.”перевод с en
Инструмент способен находить фрагменты данных, которые могут быть использованы в судебных расследованиях.
“It can help establish what information someone shared with an AI assistant and what assistance they received.”перевод с en
ORISA использует кэш-память процесса для восстановления сеансов общения с AI-ассистентом.
“ORISA leverages the batch tokens and key-value (KV) caches preserved in process memory to reconstruct token sequences.”перевод с en
Восстановление информации из локально хранящихся данных может препятствовать преступлениям в области кибербезопасности.
“That means a tool like this is most relevant to those trying to stop cybercrime rather than to those digging into your personal data.”перевод с en
Результаты эксперимента показывают ограниченные возможности по обеспечению безопасности локальных AI-систем.
“That means bad actors can fine-tune models for crimes, for example, and then make the evidence untraceable by deleting them after they’ve used them.”перевод с en
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑