Преимущества открытых моделей ИИ и связанные с ними риски
Дебаты о том, как подходить к открытым моделям ИИ, усложняются коммерческими интересами и вопросами безопасности
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
Недавний отчет компании Anthropic поднимает вопрос о безопасности открытых моделей искусственного интеллекта (ИИ), в частности, обсуждается модель GLM-5.3, выпущенная китайской компанией Z.ai. Основная озабоченность заключается в том, что эта модель доступна для свободного скачивания и модификации, что может привести к кибератакам, если она попадет в руки недобросовестных пользователей.
Дебаты вокруг открытых моделей ИИ вовлекают значительные коммерческие интересы, с такими фигурами, как генеральный директор Nvidia Дженсен Хуан, который выступает за развитие открытых моделей, и Дарио Амодеи из Anthropic, предпочитающий более осторожный подход. Эти противоречия касаются не только экономики, но и безопасности, так как использование открытых моделей предполагает баланс между доступом и рисками.
Что известно
· средняя близость к цитате 87%- ●Открытые модели ИИ доступны для скачивания и модификации, в отличие от закрытых моделей, таких как ChatGPT и Claude, которые можно использовать только через веб-сайты или API.MIT Technology Review
- ◐Модель GLM-5.3, выпущенная китайской компанией Z.ai, представляет крупный риск кибератак, по мнению компании Anthropic.MIT Technology Review
- ◐Вопрос о том, открыты ли модели ИИ, вызывает разногласия между сторонниками демократизации технологий и теми, кто обеспокоен их безопасностью.MIT Technology Review
- ◐Использование открытых моделей ИИ ставит перед обществом необходимость взвешивать безопасность и демократизацию технологий.MIT Technology Review
- ◐Дебаты о подходах к открытым моделям ИИ усложняют коммерческие интересы таких компаний, как Nvidia и Anthropic.MIT Technology Review
Что не подтверждено
- ?Какие меры могут быть приняты для минимизации рисков, связанных с открытыми моделями ИИ?
- ?Какой impact открытых моделей ИИ на рынок технологий и безопасности будет в будущем?
- ?Как будут развиваться дискуссии между сторонниками открытых моделей и их противниками?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
Модель GLM-5.3, выпущенная китайской компанией Z.ai, представляет крупный риск кибератак, по мнению компании Anthropic.
“Last month, Anthropic released a report arguing that the model GLM-5.3 poses a major cyberattack risk.”перевод с en
Открытые модели ИИ доступны для скачивания и модификации, в отличие от закрытых моделей, таких как ChatGPT и Claude, которые можно использовать только через веб-сайты или API.
“A closed model, like the models that power ChatGPT and Claude, can only be accessed through a website, app, or API. An open model, on the other hand, can be directly downloaded.”перевод с en
Вопрос о том, открыты ли модели ИИ, вызывает разногласия между сторонниками демократизации технологий и теми, кто обеспокоен их безопасностью.
“Those who are concerned about AI safety warn that open models can easily be misused by bad actors, whereas those who focus more on AI’s practical potential urge that this power should not sit behind the closed doors of just a few big companies.”перевод с en
Использование открытых моделей ИИ ставит перед обществом необходимость взвешивать безопасность и демократизацию технологий.
“Deciding whether to support or limit the production of open models requires understanding those risks and benefits in depth.”перевод с en
Дебаты о подходах к открытым моделям ИИ усложняют коммерческие интересы таких компаний, как Nvidia и Anthropic.
“But beneath all these commercial incentives, there is real substance to disagreements about open models.”перевод с en
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑