Скрытые расходы на хранение данных в ИИ: что оставляет за собой инъекция данных
Не только графические процессоры, но и затраты на хранение данных становятся все более значительными в инфраструктуре ИИ.
Всё, что известно о событии, восходит к одному сообщению: либо публикация одна, либо остальные повторяют её или ссылаются на тот же источник.
Что произошло
В то время как многие руководители компаний сосредотачиваются на таких расходах, как графические процессоры и электроэнергия, связанных с искусственным интеллектом, важен также аспект хранения данных. После того, как модель ИИ отвечает на запрос, остается большое количество данных, которые требуют хранения, включая логи и резервные копии. Это приводит к значительным и часто упускаемым из виду затратам на инфраструктуру.
С увеличением спроса на инъекцию данных, затраты на хранение будут только расти. По прогнозам, к концу десятилетия инъекция данных составит более 40% от общего спроса на центры обработки данных. В недавнем исследовании выяснили, что 95% опрошенных компаний столкнулись с увеличением объема данных из-за генеративного ИИ за последние 12 месяцев.
Что известно
· средняя близость к цитате 90%- ◐95% респондентов сообщили о росте объёма данных из-за генеративного ИИ за последние 12 месяцев.MIT Technology Review
- ◐61% респондентов отметили увеличение объёма данных на 25% или более.MIT Technology Review
- ◐Спрос на инъекцию данных будет расти на 35% в год до 2030 года, в то время как обучение — на 22%.MIT Technology Review
- ◐Время простоя графических процессоров становится очень дорогостоящим, если они ожидают данных.MIT Technology Review
- ◐Модель ИИ генерирует значительное количество сопутствующих данных, остающихся на стороне сервера, после обработки запроса.MIT Technology Review
Что не подтверждено
- ?Как компании планируют справляться с ростом объёма данных в будущем?
- ?Какие именно инфраструктурные изменения потребуются для хранения данных?
- ?Существуют ли примеры успешного управления данными в условиях роста расходов на инфраструктуру?
Что процитировано
Событие собрано по одной публикации, поэтому последовательности здесь нет — только то, что из неё процитировано.
95% респондентов сообщили о росте объёма данных из-за генеративного ИИ за последние 12 месяцев.
“nearly 95% of respondents reported an increase in data volume due to generative AI over the past 12 months”перевод с en
61% респондентов отметили увеличение объёма данных на 25% или более.
“roughly 61% reporting growth of 25% or more”перевод с en
Спрос на инъекцию данных будет расти на 35% в год до 2030 года, в то время как обучение — на 22%.
“McKinsey projects AI inference demand will grow at a 35% CAGR through 2030, versus 22% for training”перевод с en
Время простоя графических процессоров становится очень дорогостоящим, если они ожидают данных.
“hours of GPU idle time becomes very expensive, very fast”перевод с en
Модель ИИ генерирует значительное количество сопутствующих данных, остающихся на стороне сервера, после обработки запроса.
“an 8-second clip (returned to a user as a 3.97MB 720p file) left more than 500MB of associated data behind”перевод с en
Собрано и структурировано ИИ: связано: 1 публикация · процитировано: 1 публикация · сгруппировано: 1 домен СМИ. Ручной редактуры и модерации нет — возможны неточности.
Наверх ↑