Dell Technologies продолжает устанавливать планку для революционных достижений ИИ в сотрудничестве с лидерами отрасли, такими как NVIDIA и Mistral AI. Как мы изложили в нашем блоге из Dell Technologies World пару недель назад, мы тесно сотрудничаем с Mistral AI для разработки решений, которые привносят истинную мощь ИИ в предприятие. После нашего общего успеха на мероприятии мы расширяем наше сотрудничество с передовыми агентскими решениями RAG на базе Dell AI Factory с NVIDIA и Dell AI Data Platform , включающей новый коннектор Dell PowerScale для приложений RAG.
Оптимизация эффективности ИИ
По мере того, как организации изучают приложения агентного поиска и дополненной генерации (RAG) для извлечения информации из больших репозиториев данных, операционная неэффективность становится препятствием. Разработчикам ИИ и ученым по данным необходимо будет тщательно настроить модели, чтобы сделать своих агентов готовыми к использованию на предприятии с использованием огромных объемов разнообразных фирменных данных и интеллектуальной собственности. Агенты будут одновременно запускать несколько методов ИИ, а требования к выводам будут быстро расти. В то же время повторяющиеся проблемы с приемом данных могут замедлить прогресс и нагрузить вычислительные ресурсы.
При обработке терабайт данных это может накапливаться, поскольку разработчики постоянно обрабатывают изменения в потенциально миллионах файлов, что приводит к чрезмерному использованию ресурсов ЦП и ГП, чрезмерному перемещению данных, повышенным требованиям к сети и более медленным конвейерам обработки. Сохранение больших динамических наборов данных является постоянной проблемой, часто требующей от разработчиков перестраивать вычислительно интенсивные фрагменты и вложения.
На NVIDIA GTC San Jose в марте Dell представила специальный коннектор Dell PowerScale для приложений RAG, который поможет клиентам освободить ресурсы CPU и GPU на своих вычислительных кластерах AI. Этот коннектор, являющийся ключевым для приложений RAG, минимизирует избыточную обработку данных, оптимизируя эксплуатационные расходы, производительность инфраструктуры и ускоряя время создания знаний. Используя коннектор, система отслеживает обработанные и необработанные файлы с использованием метаданных файловой системы, синхронизированных с базой данных Elasticsearch, что снижает вычислительную нагрузку за счет избежания повторной обработки неизмененных файлов.
Программное обеспечение NVIDIA AI Enterprise, центральное для Dell AI Factory с NVIDIA, дополняет эти возможности, ускоряя процессы преобразования, внедрения и извлечения данных. Теперь разработчики могут использовать микросервисы NeMo для быстрого и интуитивного извлечения информации.
Интеграция с ИИ Mistral
Мы работаем с Mistral AI над решением критических проблем операционной эффективности. Вместе мы разрабатываем решения, которые в полной мере используют Dell AI Factory с NVIDIA и новой Dell AI Data Platform. Результатом является единая экосистема, которая эффективно масштабирует приложения RAG.
Руководящие принципы этих решений:
- Высокопроизводительные и качественные модели искусственного интеллекта и программная инфраструктура Mistral
- Унифицированный доступ к многомодальным структурированным и неструктурированным данным для рабочих нагрузок GenAI, интегрированный с Mistral AI для рассуждений на основе LLM
- Ускоренное преобразование данных для RAG и извлечение знаний с использованием PowerScale RAG Connector и векторной базы данных
- Ускоренный конвейер «от документа к ответу» с использованием векторов, метаданных и поиска по ключевым словам
- Исключительная производительность вывода с Project Lightning , решением Dell для кэширования ключ-значение
- Интеграция корпоративного уровня управления доступом и хранения данных с ObjectScale и PowerScale
Благодаря этой синергетической интеграции разработчики добиваются более быстрого получения результатов ИИ и лучшего операционного контроля, прокладывая путь для усовершенствований агентного ИИ.
Раскрытие бизнес-потенциала в больших масштабах
Dell AI Factory с микросервисами NVIDIA, NVIDIA NIM и решениями Mistral AI в совокупности предлагают ощутимые бизнес-преимущества для организаций, стремящихся к бесшовной интеграции ИИ:
- Оптимизированный поиск данных: благодаря интеллектуальной обработке только новых или измененных файлов компании могут оптимизировать циклы ЦП/ГП для критически важных задач.
- Оптимизация общей инфраструктуры ИИ: оптимизированные рабочие процессы сокращают сбои в работе, предоставляя разработчикам масштабируемость для уверенного удовлетворения меняющихся требований.
- Производительность: эффективные конвейеры данных позволяют компаниям быстрее извлекать полезную информацию, способствуя принятию более обоснованных решений и сокращению циклов инноваций.
Внедрение инноваций, поддержка решений на основе искусственного интеллекта
Объединенный опыт Dell, NVIDIA и Mistral AI представляет собой следующую эру трансформации на основе ИИ. Решая основные проблемы управления данными с помощью Dell AI Data Platform, вычислительной неэффективности и масштабирования, эти инновации позволяют компаниям действовать решительно в будущем, основанном на ИИ.