Новое партнерство с Microsoft ускоряет разработку генеративного искусственного интеллекта

Jan 28, 2024

Присоединяйтесь к топ-менеджерам в Сан-Франциско 11–12 июля и узнайте, как лидеры интегрируют и оптимизируют инвестиции в искусственный интеллект для достижения успеха. Узнать больше

Одной из самых горячих тенденций в области искусственного интеллекта (ИИ) в этом году стало появление популярных моделей генеративного ИИ. Благодаря таким технологиям, как DALL-E и Stable Diffusion, появляется все больше стартапов и вариантов использования.

Генеративный искусственный интеллект основан на ряде фундаментальных технологий, включая использование моделей трансформаторов. Использование преобразователей для генеративного искусственного интеллекта и других вариантов использования может быть ресурсоемким со стороны вывода, когда системы прогнозируют и формируют результаты модели.

Среди поставщиков, которые создают технологии, помогающие ускорить вывод ИИ для моделей трансформаторов, есть стартап d-Matrix, который в апреле привлек 44 миллиона долларов в рамках раунда финансирования серии А для разработки своей аппаратной технологии ускорителя искусственного интеллекта. Компания разработала технологию цифровых вычислений в памяти (DIMC), которая пока не является общедоступной, но уже привлекла внимание Microsoft.

Сегодня Microsoft и d-Matrix объявили, что обучение с подкреплением Microsoft Project Bonsai будет поддерживаться технологией d-Matrix DIMC, которая, как надеются оба поставщика, обеспечит значительное ускорение вывода ИИ.

Трансформация 2023

Присоединяйтесь к нам в Сан-Франциско 11–12 июля, где топ-менеджеры расскажут, как они интегрировали и оптимизировали инвестиции в искусственный интеллект для достижения успеха и избежания распространенных ошибок.

«Проект Бонсай — это платформа, которая обеспечивает нашу версию глубокого обучения с подкреплением, и мы называем это машинным обучением», — рассказал VentureBeat Кингсук Майтра, главный инженер по прикладному искусственному интеллекту в Microsoft. «Мы подготовили компилятор для единственной в своем роде технологии цифровых вычислений в памяти d-Matrix, и первые результаты очень обнадеживают».

Project Bonsai разрабатывался в Microsoft в течение последних нескольких лет и в настоящее время доступен в виде предварительной версии.

Майтра сказал, что цель усилий — абстрагироваться от сложностей, связанных с сетями глубокого обучения с подкреплением. Первоначальной целью Project Bonsai является промышленный контроль, включая проектирование и производство чипов. Частью технологии является возможность обучения моделей с использованием языка высокого уровня, разработанного в Microsoft Project Bonsai, под названием Inkling для обучения агентов глубокого подкрепления для выполнения задач управления.

По словам Майтры, глубокое обучение с подкреплением не требует размеченных данных. Скорее, он учится, используя обратную связь от окружающей среды, которую можно имитировать с помощью симулятора. В конце цикла обучения результатом является обученный агент обучения с подкреплением (RL), который Microsoft называет «мозгами». Мозг, когда он задействован, может предпринять значимые действия для выполнения поставленной задачи.

«Мы запускаем активные реальные рабочие нагрузки и обучаем компилятор относительно этих реальных рабочих нагрузок, большинство из которых используют хорошо известные большие языковые модели с различным мозгом бонсай», — сказал Майтра.

В настоящее время у d-Matrix нет общедоступных чипов, но первый из них под кодовым названием Corsair должен дебютировать в 2023 году.

«Мы создаем ускоренную вычислительную платформу для трансформаторов и специально фокусируемся на генеративном искусственном интеллекте», — рассказал VentureBeat Судип Бходжа, сооснователь и технический директор d-Matrix.

Бходжа объяснил, что чипы, которые разрабатывает d-Matrix, могут быть построены по очень модульному принципу и могут быть упакованы вместе с ЦП или могут быть интегрированы в карту PCI, которая подключается к серверу в облаке. Технология d-Matrix предназначена для ускорения вывода ИИ благодаря технологии DIMC, которая обеспечивает высокую производительность и низкую задержку.

Благодаря проекту Microsoft Project Bonsai у d-Matrix теперь есть компилятор, который может создавать инструменты глубокого обучения с подкреплением для ее микросхем. Ключевой конечной целью d-Matrix является поддержка дальнейшего роста и внедрения генеративных моделей искусственного интеллекта.

«Мы хотим включить [генеративные модели искусственного интеллекта], потому что они требуют много вычислительной мощности, существуют ограничения по задержке и это зависит от пользователя», — сказал Бходжа. «Вы должны быть в состоянии сделать это очень энергоэффективным способом, чтобы центрам обработки данных не приходилось потреблять больше энергии…».