Отечественные чипы искусственного интеллекта приземлились в области искусственного интеллекта
Чип Edge AI
В настоящее время из-за шока данных, вызванного развитием Интернета вещей, обработка важных данных датчиков Интернета вещей становится все ближе и ближе к исходному местоположению данных, и существует потребность в технологии машинного обучения, основанной на периферийных вычислениях. . В последние два года очень четко обозначилась тема развития искусственного интеллекта, то есть приложений для приземления. Среди множества технологий ИИ, будь то приложение алгоритма верхнего уровня или продукт, в конечном итоге это зависит от гарантии базовой вычислительной мощности, то есть от ИИ-чипа.
Тенденция выхода на рынок Edge AI
С прошлого года рынок периферийного ИИ вступил в бурный период, и количество терминалов AIoT превысило количество смартфонов. С точки зрения сценариев приземления ИИ, две основные рабочие нагрузки чипов ИИ - это в основном обучение данных и вычисления логического вывода. Среди них темпы роста доли рынка вычислений логического вывода догоняют рынок обучения данных.
Теперь модель алгоритма может достигать только 2 КБ, но производительность алгоритма нейронной сети превышает 4 МБ. Миниатюризация алгоритмов глубокого обучения показывает, что сверхбольшая модель, представленная GPT-3, не подходит для корпоративного рынка.
В новой платформе IoT данные могут обрабатываться локально на устройстве. Это требует рассмотрения ограниченных условий развертывания модели алгоритма в различных сценариях при проектировании базового чипа, включая распределение вычислительной мощности, энергопотребление и область кремния. С точки зрения полезности затрат на единицу вычислительной мощности, расчет логического вывода может лучше представить направление посадки, требуемое рынком корпоративного уровня.
Проблема приземления чипа Edge AI
Во-первых, сценарии периферийного ИИ разнообразны, и разные сценарии предъявляют разные требования к энергопотреблению и производительности чипа. С другой стороны, емкость рынка фрагментированных сценариев является неопределенной, и необходимо найти баланс между инженерными затратами и преимуществами исследований и разработок микросхем. Это испытание, с которым должны столкнуться все производители микросхем.
Получение высококачественных данных также является серьезной трудностью, то есть как отфильтровать надежные данные из больших данных. Большие данные не означают высококачественные данные. Выполнение задач глубокого обучения на микросхемах ИИ требует постоянной оптимизации аппаратных датчиков.
Кроме того, для традиционных клиентов, помимо затрат на приобретение интеллектуальных продуктов, существуют также затраты на их использование. Энергопотребление чипа и простота развертывания продукта - все это влияет на внедрение и продвижение ИИ. То, как производители микросхем настраивают микросхемы с разной вычислительной мощностью в соответствии с различными сценариями, также является болевой точкой при посадке.
В настоящее время у периферийного ИИ-чипа отсутствует высокодоступная платформа разработки, дизайн инструментов компиляции программного обеспечения сложен, а порог разработки и использования пользователем высок, но, как ожидается, они будут продолжать улучшаться и повторяться в процессе посадки.
ИИ-чип Commercial Edge
Санберст серия
Для AIoT Horizon выпустила серию периферийных ИИ-чипов Rising Sun. Благодаря совместным усилиям разработчиков ИС и программного обеспечения был достигнут баланс между производительностью, энергопотреблением, гибкостью и стоимостью. Микросхема искусственного интеллекта Rising Sun 2 edge использует архитектуру BPU Bernoulli 1.0, которая может обеспечить вычислительную мощность, эквивалентную 4TOPS, и выполнять обнаружение в реальном времени и точное распознавание различных типов целей. Rising Sun 2 интегрирует Dual-Cortex A53, который может эффективно поддерживать множество основных задач искусственного интеллекта. Он также поддерживает EMCC и SPI Flash.
Компания Horizon запускает Rising Sun 3 с упором на новое поколение ИИ-чипов AIoT edge с низким энергопотреблением и высокой производительностью. Он объединяет самый передовой механизм искусственного интеллекта (BPU) архитектуры Bernoulli 2.0 от Horizon, который может обеспечить эквивалентную вычислительную мощность 5TOPS.
Новая архитектура BPU значительно улучшает поддержку продвинутой сетевой архитектуры CNN и значительно снижает степень использования полосы пропускания DDR операциями AI. Дополненный платформой разработки ИИ Horizon Tiangong Kaiwu, он значительно упрощает процесс разработки и развертывания алгоритмов и снижает себестоимость продуктов ИИ.
В рамках структуры Bernoulli 2.0 BPU, использование DDR увеличено в 5 раз. Усовершенствованный алгоритм обработки ISP позволяет получать изображения высокого качества с разрешением 1200 Вт пикселей в широких динамических сценах и сценах с низкой освещенностью. Rising Sun 3 может одновременно обрабатывать 4–8 входных сигналов датчиков камеры с различным разрешением и поддерживает различные функции постобработки изображений, а также поддерживает кодирование и декодирование H.264 / H.265 с производительностью 4K при 60 кадрах в секунду.
1
(Восход 3)
Канжи К210 / К510
Чип первого поколения Kanzhi K210 специально разработан для задач машинного зрения.Производительность вычислений с плавающей запятой может достигать 1,28TFLOPS, что сопоставимо с основными вариантами разработки в области встраиваемых систем. В то же время его потребляемая мощность составляет всего 0,3 Вт, а потребляемая мощность в типичных сценариях работы менее 1 Вт, а энергопотребление на единицу вычислительной мощности низкое, что является очень экономичным выбором. Второе поколение Kanzhi K510 модернизируется в соответствии с реальной ситуацией посадки и отзывами клиентов. Это IP-ядро перестроено для реализации требований к вычислительным ресурсам, хранилищу и пропускной способности на разных уровнях нейронной сети, а также для увеличения скорости повторного использования данных и снижения энергопотребления чипа.
Во-вторых, для скорости и качества сбора данных Kanzhi K510 оснащен совершенно новым модулем технического зрения. По сравнению с чипом первого поколения, K510 был значительно оптимизирован с точки зрения частоты кадров и периферийных устройств. Частота кадров на терабайт достигла лидирующего в отрасли уровня. Кроме того, K510 также поддерживает вычисление BF16 с плавающей запятой, что имеет преимущества перед аналогичными продуктами в сценариях, которые не подходят для квантования модели.
2
(Принципиальная схема видеоподсистемы)
резюме
В конечном итоге периферийные микросхемы ИИ поднимут корпоративные приложения Интернета вещей на совершенно новый уровень. Умные устройства, управляемые чипами AI, помогут расширить существующие рынки, изменив методы распределения стоимости в различных отраслях, таких как производство, строительство, логистика, сельское хозяйство и энергетика.