Yerli uç AI çipleri yapay zeka alanına indi
Kenar AI çipi
Günümüzde, Nesnelerin İnterneti'nin yükselişinin neden olduğu veri şoku nedeniyle, önemli IoT sensör verilerinin işlenmesi, verilerin orijinal konumuna gittikçe yaklaşıyor ve uç bilişime dayalı makine öğrenimi teknolojisine talep var. . Son iki yılda yapay zeka geliştirme teması çok netleşti yani iniş uygulamaları. Birçok AI teknolojisi arasında, ister üst düzey algoritma uygulaması olsun isterse ürün olsun, sonuçta temeldeki bilgi işlem gücünün, yani AI çipinin garantisine bağlıdır.
Edge AI pazar iniş trendi
Geçen yıldan bu yana, uç AI pazarı patlayıcı bir döneme girdi ve AIoT terminallerinin sayısı akıllı telefonların sayısını aştı. AI iniş senaryoları açısından, AI çiplerinin iki ana iş yükü, esas olarak veri eğitimi ve çıkarım hesaplamalarıdır. Bunlar arasında çıkarım hesaplama pazar payının büyüme oranı, veri eğitimi pazarını yakalıyor.
Artık bir algoritma modeli sadece 2 KB'ye ulaşabilir, ancak performans 4 MB'den fazla sinir ağı algoritmasıdır. Derin öğrenme algoritmalarının minyatürleştirilmesi, GPT-3 tarafından temsil edilen süper büyük modelin kurumsal pazar için uygun olmadığını gösteriyor.
Yeni IoT çerçevesinde veriler cihazda yerel olarak işlenebilir. Bu, hesaplama gücünün, güç tüketiminin ve silikon alanının tahsisi dahil olmak üzere, temel çipin tasarımında farklı senaryolarda algoritma modelinin sınırlı dağıtım koşullarının dikkate alınmasını gerektirir. Birim hesaplama gücünün maliyet faydası perspektifinden, çıkarım hesaplaması, kurumsal düzeyde pazarın gerektirdiği iniş yönünü daha iyi temsil edebilir.
Edge AI çip iniş mücadelesi
Birincisi, uç AI senaryolarının çeşitlendirilmiş olması ve farklı senaryoların güç tüketimi ve çipin performansı için farklı gereksinimleri olmasıdır. Öte yandan, parçalanmış senaryoların pazar kapasitesi belirsizdir ve çip araştırma ve geliştirmenin mühendislik maliyetleri ile faydaları arasında bir denge kurmak gerekir.Bu, tüm çip üreticilerinin yüzleşmesi gereken bir testtir.
Yüksek kaliteli verilerin elde edilmesi de büyük bir zorluktur, yani büyük verilerden güvenilir verilerin nasıl filtreleneceği. Büyük veri, yüksek kaliteli veri anlamına gelmez.Yapay zeka çiplerinde derin öğrenme görevleri gerçekleştirmek, donanım sensörlerinin sürekli optimizasyonunu gerektirir.
Ayrıca geleneksel müşteriler için akıllı ürünlerin tedarik maliyetine ek olarak kullanım maliyetleri de bulunmaktadır. Çipin güç tüketimi ve ürünün dağıtımının kolay olup olmadığı, AI'nın uygulanmasını ve tanıtımını etkiler. Çip üreticilerinin farklı senaryolara göre farklı hesaplama güçlerine sahip çipleri nasıl özelleştirdiği de iniş bağlantısında bir acı noktasıdır.
Şu anda, uç AI yongası yüksek düzeyde kullanılabilir bir geliştirme platformundan yoksundur, yazılım derleme araçlarının tasarımı karmaşıktır ve kullanıcının geliştirme ve kullanım eşiği yüksektir, ancak bunların iniş sürecinde geliştirilmeye ve yinelenmeye devam edeceği öngörülebilir.
Ticari Kenar AI Çipi
Güneş patlaması serisi
AIoT için Horizon, Rising Sun serisi uç AI çiplerini piyasaya sürdü. IC tasarımı ve yazılımının ortak çabalarıyla performans, güç tüketimi, esneklik ve maliyet arasında bir denge sağlanmıştır. Rising Sun 2 kenar AI çipi, 4TOPS eşdeğeri bilgi işlem gücü sağlayabilen ve gerçek zamanlı algılama ve çoklu hedef türlerinin doğru tanınmasını gerçekleştirebilen BPU Bernoulli 1.0 mimarisini benimser. Rising Sun 2, çeşitli ana AI görevlerini verimli bir şekilde destekleyebilen Dual-Cortex A53'ü entegre ediyor. Ayrıca EMCC ve SPI Flash'ı da destekler.
Horizon tarafından piyasaya sürülen Rising Sun 3, düşük güç tüketimi ve yüksek performansa sahip yeni nesil AIoT uç AI çiplerine odaklanıyor. Horizon'un 5TOPS eşdeğer hesaplama gücü sağlayabilen en gelişmiş Bernoulli 2.0 mimari AI motorunu (BPU) entegre eder.
Yeni BPU mimarisi, gelişmiş CNN ağ mimarisi desteğini büyük ölçüde geliştirir ve AI operasyonları tarafından DDR bant genişliğinin doluluk oranını büyük ölçüde azaltır. Horizon Tiangong Kaiwu AI geliştirme platformu tarafından desteklenen algoritma geliştirme ve dağıtım sürecini büyük ölçüde basitleştirir ve AI ürünlerinin iniş maliyetini düşürür.
Bernoulli 2.0 BPU yapısı altında DDR Kullanımı 5 kat artırılmıştır. Gelişmiş ISP işleme algoritması, geniş dinamik ve düşük aydınlatmalı sahnelerde 1200 w piksel yüksek kaliteli görüntüler elde etmeyi mümkün kılar. Rising Sun 3, farklı çözünürlüklerde 4 ~ 8 Kamera Sensör girişini aynı anda işleyebilir ve çeşitli görüntü işleme sonrası işlemleri destekler.Ayrıca 4K@60fps performansıyla H.264 / H.265 kodlama ve kod çözmeyi destekler.
1
(Gündoğumu 3)
Kanji K210 /K510
Birinci nesil çip Kanzhi K210, özellikle yapay görme görevleri için tasarlanmıştır.Kayan nokta hesaplama yeteneği, gömülü alandaki ana geliştirme seçenekleriyle karşılaştırılabilir olan 1.28TFLOPS'a ulaşabilir. Aynı zamanda, güç tüketimi sadece 0,3W'dir ve tipik çalışma senaryolarında güç tüketimi 1W'dan azdır ve birim bilgi işlem gücü başına güç tüketimi düşüktür, bu da çok ekonomik bir seçimdir. İkinci nesil Kanzhi K510, gerçek iniş durumuna ve müşteri geri bildirimlerine göre yükseltilir. Bu IP çekirdeği, sinir ağındaki farklı seviyelerde bilgi işlem kaynakları, depolama ve bant genişliği gereksinimlerini gerçekleştirmek ve verilerin yeniden kullanım oranını artırmak ve çipin güç tüketimini azaltmak için yeniden tasarlandı.
İkinci olarak, veri toplama hızı ve kalitesi için Kanzhi K510, yepyeni bir vizyon modülü ile donatılmıştır. Birinci nesil çip ile karşılaştırıldığında, K510, kare hızı ve çevre birimleri açısından büyük ölçüde optimize edilmiştir. Terabayt başına kare hızı, endüstrinin lider düzeyine ulaştı. Ayrıca K510, model niceleme için uygun olmayan senaryolarda benzer ürünlere göre avantajları olan kayan noktalı BF16 hesaplamasını da destekler.
2
(Video alt sisteminin şematik diyagramı)
Özet
Uzun vadede, uç AI çipleri, kurumsal IoT uygulamalarını tamamen yeni bir düzeye yükseltecek. Yapay zeka çipleri tarafından yönlendirilen akıllı cihazlar, üretim, inşaat, lojistik, tarım ve enerji gibi çeşitli sektörlerin değer dağıtım yöntemlerini değiştirirken mevcut pazarları genişletmeye yardımcı olacak.