ChatGPT和GPT-4等大規模語言模型的走紅，迅速點燃了輿論對人工智能的熱情，也讓人工智能芯片受到產業界的強烈關注。相比CPU、GPU等通用芯片，NPU（神經網絡處理器）能夠以更簡單的控制流、更高的效率、更低的功耗處理AI工作負載。隨著人工智能技術棧和行業應用的發展，NPU一方面支持越來越多的模型，包括GPT-4采用的Transformer模型；另一方面，也從AIoT走向消費電子、自動駕駛等更多領域。

3 月 28 日，安謀科技發布了最新一代NPU產品“周易”X2，將配合此前宣布的“周易”NPU軟件開源計劃，為人工智能的應用創新——尤其是面向自動駕駛等大算力、高精度、強實時場景提供軟硬件支持。

多核心、大算力、多精度，助力AI多場景落地

隨著摩爾定律放緩，通用處理器架構難以滿足人工智能的密集型計算需求。數據顯示，2000-2004年，每一美元能獲取的芯片性能以每年48%的速度提升，而2008年以后已不足10%。在這種趨勢下，專用芯片成為面向特定需求提升算力和能效比的新思路。

其中，NPU是面向機器學習和人工智能領域的專用加速芯片。相比CPU、GPU等通用芯片，NPU在電路層模擬了人類神經元和突觸，針對AI計算涉及的大量神經網絡模型進行特殊優化，能夠以更高的效率、更低的能耗處理人工神經網絡、隨機森林等機器學習算法和深度學習模型。

如今，蘋果、三星、oppo等多家手機廠商搭載了NPU，用于面部識別、拍攝物體及環境識別、影像處理等，為消費者帶來3D動畫表情、人臉解鎖、AI場景識別、無損實時RAW計算等一系列新體驗。隨著人工智能向平板電腦、臺式機等更多終端，家居、汽車等更多領域滲透，“萬物智聯”時代拉開序幕，這不僅考驗著NPU的算力和精度，也對NPU架構的靈活性和兼容性提出了更高的要求。

此次安謀科技推出的“周易”X2 NPU聚焦綜合性能的提升，兼顧了多終端、跨領域應用對大算力、高精度、靈活性、兼容性的需求。

在算力層面，“周易”X2 NPU不僅提升了單核性能，還引入了多核、多集群架構，能夠支持高達320TOPS的大算力方案。相比采用單核架構的“周易”X1和“周易”Z系列，“周易”X2引入了由多個NPU核組成的Cluster（集群），較單核實現了算力的成倍提升。多個Cluster又構成了子系統，較單個Cluster進一步實現算力的成本提升，可支持320TOPS大算力產品的交付。

在精度層面，“周易”X2 NPU支持混合精度計算，支持整型的4bit、8bit、12bit、16bit、32bit以及浮點的16bit、32bit計算，可以更好地平衡功耗、算力密度和計算精度。

在靈活性層面，“周易”X2 NPU 的任務調度速度達到100納秒。據安謀科技產品總監楊磊介紹，安謀科技為“周易”X2設計了硬件級別的任務調度加速單元，以支持多核或者多個計算單元的實時任務調度。

“當我的車有10個攝像頭，有10路數據進來。任務調度器發現哪個NPU核是空閑的，就可以把任務立刻調度給那個核做計算，構建動態、實時的調度解決方案。”楊磊說。

在兼容性方面，“周易”X2 NPU支持自定義算子，滿足各種模型部署需求，并針對ADAS、智能座艙、平板電腦、臺式機和手機等應用場景提供了配置方案和專門優化。

面向消費級終端，“周易”X2 NPU則針對AI去噪、超分辨率、插幀等面向拍照、錄像和視頻會議的場景進行了優化。

面向自動駕駛等場景，“周易”X2 NPU可提供大算力配置方案。首先，專門的硬件加速任務調度器，能夠更好地支持汽車判斷前方目標并實時響應的需求。其次，對混合精度的支持，順應了汽車場景對更高計算精度的追求。此外，安謀科技面向車載算法專門優化了Transformer模型的性能，在算力相等的情況下，Transformer的性能較上一代的“周易” Z2提升了10倍。

在邊緣終端和自動駕駛等領域的基礎上，“周易”系列還將向更高性能的場景拓展。

“過去幾年里，‘周易’系列產品應用已經從AIoT領域，到現在的汽車、邊緣智能終端等領域，未來會向更高性能的云側和服務側發展。我們希望‘周易’涵蓋不同的應用場景，通過不同的配置，與更多領域、更加多樣的系統結合。”安謀科技執行副總裁、產品研發負責人劉澍表示。

軟件開源解決開發痛點，助力本土NPU生態構建

在面向更多行業、更多場景的落地過程中，NPU的應用開發也出現了一些痛點。由于缺乏統一的工具鏈，NPU在推理側出現了硬件碎片化，增加了應用開發創新的代價和周期。另一方面，NPU處理AI模型的訓練、推理時，涉及或產生大量數據，開發者對白盒軟件、工具鏈的訴求越發迫切。

針對以上痛點，安謀科技發起了“周易”NPU軟件開源計劃，通過開放源碼，滿足客戶更自主、靈活的算法移植需求。按照計劃，安謀科技率先對外開放NPU中間表示層規范、模型解析器、模型優化器、驅動等，并提供免費的軟件工具鏈，包括軟件模擬器、調試器、C編譯器。

“我們收集到很多用戶反饋，最典型的是汽車應用場景。一方面，Tier1在實際應用過程中產生的算法和數據都是很寶貴的資源，如果在移植開發中遇到問題，Tier1希望在自己那側解決，獨立進行白盒的開發和調試。另一方面,客戶有很多自定義算子的需求，這也對白盒化的軟件和工具鏈有很強的訴求。基于這樣的市場反饋，我們選擇這個時間點推出開源計劃。”楊磊在接受《中國電子報》采訪時表示。

目前，安謀科技已開源“周易”NPU軟件工具Compass的前端，并在開源計劃的第一階段開放了Compass解析器、NPU Linux驅動、Compass集成和模型倉庫。

同時，安謀科技最新的一代V3架構為免費授權。根據安謀科技研發團隊測算，如果開發者在軟件參與“周易”的NPU開源項目，在硬件上兼容“周易”架構，無論在硬件開發還是在軟件開發上，大概能節省超過50%的工作量。

后續，安謀科技還將逐步開放更多資源，例如模型量化、算子實現等源代碼。

軟件的開源不僅能提升開發效率，而且能夠持續吸納開發者在使用過程中的反饋，有利于行業生態的良性循環。一方面，NPU的軟件開源可以提升用戶開發效率，減少上市時間，并提升系統的能效表現。另一方面，開源有利于NPU在更多場合發揮更大作用，也令NPU IP廠商能夠觸達上下游企業，共同反哺本地化的NPU生態。

“NPU有很強的軟件屬性，并不是一個純粹的硬件加速器，因為用戶要在上面跑各種各樣的應用或算法。每一個算法在硬件上的部署或移植，都會為生態貢獻了一份力量。”楊磊說。

目前，安謀科技已分別在代碼托管平臺Gitee、GitHub上建立NPU軟件的開源庫，并吸引了來自AIoT、智能汽車、智能操作系統等領域的第一批合作伙伴“入駐”。據安謀科技透露，以上合作伙伴均表示將基于NPU開源計劃與安謀科技深化合作，加速構建本地化的智能計算生態“朋友圈”。

Arm底蘊與本土化創新結合，強化芯片設計“彈藥庫”

自1990年Arm公司成立以來，基于Arm架構出貨的芯片已經達到2500億顆。IP授權這一商業模式，也隨著Arm的發展深入人心，成為芯片設計垂直分工的重要環節。

安謀科技作為獨立運營、中資控股的合資公司，在吸納和發揮Arm技術和生態優勢的同時，立足并結合本地化需求，形成了“自研IP技術的創新發展與Arm IP相配合”的經營策略。據安謀科技介紹，其成立時與Arm簽訂了交叉許可協議，一方面可以向總部設在中國的合作伙伴開展集成電路IP的授權與技術服務；另一方面，也擁有獨立的自主研發權力，可以結合中國市場需求自研基于Arm技術的IP與標準，本土團隊研發的自研IP產權歸安謀科技所有。

以“周易”NPU為例，安謀科技在自研其硬件IP和軟件工具的同時，也吸引和培養了本地化的NPU工程師團隊，為公司研發和用戶開發提供本地化的支持。

“經過5年的努力，我們已經在北京、上海、深圳吸引和培養了很多工程師，整個團隊擁有超過130位工程師從事NPU的軟硬件全棧研發。我們已經開發了三代NPU產品和架構，也專注于IP和SDK開發，以及對國內客戶的服務和支持。”安謀科技NPU研發高級總監孫錦鴻表示。

時至今日，安謀科技在國內的授權客戶超過370家，累計芯片出貨量突破300億片。除了“周易”NPU，安謀科技還自研并推出了“星辰”CPU、“山海”SPU、“玲瓏”ISP與“玲瓏”VPU等本地化IP，而包含CPU、NPU、信息安全、多媒體的IP矩陣，為芯片企業打造異構集成方案提供了“彈藥庫”，并有利于提升芯片設計的靈活性。例如博通2022年推出的兩款Wi-Fi藍牙雙模SoC芯片，就集成了“星辰”處理器和“山海”的信息安全核心模塊。

本次“周易”NPU軟件開源及相應的生態合作措施，也是對安謀科技“生態伙伴計劃”的承襲和補充。該計劃發起于2022年7月，依托Arm技術生態與自研IP產品矩陣，與生態伙伴共建上下游產業生態，共同推動各領域的軟硬件、解決方案、工具鏈、行業標準以及社區聯盟等生態環節的發展。截至目前，已有多家芯片設計公司、解決方案提供商、系統平臺公司等加入生態伙伴計劃。

IP作為硬件設計的核心資產，不僅在芯片設計和產品定義中發揮了重要作用，也對芯片產業的底層創新具有深遠意義。而IP的迭代與創新，需要與芯片、軟件、生態乃至標準等產業鏈關鍵節點的發展趨勢與共性問題耦合，才能推動芯片產業的螺旋上升。

“對產業來說一個，IP公司的意義和作用就在于，它首先看到了生態和技術的發展趨勢，幫助客戶和合作伙伴解決一些重復投入的問題。通常來說，我們解決了底層的技術問題和創新問題以后，可以幫助客戶合作伙伴節省1到2年的開發周期。客戶利用這些IP，能夠更高效地推出可量產的芯片，達到應用級創新的目的，這是IP作為基石幫助客戶走向成功的定位和角色。”劉澍說。