當前位置: 華文縱覽 > 科技

端側AI計算開發最難的問題,都被這家公司搞定了

2022-08-08科技
機器之心報道
作者:澤南

為什麽高通技術能成為眾多公司產品宣傳的重點?

最近一段時間,車規芯片的「天花板」驍龍 8155(第三代驍龍座艙旗艦級平台)引發了人們的熱議,這款芯片強大的整體算力一舉改變了很多車型飽受詬病的車機卡頓問題。
很多品牌都以搭載驍龍 8155 芯片作為賣點,理想 L9、小鵬 P5、蔚來 ET5、吉利星越 L 等熱門車型上都有它的身影,極氪 001 甚至為了讓車主放心,宣布免費為已購車的使用者升級 8155 芯片。
根據車廠公布的資訊,驍龍 8155 是首款 7 奈米制程工藝打造的車規級數位座艙 SOC,效能是上代 820A 的三倍,其具有八個核心,最多支持 6 個網路攝影機,同時能帶動四塊 2K 或者三塊 4K 屏,支持 WiFi6,也支持 5G 和藍芽 5.0。在配合大容量記憶體之後,它能夠讓汽車的中控屏操作體驗像一台旗艦智慧型手機,最大程度提升了座艙系統的體驗。
高效能的車機芯片也為全場景語音等 AI 功能提供了可能性。在一些車型中,AI 助手支持全場景連續對話,駕駛者可以連續下達多個指令,實作真人對話一樣的體驗,不再需要每個指令說一次喚醒詞。
8155 已是驍龍座艙平台的第三代產品,作為這一領域的後來者,高通在車機芯片上對英特爾、瑞薩等老勢力已開始占據優勢。第四代的高通 8295(第四代驍龍座艙平台)也已經釋出,相關車型也已在路上,據稱它采用 5nm 工藝,搭載的 NPU 能達到 30 TOPS 的 AI 算力,效能比目前這一代還要提升兩倍多。
汽車只是高通技術新進展的一小部份,在手機芯片上占據市場主流的高通最近在做的事,已遠遠超出了人們的手掌心。
從手機到智慧駕駛,走統一路線
高通的車規級 8155 芯片源自於手機芯片驍龍 855,即將在集度汽車上先發的 8295 芯片則來自驍龍 888,它們都是高通基於自己在移動端領域的領先技術打造的。在新的領域裏,高通技術能為產品能力和使用者體驗帶來了質變級的提升。
據統計,全球所有主要汽車制造商均已選擇驍龍座艙平台,超過 1.5 億輛汽車采用高通汽車無線解決方案,市場份額高達 80%。驍龍數位底盤及其整合式汽車平台訂單總估值超過 190 億美元。
邊緣側 AI 的流行,讓高通在大量實踐中形成的技術優勢在越來越多的新領域獲得了套用。
為構建萬物互聯的世界,高通還希望實作跨終端的一致性體驗,「統一的技術路線圖」(one technology roadmap)應運而生。高通希望憑借在 AI、影像、圖形、算力和連線等領域的領先技術,為幾乎所有邊緣終端提供 AI 能力、高效能低功耗系統和無線元件。
在高通 CEO 克里斯提亞諾 · 安蒙的設想中,「統一」的範圍覆蓋從耳機到智慧網聯汽車,這背後是高通在各領域中的深厚布局。

早在 2021 年驍龍技術峰會上,高通便稱,透過驍龍行動平台,高通的 AI 技術已經支持超過 18 億終端。在新一代驍龍 8 和驍龍 8 + 行動平台中,強大 ISP 和第七代高通 AI 引擎合力實作了精細、低延遲的面部辨識能力,更進一步的拍照夜景增強、即時背景虛化、手勢辨識,甚至能讓手機能夠透過聲音辨識使用者是否患病,這些 AI 能力為眾多套用提供了支持。
透過驍龍行動平台、驍龍計算平台和驍龍 XR 平台,高通已經讓各種終端裝置能夠在影音娛樂、智慧助手、情景感知等領域帶來豐富、創新的沈浸式使用體驗,改變了人們的工作和生活方式。
這些技術也被延伸到了 IoT 領域,AI 正在推動家庭、工業、企業和智慧城市等套用的發展,高通支持了近 13000 家企業的物聯網解決方案,其提供的高效 AI 算力正在為機器人、智慧制造、智慧城市、智慧零售等場景帶來新能力。
AI 能效是驍龍平台的技術優勢。除了智慧座艙,高通還在汽車領域推動可延伸開放自動駕駛解決方案 Snapdragon Ride。該平台面向不同駕駛場景提供不同等級算力:它可以以小於 5W 的功耗為網路攝影機提供 10 TOPS 機器學習算力,也能為 L4、L5 級自動駕駛提供超過 700 TOPS 算力。

統一的布局也包括雲端算力。5G 網路的連線下,很多 AI 任務負載都可以在雲端實作推理,高通透過 Cloud AI 100 加速器,使芯片架構從邊緣到雲端實作了統一。
Cloud AI 100 支持數據中心、邊緣裝置和汽車等多種場景。單個高通 Cloud AI 100 PCI-E 卡能提供 400 TOPS 算力,高通與合作夥伴提出的伺服器解決方案,實作了 AI 推理突破每秒千萬億次運算大關。
從端到雲,高通的各個業務線都已深度整合了 AI 能力,已為人們帶來了全新的體驗。
打造統一的 AI 開發工具
在 AR、VR 和智慧駕駛這些「未來方向」上,已有的算力和 AI 演算法仍然無法滿足人們的需要。為了應對挑戰,高效能計算和端雲融合是目前科技公司發展的趨勢。硬體之外,高通還實作了 AI 軟體工具的統一。
最近,高通釋出了自己的第一個 AI 軟體棧 Qualcomm AI Stack,將所有業務線的 AI 軟體能力整合在了統一的軟體棧中,實作了跨智慧網聯終端的完整解決方案。
現在,開發者可以在一個體系下,高效、低成本地面向不同智慧終端進行 AI 模型和軟體開發了。
根據官方介紹,高通 AI 軟體棧主要包括三大部份:硬體、軟體和工具。這套方案可以在所有高通支持的產品上執行,覆蓋範圍包括智慧型手機、汽車、AR/VR 硬體、物聯網和雲平台。
首先,高通 AI Stack 包括系統介面、仿真支持和驅動程式,支持大部份常用的作業系統,包括 Android、Windows、Linux 以及面向網聯汽車的 QNX 等,以及 Prometheus、Kubernetes 和 Docker 等容器平台。

在更高一層的庫和服務層面,高通 AI 軟體棧支持大量數學庫、編譯器和虛擬平台,以及分析器和偵錯程式。AI Stack 支持大多數流行的 AI 框架和 Runtime 如 TensorFlow、PyTorch、ONNX 和 TensorFlow Lite、TensorFlow Lite Micro、ONNX 等。
另外,AI Stack 的編譯器可以針對特定內容進行客製化處理,幾行 Python 程式碼就可以完成更多工作,為開發者提供很多便利。
AI Stack 整合了高通在 AI 領域十余年來的研發成果,如高通 AI 模型增效工具包(AIMET),它能提供模型量化和模型壓縮技術,進行量化感知訓練(Quantization Aware Training)和無數據訓練,它的最重要能力之一是能將在雲端訓練的高算力需求 AI 模型從 32 位浮點精度轉化為 8 位整數格式,在幾乎不降低推理效果的情況下提升 4 倍效率,從而覆蓋更多低功耗裝置。
作為新解決方案的一部份,高通 AI 引擎 Direct 現在可以在高通所有產品的 AI 加速器上進行擴充套件,從高通平台上直接向 AI 加速器部署模型,不僅能夠為開發者提供模型開發的功能,還支持將新開發的模型遷移至不同產品和層級。
虛實融合是未來發展的方向,高通開放的 XR 平台 Snapdragon Spaces XR 也成為了 AI Stack 的一部份,開發者可以從零開始面向 AR 眼鏡建立 3D 套用,或在現有 Android 智慧型手機的 2D 套用中增加頭戴式 AR 特性。
現在,人們只需要一次開發 ,就可以在多個不同領域部署自己的技術,工作重點可以放在探索創新的 AI 用例上,無需重復造輪子。
基於高通 AI Stack,企業也能夠實作在不同產品、不同平台之間的擴充套件,方便地把移動端開發經驗遷移到汽車上,也能將 XR 等平台的復雜模型開發經驗帶回移動端。
結語
每當我們用手機拍照、看短視訊時,很少會意識到這些日常行為的背後有很多 AI 技術的支撐。雖然從邊緣裝置到雲伺服器,只要是連線網路的地方,AI 已經無處不在,但展望未來,還有很多事可以做。
據 Gartner 預測,到 2025 年將有超過 50% 的數據在傳統數據中心之外產生和處理。數據處理正在從數據中心轉向邊緣,並推動對更強大的本地處理能力的需求。
高通處於行業趨勢的交匯點,在長期持續的技術投入之後,高通已經構建起一套完整的體系,從芯片、軟體平台、演算法到生態系和參考設計,面向開發者和使用者提供了強大的能力。
可以感受到,讓汽車聰明起來只是一個開始,高通的 AI 能力,還在賦能越來越多的領域。