早在 2021 年驍龍技術峰會上,高通便稱,透過驍龍行動平台,高通的 AI 技術已經支持超過 18 億終端。在新一代驍龍 8 和驍龍 8 + 行動平台中,強大 ISP 和第七代高通 AI 引擎合力實作了精細、低延遲的面部辨識能力,更進一步的拍照夜景增強、即時背景虛化、手勢辨識,甚至能讓手機能夠透過聲音辨識使用者是否患病,這些 AI 能力為眾多套用提供了支持。透過驍龍行動平台、驍龍計算平台和驍龍 XR 平台,高通已經讓各種終端裝置能夠在影音娛樂、智慧助手、情景感知等領域帶來豐富、創新的沈浸式使用體驗,改變了人們的工作和生活方式。這些技術也被延伸到了 IoT 領域,AI 正在推動家庭、工業、企業和智慧城市等套用的發展,高通支持了近 13000 家企業的物聯網解決方案,其提供的高效 AI 算力正在為機器人、智慧制造、智慧城市、智慧零售等場景帶來新能力。AI 能效是驍龍平台的技術優勢。除了智慧座艙,高通還在汽車領域推動可延伸開放自動駕駛解決方案 Snapdragon Ride。該平台面向不同駕駛場景提供不同等級算力:它可以以小於 5W 的功耗為網路攝影機提供 10 TOPS 機器學習算力,也能為 L4、L5 級自動駕駛提供超過 700 TOPS 算力。
統一的布局也包括雲端算力。5G 網路的連線下,很多 AI 任務負載都可以在雲端實作推理,高通透過 Cloud AI 100 加速器,使芯片架構從邊緣到雲端實作了統一。Cloud AI 100 支持數據中心、邊緣裝置和汽車等多種場景。單個高通 Cloud AI 100 PCI-E 卡能提供 400 TOPS 算力,高通與合作夥伴提出的伺服器解決方案,實作了 AI 推理突破每秒千萬億次運算大關。從端到雲,高通的各個業務線都已深度整合了 AI 能力,已為人們帶來了全新的體驗。打造統一的 AI 開發工具在 AR、VR 和智慧駕駛這些「未來方向」上,已有的算力和 AI 演算法仍然無法滿足人們的需要。為了應對挑戰,高效能計算和端雲融合是目前科技公司發展的趨勢。硬體之外,高通還實作了 AI 軟體工具的統一。最近,高通釋出了自己的第一個 AI 軟體棧 Qualcomm AI Stack,將所有業務線的 AI 軟體能力整合在了統一的軟體棧中,實作了跨智慧網聯終端的完整解決方案。現在,開發者可以在一個體系下,高效、低成本地面向不同智慧終端進行 AI 模型和軟體開發了。根據官方介紹,高通 AI 軟體棧主要包括三大部份:硬體、軟體和工具。這套方案可以在所有高通支持的產品上執行,覆蓋範圍包括智慧型手機、汽車、AR/VR 硬體、物聯網和雲平台。首先,高通 AI Stack 包括系統介面、仿真支持和驅動程式,支持大部份常用的作業系統,包括 Android、Windows、Linux 以及面向網聯汽車的 QNX 等,以及 Prometheus、Kubernetes 和 Docker 等容器平台。
在更高一層的庫和服務層面,高通 AI 軟體棧支持大量數學庫、編譯器和虛擬平台,以及分析器和偵錯程式。AI Stack 支持大多數流行的 AI 框架和 Runtime 如 TensorFlow、PyTorch、ONNX 和 TensorFlow Lite、TensorFlow Lite Micro、ONNX 等。另外,AI Stack 的編譯器可以針對特定內容進行客製化處理,幾行 Python 程式碼就可以完成更多工作,為開發者提供很多便利。AI Stack 整合了高通在 AI 領域十余年來的研發成果,如高通 AI 模型增效工具包(AIMET),它能提供模型量化和模型壓縮技術,進行量化感知訓練(Quantization Aware Training)和無數據訓練,它的最重要能力之一是能將在雲端訓練的高算力需求 AI 模型從 32 位浮點精度轉化為 8 位整數格式,在幾乎不降低推理效果的情況下提升 4 倍效率,從而覆蓋更多低功耗裝置。作為新解決方案的一部份,高通 AI 引擎 Direct 現在可以在高通所有產品的 AI 加速器上進行擴充套件,從高通平台上直接向 AI 加速器部署模型,不僅能夠為開發者提供模型開發的功能,還支持將新開發的模型遷移至不同產品和層級。虛實融合是未來發展的方向,高通開放的 XR 平台 Snapdragon Spaces XR 也成為了 AI Stack 的一部份,開發者可以從零開始面向 AR 眼鏡建立 3D 套用,或在現有 Android 智慧型手機的 2D 套用中增加頭戴式 AR 特性。現在,人們只需要一次開發 ,就可以在多個不同領域部署自己的技術,工作重點可以放在探索創新的 AI 用例上,無需重復造輪子。基於高通 AI Stack,企業也能夠實作在不同產品、不同平台之間的擴充套件,方便地把移動端開發經驗遷移到汽車上,也能將 XR 等平台的復雜模型開發經驗帶回移動端。結語每當我們用手機拍照、看短視訊時,很少會意識到這些日常行為的背後有很多 AI 技術的支撐。雖然從邊緣裝置到雲伺服器,只要是連線網路的地方,AI 已經無處不在,但展望未來,還有很多事可以做。據 Gartner 預測,到 2025 年將有超過 50% 的數據在傳統數據中心之外產生和處理。數據處理正在從數據中心轉向邊緣,並推動對更強大的本地處理能力的需求。高通處於行業趨勢的交匯點,在長期持續的技術投入之後,高通已經構建起一套完整的體系,從芯片、軟體平台、演算法到生態系和參考設計,面向開發者和使用者提供了強大的能力。可以感受到,讓汽車聰明起來只是一個開始,高通的 AI 能力,還在賦能越來越多的領域。