公司：深圳市創寶來科技有限公司

聯系人：蘇先生

聯系方式：18923859947QQ:3005367043

公司網址：www.szcblic.com

專做進口原裝，誠信經營，大量現貨庫存，歡迎您隨時咨詢

2019年AI芯片產業深度研究報告

一、人工智能芯片發展現狀及趨勢

1、深度學習算法對芯片要求更為苛刻，通用CPU性價比相對較差

經歷了 60 多年的起起伏伏之后，人工智能終于迎來了第三次爆發。第三次爆發的核心引爆點是深度學習算法的出現，但其背后的支撐是數據和算力。對整個AI行業來講，算法、數據和算力三大基本要素中，數據尤其是海量數據的獲取和處理難度在下降，算法也在深度學習模型的基礎上不斷優化，而負責將數據和深度算法統一協調起來的芯片能否獲得大的飛躍，成為市場關注的焦點。

深度學習算法對芯片性能需求主要表現在三個方面：一、海量數據在計算和存儲單元之間的高速通信需求。這不但需要芯片具備強大的緩存和片上存儲能力，而且還需要計算和存儲單元之間有較大的通信帶寬。二、專用計算能力需求高。深度學習算法中有大量卷積、殘差網絡、全連接等特殊計算需要處理，還需要提升運算速度，降低功耗。三、海量數據自身處理同樣也對芯片提出了新的要求，尤其是非結構化數據的增多，對傳統芯片結構造成了較大的壓力。

通用 CPU 在深度學習中可用但效率較低。比如在圖像處理領域，主要用到的是 CNN（卷積神經網絡），在自然語言識別、語音處理等領域，主要用到的是 RNN（循環神經網絡），雖然這兩種算法模型有著較大的區別，但本質上都是向量和矩陣運算，主要是加法和乘法，輔助一些除法和指數運算。傳統 CPU 可用于做上述運算，但是 CPU 還有大量的計算邏輯控制單元，這些單元在 AI 計算中是用不上的，造成了 CPU 在 AI 計算中的性價比較低。

2、GPU、FPGA以及ASIC各有優劣，成為當前 AI 芯片行業的主流

正因為 CPU 在 AI 計算上的弱點，給了可以實現海量并行計算且能夠對進行計算加速的 AI 芯片留下了市場空間。從廣義上講，面向 AI 計算的芯片都可以稱為 AI 芯片，包括基于傳統架構的 GPU、FPGA以及 ASIC（專用芯片），也包括正在研究但離商用還有較大差距的類腦芯片、可重構 AI 芯片等。

云端訓練芯片市場較為集中，而推理市場云、邊兩端均有大量企業參與

按照部署位置劃分，AI 芯片可以分為云端芯片和邊緣端芯片。云端芯片部署位置包括公有云、私有云或者混合云等基礎設施，主要用于處理海量數據和大規模計算，而且還要能夠支持語音、圖片、視頻等非結構化應用的計算和傳輸，一般情況下都是用多個處理器并行完成相關任務；邊緣端 AI 芯片主要應用于嵌入式、移動終端等領域，如攝像頭、智能手機、邊緣服務器、工控設備等，此類芯片一般體積小、耗電低，性能要求略低，一般只需具備一兩種 AI 能力。

按照承擔的任務分，AI 芯片可以劃分為訓練芯片和推理芯片。訓練是指通過大量標記過的數據在平臺上進行“學習”，并形成具備特定功能的神經網絡模型；推理則是利用已經訓練好的模型輸入新數據通過計算得到各種結論。訓練芯片對算力、精度要求非常之高，而且還需要具備一定的通用性，以適應多種算法的訓練；推理芯片更加注重綜合能力，包括算力能耗、時延、成本等因素。

綜合來看，訓練芯片由于對算力的特殊要求，只適合在云端部署，而且多采用的是“CPU+加速芯片”類似的異構模式，加速芯片可以是 GPU，也可以是 FPGA 或者是 ASIC 專用芯片。AI 訓練芯片市場集中度高，英偉達和谷歌領先，英特爾和AMD正在積極切入。推理在云端和終端都可進行，市場門檻相對較低，市場參與者較多。云端推理芯片除了傳統的英偉達、谷歌、賽靈思等芯片大廠外，Groq等國際新興力量也在加入競爭，國內寒武紀、比特大陸也有不錯表現；終端推理芯片市場較為分散，場景各異，參與者除了英偉達、英特爾、ARM和高通之外，國內企業如寒武紀、地平線、云知聲、云天勵飛等在各自細分領域均有所建樹。

GPU 擅長云端訓練，但需與 CPU 異構、功耗高且推理效率一般

GPU（Graphics Processing Unit）是一種由大量核心組成的大規模并行計算架構，專為同時處理多重任務而設計的芯片。正是由于其具備良好的矩陣計算能力和并行計算優勢，最早被用于 AI 計算，并在云端獲得大量應用。GPU 中超過 80%部分為運算單元（ALU），而 CPU 僅有 20%，因此 GPU更擅長于大規模并行運算。以英偉達的 GPUTITAN X 為例，該產品在深度學習中所需訓練時間只有CPU 的 1/10 不到。但 GPU 用于云端訓練也有短板，GPU 需要同 CPU 進行異構，通過 CPU 調用才能工作，而且本身功耗非常高。同時，GPU 在推理方面需要對單項輸入進行處理時，并行計算的優勢未必能夠得到很好的發揮，會出現較多的資源浪費。

▲CPU與GPU架構對比

FPGA 芯片算力強、靈活度高，但技術難度大國內差距較為明顯

FPGA（Field-Programmable Gate Array）即現場可編程門陣列，該芯片集成了大量的基本門電路以及存儲器，其靈活性介于 CPU、GPU 等通用處理器和專用集成電路ASIC 之間，在硬件固定之前，允許使用者靈活使用軟件進行編程。FPGA 在出廠時是“萬能芯片”，用戶可根據自身需求，用硬件描述語言對 FPGA 的硬件電路進行設計；每完成一次燒錄，FPGA 內部的硬件電路就有了確定的連接方式，具有了一定的功能；輸入的數據只需要依次經過各個門電路，就可以得到輸出結果。

FPGA 應用于 AI 有以下優勢：

（1）算力強勁。由于 FPGA 可以同時進行數據并行和任務并行計算，在處理特定應用時效果更加明顯，對于某一個特定的運算，FPGA 可以通過編輯重組電路，生成專用電路，大幅壓縮計算周期。從賽靈思推出的 FPGA 產品看，其吞吐量和時延指標都好于 CPU 和 GPU 產品。

（2）功耗優勢明顯。FPGA 能耗比是CPU的10倍以上、GPU的3倍。由于在 FPGA 中沒有取指令與指令譯碼操作，沒有這部分功耗；而在復雜指令集（X86）的 CPU 中僅僅譯碼就占整個芯片能耗的約 50%，在 GPU 里取指與譯碼也會消耗 10%至 20%的能耗。

（3）靈活性好。使用通用處理器或 ASIC 難以實現的下層硬件控制操作技術，利用 FPGA 可以很方便的實現，從而為算法的功能實現和優化留出了更大空間。

（4）成本相對 ASIC 具備一定優勢。FPGA 一次性成本（光刻掩模制作成本）遠低于 ASIC，在芯片需求還未成規模、深度學習算法暫未穩定需要不斷迭代改進的情況下，利用具備可重構特性的FPGA 芯片來實現半定制的人工智能芯片是最佳選擇。

正因為存在上述優勢，FPGA 被廣泛用于 AI 云端和終端的推理。國外包括亞馬遜、微軟都推出了基于 FPGA 的云計算服務，而國內包括騰訊云、阿里云均在 2017 年推出了基于 FPGA 的服務，百度大腦也使用了 FPGA 芯片。

從市場格局上看，全球 FPGA 長期被 Xilinx（賽靈思）、Intel（英特爾）、Lattice（萊迪思）、Microsemi（美高森美）四大巨頭壟斷。其中，賽靈思和英特爾合計占到市場的 90%左右，賽靈思的市場份額超過 50%，國內廠商剛剛起步，差距較大。

專用芯片（ASIC）深度學習算法加速應用增多，可提供更高能效表現和計算效率

ASIC（Application Specific Integrated Circuits），即專用芯片，是一種為特定目的、面向特定用戶需求設計的定制芯片，具備性能更強、體積小、功耗低、可靠性更高等優點。在大規模量產的情況下，還具備成本低的特點。

ASIC 與 GPU、FPGA 不同，GPU、FPGA 除了是一種技術路線之外，還是實實在在的確定產品，而 ASIC 只是一種技術路線或者方案，其呈現出的最終形態與功能也是多種多樣的。近年來，越來越多的公司開始采用 ASIC 芯片進行深度學習算法加速，其中表現最為突出的 ASIC 就是 Google 的TPU（張量處理芯片）。

TPU 是谷歌為提升 AI 計算能力同時大幅降低功耗而專門設計的芯片。該芯片正式發布于 2016 年 5月。TPU 之所以稱為 AI 專用芯片，是因為它是專門針對TensorFlow等機器學習平臺而打造，該芯片可以在相同時間內處理更復雜、更強大的機器學習模型。谷歌通過數據中心測試顯示，TPU 平均比當時的 GPU 或 CPU 快 15-30 倍，性能功耗比（TFOPS/Watt）高出約 30-80 倍。

但是，ASIC 一旦制造完成以后就不能修改了，且研發周期較長、商業應用風險較大，目前只有大企業或背靠大企業的團隊愿意投入到它的完整開發中。國外主要是谷歌在主導，國內企業寒武紀開發的 Cambricon 系列處理器也廣泛受到關注。其中，華為海思的麒麟 980 處理器所搭載的 NPU 就是寒武紀的處理器 IP。

3、短期內 GPU 仍將是 AI 芯片主導，長期看三大技術路線將呈現并行態勢

短期內 GPU 仍將主導 AI 芯片市場，FPGA 的使用將更為廣泛

GPU 短期將延續 AI 芯片的領導地位。GPU 作為市場上 AI 計算最成熟、應用最廣泛的通用型芯片，應用潛力較大。憑借其強大的計算能力、較高的通用性，GPU 將繼續占領 AI 芯片的主要市場份額。

當前，兩大 GPU 廠商都還在不斷升級架構并推出新品，深度學習性能提升明顯，未來應用的場景將更為豐富。英偉達憑借著其在矩陣運算上的優勢，率先推出了專為深度學習優化的 Pascal GPU，而且針對 GPU 在深度學習上的短板，2018 年推出了 Volta 架構，正在完成加速-運算-AI 構建的閉環；AMD 針對深度學習，2018 年推出 Radeon Instinct 系列，未來將應用于數據中心、超算等 AI 基礎設施上。我們預計，在效率和場景應用要求大幅提升之前，作為數據中心和大型計算力支撐的主力軍，GPU 仍具有很大的優勢。

FPGA 是短期內 AI 芯片市場上的重要增長點，FPGA 的最大優勢在于可編程帶來的配置靈活性，在當前技術與運用都在快速更迭的時期，FPGA 具有明顯的實用性。企業通過 FPGA 可以有效降低研發調試成本，提高市場響應能力，推出差異化產品。在專業芯片發展得足夠完善之前，FPGA 是最好的過渡產品，正因為如此，科技巨頭紛紛布局云計算+FPGA 的平臺。隨著 FPGA 的開發者生態逐漸豐富，適用的編程語言增加，FPGA 運用會更加廣泛。因此短期內，FPGA 作為兼顧效率和靈活性的硬件選擇仍將是熱點所在。

長期來看 GPU、FPGA 以及 ASIC 三大類技術路線將并存

GPU 主要方向是高級復雜算法和通用型人工智能平臺。（1）高端復雜算法實現方向。由于 GPU 本身就具備高性能計算優勢，同時對于指令的邏輯控制上可以做的更復雜，在面向復雜 AI 計算的應用方面具有較大優勢。（2）通用型的人工智能平臺方向。GPU 由于通用性強，性能較高，可以應用于大型人工智能平臺夠高效地完成不同種類的調用需求。

FPGA 未來在垂直行業有著較大的空間。由于在靈活性方面的優勢，FPGA 對于部分市場變化迅速的行業最為實用。同時，FPGA 的高端器件中也可以逐漸增加DSP、ARM 核等高級模塊，以實現較為復雜的算法。隨著 FPGA 應用生態的逐步成熟，FPGA 的優勢也會逐漸為更多用戶所認可，并得以廣泛應用。

ASIC 長遠來看非常適用于人工智能，尤其是應對未來爆發的面向應用場景的定制化芯片需求。ASIC的潛力體現在，AI 算法廠商有望通過算法嵌入切入該領域，以進入如安防、智能駕駛等場景。由于其具備高性能低消耗的特點，可以基于多個人工智能算法進行定制，以應對不同的場景，未來在訓練和推理市場上都有較大空間。

4、國內外 AI 芯片市場需求將保持較快增長勢頭，云端、邊緣均具備潛力

近年來，伴隨著全球 AI 產業的快速增長，AI 芯片需求大幅上升。按照 Gartner 最新數據，2018 年全球 AI 芯片市場規模達到 42.7 億美元。未來幾年，全球各大芯片企業、互聯網巨頭、初創企業都將在該市場上進行角逐，預計到 2023 年全球市場規模將達到 323 億美元。未來五年（2019-2023年）平均增速約為 50%，其中數據中心、個人終端、物聯網芯片均是增長的重點。

相比之下中金公司研究部公布的一組數據則更為樂觀，該數據顯示，2017年，整體AI芯片市場規模達到62.7億美元，其中云端訓練AI芯片20.2億美元，云端推理芯片3.4億美元，邊緣計算AI芯片39.1億美元；到2022年，整體AI芯片市場規模將會達到596.2億美元，CAGR57%，其中云端訓練AI芯片172.1億美元，CAGR 53.5%，云端推斷芯片71.9億美元，CAGR 84.1%，邊緣計算AI芯片352.2億美元，CAGR 55.2%。

國內人工智能芯片行業發展仍處在起步階段。長期以來，我國在 CPU、GPU 和 DSP 設計上一直處于追趕狀態，絕大多數芯片依靠國外的 IP 核進行設計，自主創新能力不足。但我們也看到，國內人工智能產業的快速發展，也為國內芯片產業實現換道超車創造了機會。由于國內外在芯片生態上并未形成壟斷，國內芯片設計廠商尤其是專用芯片設計廠商，同國外競爭對手還處在同一起跑線上。

目前國內人工智能芯片市場呈現出百花齊放的態勢。AI 芯片的應用領域廣泛分布在金融證券、商品推薦、安防、消費機器人、智能駕駛、智能家居等眾多領域，催生了大量的人工智能創業企業，如地平線、深鑒科技、寒武紀、云知聲、云天勵飛等。我們認為，未來隨著國內人工智能市場的快速發展，生態建設的完善，國內 AI 芯片企業將有著更大的發展空間，未來 5 年的市場規模增速將超過全球平均水平。