這幾天，已經(jīng)退役的AlphaGo又強行刷了一波頭條，不是又跟哪位世界高手對決，而是“新狗”通過無監(jiān)督式學習，僅用3天時間就戰(zhàn)勝了李世石版的AlphaGo，然后用了21天時間戰(zhàn)勝了柯潔版本AlphaGo。AlphaGo讓我們真真切切地看到了AI計算的強大。
    目前，在AI計算平臺使用最廣泛的兩種加速部件是GPU和FPGA。GPU可適用于具備計算密集、高并行、SIMD（SingleInstructionMultipleData，單指令多數(shù)據(jù)流）應用等特點的深度學習訓練模型領域，并且GPU創(chuàng)建了包含CNN、DNN、RNN、LSTM以及強化學習網(wǎng)絡等算法在內(nèi)的應用加速平臺和生態(tài)系統(tǒng)。
    但是，最近FPGA又頻頻被各AI領域的巨頭看好，比如微軟、百度、科大訊飛都對FPGA應用前景有所期待。那么如果讓你選擇FPGA作為AI計算系統(tǒng)的主力軍，你會有什么樣的顧慮？
    顧慮一：FPGA有啥優(yōu)勢？什么樣的場景更適合FPGA？
    首先，深度學習包含兩個計算環(huán)節(jié)，即訓練和推理環(huán)節(jié)。GPU在深度學習算法模型訓練上非常高效，但在推理時對于小批量數(shù)據(jù)，并行計算的優(yōu)勢不能發(fā)揮出來。而FPGA同時擁有流水線并行和數(shù)據(jù)并行，因此處理任務時候延遲更低。例如處理一個數(shù)據(jù)包有10個步驟，F(xiàn)PGA可以搭建一個10級流水線，流水線的不同級在處理不同的數(shù)據(jù)包，每個數(shù)據(jù)包流經(jīng)10級之后處理完成。每處理完成一個數(shù)據(jù)包，就能馬上輸出。通常來說，F(xiàn)PGA加速只需要微秒級的PCIe延遲。當Intel推出通過QPI快速通道互聯(lián)的Xeon＋FPGA之后，CPU和FPGA之間的延遲甚至可以降到100納秒以下。
    其次，F(xiàn)PGA是可編程芯片，算法燒錄更加靈活。目前來看，深度學習算法還未完全成熟，算法還在迭代衍化過程中，若深度學習算法發(fā)生大的變化，F(xiàn)PGA是軟件定義硬件，可以靈活切換算法，快速切入市場。
    未來至少95％的機器學習計算都是用于推斷，只有不到5％是用于模型訓練，而FPGA正是強在推斷。大幅提升推斷效率的同時，還能最小限度損失精確性，這正是FPGA的強項。