為人工智慧規模經濟鋪路 訓練、推論分立發展趨勢顯現
近期人工智慧(AI)相關軟硬體發展已產生變化，過往AI模型無論在訓練(training)或推論(inference)階段均使用相同的加速晶片，為追求更高的運算效益，開始出現專精於推論階段的晶片，同時也出現因應推論最佳化的編譯器軟體。DIGITIMES Research認為AI模型發展，於推論階段須著墨的深度遠大於訓練，因此，未來訓練與推論分立發展將是趨勢。
內文目錄
近期人工智慧發展- 精度降低換取運算速度已成趨勢
- 主流訓練晶片不符需求
- Facebook已預見推論加速硬體多元化
- 結語：推論軟硬體仍有發展空間
圖表目錄
- 人工智慧模型訓練與推論階段差異
- 人工智慧加速晶片特性差異
- 主要人工智慧推論晶片/板卡比較
- Facebook Glow推論最佳化編譯器示意圖
共 4 個圖表
會員登入
若您已是DIGITIMES Research的正式會員，請由此下方登入。
服務加入辦法
若想立刻加入付費會員，請洽詢
客服專線：
+886-02-87125398。
(週一至週五工作日9:00~18:00)
+886-02-87125398。
(週一至週五工作日9:00~18:00)
