|
|
|
www.design-reuse-china.com |
|

AI推論晶片性能優劣 記憶體子系統扮要角
若少了好的記憶體子系統,就不會有優質推論晶片,因此如果一家推論晶片公司只談TOPS卻很少提及SRAM、DRAM和記憶體子系統,他們可能並沒有很好的解決方案。
www.eettaiwan.com, Mar. 06, 2020 –
過去一年來冒出頭的AI推論晶片公司數量之多令人眼花撩亂,由於市場上晶片繁多,也不缺乏優良測試基準,產業界常會忘了一個相當重要的部分:記憶體子系統。事實上,若少了好的記憶體子系統,就不會有優質推論晶片,因此如果一家推論晶片公司只談TOPS卻很少提及SRAM、DRAM和記憶體子系統,他們可能並沒有很好的解決方案。
一切皆與資料處理量相關
優質推論晶片被精心打造成能快速移動資料,意味著晶片得以非常快的速度處理資料、將資料導入和匯出記憶體。例如使用ResNet-50和YOLOv3模型,會發現它們不僅在運算方面,而且在各自如何使用記憶體的方式上都有顯著差異。



Back