墨芯人工智能科技有限公司(以下簡稱墨芯)近日獲得1億元Pre-A輪投資,由將門創投領投,真格基金、深圳前海母基金共同投資,老股東凱旋創投、創享投資本輪繼續加持,星漢資本擔任本輪FA。
墨芯是AI芯片設計初創,公司提供終端和云端AI芯片加速方案,致力于提升AI芯片的算力。這是公司在一年內宣布完成的第三輪融資。2020年3月,墨芯曾完成凱旋創投領投的近千萬美元的天使輪投資。2021年1月,墨芯再次宣布完成由浪潮領投的戰略融資。
在云計算與人工智能時代,AI離不開大型、多層的深度神經網絡模型,而訓練和運行這些巨大的模型需要數以萬億的計算量。因此,為了讓AI解決更復雜的問題,人工智能(深度學習)模型對系統的性能提出了更高的要求,市場需要更高算力、更低功耗的AI芯片。
作為AI芯片的新興玩家,墨芯從近年來熱門的AI算法稀疏化切入,以實現AI芯片高算力、低功耗這兩大需求。稀疏化算法的優勢在于可以讓神經網絡模型消減冗余和重復的內容,減少運算壓力,提升有效性能。
墨芯致力于動態稀疏化、靜態稀疏化AI算法技術的研發,從軟件算法入手,以稀疏化硬件架構為核心,通過軟硬件協同設計提升AI推理的計算效率,減輕AI計算對內存帶寬和存儲的需求,在提升芯片性能的同時也降低了芯片成本。
墨芯的稀疏化硬件架構可以通過對已有模型的激活來提高吞吐量,或者在同等吞吐量下降低功耗;也可以訓練更大的稀疏模型,在同等模型參數量以及計算量的情況下,提高可部署模型的精度,從而實現更高算力、更低功耗的效果。
在整個產業界,2020年5月英偉達(Nvidia)發布了首款支持稀疏化技術的芯片A100,此款產品僅支持2倍的靜態結構化稀疏。
墨芯將在2021年中旬推出新產品Antom。據墨芯公司創始人和CEO王維向36氪的介紹,Antom產品將芯片算力相較于現有行業水平,提高至少1個數量級。
王維表示,Antom在體積、算力、能耗三方面都有優勢:Antom產品體積小,能適用多種類型服務器,將節省所占物理空間;產品在算力上擁有較大提升,能將單位算力擁有總成本(TCO)降低10倍以上;產品同等運算量的耗電量降至十分之一,將大大降低能耗成本。
凱旋創投創始合伙人周志雄認為,在服務器端廣泛的AI推理場景中,想要在性能追上并趕超Nvidia,真正有可能突破的是在算法層面。墨芯團隊的動態稀疏化技術展示了在AI計算上如何有效地提升單位功耗算力使其超過競品1到2個數量級?!斑@是一個超出了國產替代‘me too’ 場景,實現 ‘me better’ 直線超車的真實案例。”
Antom產品的目標客戶包括公有云/私有云、互聯網視頻網站、電商網站等云服務商及企業用戶。公司將從頭部客戶入手,在業界逐步擴大產品影響力。
在現有計算平臺面臨極大的挑戰的背景下,目前AI芯片業界主要的解決方法除了稀疏化技術還包括:設計芯片間互聯做分布式推理和訓練、采用大帶寬的存儲器件(HBM/GDDR)、采用大量的片上存儲(On-chip SRAM) 等。這些方式都將帶來芯片設計復雜度和硬件成本的提升。比較來看,采用稀疏化架構的芯片能在提升性能的同時減輕存儲需求,降低芯片成本,是一舉多得的選擇。
根據IDC 2020HI《全球人工智能市場半年度追蹤報告》的最新數據,目前全球半年度人工智能服務器市場規模達55.9億美元(約326.6億人民幣),并處在高速發展階段,預計在2024年全球市場規模將達到251億美元。
在這一市場背景下,突破原有技術瓶頸,重點打造稀疏化的技術優勢至關重要。
IDC報告同時顯示,墨芯此前的戰略投資方浪潮以16.4%的市占率位居全球第一,成為全球AI服務器頭號玩家。該戰略融資也可看作是浪潮對AI單芯片供應商的一次布局。
墨芯公司總部位于中國深圳。創始團隊包括來自于人工智能領域的科學家和芯片行業的資深芯片架構師和設計工程師。