11月15日,在高交會開幕式上,國內外知名企業雲天勵飛重磅發布新一代AI芯片DeepEdge10。
據介紹,DeepEdge10是國內首創的國產14nm Chiplet大模型推理芯片,採用自主可控的國產工藝,內含國產RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10創新的D2D chiplet架構打造的X5000推理卡,已適配並可承載SAM CV大模型、Llama2等百億級大模型運算,可廣泛應用於AIoT邊緣視頻、移動機器人等場景。
雲天勵飛是國內少有的自成立之初就堅持芯片研發的AI企業,目前已完成了3代指令集架構、4代神經網絡處理器架構的研發,且已陸續商用。更可貴的是,通過多年的投入,公司已建立起一支核心芯片團隊,設計經驗平均超過14年。雲天勵飛的芯片還先後獲得工信部、發改委、科技部三大部委人工智能專項,並三度獲得「吳文俊人工智能科學技術獎」。
大模型時代,AI推理芯片是應用落地的關鍵承載體
邊緣計算的市場價值呈現高速發展趨勢。IDC預測,到2023年底,全球的邊緣計算市場將達到2000億美金的規模;預計到2026年,邊緣計算市場將突破3000億美金。
邊緣計算的場景呈現出算力碎片化、算法長尾化、產品非標化、規模碎片化的特徵,傳統的算法開發和芯片都難以適應新一代人工智能邊緣計算場景的產品化需求。大模型的出現,為行業提供了算法層面的解決之道。但大模型在邊緣計算場景要面向實戰發揮作用,則需要AI大模型推理芯片的支持。
對於AI芯片而言,大模型帶來全新的計算泛式和計算要求。芯片需要具備更大的算力、更大的內存帶寬、更大的內存容量,才能支持巨量參數的大模型在邊緣端運行。同時,AI邊緣推理芯片還承擔了「落地應用最後一公里」的職責,這就意味着AI邊緣推理芯片不僅要支持大模型等AI計算任務,還需要具備較強的通用算力。
針對上述場景需求,雲天勵飛打造了新一代邊緣計算芯片DeepEdge10。該芯片具有SoC主控集成度;採用D2D Chiplet技術和C2C Mesh擴展架構,可實現算力的靈活擴展;內置雲天勵飛最新的第四代神經網絡處理器。
基於一系列創新技術,雲天勵飛打造了系列化芯片。目前已開發出 Edge10C、Edge10 標準版和Edge10Max 三款芯片;出貨形態包括芯片、板卡、盒子、加速卡、推理服務器等,可廣泛應用於AIoT邊緣視頻、移動機器人等場景。依托Dee Edge10創新的D2D chiplet架構打造的X5000推理卡,已適配並可承載SAM CV大模型、Llama2等百億級大模型運算。
目前,雲天勵飛已向國內頭部的AIoT芯片設計廠商、智慧汽車芯片設計廠商、服務機器人廠商、國家重點實驗室等提供神經網絡處理器的IP授權。
算法芯片化,雲天勵飛打造AI芯片的核心「武器」
雲天勵飛自2014年成立之初一直堅持自主研發芯片,沈澱「算法芯片化」的核心能力。「算法芯片化」並不是簡單的「算法+芯片」,而是雲天勵飛基於對場景的理解,以及對算法關鍵計算任務在應用場景中的量化分析,將芯片設計者的理念、思想與算法相融合的AI芯片設計流程,能夠讓AI芯片在實際應用中發揮更優的效果。
在算法芯片化核心能力的支持下,雲天勵飛目前已完成了3代指令集架構、4代神經網絡處理器架構的研發,且已陸續商用。更可貴的是,通過多年的投入,公司已建立起一支核心芯片團隊,設計經驗平均超過14年。
雲天勵飛的自主研發芯片,也是公司自進化城市智能體戰略的重要引擎。2020年,雲天勵飛在高交會上正式發布自進化城市智能體戰略。驅動自進化城市智能體發展的核心邏輯,是打造「應用生產數據、數據訓練算法、算法定義芯片、芯片規模化賦能應用」的數據飛輪。芯片是決定AI應用廣度與深度的關鍵載體,也是自進化城市智能體建設的重要算力支撐。
未來,雲天勵飛將繼續加大自主研發力度,立足自主可控,以自研「芯」,為自進化城市智能體發展提供強大引擎。(記者姚志東)
圖:發布會現場