由人工智慧驅動的設計應用
隨著人工智慧(AI)在更多產業中的應用與日俱增,半導體供應廠商對於越來越高的工作負載複雜性與特殊化程度,面對著龐大的壓力。從即時的語言處理到視覺架構的應用與指令驅動的模型,AI工作負載需要的矽晶圓解決方案不但必須效能強大,還得具備高效率、針對特定任務完成優化,並且能夠跟隨AI基礎設施的擴建而擴大規模。
針對開發AI系統賦能的半導體IP,通常需要在開發過程中儘早考量到這些AI工作負載;同時促成IP供應商、矽晶圓整合廠商、AI軟體開發人員與工作負載彼此間儘早互動,也極為關鍵。
我們與總部位於台北市的AI加速與編譯器技術開發廠商臺灣發展軟體科技(Skymizer)公司,討論如何協助其新產品能夠符合當代AI應用嚴苛的需求。他們的計劃包括基於LISA v3指令集架構(ISA)、並且支援多模式與代理式AI的AI加速器IP的開發作業。Skymizer的設計目標包括促成語言與視覺影像的即時處理,以及在可擴展子系統內的指令模型建構。Skymizer想規劃出一種可以無縫整合至多種應用的模組化設計,包括從邊緣裝置到複雜的車用系統。
針對驗證與IP介面的確認,以及與設計夥伴與客戶溝通後的理解,Skymizer檢視了FPGA架構的原型設計選項,並選擇了基於最新款AMD VP1902 自適應系統單晶片(Adaptive SoC)的新思科技HAPS®技術。
Skymizer使用新思科技最新由VP1902架構的HAPS技術進行驗證,並向合作夥伴與客戶展示其HyperThought AI加速器IP,並利用HAPS的高效能執行與硬體/軟體共同開發能力。
為了迎合客戶的產品上市時程目標,Skymizer需要一個可以應付當前人工智慧IP開發作業需求的原型設計平台。新思科技HAPS技術提供了一個理想的解決方案,並有效達成包括晶片前的系統確認、硬體/軟體的共同開發,以及高速的原型設計。在採用新思科技的HAPS原型設計技術之後,Skymizer得以簡化開發流程,並確保其創新的AI加速器IP在設計週期的初期,即能夠達到效能、交互操作性與可靠性的基準(benchmarks)。
HAPS-200符合Skymizer原型設計需求的關鍵優點,包括:
Skymizer 行銷長魏國章表示:「有了HAPS,我們的客戶可以在離晶片上市還很久之前,就能在真正的硬體上體驗HyperThought的代理式AI與多模式功能。」他說:「這項合作讓我們得以精準且快速的在硬體上展現我們的LPU原型設計,讓我們在開發週期最早的可能時間點,即與生態系的合作夥伴及客戶有效互動。」
Skymizer公司採用HAPS,肯定了IP設計驗證、確認(validation)與系統開發作業使用HAPS的價值。HyperThought藉由在HAPS平台上的原型建造技術,Skymizer達成了:
在HAPS上部署HyperThought最令人注目的一點,就是可以針對它的能力提供真實的確認(real-world validation)。Skymizer的IP開發團隊使用供系統層級效能調整用的HAPS硬體,能夠快速確認多模式的AI工作流程。這種方式不但可以協助確保開發出的IP功能健全且生產就緒,讓HyperThought的客戶採用IP時更為簡便,同時簡化早期軟體開發作業的生態系協作。
此外,Skymizer利用新思科技的Verdi®平台,在各個RTL與軟體層間進行除錯。此一綜合的除錯能力,可以讓任務團隊快速辨識並解決問題,確保HyperThought的技術可以即時地部署於各式各樣的應用中。
最後,基於HAPS的IP原型設計套件已經讓Skymizer的合作夥伴與客戶使用PCIe介面,針對HyperThought進行評估與整合。此一簡化的IP採用方式可以促成整個生態系更大規模的協作,並加速智慧矽晶圓解決方案的開發作業。
對於AI加速器IP的開發作業,Skymizer採用新思科技的HAPS技術,是個絕佳的開發技術實例。透過FPGA原型設計的效能,Skymizer得以成功開發其HyperThought HAPS的原型設計能力,得以用能滿足今日人工智慧IP開發所需的速度,開發並確認其HyperThought AI加速器IP,加速業界推動這項技術的腳步。
當前AI持續引領著矽晶設計解決方案的發展,HAPS等原型設計環境可以促成像HyperThought等IP的開發、驗證與展示(demonstration),為智慧、可擴展且高效率的矽晶圓到系統設計,開展了更多的可能性,並協助SoC開發人員將設計的想法轉化為現實,而且速度更甚以往。