重點(diǎn)：
?新的embARC機(jī)器學(xué)習(xí)推理(MLI)軟件庫針對(duì)使用卷積神經(jīng)網(wǎng)絡(luò)(CNN)和遞歸神經(jīng)網(wǎng)絡(luò)(RNN)的低功耗物聯(lián)網(wǎng)應(yīng)用進(jìn)行了優(yōu)化。
?該庫支持節(jié)能的新思科技DesignWare ARC EM DSP和HS DSP處理器
?與未優(yōu)化的實(shí)現(xiàn)相比，將二維卷積層的性能提高16倍
?該庫為各種拓?fù)浣Y(jié)構(gòu)（包括使用長(zhǎng)短期內(nèi)存(LSTM)單元構(gòu)建的拓?fù)浣Y(jié)構(gòu)）將RNN加速5倍
?MLI軟件庫通過embARC.org網(wǎng)站作為免費(fèi)的開源軟件發(fā)布
新思科技（Synopsys, Inc.，納斯達(dá)克股票市場(chǎng)代碼：SNPS）近日宣布推出全新embARC機(jī)器學(xué)習(xí)推理軟件庫，以促進(jìn)集成了新思科技DesignWare? ARC? EM和HS DSP處理器IP的節(jié)能神經(jīng)網(wǎng)絡(luò)片上系統(tǒng)(SoC)設(shè)計(jì)的開發(fā)。embARC機(jī)器學(xué)習(xí)推理(MLI)軟件庫為開發(fā)人員提供了優(yōu)化的功能，來實(shí)現(xiàn)各種類型的神經(jīng)網(wǎng)絡(luò)層，對(duì)于低功耗和低面積的應(yīng)用，如語音檢測(cè)、語音識(shí)別和傳感器數(shù)據(jù)處理，可顯著減少處理器執(zhí)行周期。embARC MLI軟件庫可通過embARC.org獲得。這是一個(gè)專門的網(wǎng)站，讓軟件開發(fā)人員能夠集中訪問支持ARC處理器的免費(fèi)開源軟件、驅(qū)動(dòng)程序、操作系統(tǒng)和中間件。
Kneron創(chuàng)始人兼首席執(zhí)行官Albert Liu表示：“為了向用戶提供超低功耗的語音觸發(fā)和識(shí)別人工智能解決方案，我們需要像ARC EM DSP處理器那樣既節(jié)能又節(jié)省空間的處理器IP。通過提供embARC機(jī)器學(xué)習(xí)推理軟件庫，新思科技為片上系統(tǒng)開發(fā)人員提供了在基于ARC設(shè)計(jì)上快速實(shí)現(xiàn)機(jī)器學(xué)習(xí)算法所需的基本核心程序。”
embARC MLI軟件庫支持ARC EMxD和HS4xD處理器，并為有效推斷中小型機(jī)器學(xué)習(xí)模型提供了一組基本內(nèi)核。它能夠有效地實(shí)現(xiàn)諸如卷積、長(zhǎng)短期內(nèi)存(LSTM)單元、池化、激活函數(shù)（如修正線性單元）和數(shù)據(jù)路由操作（包括填充、轉(zhuǎn)置和連接）等操作，同時(shí)降低功耗和內(nèi)存占用。例如，在ARC EM9D處理器上運(yùn)行CIFAR-10等低功耗神經(jīng)網(wǎng)絡(luò)基準(zhǔn)測(cè)試，與同類處理器中的競(jìng)爭(zhēng)對(duì)手相比，最多可減少4倍的執(zhí)行周期。此外，MLI庫在廣泛的神經(jīng)網(wǎng)絡(luò)層（如深度方向的二維卷積、全連接的基本RNN單元和LSTM單元）中平均實(shí)現(xiàn)了3-5倍的性能改進(jìn)，對(duì)于二維卷積層，最大性能提升可達(dá)16倍。
新思科技IP營(yíng)銷副總裁John Koeter表示：“對(duì)于邊緣設(shè)備中的嵌入式機(jī)器學(xué)習(xí)功能，功耗和占用面積是至關(guān)重要的考慮因素。新思科技通過使多種類型的神經(jīng)網(wǎng)絡(luò)運(yùn)行在節(jié)能的ARC EM和HS DSP處理器上，擴(kuò)展了ARC處理器系列，讓開發(fā)人員可以選擇這些處理器來創(chuàng)建他們的節(jié)能AI設(shè)計(jì)。”
