首先是努力實(shí)現(xiàn)軟件融合

在早期的瘋狂和分裂之中，即使是軟件融合方面所做的事情也是很分散的。百度人工智能研究團(tuán)隊(duì)進(jìn)行了一項(xiàng)調(diào)查，發(fā)現(xiàn)11項(xiàng)措施來彌補(bǔ)那些爭(zhēng)著管理神經(jīng)網(wǎng)絡(luò)的各種軟件框架之間存在的差距。

最有希望的是Open Neural Network Exchange（ONNX），這是一個(gè)由Facebook和微軟發(fā)起的開源項(xiàng)目，最近Amazon也加入其中。該項(xiàng)目小組在12月份發(fā)布了ONNX格式的第一個(gè)版本，旨在將用把十幾個(gè)有競(jìng)爭(zhēng)關(guān)系的軟件框架所創(chuàng)建的神經(jīng)網(wǎng)絡(luò)模型轉(zhuǎn)譯為圖形化呈現(xiàn)。

芯片制造商可以將他們的硬件瞄準(zhǔn)這些圖形。對(duì)于那些負(fù)擔(dān)不起為支持這些不同模型框架——例如Amazon的MxNet、Google的TensorFlow、Facebook的Caffe2以及微軟的CNTK——單獨(dú)編寫軟件的初創(chuàng)公司來說，這是一個(gè)好消息。

30多家主流芯片提供商組隊(duì)在12月20日發(fā)布了他們的首選項(xiàng)——Neural Network Exchange Format（NNEF），目標(biāo)是為芯片制造商提供一種替代方案，來創(chuàng)建自己的內(nèi)部格式，就像英特爾在Nervana Graph和Nvidia TensorRT那樣。
百度在各種各樣的格式中發(fā)現(xiàn)了ISAAC、NNVM、Poplar和XLA。百度硅谷人工智能實(shí)驗(yàn)室高級(jí)研究員Greg Diamos表示：“現(xiàn)在去預(yù)測(cè)是否會(huì)出現(xiàn)一個(gè)成功的實(shí)施，可能還為時(shí)尚早，但我們正在走上一條更好的道路，其中一條最終取得勝利。”

在這些人工智能框架中，Amazon宣稱自己的MxNet框架和新出現(xiàn)的Gluon  API提供了最高的效率。（來源：Amazon）

此外，谷歌已經(jīng)開始致力于開發(fā)軟件來自動(dòng)化精簡(jiǎn)深度神經(jīng)網(wǎng)絡(luò)模型，這樣這些模型就可以運(yùn)行在從智能手機(jī)物聯(lián)網(wǎng)（IoT）節(jié)點(diǎn)的方方面面。如果成功的話，可以將50Mb的模型降低到500Kb。

谷歌也已經(jīng)在探索在手持設(shè)備上做有限的模型訓(xùn)練，調(diào)整模型的頂層，或者基于白天收集的數(shù)據(jù)在夜間進(jìn)行處理。像SqueezeNet和MobileNet等，也展示了更簡(jiǎn)單的成像模型路徑，且同樣精確。

負(fù)責(zé)Google TensorFlow Lite工作的Pete Warden表示：“我們看到有很多人在各種各樣的產(chǎn)品中使用機(jī)器學(xué)習(xí)，每次操作降低1皮焦，這是我每天熬夜在做的事情。”