各大科技巨頭近來(lái)不約而同地發(fā)力“深度學(xué)習(xí)”領(lǐng)域。“深度學(xué)習(xí)”是現(xiàn)代科技產(chǎn)品背后的“引擎”，作為核心技術(shù)支撐著商業(yè)著應(yīng)用，如網(wǎng)絡(luò)搜索、機(jī)器翻譯、產(chǎn)品設(shè)計(jì)和醫(yī)學(xué)圖像等，都帶來(lái)了相當(dāng)可觀的經(jīng)濟(jì)價(jià)值。
現(xiàn)在，微軟也加入了這個(gè)人工智能的“角斗場(chǎng)”。
一個(gè)月前，“Google大腦之父”在PingWest于舊金山舉辦的SYNC大會(huì)上提出。今天，微軟的研究人員稱(chēng)，他們的深度學(xué)習(xí)系統(tǒng)——“Adam計(jì)劃”取得了突破性的成果，技術(shù)更為成熟。據(jù)該研究人員介紹，在圖片識(shí)別方面，這個(gè)系統(tǒng)不僅可以識(shí)別出指定的物品，還能夠在該類(lèi)目分類(lèi)項(xiàng)下，進(jìn)行更精確的識(shí)別。他將“Adam計(jì)劃”和“Google大腦”進(jìn)行了對(duì)比，在看完Youtube上關(guān)于貓的視頻后，“Google大腦”可以識(shí)別出貓，而Adam則可以識(shí)別出貓及貓的品種，并且使用的機(jī)器數(shù)量只有之前的三十分之一。
微軟研究院主管Peter Lee博士表示，“Adam計(jì)劃”尋找的并不是在模擬神經(jīng)網(wǎng)絡(luò)的規(guī)模上有所突破，而是構(gòu)建方式上的改進(jìn)。這些改進(jìn)指的是：優(yōu)化和微調(diào)了機(jī)器處理數(shù)據(jù)和機(jī)器間數(shù)據(jù)溝通的方式。當(dāng)計(jì)算系統(tǒng)變得更為復(fù)雜時(shí)，每個(gè)部件之間都在同一時(shí)間傳送信息—這件事會(huì)隨著系統(tǒng)越來(lái)越龐大而越來(lái)越困難，而Adam系統(tǒng)允許了異步算法的存在。異步算法指的是將一個(gè)大的系統(tǒng)拆分為不同的部分，并且在分享和輸出計(jì)算結(jié)果前允許他們分別獨(dú)立運(yùn)作，同時(shí)，在分享結(jié)果時(shí)各個(gè)部分的結(jié)果相互覆蓋也沒(méi)有問(wèn)題。
威斯康辛大學(xué)計(jì)算機(jī)科學(xué)學(xué)院的研究者Feng Niu, Benjamin Recht等人的研究報(bào)告指出，在使用傳統(tǒng)的隨機(jī)梯度下降算法(SGD)來(lái)進(jìn)行幾個(gè)并行計(jì)算任務(wù)時(shí)，通常需要保證計(jì)算結(jié)果輸出的同步，否則會(huì)引發(fā)數(shù)據(jù)沖突。但如果只是應(yīng)用在小型計(jì)算系統(tǒng)里，首先，數(shù)據(jù)沖突的幾率很低；其次，由于數(shù)據(jù)結(jié)果的寫(xiě)入往往是遞增性的，每個(gè)部分輸出和疊加只是順序不同，因此即便發(fā)生沖突但計(jì)算結(jié)果通常都是一致的。這個(gè)在研究報(bào)告中被稱(chēng)為“Hogwild!”技術(shù)使得異步計(jì)算在深度學(xué)習(xí)系統(tǒng)中成為可能。
另外，微軟的深度學(xué)習(xí)系統(tǒng)，不同于Google大腦采用GPU搭建的元件，而是使用造價(jià)更昂貴的CPU，這些機(jī)器由微軟的Azure云服務(wù)系統(tǒng)提供支持。
