光芯片上的全光脈沖神經(jīng)網(wǎng)絡(luò )

  Nature昨天刊登了德國明斯特大學(xué)的一篇最新進(jìn)展，研究人員在光芯片上實(shí)現了脈沖神經(jīng)網(wǎng)絡(luò )(spike neural network)。先睹為快，這篇筆記主要介紹下這篇進(jìn)展。研究人員將氮化硅波導與相變材料結合，實(shí)現了監督式和非監督式的機器學(xué)習，并演示了對15個(gè)像素圖片的模式識別。

  關(guān)于相變材料(phase changing material, 以下簡(jiǎn)稱(chēng)PCM), 小豆芽之前的一篇筆記 基于光芯片的內存內計算(memory-in computing)提到過(guò)。研究人員采用相同的材料GST(全稱(chēng)為Germanium Antimony Tellurium), 它可以在晶體和非晶態(tài)之間切換。GST通過(guò)濺射的方法沉積在SiN波導上方。GST的折射率隨波長(cháng)變化曲線(xiàn)如下圖所示, 當PCM處于非晶態(tài)時(shí)，它的吸收率較小，而當它處于晶體態(tài)時(shí)，吸收率較大?；谶@一性質(zhì)，它可以作為神經(jīng)網(wǎng)絡(luò )的權重單元(weights)，用來(lái)調控SiN波導中的光強，

(圖片來(lái)自文獻1)

  光脈沖神經(jīng)網(wǎng)絡(luò )的結構如下圖所示，

(圖片來(lái)自文獻1)

  而典型的神經(jīng)元結構如下圖所示，

(圖片來(lái)自https://www.cnblogs.com/by-dream/p/10497816.html)

  比較上面兩幅圖片，可以看出光學(xué)脈沖神經(jīng)網(wǎng)絡(luò )的結構與生物神經(jīng)元結構非常類(lèi)似，兩者之前存在一種對應關(guān)系。對于光學(xué)脈沖神經(jīng)網(wǎng)絡(luò )，不同波長(cháng)的光脈沖序列輸入進(jìn)PCM構成的突觸單元(synapse), 經(jīng)過(guò)PCM的作用，脈沖強度發(fā)生變化，對應于乘法器。進(jìn)而借助于微環(huán)結構，將不同波長(cháng)的脈沖導入進(jìn)同一波導中，該功能類(lèi)似加法器。相加后的脈沖光強較小時(shí)，probe光與微環(huán)發(fā)生共振，在輸出端口沒(méi)有光強輸出。當光強達到一定的閾值后，probe信號不再和微環(huán)發(fā)生共振，而是傳播到輸出端口。這一過(guò)程類(lèi)似神經(jīng)元脈沖信號的激發(fā)，扮演了非線(xiàn)性激活函數的功能?；镜墓鈱W(xué)結構單元如下：

  1. 含PCM的波導

  下圖中的結構I, 作為突觸單元，調控光脈沖信號的強度，相當于乘法器

  2. WDM波分復用器

  下圖中的結構II, 采用微環(huán)結構，將不同波長(cháng)的光脈沖導入到同一根波導中，相當于加法器

  3. 含PCM的微環(huán)結構

  下圖中的結構VI, 作為非線(xiàn)性激活函數。當脈沖能量超過(guò)430pJ時(shí)，“激發(fā)”一個(gè)光脈沖。

  (圖片來(lái)自文獻1)

  整個(gè)信號處理過(guò)程分為四步: 1)Weighting, 2)Mux, 3)Sum, 4) Output。典型的光路結構如下圖所示，下圖對應三個(gè)神經(jīng)元結構。

(圖片來(lái)自文獻1)

  利用上圖的單個(gè)神經(jīng)元結構，研究人員驗證了監督式機器學(xué)習和非監督式機器學(xué)習。對于監督式機器學(xué)習，權重的數值通過(guò)外部的supervisor設置。

(圖片來(lái)自文獻1)

  左圖對應1010的識別，右圖對應1100的識別。

  對于非監督式機器學(xué)習，不再需要外部的supervisor來(lái)設置權重值，而是通過(guò)輸出光脈沖進(jìn)行反饋控制，調整權重值，如下圖所示。當光脈沖信號產(chǎn)生時(shí)，增加對應的權重值，而沒(méi)有光脈沖信號產(chǎn)生時(shí)，減小對應的權重值。下圖展示了對0110的識別過(guò)程。

（圖片來(lái)自文獻1）

  上述的演示都是針對單個(gè)神經(jīng)元的，對應2x2矩陣的操作。進(jìn)一步，他們提出了更復雜的光學(xué)脈沖神經(jīng)網(wǎng)絡(luò )結構，證明該結構的可擴展性。神經(jīng)網(wǎng)絡(luò )中的每一層結構，如下圖所示。每一層包括三個(gè)功能單元，即收集器collector、分發(fā)器distributor和神經(jīng)突觸結構neurosynapse。收集器將上一層不同波長(cháng)的光脈沖信號收集到同一根波導中，分發(fā)器將光脈沖分發(fā)給N個(gè)神經(jīng)元，神經(jīng)突觸結構則產(chǎn)生光脈沖信號，輸入給下一層結構。

(圖片來(lái)自文獻1)

  基于上述的架構，他們進(jìn)一步演示了對字母ABCD的識別。光路中包含4個(gè)神經(jīng)元，每個(gè)神經(jīng)元包含15個(gè)突觸，對應識別含15個(gè)像素的圖片。整個(gè)芯片包含140多個(gè)光器件，如下圖所示。由于涉及到15個(gè)波長(cháng)，收集器不是在片內實(shí)現的，而是通過(guò)外部的WDM實(shí)現。

(圖片來(lái)自文獻1)

  可以看出，該結構能夠較好地識別ABCD這四個(gè)字母。

  小豆芽的幾點(diǎn)comment：

  1) 神經(jīng)網(wǎng)絡(luò )所需的功能單元全部都可以在光芯片內實(shí)現，而MIT研究組的方案中激活函數是通過(guò)片外電學(xué)方法實(shí)現。這是該方案的一個(gè)優(yōu)勢和新穎之處。

  2) 采用微環(huán)結構，微環(huán)是對工藝、溫度、波長(cháng)非常敏感的。如果該方案想進(jìn)行大批量生產(chǎn)，這會(huì )是一個(gè)非常大的挑戰。當然，可以通過(guò)熱調的方法進(jìn)行補償，但是這會(huì )帶來(lái)額外的功耗。

  3) 由于采用了特殊的PCM材料，目前還沒(méi)有硅光foundry支持這一工藝。

  4) 采用波長(cháng)編碼，目前演示的是含15像素的圖片識別，涉及到15個(gè)波長(cháng)。如果矩陣的規模進(jìn)一步變大，例如10x10, 就會(huì )涉及到100個(gè)波長(cháng)。這就需要可處理100個(gè)波長(cháng)的波分復用器件，無(wú)論是在片內還是片外，實(shí)現起來(lái)都是非常有難度的?；蛟S，較大的矩陣能拆分成小矩陣進(jìn)行處理，可以規避這一問(wèn)題。

  文章中如果有任何錯誤和不嚴謹之處，還望大家不吝指出，歡迎大家留言討論。

  參考文獻：

  1. J. Feldmann, et.al., "All-optical spiking neurosynaptic networks with self-learning capabilities"， Nature 569, 208(2019)