• 學位論文

應用於深度神經網絡資料處理以基於電荷分享之分段式位元線6T靜態隨機存取記憶體之記憶體內運算結構

由於目前人工智慧的廣泛應用，對於高精準度與高複雜度的需求也日益增加，然而更複雜的網路會大幅提升資料的參數量以及搬移時間，這將會造成很長的延遲時間和功耗。傳統的做法是使用馮諾伊曼架構，此架構會將中央處理器以及記憶體分開，當要在巨大的資料中執行一些簡單指令的時候，資料流量嚴重限制了整體的效率，大部分的能量都會消耗在搬移資料的過程上，我們稱此現象為馮諾伊曼瓶頸。 記憶體內運算同時擁有兩種功能:運算與存取，記憶體內運算在記憶體巨集內進行乘加運算，再將結果讀出，大幅減少了搬移資料的時間與功耗。本研究的設計目標為同時開啟多條字元線，代表不同通道或是不同位置的輸入，輸入會和儲存在記憶體內的權重進行乘加運算，並將結果經由多位元感測電路將結果讀出。記憶體內運算有著極大的優勢，所以記憶內運算是在人工智慧蓬勃發展中的一項發展標的。 本篇研究提出了新的乘加運算架構，透過28奈米的邏輯製程，製造出了容量為384 Kb的記憶體巨集，此架構有著四項特點: (1)透過分段式位元線電荷分享的架構，可以達到低功耗，並且有不變的高訊號裕度；(2)稱為源極注射區域乘法細胞的新區域運算單元以支持分段式位元線電荷分享的架構並且有較高的抗製程變異能力；(3)位元線結合架構可以減少多位元感測電路的數量以節省功耗 (4)區域管線化運算架構可以讓整體的延遲時間下降。本架構最高可以支持八位元輸入、八位元權重，以及二十位元輸出，達到4-7.2ns的計算時間以及能量效率15.04-94.31 TOPS/W.

• 學位論文

應用於非揮發記憶體內運算之高阻態單元偏好神經網路權重量化演算法

隨著人工智慧的浪潮愈演愈烈，深度學習演算法也愈趨成熟，因此神經 網路(NN) 硬體加速器的研究也如雨後春筍般出現，而記憶體內運算便是其 中一種打破傳統逢紐曼架構的記憶體導向特殊硬體。記憶體內運算的優勢 是同時具有運算以及儲存的功能，在記憶體端先進行運算再傳出結果，減 少移動的資料量，節省所需時間與能源。本篇論文針對一篇已經發表過的 非揮發記憶體內運算(nv-CIM) 作為實驗平台，其電路有著一個可以增進讀 取良率的電路(in-situ HRS-C)，而本篇論文利用了其電路的附帶特性，設計 一種特殊的神經網路權重量化流程，這個流程可以被有效加入到網路中， 使得在使用這個硬體進行AI 辨識時，在付出些微的精準度下降後，能使 TOPS/W 得到4.6 到10.51 的提升，同時也在網路訓練的過程中加入了CIM 的行為模型，這個行為模型能模擬感測放大器的行為，使訓練出來的網路 能包容因為CIM 中的類比運算誤差。進一步達到與純軟體接近的準確度。