• 學位論文

基於注意機制及遞迴神經網路之媒體推播通知的封鎖預測

通訊科技快速發展，為因應網際網路的興起與智慧行動裝置的高普及率，企業的行銷方式隨之改變。發送廣告的媒介從原先的簡訊、電子郵件逐漸地被取代為網頁推播。推播通知的主動性和即時性大大的增加廣告的曝光率，進而提高用戶對企業商品的觸及率，它在電子商務中是一種經濟效益高的快速營銷策略。但網頁推播並不是一味的發送廣告即可獲得良好的行銷效果，用戶在推播中處於被動狀態，用戶在何時接收何種內容全由企業決定，在這種企業主導的情況下所發送的商品訊息未必與用戶的需求相符。訊息發送的時間點對於用戶來說如果不合宜，將會導致用戶忽略該則推播通知。尤有甚者，頻繁地推送可能使用戶感到厭煩、壓迫，甚至可能造成客戶的流失並對企業造成形象或利益上的損害。 本論文中，透過與企業「禾多移動多媒體股份有限公司(Likr)」合作，提出基於深度學習的方法的「封鎖意圖預測系統」。系統架構包含三個部分：特徵轉換層，歷史行為萃取層和判別層，特徵轉換層中利用文字探勘與文本分類的技術分析推播通知的內文；歷史行為萃取層中透過遞迴神經網路來分析用戶近期接收推播通知的行為紀錄，並結合注意力機制獲取每則推播通知對用戶的影響程度，最後通過判別層來預測下一則推播通知的內容與推播的時機是否會造成用戶對於推播服務進行封鎖。「封鎖意圖預測系統」的實驗結果中顯示，系統更新後未來的三日內預測 (AUROC) 最高可以達0.7976。實驗結果驗證，即使處於高度變化的時序列推播資料中，該模型確實可以精準地預測封鎖率。本論文期望透過Likr公司的合作計畫，運用本論文所提出之「封鎖意圖預測系統」進行自適的調度推播通知。在用戶注意力有限的情況下，有效地減少封鎖率，提升用戶對產品的參與度並帶來更高的點擊率，進而提高企業形象與客戶滿意度。

• 學位論文

使用用戶行為和產品信息的基於注意力的雙向遞歸神經網絡推薦系統

摘要隱藏中

• 學位論文

應用於光場分解之非負矩陣分解引擎硬體架構

摘要隱藏中

• 學位論文

通過系統生物學和深度學習方法研究乙型肝炎病毒發病機理的核心信號通路，以進行生物標誌物鑑定和 藥物發現

乙型肝炎病毒（HBV）感染是全世界發病率和死亡率的主要原因。然而，對其發病機理的了解不足通常會導致免疫逃逸和預後的複發。因此，基於資料探勘和全基因組RNA-seq數據的強效系統方法對於進一步分析致病機理和鑑定用於藥物設計的生物標記至關重要。在這項研究中，系統生物學方法被應用於通過雙向RNA序列數據修剪在HBV感染下的宿主/病原體遺傳和表觀遺傳相互作用網絡（HPI-GEN）中的假陽性。然後，通過主要網絡投影（PNP）方法和KEGG途徑的註釋，從核心串擾信號途徑中識別出與細胞功能障礙相關的重要生物標誌物作為藥物靶標。此外，基於預先訓練的基於深度學習的藥物-靶標相互作用（DTI）模型和從數據庫中獲得經驗證的藥理特性，即藥物調節能力，毒性和敏感性，將有前途的多靶點藥物組合設計為一種多分子藥物，為治療HBV感染創造了更多可能性。因此，通過擬議的系統醫學發現和重新定位程序，我們不僅闡明了乙肝病毒感染期間的病因機制，而且還有效地提供了治療乙肝的潛在藥物組合。

• 學位論文

非同步學習「過渡」及「延音」以改善中文歌聲合成之基頻軌跡

在歌聲合成的領域中，不同語言在語言學上所需考慮的特徵不同，例如中文是聲調語言，比起日語、韓語或英語，還需要考慮到聲調影響字義以及基頻的因素。於是本實驗室團隊先前重新定義了上下文本相關特徵的組成，並且自行蒐集了中文流行歌資料庫，建立一套基於雙向遞迴神經網路的中文歌聲合成系統，只要給定樂譜即可合成出歌聲，歌者的咬字及音色都可以被模型學習。 然而合成歌聲中有幾個比較明顯的問題是，不同音高間轉換不夠平滑，甚至會有明顯的機械音，以及合成基頻過度平滑導致顫音等個人歌唱技巧消失的情況。這些跟音準有直接相關的問題，我們認為會非常直接地影響到聽者的感受。在本篇論文中，我們著重於改善基頻合成的效果，首先使用了殘差連接來確保音準不會偏離樂譜音高太多，並開發了過渡及延音演算法來解決這些問題，藉由權重計算使得音高轉換過渡區間更加自然，以及保留了單一音符間顫音的表現。除此之外，由於基頻抽取後，會有不少過高或過低的跳點，這些數量不少的跳點會影響模型的學習效果，於是參考等化器中壓縮器的概念來減低跳點的影響。根據客觀計算結果，經由使用的演算法以及其他前處理後，歌聲合成的效果會比較好，均方根誤差下降超過15赫茲，主觀計算也顯示新方法所合成的音檔獲得較高的分數。

• 學位論文

基於關注物體考量之雙魚眼鏡頭全景拼接

最近全景雙魚眼鏡頭被廣泛地使用，像是在極限運動，虛擬實境以及會議室鏡頭等等，以會議室鏡頭為例，對於維持每一位與會者的臉的完整性是非常重要的，因為在會議室中，人屬於顯著且重要的物體。也就是說，當有人移動經過兩顆鏡頭重疊的部分時，想將拼接的結果接得無痕跡且無瑕疵就變得相當有挑戰性。 其中Warping跟Seam finding這兩階段對於最後全景的結果好壞扮演十分重要的角色。然而目前現有的方法在實作這兩階段並未將移動物體的資訊考慮進去，特別是在Seam finding的部分，因為在影片中，接縫處位置的變化會直接影響視覺的感受，所以我們除了一般常用的約束項之外，更針對移動和重要的物體設計了演算法。 在本篇論文裡，我們提出了基於移動及重要物體的魚眼鏡頭全景拼接演算法。首先，為了使得Warping裡的對準項目更能集中在移動的物體的對應點，我們從對應點的座標位置計算moving weight m_t。第二，合適的接縫位置有助於減少拼接瑕疵，我們根據前後禎的warping結果算出adaptive weight λ_t。最後，針對移動或重要物體，我們從人物偵測及切割的結果，給予Seam finding中的能量圖相對應的懲罰。

• 學位論文

基於人臉先驗與感知損失之人臉強化影像超分辨率

近年來，深度學習在圖像超分辨率任務取得了出色的表現，包含單圖像對一班物件的超解析率，以及針對人臉的人臉超分辨率。人臉超分辨率被視為超解析率任務的一個特例，所以其使用的方法與一般超解析率並不相同。然而，在真實場景中，有許多同時包含人臉跟其他物體的圖片，像是在會議室以及像Facebook及Instagram 等社群網路上傳的圖片。雖然人臉在圖片中是重要的部分，但其他地方像是背景或一般物體有時也很重要。換句話說，我們希望可以增強人臉的部分，同時保持其他地方的品質。在大多數超分辨率的方法中，處理人臉的方法跟一般物體的方法並不相同，所以必須分別對對應的地方做處理。但在實際應用中，用兩個不同模型對同一張圖片處理並不是個好方法，因為這需要為同一個目標付出雙倍的運算資源。換句話說，其實我們可以用一個模型處理這兩種類似的任務。 在我們的方法中，我們考慮了人臉先驗，使用人臉相關任務的預訓練模型計算感知損失，並把這兩者結合在單圖像超分辨率方法中。人臉先驗幫助我們強化圖像中人臉的部分; 用FaceNet計算感知損失比起過往使用VGG網路更為有效; 使用單圖像超分辨率方法作為基礎模型幫助我們從低分辨率輸入圖像提取特徵。結果顯示我們強化了圖像中人臉的部分，同時保持了在一般物體的表現，並且可以實時處理單張圖像。

• 學位論文

多目標強化學習與模糊推論系統應用於基於偏好之蛇型模組機器人節能步行優化

摘要隱藏中

• 學位論文

適用於寬頻毫米波系統之混合式預編碼多輸入多輸出濾波正交分頻多工基頻處理器

高吞吐量傳輸可以通過多輸入多輸出毫米波系統來達成。然而，在全數位多輸入多輸出系統中，數據轉換器和射頻鏈使用了許多硬體元件。因此，我們利用混合預編碼架構來減少數據轉換器和射頻鏈的硬體浪費。 另一方面，引入濾波後的正交分頻多工技術來滿足未來無線通訊系統的需求，該無線通訊系統具有比傳統正交分頻多工技術更高的效能。過濾式正交分頻多工技術是一種依照各個子帶過濾的方法，因為整個頻寬被劃分為多個單獨的子帶，每個子帶分別承載相應的數據訊息。 本文提出了一種基於混合預編碼的多輸入多輸出濾波正交分頻多工基頻處理器，該處理器利用了單輸入單輸出濾波正交分頻多工技術，重新設計了適合多輸入多輸出架構的通道估測方法。利用正確的多輸入多輸出通道狀態資訊，可以將混合預編碼應用於多輸入多輸出濾波正交分頻多工，以解決關於頻率選擇性寬頻通道的問題。

• 學位論文

基於記憶體安全相關應用之低峰值低能耗多位元電流感測放大器及內嵌式高面積效率近記憶體運算功能電路

目前非揮發性記憶體的發展在記憶體市場上具有龐大的潛力，現今以快閃記憶體為最大宗，然而快閃記憶體需要在高電壓下才能進行寫入和抹除資料，且操作速度較慢並且難以隨著先進製程一直微縮。因此，下世代新型的非揮發性記憶體如STT-MRAM，ReRAM等，可以在低電壓下操作且有百倍以上的操作速度，成為了取代快閃記憶體的選擇並應用在各式各樣需要高速運算的終端裝置上。 而現今許多終端設備與機器上，對於資料安全防護的意識與需求越來越高，這些裝置多數使用安全散列算法（SHA）或進階加密標準（AES）演算法將內部的資料以及明文進行數據加密。而這些操作需要高速的讀取速度和可以搭配wide-IO的非揮發性記憶體（NVM）來實現高讀取帶寬。此外，為了減少傳統馮紐曼(Von Neumann)架構運算中大量的資料搬移，在記憶體內放置運算單元的近記憶體運算 (Near memory computing)可以有效降低安全相關演算法的運算時間以及功耗。 自旋力矩轉移-磁阻式隨機存取記憶體（STT-MRAM）是主要用於先進製程節點的on-chip非揮發性記憶體，有著現在非揮發性記憶體中最快的讀取速度。但是，它需要具備小偏移量的感測放大器才能容忍微小的穿隧式磁阻比例(TMR-Ratio)來進行穩定的讀取，會造成大量的面積消耗和讀取能量（ERD）。因此設計一個高讀取帶寬、安全相關自旋力矩轉移-磁阻式隨機存取記憶體運算巨集主要面臨的挑戰有： 1. 使用大量的感測放大器進行平行讀取，可實現較短的讀取時間，但會導致峰值電流（IPEAK）提高和消耗大量面積和能量。若使用較少數目的感測放大器依序讀取多位元可減少高峰值電流和面積及能量消耗，但會導致較長的讀取時間進而降低讀取帶寬。 2. 具有較高峰值電流的自旋力矩轉移-磁阻式隨機存取記憶體巨集會降低晶片的電源穩定性，可能會導致同一晶片上對雜訊敏感的區塊出現故障。 3. 傳統的記憶體-邏輯單元分離架構於非揮發性記憶體的安全邏輯運算會導致較長的延遲時間 (wide-IO讀取及觸發器做移位/旋轉位元需要兩個週期)，以及消耗額外的面積跟能量。 本論文主要討論自旋力矩轉移-磁阻式隨機存取記憶體在高帶寬讀取中的出現的問題，以及傳統馮紐曼架構的效能瓶頸，並提出結合了低能耗多位元電流感測放大器（LEMB-CSA）以及高面積效率近記憶體運算之電路。放大器具有電流裕度持續增強、製程變異容忍、小面積、低峰值電流、低能耗的特性；而內嵌於感測放大器之下的近記憶體運算電路具有高面積效率以及低功耗的表現，有效解決了前面所提到的設計挑戰。 在台積電22 奈米製程分析下，我們提出的讀取架構相較於傳統電流感測放大器可有35.2%的良率改善且多容忍80%的穿隧式磁阻比例。此外，減少的參考電流數量和流水線電流採樣方式使我們提出的感測放大器的能耗相較於2020年ISSCC發表的多位元電流感測放大器減少了36.4％，峰值電流降低了40％，可容忍之偏移量提升1.3倍，而僅付出相對於傳統電流感測放大器(並行感測) 18.2％讀取速度的代價。而我們提出的近記憶體運算電路可以減少33.3%的面積消耗和48.8%的功耗，並可以結合電流感測放大器的讀取操作，在一個工作週期內完成移位/旋轉位元的邏輯運算。 最後，我們與台積電合作在22奈米以及28奈米的CMOS工藝中實做並驗證我們提出的架構，本篇的量測驗證以28奈米的記憶體測試巨集為主，在VDD = 0.9伏特時，8個位元的讀取速度 = 3.12奈秒(ns)，而在感測8位元+完成1位元移位/旋轉的近記憶體運算模式中為3.29奈秒(ns)，僅額外多消耗了0.17奈秒(ns)。