人妻熟女一区二区三区-大桥未久av-中文字幕www-色综合五月-成人动漫在线播放-娇妻玩4p被5个男人玩-在线黄网站-ass少妇-色妞综合-国产又粗又黄的视频-污污内射在线观看一区二区少妇-色视频在线观看免费-日韩欧美一级电影-狠狠操中文字幕-亚洲黄色自拍-日本国产亚洲-9i在线看片成人免费-啊啊啊不要在线观看-亚洲一区二区黄色-国产女人18水真多毛片18精品-亚洲激情中文-伊人网综合视频-成人国产一区二区三区-被闺蜜打屁股羞耻sp-国产视频资源在线观看-中文字幕高清一区-欧美极品影院-国产成人在线视频免费-中国少妇毛片-久久精品天天

吳思——連續吸引子神經網絡:模型、理論及應用 | 【腦客中國·科研】第221位講者

近日,北京大學心理與認知科學學院博雅特聘教授、麥戈文腦科學所研究員、教育部長江特聘教授吳思做客腦客中國科研直播間,作為第221位講者,以“連續吸引子神經網絡:模型、理論及應用”為題,系統闡述了該模型的理論基礎、自適應機制及其在認知功能建模與類腦智能中的應用。


從吸引子網絡到連續吸引子網絡


吳思教授指出,大腦計算的基本特征是利用大量神經元構成的網絡進行信息加工——大腦內神經元數目達10的11次方,每個神經元擁有1000至10000個連接。連接主義帶動了深度學習與大語言模型的發展,但當前人工神經網絡忽略了神經元狀態隨時間變化的動力學特征,不足以解釋大腦功能。


1


由此引入吸引子(Attractor)概念:大腦用網絡狀態表征信息,要求表征可靠且可重復,因此網絡需從不同初始狀態演化到同一穩定狀態,即吸引子。經典模型通過能量函數局部極小值解釋聯想記憶,但其吸引子是孤立的,無法反映大腦對信息的結構化表征。


2


連續吸引子神經網絡(Continuous Attractor Neural Network, CANN)正是對經典模型的推廣。其穩定狀態并非孤立點,而是低維流形(如一維“峽谷”),系統可在子空間內穩定移動,用于表征頭部朝向等連續變量。吳思教授團隊提出理論可解的CANN模型,基于平移不變性假設推導出高斯形狀的局部活動包(Bump)作為穩定狀態。


345


生物學實證方面,2017年研究人員在果蠅橢圓體頭朝向神經元中發現環狀結構,局部活動包隨頭部擺動在環上轉動,首次為CANN提供直接實驗證據。Moser等人利用CANN成功解釋海馬位置細胞和內嗅皮層網格細胞的放電模式。目前,CANN在大腦中的廣泛存在已成為領域共識。


67


Adaptive CANN


經典CANN強調穩定性,但大腦同時需要狀態快速切換與信息快速搜索,即靈活性(Mobility)。為此,吳思教授團隊引入自適應(Adaptation)機制:在動力學方程中加入慢速負反饋項,模擬神經元發放頻率適應現象。這一機制使網絡產生內在移動性,即在無外界輸入時自發產生行波解(Travelling Wave)。


89


Computing with travelling wave

當適應性強度處于臨界狀態時,在噪聲波動下網絡在局部布朗運動與長距離跳躍間切換,形成Lévy flight——數學上已證明這是開放空間中最優的信息搜索策略。該模型解釋了海馬清醒狀態下的回放(Replay)現象:實驗顯示老鼠靜息時海馬內部空間位置表征的游走軌跡呈Lévy flight分布。


101112


Computing with Smooth Tracking

當內在行波速度大于外界驅動速度時,內部表征領先于真實位置約15至20毫秒,從而補償神經信號傳遞延遲。實驗中老鼠在黑暗轉盤上轉動時,解碼出的大腦內部頭朝向始終領先于真實頭朝向,與模型預測吻合。


1314


Computing with Oscillatory Tracking

在特定參數下,內部表征圍繞真實位置前后震蕩,可解釋海馬Theta節律下的相位進動(Phase Precession)現象,并發現不僅有Pre-cession還有Pro-cession,隨后被研究證實。吳思教授指出,相位進動可能通過將時間序列壓縮到Theta節律窗口內,參與情景記憶構建。


151617


Emergent CANN


在訓練循環神經網絡完成路徑積分或工作記憶任務時,即便初始權重完全隨機,網絡也會自動學習出具有高斯連接模式的連續吸引子結構。這表明連續結構并非生物智能專屬,人工智能在優化任務中同樣會自發涌現該結構。


1819


“Hidden” CANN


大腦中存在興奮-抑制平衡(E-I Balance)網絡與CANN的共存機制:前者連接強而隨機,后者連接弱而高度結構化,弱結構化連接淹沒在強隨機連接中,AI模型中同樣如此。吳思教授推測,大腦以E-I平衡結構為“基座”,包括CANN在內的結構化連接在經驗與任務中快速習得,二者結合兼顧高效信息加工與特定任務表征。


2021


Brain-inspired computing


類腦應用方面,團隊利用二維CANN構建類腦算法,與清華大學合作實現無人自行車對行人的跟蹤——在操場樹木無明顯差異、圖像劇烈晃動條件下,網絡一旦鎖定目標即可干凈濾除噪聲。基于海馬與內嗅皮層耦合的CANN模型,團隊還實現了機器人同時定位與空間建圖(Neural SLAM)。將CANN思想引入AI世界模型,在隱空間任務上達到當前最優性能。


222324


吳思教授總結,連續吸引子神經網絡是神經系統信息表征的標準化模型;加入自適應機制后系統獲得更豐富的計算性質;連續結構可在AI模型中自動涌現并具有強大應用潛力。他展望,未來基于吸引子網絡的計算建模有望將心理學心智模型與神經活動聯系起來,解釋心理與認知活動規律,同時推動AI世界模型向類腦方向發展,為具身智能提供新的理論基礎。


2526




以上為本期直播部分內容,觀看本期及往期完整視頻內容可掃描下方二維碼觀看。


小鵝通二維碼

掃描二維碼

觀看完整視

首頁   /   腦客中國   /   大咖速覽   /   腦客中國?科研   /   吳思——連續吸引子神經網絡:模型、理論及應用 | 【腦客中國·科研】第221位講者

英智科技

請掃描二維碼

Close