1878年法國神經學家和人類學家布羅卡(P.Broca)注意到構成每側大腦半球的一圈組織,如胼胝體下回、扣帶回、鉤回、腹海馬等結構,在解剖上相互聯系,形成一個環形,他稱之為大腦邊緣葉(limbiclobe),但他沒有提出該葉的功能。1937年美國神經解剖學家帕佩茲(J.W.Papez)提出,起源于海馬的神經通路經乳頭體、丘腦前核和扣帶回的中繼,返回海馬構成一封閉環路,這一環路能作為情緒表達的神經基礎。此邊緣環路又名Papez環。至1952年,麥克林(P.D.Maclean)正式提出邊緣系統這一術語,就是指那些由前腦古皮質、舊皮質演變而來的結構,以及與這些結構具有密切組織學聯系并位于附近的神經核團。邊緣系統包括扣帶回、眶回、胼胝體下回、梨狀區、海馬回、杏仁核、隔區、下丘腦、乳頭體等大腦部分和神經核團。可以認為,邊緣系統是腦基底成分的一個相互聯系的復合體,位于所有這些結構的中心的是下丘腦。從機能上看,下丘腦被認為是邊緣系統的一個中心成分。
大腦的邊緣系統活動與內臟的機能調節的關系至為密切。植物性神經系統許多功能活動的高級中樞位于邊緣系統內。下丘腦包括許多重要神經核團,并與大腦皮層、海馬、杏仁核、垂體后葉以及中腦被蓋的“中腦邊緣區”具有密切和廣泛的組織學和機能的聯系。下丘腦對血壓、體溫、攝食、水平衡、內分泌等的調節都具有重要影響。
喜、怒、哀、樂、惡、好、憂、懼等情緒反應,屬于中樞神經系統高級機能。此類反應既包括軀體神經系統的活動,又包括植物性神經系統的活動。例如發怒時肌肉張力和心率、血壓等變化同時發生。自1937年以來,生理學和心理學工作者普遍認為邊緣系統的活動和情緒變化具有密切的關系。有關這方面的研究工作主要在動物身上進行,也有部分結果來自臨床。通過埋藏電極刺激下丘腦一些部位能使貓出現驚懼反應。此時動物呈現低頭、雙耳后豎、身軀拱起、肌肉緊張、瞳孔擴大、體毛豎起等一系列具情緒反應色彩的軀體及交感神經系統活動的變化。刺激另一些區域可使動物出現逃遁反應,如搜索環境、奪路奔逃等。此外,刺激下丘腦外側部還可以引起動物的“攻擊反應”。刺激貓的杏仁核也可出現攻擊反應,但在損毀下丘腦后攻擊反應即消失。邊緣系統對于情緒活動的另一重要方面是“自我刺激”。自1954年起,奧爾德(J.Olds)等人發現,將電極埋藏在隔區、杏仁核、海馬、內側前腦束、下丘腦等處,電刺激時動物表現出一種正向反應,而且能夠主動按動安裝在箱內的杠桿開關獲得刺激,表現出一種“樂意”接受刺激的反應,又稱為“愉快效應”。出現這種反應最頻繁的地方是下丘腦后部、乳頭體的前方。以后這些部位又稱為“欣慰中樞或獎賞中樞”。這樣就將邊緣系統一些部位和“愉快”情緒反應聯系起來,而不只是和恐懼、逃遁和防御反應有關。此外,應用同樣刺激裝置,發現在中腦導水管的中央灰質區,并向上延伸到下丘腦和丘腦的室周結構中,存在苦痛中樞或懲罰中樞(hunishment centers)。刺激這些區域可使動物表現出所有的疼痛、煩惱和苦痛的征候。當此種情況出現時,動物可學會自行切斷刺激電路。