神經流派的崛起

20世紀50年代，當基於邏輯和樹搜尋的傳統人工智慧觸及極限時，機器學習的先驅紛紛開始發聲。他們認為，要使人工智慧像人類或動物那樣執行復雜任務，僅靠邏輯是不夠的，而應該以大腦的學習機制為藍圖，設計出更加接近大腦的、能夠自行規劃的系統。我走的就是基於深度學習和（人工）神經網路的研究道路。這種研究幾乎活躍在所有當前熱門應用中，首當其衝的就是自動駕駛。

神經網路的起源可以追溯到20世紀中葉。20世紀50年代，加拿大心理學家和神經生物學家唐納德·赫布（Donald Hebb）熱衷於研究神經連線在學習過程中起到的作用。人工智慧領域的烏托邦主義者是唐納德理論的擁護者，他們認為，與其重現人類推理的完整邏輯序列，不如探索它們的載體，也就是大腦這個強大的生物處理器。

因此，旨在模擬生物神經電路的計算機科學家被人們統稱為神經流派（與之前的邏輯流派或順序流派相反）。他們孜孜不倦地追求基於一種原創體系結構的機器學習方式，這種體系本質上是一種數學函式網路，我們類比人類的神經網路，稱它為人工神經元。當網路接收了輸入訊號，其中的神經元將以原創體系結構對其進行處理，以便輸出端能夠識別該訊號。簡單元素——人工神經元——的共同作用產生了複雜的認識。就像在大腦中，基本功能單元——神經元——之間的相互作用使人產生了思想一樣。

這股研究潮流始於1957年，當時心理學家弗蘭克·羅森布拉特（FrankRosenblatt）在康奈爾大學開發出了感知器，它是第一臺受唐納德·赫布認知理論啟發而被開發出來的學習機，它在經過訓練後便可以擁有識別形態的功能。因為到目前為止，感知器仍是機器學習的參考模型，我們將會在下一章對其進行詳細探討。

20世紀70年代，兩位美國人，時任加利福尼亞聖何塞州立大學的電氣工程學教授理查德·杜達（Richard Duda）和位於加利福尼亞州門洛帕克的斯坦福研究所（SRI）的計算機科學家彼得·哈特（Peter Hart），評估了所有被稱為“統計形式的識別”的方法，［插圖］並撰寫了一本評估手冊，感知器就是其中一個例子。手冊一經推出，立刻成為模式識別領域的參考標杆。對所有的學生，甚至於我而言，它都是一本行業“聖經”。

但感知器並不是萬能的，它的系統由單層人工神經網路構成，功能十分有限。研究人員也曾試圖引入多層神經網路來提高效率，但囿於沒有找到相對應的訓練演算法（優良的指令序列）而以失敗告終。因此，這種機器學習方法的作用十分有限。