農林漁牧網

您現在的位置是:首頁 > 農業

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

2022-01-02由 藝海雍夢 發表于 農業

加法器是誰發明的

艾薩克·牛頓(Isaac Newton)在劍橋大學時的數學老師艾薩克·巴羅(Isaac Barrow)有一句名言:“數學,是科學不可撼動的基礎,是人類事務豐富的利益之源。”人工智慧領域的研究,從誕生開始,就得益於數學、神經科學、心理學和語言學等基礎學科,其中數學是對人工智慧影響最大的基礎學科。在本章中,我們將回顧對人工智慧有較大影響的數學思想和理論,以及創造這些理論的科學家,涉及微積分、機率論、數論和數理邏輯等領域。

牛頓

許多傑出的數學家在17世紀取得了輝煌的成就,所以英國哲學家懷特海把17世紀稱為“天才的世紀”。在閃耀的群星中,分別獨立發明微積分的牛頓和戈特弗裡德·威廉·萊布尼茨(Gottfried Wilhelm Leibniz)也許是其中最耀眼的天才。

1637年,法國哲學家笛卡兒在他的哲學著作《方法論》中,以附錄的形式發表了《幾何學》,其中包含了他創立的解析幾何的核心原理,即解析幾何的基礎是平面直角座標系。直角座標系在代數和幾何之間架起了一座橋樑,它使幾何概念可以用代數形式來表示,幾何圖形也可以用代數形式來表示。笛卡兒的這一成就為微積分的創立奠定了基礎。

1643年1月4日,牛頓(見圖7。1)出生於英格蘭林肯郡鄉下的伍爾索普村。牛頓出生時,英格蘭採用的仍然是儒略曆,比我們現在通用的格里高利曆要差10天,在儒略曆中,他的生日是1642年的聖誕節。牛頓從小喜歡讀書並喜歡製作各種機械模型,比如風車、水鍾和日晷。1665年,從劍橋大學畢業後,牛頓回家鄉林肯郡躲避鼠疫,待了兩年。正是在這兩年的清靜時光中,牛頓取得了微積分和萬有引力定律的偉大突破。牛頓將微積分稱為“流數法”,並將微積分完美地應用於物理學中。在1688年發表的鉅著《自然哲學的數學原理》中,牛頓用簡潔的數學公式描述了萬有引力定律和三大運動定律,從而奠定了經典物理學的基礎。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。1 牛頓

除了在數學和物理學上的巨大貢獻,牛頓在科學研究方法論上也貢獻良多。在《自然哲學的數學原理》中,牛頓寫道:“在自然科學裡,應該像在數學裡一樣,在研究困難的事物時,總是應當先用分析的方法,然後才用綜合的方法……一般來說,從結果到原因,從特殊原因到普遍原因,一直論證到最普遍的原因為止,這就是分析的方法;而綜合的方法則假定原因已找到,並且已經把它們定為原理,再用這些原理去解釋由它們發生的現象,並證明這些解釋的正確性。”這一套科學的分析和綜合的方法,配合上微積分這一強大的數學工具,透過“微分”實現從整體到部分的分析,“積分”實現從部分到整體的綜合,為各個學科的科學研究都打下了堅實的基礎。

微積分這一偉大的數學成果,深刻地反映了現實世界執行的本質,因此用途極廣,在人工智慧領域也被廣泛使用。比如,在目前人工智慧研究最火熱的深度學習方向,其中最核心的反向傳播演算法,其數學基礎仍然是微積分中的導數和收斂等概念。

萊布尼茨

萊布尼茨(見圖7。2),1646年7月1日出生於德國的東部名城萊比錫,他的父親是萊比錫大學的倫理學教授,在萊布尼茨6歲時去世,留下了一個私人的圖書館。萊布尼茨從小就很聰慧,12歲時自學拉丁文,大量閱讀了父親私人圖書館中的拉丁文古典著作。14歲時,萊布尼茨進入萊比錫大學攻讀法律,20歲時他遞交了一篇出色的博士論文,因為年紀太輕被拒(黑格爾認為是學識過於淵博的原因),第二年紐倫堡的一所大學授予他博士學位。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。2 萊布尼茨

萊布尼茨是歷史上少見的通才,獲譽為17世紀的亞里士多德,著名的哲學家羅素稱讚他為“千古絕倫的大智者”。萊布尼茨最大的成就在哲學和數學方面,但他卻不是一個職業學者,他經常以法律顧問或幕僚的身份為德意志貴族服務,往返於歐洲各大城市。他發現的許多數學公式都是在顛簸的馬車上完成的,其中最優美的是他在倫敦旅行期間發現的圓周率的無窮級數表示式。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

在微積分的發明權歸屬方面,現在歷史學家的共識是牛頓和萊布尼茨分別獨立發明了微積分。萊布尼茨發明的時間晚,但發表在先(於1684年和1686年)。在微積分的表達形式方面,萊布尼茨花了很多精力去選擇巧妙的記號,現代教科書中的積分符號“∫”和微分符號“dx”都是萊布尼茨發明的。

萊布尼茨有兩個貢獻深遠地影響了後來的計算機科學。首先,萊布尼茨改進了布萊茲·帕斯卡(Blaise Pascal)的加法器,實現了可以計算乘法、除法和開方的機械計算機,這對後來的計算機先驅巴貝奇有很大的啟發作用。更重要的是,他發現了二進位制,二進位制使得所有的整數都可以用簡單的0和1兩個數來表示,最終使得電子計算機中數字的儲存和運算被大大簡化。有趣的是,萊布尼茨後來看到中國《易經》中的六十四卦(見圖7。3),他相信中國古人已經在其中巧妙地藏匿了二進位制的奧秘。那一刻,也許萊布尼茨會有一種穿越時空,和2800年前創造《周易》的周文王姬昌心心相印的感覺吧。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。3 周易六十四卦

費馬

很多歷史學家認為,機率論最早的起源來自於兩位數學天才帕斯卡和皮埃爾·德·費馬(Pierre de Fermat)的通訊。1654年,帕斯卡的好友,法國騎士德·梅雷向他提出了一個問題∶“兩個賭徒相約賭若干局,誰先贏s局則贏得賭本。若當一人贏了a局(a<s),另一人贏b局(b<s)時,中止賭博,問賭本應如何公平分配?”帕斯卡開始認真思考這個問題,並在給費爾馬的信件中提到了這個問題。在這一段數學史上有名的來往信件中,兩人取得了一致意見:在被迫停止的賭博中,應當按每個局中人賭贏的數學期望來分配桌面上的賭注。

舉例說明,假設甲乙雙方約定先贏三局為勝,假設甲已贏了兩局,乙已贏了一局,此時賭博中止。如果要分出勝負,最多還需要再玩兩局,結果有四種等可能的情況:(甲勝,甲勝),(甲勝,乙勝),(乙勝,甲勝),(乙勝,乙勝)。在前面三種情況下,甲贏得全部賭金,僅第四種情況使乙獲得全部賭金。因此甲有權分得賭金的3/4,而乙應分賭金的1/4。用數學期望來說,甲賭贏的數學期望為75%,乙賭贏的數學期望為25%。

1601年,費馬生於法國南部小鎮博蒙·德洛馬涅,是一個富有的皮革商人的孩子。費馬成年後的主要職業是法律顧問,業餘時間幾乎全部獻給了數學研究,在數論和機率論等方面成果卓著,被譽為“業餘數學家之王”。費馬生前一直沒有發表他的成果,幸虧他的長子克萊蒙意識到父親業餘研究成果的重要價值,花了5年時間整理了父親寫在書頁間的評註,1670年最終出版了《附有皮埃爾·德·費馬評註的丟番圖的算術》一書,費馬的偉大貢獻才沒有被湮沒。

費馬最著名的成果是費馬大定理:當整數n>2時,關於x、y、z的方程xn+yn=zn沒有正整數解,如圖7。4所示。費馬把這個數論命題寫在古希臘數學家丟番圖的著作《算術》一書的空白處,在這個評註後面又加了一句:“對此命題我有一個非常美妙的證明,可惜此處的空白太小,寫不下來。”此後的300多年,無數的數學家前仆後繼,試圖證明這一難題,在這個漫漫征途中,又催化出了“理想數”“莫德爾猜想”“谷山-志村猜想”等許多數學成果,有數學家甚至將費馬大定理比作“下金蛋的雞”。1995年,英國著名數學家安德魯·懷爾斯(Andrew Wiles)在他以前的博士生理查德·泰勒的幫助下,基於無數前輩的工作,完成了最終的證明,論文的題目是《模橢圓曲線和費馬大定理》(Modular eliptic curves and Fermat’s Last Theorem)。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。4 費馬及費馬大定理

和費馬大定理相似,人工智慧特別是所謂“強人工智慧”的研究,也不斷推動著計算機科學、認知科學等多個學科的發展,也可以被稱為“下金蛋的雞”,未來20年,可以期待有更多的精彩成果出現。

貝葉斯定理與貝葉斯網路

機率論作為數學領域的重要學科,尤拉、高斯、拉普拉斯等著名的數學大師都做出了重大貢獻,在人工智慧領域應用最多的也許是基於貝葉斯定理的貝葉斯網路。貝葉斯定理的發現者是英國牧師托馬斯·貝葉斯(Thomas Bayes),他出生於1702年,為人非常謙虛低調,同時代的人都相信他是一個傑出的數學家,擅長微積分,對他其他方面的學術研究所知甚少。1761年貝葉斯去世後,他的家人找了另一位牧師理查德·普賴斯(Richard Price)來研究他未發表的數學文章,普賴斯在一篇題為《論機會遊戲中的一個問題》(An Essaytowards Solvinga Probleminthe Doctrine of Chances)的文章中,看到了其中闡述的貝葉斯定理的重要性,幫助發表了這篇文章,並且努力宣傳了貝葉斯的思想,才使這一傑出的數學發現沒有被湮沒。貝葉斯定理描述的是兩個條件機率之間的關係,計算公式為:P(B|A)= P(A|B)·P(B)/ P(A),其中P(B|A)指的是A事件發生的情況下B事件發生的可能性,如圖7。5所示。利用貝葉斯定理,我們可以把各種對世界的模型看作科學假設,將資料作為論據,隨著我們觀測到的資料越來越多,其中某些模型成立的可能性就越來越大,最終有可能淘汰絕大多數的模型,找出理想的模型來說明世界的執行規律。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。5 貝葉斯及貝葉斯定理

1988年,朱迪·珀爾(Judea Pearl)教授將貝葉斯定理引入人工智慧領域,發明了貝葉斯網路,這種基於機率的機器推理模型使計算機能在複雜的、模糊的和不確定性的環境下工作,在很多情況下,貝葉斯網路的實用效果都優於此前完全基於規則的人工智慧方法。貝葉斯網路在自然語言處理、故障診斷、語音識別等許多領域得到了廣泛的運用,珀爾教授也因此獲得2011年度的圖靈獎,成為又一位榮獲圖靈獎的人工智慧學者。在今天這樣一個物聯網不斷進入各行各業的新時代,智慧家居、自動駕駛汽車、智慧手機、智慧城市中無數的感測器每時每刻都在產生億萬級的資料,基於貝葉斯網路、馬爾科夫鏈等統計數學模型的人工智慧演算法必將取得更豐碩的應用成果。

數理邏輯的演化

1815年,喬治·布林出生於英國東部的林肯鎮,父親是個補鞋匠。因家庭經濟困難,布林沒有機會接受正規的教育,但聰明又勤奮的小布爾自學成才,16歲就開始當教師補貼家用,19歲時創辦了自己的學校,從此挑起了整個家庭的經濟重擔。1847年,布林出版了《邏輯的數學分析》,這本小書首次提出了布林代數,把邏輯學帶入了數理邏輯的時代。1854年,布林出版了他的經典著作《思維規律的研究》(An Investigation of the Laws of Thought,見圖7。6),更系統地闡述了布林代數。布林代數採用數學方法研究邏輯問題,成功地建立了邏輯演算的符號系統。例如,以x表示“白的東西”,y表示“綿羊”,xy則表示x集合與y集合的交集,即“白綿羊”。同時,可將真命題取作“1”值,假命題取作“0”值,這樣,複雜的命題透過布林代數的計算過程,就可以求得它為真值還是假值。布林代數透過它與邏輯電路的完美對應關係,在現代電子計算機中得到了廣泛的應用。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。6 布林的經典著作《思維規律的研究》

1848年,另一位重要的邏輯學家弗里德里希·路德維希·戈特洛布·弗雷格(Friedrich Ludwig Gottlob Frege,見圖7。7)出生於德國北部的海港城市維斯馬(Wismar),1873年博士畢業後,弗雷格一直在母校耶拿大學任教,直到退休。1879年,弗雷格出版了《概念文字》(Begriffsschrift),書的副標題是“一種模仿算術語言構造的純思維的形式語言”。1884年,弗雷格出版了他的另一部傑作《算術基礎》。在這兩部重要著作中,弗雷格進一步擴大數理邏輯學的內容,創造了“量化”邏輯,例如,“”稱為全稱量詞,意味著“對於所有”,“”稱為存在量詞,意味著“存在著”,“每個人都會愛上某人”這句話,用邏輯語言可以寫成“ x y Loves(x,y)”。弗雷格的創新思想,對現代的分析哲學和語言學,產生了極其重要的推動作用,也對今天的計算機程式設計語言,有著深遠的影響。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。7 弗雷格

在弗雷格之後,來自英國劍橋大學的一批精英學者,包括懷特海、羅素、摩爾和維特根斯坦等人,繼續推動著數理邏輯學的發展,其中,長壽而又兼備文學才華的羅素影響範圍最廣。羅素(見圖7。8),出生於1872年,逝於1970年,經歷過兩次世界大戰,目睹了大英帝國從巔峰向下的沒落,也見證了計算機科學和人工智慧的孕育和誕生。羅素出生於英國的貴族家庭,祖父約翰·羅素勳爵在19世紀40年代曾兩次出任英國首相。羅素在2歲和4歲時相繼失去了母親和父親,由祖父母撫養長大。1910年至1913年,羅素和他的老師懷特海一起出版了三卷本的《數學原理》(Principia Mathematica),為了完成這一部鉅著,他們辛勤工作了整整9年。《數學原理》試圖表明:所有的數學真理,在一組數理邏輯內的公理和推理規則下,原則上都是可以證明的。這一雄心勃勃的宏偉設想,後來被庫爾特·哥德爾(Kurt Gdel)發表的“哥德爾不完備性定理”證明是不可能實現的。

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。8 羅素

羅素和懷特海的《數學原理》啟發了很多天才人物,與沃倫·麥卡洛克一起發明了MP神經元模型的沃爾特·皮茨,就曾經在12歲時苦讀《數學原理》,還寫信給羅素討論他發現的問題,得到了羅素的極大讚賞並邀請他到劍橋大學讀書。15歲時,沃爾特·皮茨離開家鄉,到芝加哥大學去聽羅素的講座,逐步結識了魯道夫·卡爾納普(Rudolf Carnap)、傑羅姆·萊特溫(Jerome Lettvin)、沃倫·麥卡洛克等人,最終創造了一個未受過正規教育的窮孩子成長為一個邏輯學家的傳奇。他和沃倫·麥卡洛克一起發明的MP神經元模型,也成為人工智慧中透過神經網路實現深度學習的理論基礎。

羅素最受歡迎的著作是《西方哲學史》,這本哲學史著作寫得幽默而又清晰簡潔,同時又加入了作者本人作為大哲學家的真知灼見。1950年,羅素獲得諾貝爾文學獎。頒獎詞對他的介紹是:“他一生著述甚豐,涵蓋極廣。他論及人類知識和數理邏輯的科學著作具有劃時代意義,堪與牛頓的機械原理媲美……在諾貝爾基金會設立50週年之際,瑞典學院相信自己正是按照諾貝爾設獎的精神把這份榮譽授予伯特蘭·羅素,當代的理性和人道主義的傑出代言人,西方世界的言論自由和思想自由的無畏戰士。”

哥德爾

哥德爾(見圖7。9),1906年生於奧匈帝國的布林諾(Brno), 1924年開始在維也納大學攻讀物理,後來轉到了數學系,1930年獲博士學位。受他的老師邏輯學家莫里茨·石裡克(Moritz Schlick)的影響,他開始參加維也納學派的活動,與石裡克、卡爾納普等哲學大師一起討論科學理論、客觀存在和真理之間的關係。哥德爾一生髮表的論著不多,1931年,一篇石破天驚的論文《〈數學原理〉及有關係統中的形式不可判定命題》發表。在論文中他證明了“哥德爾不完全性定理”,即數論的所有一致的公理化形式系統,都包含有不可判定的命題。也就是說,在數論的公理化形式系統中,總可以找出一個合理的命題來,在該系統中既無法證明它為真,也無法證明它為假。這篇論文對當時的數學家、邏輯學家和哲學家產生了震撼性的影響,可以說是20世紀在邏輯學和數學基礎方面最重要的一篇論文,當時另一位極有才華的數學家馮·諾依曼評價說:“哥德爾在現代邏輯中的成就是非凡的、不朽的——他的不朽甚至超過了紀念碑,他是一個里程碑,是永存的紀念碑。”

人工智慧簡史|數學家的貢獻,從牛頓到哥德爾

圖7。9 哥德爾

關於哥德爾的貢獻與人工智慧的關係,推薦一本非常有趣的好書《哥德爾、埃舍爾、巴赫——集異璧之大成》(Gdel、Escher、Bach-an Eternal Golden Braid),作者是一位研究人工智慧的美國學者Douglas Hofstadter教授,他給自己起的中文名字叫侯世達。這部奇書,巧妙地將巴赫的音樂、埃舍爾的繪畫和哥德爾的思想編織在一起,探討了人工智慧、人類心智、遞迴結構、圖靈測試等充滿智慧的主題。筆者至今還能回憶起20年前,在一個山頂的夕陽之下讀這本書時,被書中描述的各種人類思維和藝術之美所震撼的感覺。在這本書的將近尾聲之處,侯世達這樣寫道:“在巴赫的《音樂的奉獻》中,事情往往在許多層次上發展。有關於音符和字母的技巧,有國王主題的精巧變奏,有各種原始形式的卡農,有複雜得異乎尋常的賦格,有優美並極其深沉的情感,甚至還有由作品發展的多層次性所帶來的喜悅。《音樂的奉獻》是一部賦格的賦格,很像埃舍爾和哥德爾所構造的那種纏結的層次結構,是一個智慧的結晶。它以一種我無法表達的方式使我想起了人類思維這個美妙的多聲部賦格。”

在人工智慧即將進入突破階段的今天,相信從牛頓到哥德爾這些數學大師的思想,以及他們發明的各種精巧絕倫的數學理論和工具,將啟發和引領更多的天才去破解人類思維和機器學習最終的奧秘。

……

作者:劉韓