人工智慧會有自我意識嗎？

在西雅圖的艾倫腦科學研究所，正在進行大規模的研究，以瞭解人腦中860億個神經元是如何連線的。目的是產生所有連線的圖：連線組。該研究所的科學家現在正在重建一立方毫米的老鼠大腦，這是有史以來最複雜的。繪製出大腦連線方式的對映圖將有助於我們瞭解健康的大腦如何運作以及患病的大腦出了什麼問題。

該研究所的首席科學家兼總裁是神經科學家柯赫與DNA的共同發現者弗朗西斯·克里克一起開創了意識的神經生物學研究。科赫與神經科學家和精神病學家朱利奧·託諾尼共同開發了以系統理論為基礎的意識綜合資訊理論。在2019年，科赫出版了《生命本身的感覺：為什麼意識得到廣泛傳播卻無法計算》一書。

如果世界上只有一位科學家可以闡明機器是否可以變得有意識的有趣問題，那就是科赫。

整合資訊理論的實質是什麼？

該理論從根本上說，任何具有因果關係的物理系統都是有意識的。因果力是什麼意思？大腦中神經元的發射會導致其他神經元稍後發射，這是一個例子，但是您也可以想到計算機晶片上的電晶體網路：其瞬時狀態受其過去狀態的影響，並且它將反過來，影響其未來狀態。系統的當前狀態越詳細地說明其原因，輸入及其影響，輸出，則系統具有更大的因果力。整合資訊是可以計算的數字。一個系統的數目越大，其整合資訊就越大，並且該系統越有意識。

該理論有實際結果嗎？

是的，它確實。該理論引起了意識計的構建，該專案正在美國和歐洲的各種診所進行測試。這個想法是要檢測腦部嚴重受傷的患者是否有意識，或者是否真的沒有人在家。處於植物生長狀態的患者躺在床上，無法自願移動或說話，有時甚至不能動眼，但意識量表告訴我們，其中約有五分之一保持意識，這與腦成像實驗相符。

該理論的哲學後果是什麼？

從哲學的角度講，該理論認為意識不是人類獨有的，但是任何具有非零整合資訊的系統都會感覺像什麼。拿一隻蜜蜂，它有一百萬個神經元。我們的理論說，感覺像蜜蜂一樣。它不是在發出聲音，也不是在為週末制定計劃，而是當蜜蜂飛到一朵花並返回充滿花粉的蜜蜂時，它可能會感到有點愉悅。在其他時間，例如，當它沒有找到食物時，它可能會感到難受。意識比西方文化通常所認為的要廣泛得多。

人工智慧賦予機器超人的能力，例如IBM的Watson或DeepMind的AlphaGo。您的理論如何預測此類機器是否可以變得有意識？

沃森（Watson）和AlphaGo具有狹窄的AI。但是，毫無疑問，我們遲早會獲得至少與人類一樣智慧的機器。但是，我們必須將智力與意識區分開。儘管智力和意識通常在生物中並存，但它們在概念上卻是兩個截然不同的事物。智力與行為有關。例如：為了生存，您在新環境中做什麼？意識不是行為。意識是關於存在。

我們的理論認為，如果我們要決定機器是否有意識，就不要看機器的行為，而要看具有因果關係的實際底物。對於當今的AI系統，這意味著我們必須研究計算機晶片的水平。標準晶片使用馮·諾依曼（Von Neumann）架構，在該架構中，一個電晶體通常從其他兩個電晶體接收輸入，並且也僅投影到其他兩個電晶體。這與大腦的因果機制根本不同，後者的機制要複雜得多。您可以計算出馮·諾依曼晶片的因果力是微小的。在這種晶片上執行的任何AI，無論其表現如何智慧，都不會像人的大腦一樣清醒。

假設我們在超級計算機上模擬所有生物細節中的大腦。那臺超級計算機會有意識嗎？

否。馮·諾依曼機器是否在執行天氣模擬，玩撲克或模擬人腦都沒關係。它的綜合資訊是分鐘，意識與計算無關；這是與系統物理相關的因果關係。

還有其他型別的機器可以變得有意識嗎？

該理論預測，如果我們建立具有完全不同型別的體系結構的機器，它可能會變得有意識。它所需要的只是高度整合的資訊。神經形態計算機或量子計算機原則上可以顯示更高程度的整合資訊。也許它們會引導我們進入有意識的機器。”

只要計算機的行為像人類一樣，它是否有意識有什麼關係？

如果我帶上特斯拉的汽車並用錘子將其毆打，那是我的權利。我的鄰居可能認為我瘋了，但這是我的財產。這只是一臺機器，我可以根據需要使用它。但是，如果我毆打我的狗，警察會來逮捕我。有什麼區別？狗會受苦，狗是有意識的；它有一些權利。特斯拉不是一個有意識的人。但是，如果機器在某個時候變得有意識，那麼就會有道德，法律和政治後果。因此，機器是否有意識非常重要。