本文專訪了著名機器人專家 Hod Lipson，討論如何定義機器人的自我意識，為什么機器人的自我意識很重要，以及它可能帶來什么。你認為 AI 會有意識嗎？擁有自我意識的機器人離我們還有多遠？

“我想在有生之年見到一個外星人，”哥倫比亞大學創意機器實驗室的機器人專家霍德·利普森(Hod Lipson)說：“我想認識一些非人類的智慧生物。”

但是，Lipson并不是坐等這些外星生物的到來，而是想親自打造它們——以具有自我意識的機器的形式。

為了達到這個目的，Lipson公開地面對一個棘手的概念——意識——這在他的同事中常常被視為禁忌。他說：“在機器人和人工智能領域，我們曾經視意識為禁忌，我們不允許觸及這個話題。”“但在我看來，意識可以說是一個懸而未決的大問題，與生命起源和宇宙起源一樣。什么是感知，什么是創造力？什么是情感？我們想知道人之所以為人的意義，我們也想知道如何人為地創造出這些東西。是時候直面這些問題了。”

根據Lipson的觀點，感知或自我意識的基本構建塊之一是“自我模擬”(self-simulation)：建立一個人的身體及其在物理空間中如何運動的內在表征，然后使用該模型來指導行為。早在2006年，Lipson就開始研究人工自模擬(artificial self-simulation)，他設計了一個海星形狀的機器人，利用進化算法(以及一些預先加載的“物理學提示”)自學如何在桌面上向前翻轉。但他表示，2012年現代人工智能技術的興起(包括卷積神經網絡和深度學習)“給整個研究領域帶來了新的活力”。

Lipson團隊開發的“仿生物細胞群體機器人”

參考閱讀：中國籍博士一作登Nature封面：仿生群體機器人問世，工程學重大突破！

在2019年初，Lipson的實驗室開發了一個機器人手臂，它利用深度學習完全從零開始生成自己的內部自我模型——Lipson形容這個過程“就像一個咿呀學語的嬰兒觀察自己的手”。機器人的自我模型可以讓它準確地執行兩項不同的任務——撿起小球并把它們放進杯子里，以及用記號筆寫字——而不需要對其中任何一項進行專門的訓練。此外，當研究人員通過添加一個變形部件來模擬機器人身體受到的損傷時，機器人能檢測到這種變化，并相應地更新其自我模型(self-model)，從而能夠恢復其任務。

Lipson實驗室開發的機器人手臂

這與有深層思考的機器人相去甚遠。但Lipson斷言，這種差異只是程度上的一種差異。“當談到自我意識時，人們認為機器人會突然醒來，說，‘你好，我為什么在這里?’”Lipson說。“但自我意識并不是黑白分明的。它是從一些非常瑣碎的事情開始的，比如，‘我的手要往哪里移動?’這是同一個問題，只是時間跨度更短。”

Quanta與Lipson討論了如何定義機器人的自我意識，為什么機器人的自我意識很重要，以及它可能帶來什么。

自我意識就是自我模擬嗎？

你顯然對意識本質這個大問題很感興趣，但你為什么要通過研究機器人來研究這個問題？為什么你不當哲學家或神經科學家?

對我來說，機器人的好處在于它會迫使你把你的理解轉化為算法和機械裝置。你不能拐彎抹角，你不能說空話，不能說諸如“現實的畫布”這類的東西，它們對不同的人來說有不同的含義，因為它們太模糊了，無法翻譯給機器。機器人迫使你關注具體的東西。

Lipson在哥倫比亞大學的辦公室

我想做一個這樣的東西。我不想只是說說而已。哲學家們，恕我直言，在這個問題上已經有一千年沒有取得什么進展了。不是因為缺乏興趣，也不是因為缺乏聰明的人——自上而下地研究意識這個問題太難了。神經科學家已經用一種更為定量的方法來研究這個問題。不過，我認為，他們采取的仍然是自上而下的方式，這阻礙了他們取得進展。

如果你想了解意識，為什么要從最復雜的意識開始——為什么要從人類開始？這就像走上坡路，這是最困難的開始方式。讓我們來看看可能更容易理解的更簡單的系統。這就是我們要做的事情：我們觀察了一些非常瑣碎的東西，一個有四個自由度的機器人，并試圖回答，“我們能讓這個東西自我模擬嗎?”

自我模擬和自我意識是一回事嗎?

一個能夠自我模擬的系統在某種程度上是具有自我意識的。它能在多大程度上模擬自己——模擬的逼真程度，模擬的時間范圍——所有這些不同的因素都影響到它有多少自我意識。這是一個基本假設。

所以，你把“自我意識”這個術語簡化為一個關于自我模擬的更為技術性的定義——在空間中為自己的身體構建一個虛擬模型的能力？

是的，我們有不同的定義，我們使用的定義是非常具體的。這個定義是數學的，你可以測量它，你也可以量化它，可以計算誤差的程度。哲學家可能會說，“這不是我們看待自我意識的方式。”然后他們的討論通常會變得非常模糊。你可以說我們的定義并不是真正的自我意識。但是我們有一些非常基礎的東西，而且很容易量化，我們有一個基準(benchmark)。基準是工程師為機器人提供的傳統手工編碼的自我模型。通過我們的機器人，我們想看看AI算法能否學習一個與傳統手工編碼模型相同或更好的自我模型。

單個機器人(左)只能伸展和收縮，但它們可以作為團隊一起移動并完成任務。這個機器人的設計旨在探索自我復制(右)，并可以變形成多種形狀。

為什么需要物理機器人?為什么不在一個非實體系統中研究自我意識呢?

我們在尋找一個可以模擬自身的封閉系統——要做到這一點，它需要有輸入和輸出，但也必須有一個邊界，一個你描繪“自我”的地方。機器人是符合這些條件的一個非常自然的存在。它有動作，有感覺，并且有邊界，所以可以有事情發生在它身上，有東西可以讓它模擬。我是機器人專家，這是我的第一選擇。

這個機器人是在完全空白的石板上創建自己的模型嗎?

只是一個原則問題，我們是從一無所有開始的，我們想看看我們能走多遠。在之前的例子中(海星形狀的機器人)，我們缺乏計算力。我們必須告訴它，“你不知道你是什么，但讓我告訴你F = ma，以及其他我們知道的正確的物理規則，你直接拿走這些。”

人工智能如何對機器人的自我意識起作用？

人工智能是如何發揮作用的呢?

出于某種原因，我們很高興讓機器人(使用AI)了解外部世界，但當涉及到它們自己時，出于一些奇怪的原因，我們堅持手工編碼模型。所以我們所做的實際上是相當瑣碎的：我們說，“讓我們把人類建造的所有基礎設施都拿來幫助機器人了解世界，我們要讓它關注自己內部。”用一句話來說，這就是我們所做的全部。

機器人進行了1000次隨機移動來收集數據，為深度學習算法創建自我模擬。這就是你所描述的人類嬰兒咿呀學語的過程嗎?

正是這樣。機器人四處揮動手臂，觀察它的指尖在哪里。想象一下，你自己揮動你的手臂，看著你的指尖。這就是你的輸入和輸出。這個機器人在那里移動了30多個小時，一旦我們收集到所有數據，我們就可以回家了。從那以后，這就純粹是一個計算上的挑戰(學習自我模型)。

我們所做的是打破機器人(通過添加一個變形的部分)，然后再做一次。我們看到壞掉的機器人是如何從完整的模型開始并修正它的。第二次學習時，它不需要從頭開始學習。有一個重新開始的時期，但比最初需要的要少得多——只需原來的10%。

但在它重新開始之前，它需要知道出了什么問題。這是一個非常強大的東西。它怎么知道？假如你有一個自我模型，出了問題，你馬上就會知道，因為如果你睜開眼睛，你會發現你的手不在它應該在的地方了。你想要的點本來在4厘米內，但是它突然變成了16厘米遠。你會立即得到反饋。所以機器人馬上就知道出了問題。然后需要一段時間來弄清楚如何修補，但我認為，即使僅是知道出現問題了，也是非常重要的。

這些畫是由一個機器人創作的，它被訓練使用人工智能來畫畫。

機器人為什么應該擁有自我意識？

這種自我模型是否類似于人類大腦的一部分，類似于身體的內部地圖?

我想就是這樣。這就是為什么它如此粗糙，并且如此簡單。事實上，我們的機器人只有一個四個自由度的手臂。如果它是一個擁有800個自由度的人形機器人，對于我們今天所擁有的人工智能而言，可能太過復雜了。

如果這真的是一種自我意識的形式，那么機器人為什么應該擁有它？它有什么用?

它使機器人最終更具彈性。你可以手動建模一個機器人，就像我們今天所做的一樣，但那是非常費力的，而且很慢。當現實世界中的機器人變形或損壞時，比如輪子掉下來或馬達減速了，那么模型就會突然出錯。比如考慮一下無人駕駛汽車，你會發現我們已經可以把我們的生活托付給自動機器人了。這是很嚴肅的事情。你會想讓這些機器人能夠檢測到出了什么問題，并且能夠可靠地做到這一點。

另一個原因是靈活性。假設機器人執行一項任務，當它做這個任務時，它會不斷地更新它的自我模型。現在，如果它需要做一項新的任務——比如它需要把一個螺絲放到不同的地方，或者它需要噴涂而不是擰入螺絲——它可以使用相同的自我模型來學習和規劃如何去做這項新任務。從外部看，它就像我們所說的“zero-shot learning”，這似乎就是人類做事的方式。假如你看到一棵你從未爬過的樹，你也可以毫無障礙地爬上這棵樹。當機器人可以自我建模時，它可以像人類那樣在內部學習：你看不到它已經在自己的內部模擬中訓練了多少個小時。你所能看到的只是它完成了一項任務，然后它在那里呆了一會兒，突然間它可以不用嘗試就能執行一項新的任務了。

一個能夠自我模擬自己的身體的機器人和一個能夠擁有內部“思想”(聽起來更像是“自我意識”的非正式含義)的機器人之間，有什么聯系?

我們正在做的其他一些項目與自我建模有關，但模擬的不是身體，而是認知過程。我們正在朝著這兩個方向邁出一小步。相信這最終會達到人類層面的認知水平，甚至更高，這完全是一種信念的飛躍。

所以你假設這兩條路徑——自我模擬身體，和自我模擬大腦——會交匯在一起?

完全正確。我認為這都是一回事。這就是我們的假設，讓我們來看看我們將能夠推進到多遠。