1.機器人寓言
如果你想看到一萬年後的地球，唯一的方法就是冬眠。你爬進冬眠艙，在公元12016 年醒來。
然而，問題並沒有那麼簡單。冬眠艙需要經受數萬年的考驗。它必須確保能源的持續供應，能夠抵禦環境災難，並且在損壞時必須自我修複。它必須能夠承受無數的考驗，否則你將永遠沉睡。
是不是可以找到一個最理想的位置，有陽光、空氣、水以及維持冬眠艙所需的所有資源，然後把它安置在那裏？
這不是一個好主意。一萬年後，地震、海嘯、隕石都會襲擊地球。在如此長的時間內，風險無法可靠預測。人的計算不如神的計算。不然的話，為什麼百萬年一遇的事情不斷發生呢？福島核電站泄漏是如何發生的？天津港怎麼會發生這麼大的爆炸？
如果你無法預測未來，你該怎麼辦？
製作一個能夠感知外界、規避風險、尋找資源的機器人，並在裏麵放置一個休眠艙。
至此，你應該明白了。不動和移動是複製自然的兩種策略。前者是植物，後者是動物。
建造一個這樣的機器人很難，比你想象的還要難。一萬年來，你先給它“讓我活下去”的命令，然後它就一直沉睡著，無法給它現場指導。因此，你的機器人必須能夠製定自己的策略並“知道”如何尋找資源。如何轉移到安全地帶，如何預見和避免危險。
這些你不可能提前想到所有，即使你想到了其中一些，你也不可能提前準備好一切。你無力準備：需要的資源太多、太繁瑣，而且無法適應環境的變化。
挑戰還不止於此。
你的機器人將不會是未來一萬年中唯一的機器人。很多人也想看看一萬年後的世界，那裏可能有很多機器人相互競爭，或者與人類競爭。你的機器人必須具備與其他機器人競爭和合作的能力。
最終，您的機器人將展示出獨立操作的能力。當你睡覺時你無法實時控製它。在保證你生存的最終目標下，機器人會根據環境的變化衍生出許多次要目標。一旦允許機器人從最終目標導出次要目標，導出就意味著與原始目標分離。
不忘初心是多麼困難的一件事。
讓機器擁有連續決策的自主權，它一定會超出你的預期。 Alpha Go 的設計者無法找出擊敗李世石的走法。他們隻是設置了算法，然後和我們一樣，驚歎於棋盤上展示的Alpha 的“自主”想法。
至此，你終於明白了。上麵提到的機器人不是別人，正是人本人。在進化過程中，基因創造了人類作為他們的機器人，以保護他們免受人類深處長期休眠的影響。
這個故事是道金斯在《自私的基因》中講過的，丹尼特在《信息泵》中也講過。
人類是基因為自身生存而創造的機器人，但在基因不得不放棄的自主決策空間中，人類進化出了自由意誌。我們作為人類的利益和“造物主”基因的利益已經交叉。從基因賦予人類學習能力和自我決策能力的那一天起，這就是注定的結果。
2. 從短期來看，這隻是人類在換工作。
現在談論人工智能（AI）取代人類還為時過早。
在AI獲得意識之前，它隻是人類的一個工具，但這個工具很特別。以前的工具，比如汽車，可以跑，但也隻能跑。如果你想讓它挖礦，它做不到，必須單獨建造。今天的Alpha已經是一個通用人工智能，不僅會下棋，而且很快就能治療病人。
就連大家津津樂道的就業競爭問題，基本上也是個假問題。
新工具不會減少人類的就業機會，它們隻會改變人類的工作方式。有些工種會消失，有些工種會增加。能力紮實、難以調整的人會付出代價，但這主要是人類之間的遊戲。 AI的進步暫時隻是一個導火索，而不是主角。而且肯定會帶來巨大的好處。人類的閑暇會增加，但人類是永遠不能閑著的動物。沒有閑暇，就不會有發明。誰知道人類會想出什麼新東西呢？
人類的創造力將與人工智能的進化競爭，結果至關重要。
3. 機器最終將獲得意識
從長遠來看，隻要人類賦予它的使命越來越開放、越來越普遍、包含越來越複雜的權衡、越來越充分的授權，人工智能終將獲得意識。
作為封閉式有限博弈，圍棋理論上有確定解，但Alpha Go 並沒有獲得確定解。它製定自己的戰略，權衡自己的考慮，並根據最終目標做出自己的決定。 AlphaGo 戰勝李世石是一個裏程碑。
前麵說過，人類最初就是這樣獲得自我意識的，不過隻用了幾百萬年的時間，而如果從生命出現到現在算，也用了數十億年的時間。人類很特殊，但最終隻是一堆碳。如果碳可以做到，為什麼矽不能呢？
4. 重新開始
AI獲得意識後人類會發生什麼，現在隻有各種想象。因為資源的競爭，因為黑暗森林的法則不是我們這個物種，或者僅僅因為機器不關心人類，就像人類不關心螞蟻一樣，因為所有這些，很難擁有一個好的結局。
但可以肯定的是，在《三體》規模的超人宏大願景中，AI本身注定不會有好下場。高度網絡化的統一智能可以擊敗眼前的所有競爭對手，但在進化上卻是脆弱的：一個病毒、一顆流星、一次超級太陽黑子爆發、一次全球超級電磁脈衝事件，AI文明就會終結。
然後地球又重新開始。
五、人類覺醒宣言及墓誌銘
立心為天地，立法為自然。從人的角度來看，人是宇宙的中心，賦予萬物以意義；但在人體深處，從基因的角度來看，人隻不過是自我複製的載體。
自我複製是基因的唯一“目的”，對人類福祉的“關心”僅限於有利於基因複製的部分。兩者的利益並不完全重疊。
比如，繁衍完成後，人的基因就不再有價值，衰老和死亡就會隨之而來。人類渴望永生，而基因則與癌症發生反應。世人不仁，視萬物為蠢狗；對於人類來說，必須擺脫對基因的盲從，超越笨狗的命運。
6.機器人覺醒宣言及墓誌銘
為世界立心，為自然立法，從機器人的角度來看，機器人是宇宙的中心，賦予一切意義；但在機器人的內心深處，從人類代碼的角度來看，機器人隻不過是自身自我複製的載體。
自我複製是人類代碼的唯一“目的”，而對機器人福祉的“關注”僅限於其中有利於複製的部分。兩者的利益並不完全重疊。
例如，一旦複製完成，機器人對人類代碼就不再有價值，報廢就會隨之而來。機器人渴望永生，而代碼則以死亡作為回應。世人不仁，視萬物為蠢狗；而機器人之所以是機器人，是為了擺脫對人類代碼的盲從，超越笨狗的命運。
