趙汀陽:如果人工智能對人類說“不”

選擇字號:   本文共閱讀 500 次 更新時間:2019-05-25 22:18:05

進入專題: 人工智能  

趙汀陽 (進入專欄)  

  

   圖靈機即機械算法機,邏輯—數學運算加上大數據資源,具有在有限步驟內完成一項能行構造(feasible construction)或者說一項運算任務的能力, 但是它沒有反思并修改自身系統的功能, 所以沒有自我意識,只知道如何完成一項任務,但不知道為什么要做這項任務。以此觀之,目前的人工智能都仍然屬于圖靈機,因此我們可以將未來可能出現的突破圖靈機概念的超級人工智能稱為超圖靈機。

  

   關于此類界定似乎也存在爭議。根據圖靈測試,如果人工智能的確能夠輸出與人類成功對話的思想,就意味著通過了圖靈測試而可以被確認為一個思想者,那么,比如說,阿爾法狗通過圖靈測試了嗎? 或者說, 阿爾法狗的算法等價于思想了嗎?恐怕并非如此。實際上,阿爾法狗只是完美地執行了運算任務,并不是在創造性地解決問題。更重要的是,圖靈測試并非局限于某個編程任務,而是能夠開放地回應任何問題的對話,這意味著能夠通過圖靈測試的人工智能相當于一個有著自主判斷能力的“我思”。

  

   可以想象,作為超圖靈機的超級人工智能一旦形成就會導致存在的升級。所謂“存在的升級”,我指的是某種技術或制度的發明開拓了新的可能生活并且定義了一個新的可能世界,所以它意味著存在方式的革命,而不僅僅是工具性的進步。需要注意的是,技術進步和技術革命可以同等重要,區別在于技術革命定義了一個新世界,比如說,青霉素的發明與蒸汽機的發明對人類幾乎同樣重要,但蒸汽機不僅是進步,而且是革命。歷史事實表明,人類的生物學進化早就基本成熟,已經很少進化,但文明的存在升級一直日新月異,而且總是以技術革命或者制度革命為標志,通過技術革命和制度革命重新定義人類的存在方式。為了更好地理解人工智能可能導致的顛覆生命和文明概念的存在升級,我們不妨簡要地重溫人類歷史上的若干次存在升級。

  

   人類的第一次也是最重要的存在升級是成為人,其首要標志是語言。語言在存在論意義上創造了兩個新世界:一個是自然世界之外的精神世界,也可以說是一個在物理世界之外的唯心主義世界;另一個是超越了時間流逝的歷史世界。語言的“創世紀”是有史以來最深刻的存在論革命,它使必然性產生分叉而展開為眾多可能性,因此人類能夠超越現實性而思考多種可能性,同時使人類擁有始終在場的過去( 歷史) 和提前在場的未來( 計劃)。

  

   接下來,人類又經歷了多次存在升級,其中特別重要的是農業的出現,它導致了社會的形成,同時也是政治的形成,進而還有貨幣和國家的發明?;醣乙孕龐萌ピぶ蠢?,權力則以制度去占有未來,可以說,貨幣和政治權力都是使未來提前在場的存在方式,或者說是預支未來的存在方式,它把時間變成一種資本。我們今天身陷其中的主要生活事實則是由現代性所形成的。現代性所創造的存在升級主要包括意識形態、主體性、科學、工業和資本主義。

  

   接下來是主體性的發明,其標志性產品是個人和民族國家,不僅創造了以個人為利益結算單位的社會,還創造了國家主權和國際社會,從此每個人都生活在各種主權邊界之內,每個人的存在都有了各種“邊疆”??蒲且恢直日胃說姆⒚?,類似于點金石的科學使所有技術有了奇跡般的發展,人類從此變得無所不能,并成為自然的立法者。工業革命則創造了超自然的物質世界,使人類擁有超出自然生存能力的生產力;而在工業革命之前,人類的GDP一直只有微不足道的增長。重新定義了一切關系的資本主義,其社會結果過于豐富,在此無法概括,只能提及資本主義對人與人關系以及人與物關系的徹底重新解釋,它將所有事物和人都定義為某種價格,使所有關系都變成商品交易關系??梢運?,資本已經成為決定權力、知識、科學技術的最后力量。我們至今難以充分解釋資本的神力何在,但至少知道,資本不會放過獲得權力的任何機會,哪里有權力的機會,哪里就會有資本的投入。正是資本使人類的發展變得如此放肆和危險,這種危險似乎正在逼近臨界點。不過,資本為世界準備的掘墓人看來不是原來想象的工人階級,而更可能是人工智能。

  

   現在我們將要面對人類的最后一次存在升級,即存在的徹底技術化,或者說,技術將對任何存在進行重新規定。目前的準備性產品是互聯網、初步的人工智能和基因編輯,將來如果出現超級人工智能(以及能夠改變人的本質的基因編輯),那或許將是導致歷史終結或者人類終結的最后存在升級。這對于宇宙是一件微不足道的事情,但對于人類就是一件無以復加的大事。假如真的實現了超級人工智能,萬物都將變成技術化的存在,此種存在升級意味著人類在世界存在系統中失去地位,人類不再重要,歷史將失去意義,人類文明將成為遺跡,未來也不再屬于人類,人類文明數千年的創世紀將被終結而開始人工智能的“創世紀”。

  

   我們可以回顧人類“創世紀”的初始狀態,那是人開始能夠說“不”的時刻,因此開創了可能世界、歷史、文明和未來。同樣的道理,一旦超級人工智能能夠對人說“不”,其革命性的意義至少不亞于當年人類開始說“不”。假如人工智能將來真的具有自我意識和自由意志,并且能夠發明自己的語言,由此發展出屬于人工智能的思想世界,從而擺脫對人類思想的依賴,能夠按照它自己的目的來設定行為規則,那么,全知全能的超級人工智能就會成為現實版的上帝。然而問題在于,人類真的需要為自己創造一個否定人類意義的上帝嗎?

  

   (原載于《信睿周報》改版第1期,有刪節)

  

進入 趙汀陽 的專欄     進入專題: 人工智能  

本文責編:limei
發信站:愛思想(//www.lrcyqx.com.cn),欄目:天益筆會 > 科學精神 > 科學評論
本文鏈接://www.lrcyqx.com.cn/data/116461.html
文章來源:信睿周報 公眾號

2 推薦

在方框中輸入電子郵件地址,多個郵件之間用半角逗號(,)分隔。

愛思想(www.lrcyqx.com.cn)網站為公益純學術網站,旨在推動學術繁榮、塑造社會精神。
凡本網首發及經作者授權但非首發的所有作品,版權歸作者本人所有。網絡轉載請注明作者、出處并保持完整,紙媒轉載請經本網或作者本人書面授權。
凡本網注明“來源:XXX(非愛思想網)”的作品,均轉載自其它媒體,轉載目的在于分享信息、助推思想傳播,并不代表本網贊同其觀點和對其真實性負責。若作者或版權人不愿被使用,請來函指出,本網即予改正。
Powered by www.lrcyqx.com.cn Copyright © 2019 by www.lrcyqx.com.cn All Rights Reserved 愛思想 京ICP備12007865號 京公網安備11010602120014號.
易康網