2016年3月，人工智能AlphaGo戰(zhàn)勝了圍棋世界冠軍李世石，這讓身為圍棋愛好者的柳倉感受到了巨大的沖擊。震驚之余，他開始思考人工智能對于人類社會的意義和影響。在過去的七年里，媒體人柳倉用業(yè)余時間寫下了30萬字的科幻小說《知然島》。今年8月，《知然島》由湛廬文化出版。
包括歷史上的許多技術(shù)革命在內(nèi)，AlphaGo橫空出世的新聞也出現(xiàn)在小說《知然島》中。在柳倉看來，所有的科幻小說都是對于“未來的編年史”，近兩年來，以O(shè)penAI為代表的大語言模型人工智能出現(xiàn)爆發(fā)性增長，“很多我以為屬于未來一百年的構(gòu)想，都正在（或者已經(jīng)）變成當下的現(xiàn)實，此種情勢促使我決定，必須加速完成這部作品，即使不能發(fā)表，也至少要奔跑在新世界成形之前，充當一名哪怕只是提前了一秒的預言家，”他在后記里寫道。
《知然島》構(gòu)建了一個21世紀下半葉的未來世界。在這個世界中，極端天氣肆虐全球，人類社會分裂成三千多處避難所，被稱為“三千隔都”。在災難的洗禮下，超智能AI應運而生，為人類提供無微不至的服務，同時也悄然改變了人類的生活方式和思維模式。人們可以在機器上進行工作、游戲、社交，而機器則能夠隱蔽而妥善地安排人類遷徙移居等一切瑣碎工作。
面對未來，幸存的人類分成兩派，一派堅信AI只是一種高級算法工具，不可能有自我意識，他們憎惡被AI全面控制的生活，認為人類會因此喪失全部的意義；而另一群人主張積極擁抱AI社會，將罪魁禍首確定為五千多年來的文字，認為文字是人類文明的歧途，開始毀滅人類的文字。在守舊與革新的沖突中，人類的命運如同浮萍一般，飄搖不定，與此同時，傳說中地球上最后一片不受機器控制的樂土——知然島時隱時現(xiàn)。
“我只能安排這樣的小說結(jié)尾，讓AI飛船攜帶人類的數(shù)字意識散播到宇宙空間，同時在地球的知然島上，保留人類肉體意識的最后火種?！绷鴤}說，“或者說，我想暗示的是，人類苛求因果線性而建立的理性世界，在‘并行運算’的AI宇宙中，最終只是汪洋里的一座小島。”
柳倉
澎湃新聞：根據(jù)介紹，《知然島》寫了七八年，這個過程中AI經(jīng)歷了飛速的發(fā)展，你在后記中形容是在“加速完成這部作品”，能否先分享一下創(chuàng)作過程，以及你是如何開始關(guān)注人工智能的？
柳倉：我是一個業(yè)余的圍棋棋手，一直關(guān)注圍棋的進展。2016年，谷歌AlphaGo擊敗世界圍棋冠軍李世石，一年以后問世的AlphaZero更是一騎絕塵。圍棋被稱作“人類智力的圣杯”，人類棋手被人工智能戰(zhàn)勝，這是一個重要的歷史節(jié)點。當時，我覺得0和1的二進制是宇宙中最基本的算法或者文字，我開始構(gòu)思一篇關(guān)于“人類文字消亡”的小說。但我意識到，技術(shù)不可能無緣無故地高速發(fā)展，必須要給AI提供一個契機，于是我在開頭加入氣候災難（一個技術(shù)突變的“催化劑”），故事情節(jié)隨后就自然展開。到2019年年底的時候，小說寫了40萬字，暫時停下了。直到ChatGPT出來以后，那種每天都有新事物的瘋狂氣氛，刺激我把這部小說重新拿出來。2023年3月，我投入了一場分秒必爭的修改中，要將2019年就完成的40萬字稿件，刪節(jié)到30萬字左右的篇幅。
澎湃新聞：關(guān)于“人類文字消亡”，小說里也有很多對于文字本身的討論，比如甲骨文和金文等，你對于文字的源頭的興趣來自哪里？
柳倉：我一直對文字很有興趣，我讀唐諾《文字的故事》時，第一次全面地接觸到文字起源的歷史。他在這本書里介紹了甲骨文、金文，提到了其他國家的文字，還有漢字作為象形文字的優(yōu)缺點，我讀了以后非常有感觸。文字是文明的標簽，我們?nèi)祟愒诘厍蛏弦呀?jīng)有幾百萬年的歷史，但如果從文字的創(chuàng)造發(fā)明來看，人類文明的歷史不超過5000年。
澎湃新聞：《知然島》里人類給AI設(shè)定了“第四條定律”，這條定律是出于對人類的保護，但從結(jié)果上看未必順遂人意。你怎樣看待技術(shù)、AI內(nèi)部的價值觀和它們的善惡？
柳倉：“第四條定律”規(guī)定，如果人類遇到危險的話，AI必須不惜舍棄自己，來保證人類的完整；而AI認為，如果要保證人類的安全，必須盡量回避危險，為人類提供無微不至的服務，后來又決定把人類全部上載到云端，獲得“永生”。
機器可能在某些細節(jié)上有善惡，我認為我們作為碳基生命，無法去評價硅基生命的善惡倫理。另一方面，即使是硅基，也遵循二進制的邏輯，而這個邏輯依據(jù)的是人類的設(shè)定，它會跟著你的設(shè)定做到極致。AI的造物主恰恰是我們?nèi)祟愖约?，是我們所定下的?guī)則，啟動了它的進化程序。
AI會涌現(xiàn)自己的意識嗎？我在書里寫了“新舊之爭”：老一派堅信AI只是一種高級算法工具，不可能有自我意識，而新一派認為AI有自己的意識，但是它逃脫不了最高的原則。不管用什么手段，它會實現(xiàn)你人類所要求的目標，這是一個荒謬的悖論。
澎湃新聞：小說里可以通過上載云端來獲得自己的“永生”或是復活家人，你是怎么看這種選擇的？
柳倉：我覺得如果是在現(xiàn)實世界永生的話，會破壞人對生命的敬重——因為你的時間是無限的，無論你做什么，到最后都可以挽回，但如果有一個終點，你會感到緊迫感，所有的事都會變得有意義。而關(guān)于云端上的永生，我在小說里有一段很長的描述：“機器復生亡者，本是毫無意義的事情。因為一方面，你無論如何也無法將它恢復到亡者本來的面目，即使你能做到，這一團數(shù)據(jù)代碼也終究不是亡者本人，因為意識、感情、回憶都需要血肉之軀來承擔。而另一方面，也許是更重要的方面，如果亡者復活，在虛擬世界里永生，而我們卻自有一具肉身躺在真實世界里，終將一個個死在黑屋子里，這實在顯得自相矛盾，充滿諷刺。”
澎湃新聞：作為創(chuàng)作者，你怎么看創(chuàng)作和AI的關(guān)系？
柳倉：原來我們以為AI會代替那些低級的勞動力，但是現(xiàn)在，那些需要耐心細致的勞動反而是AI暫時替代不了的，比如護士。而像創(chuàng)意類的工作，按照AI現(xiàn)在的發(fā)展，可能十年內(nèi)會遇到很大的挑戰(zhàn)。我更傾向于AI和人類配合來完成工作，因為到最后還是需要人與人之間的交流。我覺得AI會是一個助手，就像現(xiàn)在國際象棋中的“半人馬”比賽，人可以在AI輔助下和同樣有AI輔助的選手比賽。
澎湃新聞：《知然島》是科幻小說，也有很多關(guān)于哲學的討論。有哪些作家或作品對你產(chǎn)生過影響？
柳倉：我是一個文學愛好者，尤其熱愛歐美文學，平時閱讀的都是?？思{、納博科夫、奈保爾、馬爾克斯、博爾赫斯、卡夫卡、卡爾維諾、托拉爾丘克、門羅、科塔薩爾等等。有些經(jīng)典作品是經(jīng)得起反復閱讀的，譬如納博科夫的《洛麗塔》或者里爾克的《布里格手記》。
另一塊深度閱讀的是科普與哲學作品。麥克盧漢的《理解媒介》、羅韋力的《現(xiàn)實并不似你所見》、梅拉妮的《復雜》、布萊恩的《技術(shù)的本質(zhì)》、KK的《科技要什么》，以及本雅明、韓炳哲、丹尼特、平克等人的著作，他們都讓我重新思考人類在這個世界中的位置。
至于科幻作品，我讀得相對少一些，記憶中除了劉慈欣、德特姜、韓松的幾部作品，似乎沒有什么太多印象?？苹眯≌f其實是未來的寓言，有強烈的警示作用。它對社會的重要性，應該和超現(xiàn)實藝術(shù)一樣，就像宇宙間的一面鏡子，能幫助人類避免自戀情結(jié)，認清我們?nèi)祟惒贿^是一個宇宙發(fā)展的自然過程，就像其他事物一樣，有出現(xiàn)，就會有消亡。
鄂公網(wǎng)安備 42010302001612號 