The following two tabs change content below.
Readmoo編輯團隊

Readmoo編輯團隊

閱讀最前線編輯群。

文/哈拉瑞
原載於「The Guardian」,經天下文化出版社同意轉載

人工智慧可能是21世紀最重要的變革推動者。它將改變我們的經濟、文化、政治,甚至我們的身體和思想。如果你聽到一個描述2050年的場景,而且覺得很像科幻小說,那可能是錯的。但如果你聽到一個描述2050年的場景,卻不像科幻小說,那肯定是錯的。

技術從來不是決對性的:它可以用來創造非常不同的社會。在20世紀,火車、電力和收音機扶植了納粹和共產主義的獨裁政權,但同時也促進了民主和自由市場的發展。在21世紀,人工智慧將開闢更廣泛的可能性。在接下來的幾十年裡,人類最重要的選擇就是幫人工智慧的發展定調。

這個選擇不是工程或科學的問題,而是一個政治問題,甚至可說是最至關重要的政治問題,因此,我們不能把它留給矽谷。不幸的是,在任何競選活動中,它都不是一個重要的話題,大多數政黨、政客和選民似乎對此沒有意見。這主要是因為大多數人對機器學習、神經網路和人工智慧的理解非常模糊和有限。(大多數關於人工智慧的想法來自科幻電影,比如《魔鬼終結者》和《駭客任務》。)如果不進一步瞭解這個領域,我們就無法理解我們所面臨的困境:當科學成為政治時,對科學的無知將成為政治災難的溫床。

鐵馬克的《Life 3.0》試圖糾正這種情況。這本書以通俗易懂的風格,面向大眾,從政治和哲學的角度,描繪了人工智慧革命的承諾和危險。鐵馬克並沒有設下明確的時間表或貿然臆測,而是盡可能多元地探討與檢視各種各樣關於人工智慧對就業市場、戰爭和政治體系的影響。

Life 3.0》完整闡明了關於人工智慧的基本術語和核心議題,並消除了常見的誤解。雖然科幻小說讓許多人擔心邪惡的機器人,但鐵馬克指出真正的問題在於開發高水準人工智慧後的未知後果。人工智慧不是邪惡的,也不全然會以機器人的面貌出現。用鐵馬克的話說,「人工智慧的真正風險不是惡意而是能力。」一個超級聰明的人工智慧將非常擅於實現它的目標,但如果這些目標與人類的目標不一致,我們就會陷入困境。

至於對機器人的癡迷,我們應該提醒自己,可以摧毀我們的隱私、我們的個性和我們的民主機構的,是不斷追蹤人們、使用大資料演算法來分析其行為和個性的監控系統,而不是魔鬼終結者式的殺人機器。

鐵馬克在書中沒特別著墨人工智慧與生物技術的融合。但21世紀的核心不只有資訊技術,更重要的是資訊技術與生物技術的融合。人工智慧將至關重要,因為它將賦予我們破解人類有機體所需的計算能力。在超級智慧電腦出現之前,我們的社會就會被粗糙且愚蠢的人工智慧完全改變,儘管這些人工智慧還不夠好,但已足夠用來左右人類,預測他們的感受,為他們做出選擇,並操縱他們的欲望。

一旦一種演算法比你瞭解自己更瞭解你,民主選舉和自由市場等機制就會過時,人類會將主導權交棒給演算法。我們該害怕的不會是能殺人的機器人,而是那些比我們的母親更能觸動私人情感的機器人,他們甚至會利用這種不可思議的能力向我們銷售商品!

然而,鐵馬克這本書真正的問題在於,它觸及了當今政治的極限。人工智慧革命讓許多哲學問題轉化為實務的政治問題,迫使我們正視哲學家尼克·博斯特姆(Nick Bostrom)所說的「有期限的哲學」。幾千年來,哲學家們一直在爭論意識和自由意志,卻沒有共識。在柏拉圖或笛卡爾的時代,這一點無關緊要,因為在那些日子裡,你唯一能創造出超級智慧的地方就是你的想像。然而,在21世紀,這些辯論正從哲學學院轉向工程學和電腦科學。哲學家們有耐心,工程師是不耐煩的,而對沖基金投資者則更加焦躁不安。當特斯拉的工程師們要設計自動駕駛汽車時,他們可等不了哲學家們爭論完道德議題。

因此,鐵馬克並不多討論一些常見的AI議題,像是就業市場、用戶隱私和大規模殺傷性武器,而是著重在哲學、神學和神話等領域,這也無可厚非。因為超級人工智慧的誕生不是一個國家層面的事件,是一個全球性乃至於宇宙級的事件。40億年來,地球上的生命是根據自然選擇和有機化學的規律進化而來的。現在,科學即將迎來一個由智慧設計演變而來的非有機生命的時代,這樣的生命體最終可能會離開地球,且傳送到整個銀河系中。所以我們今天所做的選擇可能會對我們這個星球上數千年的生命軌跡產生深遠的影響。

雖然鐵馬克對宇宙層次上的預測可能是正確的,但我擔心,他的大多數潛在讀者將跟不上他。畢竟我們的政治制度,甚至是我們的個人思想,並不是建立在這樣的規模。目前的政治機制連在幾十年的尺度上都無法做出最佳決定,何況是這種橫跨數千年的規模上,在處理川普和英國脫歐(BREXIT)時,誰又有時間擔心地球會被人工智慧接管呢?

就像人類歷史上經常發生的那樣,面對人工智慧革命,我們可能會在短視的基礎上做出最重大的決定。為未來地球生命做決定的,可能是那些利用恐怖主義來威嚇人心的政客、只關心季營收的股東和試圖操弄客戶體驗的行銷專家們。

※ 推薦書籍《life 3.0》立即前往試讀►►►

  • 用Line傳送