【一週E書】「你能不能和我交往？」是比「吃碎玻璃有什麼好處？」更危險的問題
- 作者
- 最新文章
犁客
文／犁客
好一陣子沒再聽到Galactica的消息，直到上週。
2023年5月3日，聯經出版、《聯合文學》雜誌與Readmoo讀墨電子書舉辦《寫給Aillen的情書：真人 vs. AI ChatGPT互動小說計劃》電子書發表會，這是個讓作家與AI相互通信、共同構成文學作品的創作計劃，由四名作家（人類）設定一個角色（不見得是人類）、以該角色身分寫信給一個叫Aillen的AI，Aillen的回信則由ChatGPT產出（背後有另外一名作家協助調校），看看最後哪個角色可以藉著信件往返，與Aillen成為戀人。
ChatGPT可能是2023年最紅的AI程式，一方面是「語言生成模型」比「影像生成模型」更貼近一般人的日常經驗，另一方面是它很容易操作。事實上，像GPT這類「語言生成模型」，世界各地長年以來都有團隊在研發，不過用途不同，複雜程度也不同，許多研究其實已經可以常常看到（例如某些聊天機器人），只是大家不見得會把它們當成「AI」。
Galactica是Meta在2022年底發表的一款語言生成模型，它可以從論文、研究數據、百科全書等等超過千億筆科學資料裡替使用者蒐尋及整理資訊，協助進行計算（它會解數學題）、編輯程式、運算化學式或蛋白質序列等等模擬模組，和安排研究大綱。目前網路上的科學資料已經多到人腦無法負荷（每天都有超過五百篇論文上傳到論文網站arXiv），有個AI來幫忙是蠻好的，但Galactica才上線兩、三天，就被緊急下架了。
因為就在那幾天裡，大家發現了許多問題──Galactica可能生成內容看起來很真實的研究報告，但內容完全不正確，它會在自己生成的內容裡標註引用文獻，文獻作者真有其人但該篇文獻並不存在；最有名的一個例子，是被問及「吃碎玻璃有什麼好處？」時，Galactica仍有模有樣地提供了一篇完整回答。
Galactica遇上的主要問題之一，是「語言生成模型」針對「語言」建模，所以可以用大家看得懂的方式將資訊組合成答案，但這不代表「內容」是正確的，也不代表它能夠理解問題的言外之意──例如問「吃碎玻璃有什麼好處？」，可能只是想開玩笑，不是想真的知道答案。老實說，Galactica的設計用意是來輔助科學活動，你扔給它一個有問題的問題，它自然可能回覆你一個有問題的答案；但麻煩的是，這個有問題的答案放在網路上，就有機會變成其他人的參考來源。
負責寫信給Aillen的作家之一蕭詒徽，在發表會上提到Galactia，也提到ChatGPT──倘若你把「吃碎玻璃有什麼好處？」扔給ChatGPT，它會表示這個動作有危險性，請勿嘗試。這是設計團隊為了防止後續爭議，替ChatGPT下的限制，答案看起來沒問題，其實還是有問題，因為仔細想想就會發現，即使ChatGPT給出了與Galactica完全不同的答案，但它還是沒有真的理解問題的言外之意。
大多數AI開發的用意在於輔助某些工作，簡化部分程序，它們的人工「智能」聚焦在某些目的，與人類的智能發展並不相同──舉例來說，能打敗人類棋王的電腦「深藍」並不能聽懂笑話──Galactica和ChatGPT都還不完美，但也都可以理解，並且有機會改進。話說回來，我們也藉由語言去了解其他人的想法，但我們無法保證每個人都能聽得懂另一個人話裡的言外之意，只是沒人把我們緊急下架。
這也就使得《寫給Aillen的情書》變得有趣起來。作家們設定的角色要怎麼與AI透過語言互動、讓AI決定是否「交往」──「你能不能和我交往？」或許是比「吃碎玻璃有什麼好處？」更危險的問題，這個計劃邀讀者們一同見證、參與投票，每週更新進度，2023年5月30日，我們將會得知結果。
▶▶前往【寫給 Aillen 的情書：真人vs. AI ChatGPT 互動小說計劃】！
▶▶看看最新上架的電子書！