追求零風險，反而更危險？霍夫曼提出AI安全的另一條路
- 作者
- 最新文章
Readmoo編輯團隊
前言：AI安全只能靠暫停發展嗎？OpenAI早期推手雷德・霍夫曼（Reid Hoffman）與葛雷格・比托（Greg Beato）在《超級代理效應》（Superagency）中提出「迭代部署」：讓AI以有節制的方式進入真實世界，透過廣泛使用、持續測試與大眾回饋，及早發現風險並修正。與其追求部署前的零風險，更重要的是建立能邊做邊學、持續降低風險的機制。
ChatGPT推出幾個月後，人們有了新的急迫感，要求管制AI的開發，並限制大眾取用這些新資源。英國工黨數位發言人認為，AI的開發應該比照醫療與核能，受政府監管，凡是開發類似ChatGPT的模型均須取得授權許可。荷蘭數位部長則將AI與汽車進行類比：「每當你生產一輛新車，在允許它上路之前，總會先確保它的駕駛安全性。」
這些論點基本上都是以「預警原則」為核心，主張新科技「在證明無害之前，一律視為有罪。」相反地，許多科技專家、創業家與投資人則支持「無需許可的創新」（permissionless innovation）原則，強調要為創新、實驗與調適保留足夠的空間，尤其是在尚未出現明確危害，或是現行法規足以涵蓋既有風險的情況下。
這並不代表預警原則在數位科技領域已完全不適用。但同時，「最小可行性產品」、「產品與市場契合度」，以及「敏捷開發」等概念，之所以能在過去30年成為網路軟體開發的核心思維，也有其原因。
現在，我們的學習速度快很多，也更容易更新。不再受制於實體生產與運送的高昂成本、限制與緩慢節奏之後，開發人員可以先推出原型產品，然後透過點擊、時間戳記、評論與其他資料，發掘使用者認為有用、不喜歡與不在乎的功能。接著，利用這些資訊修正產品，並推出新版，形成高效率的回饋循環，幫助你持續優化產品。
迭代部署（iterative deployment）的做法等於是在原有模式上，加入了有益於社會的元素：有節制的推出新科技。一般軟體開發者的工作進度，取決於自身操作的限制：他們能多快從蒐集到的資料中得出正確推論？他們能多快寫出並測試新的程式碼，以實現他們的學習成果？OpenAI在推出新產品時，會將整體社會的適應過程納入決策考量。OpenAI在一篇部落格文章中描述：
我們認為社會必須擁有足夠的時間，來因應並適應能力日益強大的AI，而且在討論AI後續的發展方向時，所有受到這項技術影響的人都應該有實質的發言權。相較於缺乏第一手工具使用經驗的情況，透過迭代部署的做法，能更有效地讓各方利害關係人參與討論AI的應用。
現在不只有OpenAI採取這種做法，其他AI開發者也開始跟進。透過迭代部署的做法，讓更多人有機會親身使用AI技術，這個過程並非沒有風險或負面影響，但是從整體安全的角度來看，放棄這種做法不僅會限制AI的應用，更會阻礙學習與進步。全世界有上百萬人每天透過迭代部署，在真實情境中測試AI模型。我們因此能更快速地理解最常見的使用方式與問題，也更進一步掌握當AI系統與具備不同科技素養、來自多元文化背景，以及處於意想不到的現實狀況的人們互動時，會產生何種影響。
我們仍處於全球AI發展與應用的初期階段。幾年後，當使用AI的人數翻倍、使用頻率大幅提升，而且AI本身的能力顯著增強時，無需許可的創新與迭代部署的做法是否依舊有效？
我們或許可以從過去的發展看出一些端倪。AI悲觀派堅稱，我們應該比照汽車產業來監管AI，他們的看法可能比他們以為的還要正確。我們不妨回顧1900年代初期，無需許可的創新是如何運作的。
對於二十世紀的數十億人口而言，汽車無疑是他們生平所能掌控最強大的機器。而且汽車不只是最強大的機器，還是人們一天會使用好幾次、持續使用數十年，並以重大或微不足道的方式改變生活的機器。歷史學家瑞伊（John B. Rae）在他的著作中提到，二十世紀初期汽車的迅速普及，帶來了「前所未有的個人移動自由，不論是型態或規模，都完全不同於以往。」
瑞伊強調，這場轉變並不是只有少數特權階級能接觸到，他們並不是唯一能運用這項科技、大幅提升移動速度和範圍的族群。相反地，短短幾十年內，數百萬人都擁有了這種貨真價實的超能力。全新的汽車時代到來，徹底改變了人們對於個人自由與生活模式的想像，進而改寫了數百萬人的人生軌跡，甚至翻轉了整個社會架構。
聯網個人電腦與智慧型手機，就像是二十一世紀的汽車。這些裝置是新一代的個人移動工具，讓我們能運用全新的方式，超越時間與空間限制，擴展自身的影響力。在AI時代，當個人電腦與智慧型手機擁有合成智慧，就能成為更強大的載體，幫助我們展現自主行動力、意志力，並且發揮影響力。我們正處於另一個重大轉變時期：個人電腦曾被賈伯斯形容為「大腦的腳踏車」；如今，我們正邁向「大腦的法拉利」時代。
當然，新的功能必定會伴隨新的風險。但我們不該一味追求毫無風險的模型，我們的目標更應該聚焦在了解現實世界中可能出現的風險，然後透過系統化的方式管理與降低風險。迭代部署正是達成這個目標的一種方式。