美國人工智能巨頭Antrophic提醒關於AI的風險和隱患，卻想不到美國政府防範的就是它。 禤駿遠，Ian Huen，企業家，美國普林斯頓大學畢業，香港中文大學比較及公共史學文學碩士。著有《The Rising Sons: China's Imperial Succession & The Art of War》及《What Bruce Lee Didn't Know About Kung Fu and Other Revelations About China》；新作《你說的是從前——清末與今日中國》由商務印書館（香港）出版。電郵：[email protected]

AI風險倡議與出口管制

美國人工智能ＡＩ巨頭Anthropic行政總裁Dario Amodei大概沒有想過，自己多年來講ＡＩ風險，最成功一課竟由美國政府親自示範。 六月十二日，Anthropic收到美國政府出口管制指令。政府以國家安全為由，要求公司停止任何外國國民接觸其最新、號稱最強大的大型語言模型Fable 5和Mythos 5。所謂外國國民，不只指海外用戶，也包括身在美國、任職Anthropic的外國籍員工。Anthropic只好暫停向客戶提供這兩個模型，其他Claude模型不受影響，但公司最耀眼的新產品，便遭一紙禁令按下暫停鍵。政府沒有交代疑慮，Anthropic理解是，政府相信有人可繞過Fable 5安全護欄並以此識別少量已知軟件漏洞。Anthropic辯稱，此等漏洞並不深奧；其他模型即使不繞過，也可能找出。 此事尤其尷尬，因為Fable 5和Mythos 5本是Anthropic安全敘事的一大武器。Fable 5面向一般用戶，Mythos 5則面向網絡安全專家和關鍵基建機構。兩者底層模型相同，分別在安全限制。Anthropic發布時還強調，模型可協助網絡安全專家保護重要軟件，也可推動生命科學研究。誰知不到一星期，便遭美國政府勒令停用。直至六月三十日，商務部解除對兩個模型的出口管制；七月一日起，Fable 5恢復全球存取，但Anthropic需增設安全分類器，攔截相關高風險請求。 此本是一宗科技政策新聞，諷刺之處在於，Amodei多年倡議ＡＩ風險控制，竟率先回到自己身上。Anthropic的品牌一直建基於一套說法：我們知道此物多危險，所以我們比別人更負責。Amodei警告過ＡＩ會衝擊白領工作，警告過網絡、金融、關鍵基建，以至生物安全風險。他也主張，政府應有能力阻止風險太高的模型。結果政府真的出手阻止模型，只是第一個受累者，正是他自己的公司。 此中諷刺，還不止於此。Anthropic估值已近一萬億美元，如此高價，不能只靠聊天、寫稿、寫程式支撐。市場要聽的，是一個市場故事。對Amodei而言，此市場不只是軟件訂閱，也不只是企業助理，而是全球白領工作本身。若ＡＩ真能接管法律、金融、顧問、行政、編程、研究等工作流程，Anthropic的想像空間才足以配得上此等估值。 Amodei談白領失業，既是警世，也是市場營銷。他說ＡＩ可能在數年內消滅大量初級白領職位，聽在公眾耳中，是災難預告；聽在投資者耳中，卻是機會。若ＡＩ只會幫人寫幾封電郵，市場有限；若ＡＩ會重塑全球白領勞動，市場便近乎無邊。危險越大，能力越大；能力越大，估值越有理由。Anthropic不只說ＡＩ強大，也說ＡＩ危險；不只說自己會造模型，也說自己懂得節制。早前與五角大樓爭拗時，Amodei拒絕為「任何非法用途」拆除安全護欄，聲稱不願出售可能害死己方或無辜者的工具。此話自然動聽，它把Anthropic放在好人位置：技術雖危險，但我們有原則；權力雖誘惑，但我們有底線。 問題是，這套故事一旦成立，誰是好人，便未必由Amodei決定。ＡＩ危險，故只有好人可用；但好人由誰認證？若由企業自證，政府未必接受。若由政府認證，企業也未必安全。Amodei本來想說，壞人不得接觸危險模型；此番出手的，卻不是外國黑客，不是流氓企業，而是美國政府本身。政府拿起他的風險語言，反過來指向他的模型。你說此物足以改變世界，政府便說此物足以威脅國安。你說只有負責任者可控制，政府便說誰負責，須由我定。 此事令人想起楊國忠。唐玄宗天寶年間，安祿山寵冠諸將，兼領范陽、平盧、河東三鎮，總握河北兵權。楊國忠與安祿山素有嫌隙，屢向玄宗揭其反狀。玄宗不信，只以為二人互相妒忌。《新唐書》說楊國忠「寡謀矜躁」，明知安祿山跋扈，卻故意激怒他，使他必反，以取信於皇帝。 楊國忠不只在殿上說安祿山危險，他還派門客刺探其陰事，又令京兆尹李峴圍其宅，捕殺安祿山親信。這些動作名義上是查反，實際上也是逼反。安祿山上書自辯，列舉楊國忠二十條大罪，玄宗卻仍替楊國忠開脫。結果，安祿山原有異志，卻仍觀望形勢；楊國忠屢番逼迫，反使他疑懼日深。天寶十四年十一月初九，安祿山在范陽起兵，號稱二十萬。他詐稱奉有密詔，將兵入朝討楊國忠。這一刻，楊國忠說中了，安祿山真的反了。只是此一說中，正是唐朝由盛轉衰的開始。翌年潼關大敗，玄宗倉皇逃蜀。禁軍行至馬嵬驛，怒氣終於爆發。士兵先殺楊國忠，再逼玄宗處置楊貴妃。楊國忠終於證明自己沒有看錯安祿山，代價是身首異處，楊貴妃亦遭逼自盡。 你說安祿山會反，皇帝可以不信，安祿山也可以借你的名字反。你說大型語言模型太危險，政府可以不理，也可以比你更相信它危險。預言一旦牽連政治，便再難操控。楊國忠說安祿山會反，得償所望。Amodei沒有馬嵬驛，沒有禁軍，也沒有身首異處；他只有關掉的模型、遭排除的員工和驚醒的外國客戶。楊國忠和他都沒有體會到愛爾蘭大文豪Oscar Wilde的勸勉：當神明決定懲罰我們的時候，他們就會讓我們的祈禱成真。 （When the gods wish to punish us, they answer our prayers.）