英國首相蘇納克倡導平衡的人工智能監管，並歡迎中國參加即將舉行的峰會。

英國首相瑞希·蘇納克強調在即將到來的人工智慧（AI）安全峰會（11月1日和2日）前，需要對AI持平衡的觀點。於英國皇家學會發言時，這一國家的首要科學機構，他承認AI所帶來的重大風險，尤其是其可能被惡意行為者濫用的潛力。然而，他呼籲避免過度驚慌失措的姿態。

“目前，開發AI的實體通常也是負責測試其安全性的主體，甚至他們對模型未來的能力也往往缺乏完整的理解，”蘇納克表示。“競爭創造最先進模型的驅動力強烈，這使得我們不得不質疑是否應該信任他們來評估自己的結果。”

蘇納克反對匆忙的監管措施可能會扼殺創新，他指出：“我們如何能在尚未完全理解的事物上創造有效的法律？相反，我們正在政府內部培養領先的能力，以理解和評估AI模型的安全性。”英國政府在AI立法方面的做法明顯比歐盟寬鬆，已在白皮書中概述要求，並將具體領域的規範制定權下放給監管機構。

在6月的倫敦AI峰會上，該國的AI部長表示，未來的規範將與技術標準和保障技術互相補充，顯示出對監管的潛在增強。

AI安全的合作方式

蘇納克表達了與其他國家合作推進AI安全的意圖，而不是采取對抗姿態。這種合作精神在向中國發出峰會邀請的背景下更加明顯，儘管與美國的緊張關係仍然存在。他明言，吸納多元觀點的重要性，強調“針對AI的重大策略必須與全球主要AI強國展開對話。”

中國已對其AI企業實施嚴格的規範，要求在新生成AI模型公佈之前由國家數據監管機構進行安全審查。然而，中國政府已表示願意參與AI監管的國際討論，儘管習近平主席強調需著重於國家安全。

副首相奧利佛·道伍登確認中國已接受峰會邀請，但他指出還需等待所有潛在參與者的確認。

蘇納克希望此次峰會能促進對AI風險的共同理解，並尋求就針對這些挑戰的首份國際聲明達成共識。他構想成立一個“真正全球的專家小組”，成員由與會國和組織提名，負責發表全面的《AI科學狀況報告》。

“我們的成功取決於與AI公司的合作。隨著科技的進步，我們必須確保對風險的共同理解能與時俱進，”他表示。這一倡議與聯合國秘書長安東尼奧·古特雷斯等重要人物呼籲建立一個全球監管機構以監控AI安全的要求相一致，類似於國際原子能機構（IAEA）。

產業觀點與擔憂

隨著蘇納克推進英國成為領先的AI超級強國的願景，政府已為建議AI事務的團體撥出1.2億美元，其中包括圖靈獎得主約書亞·本吉奧。峰會將邀請開放AI CEO 薩姆·奧特曼和谷歌DeepMind的CEO 德米斯·哈薩比斯，還有美國副總統卡馬拉·哈里斯等高層政治人物。

劍橋顧問AI部主管瑪雅·迪倫強調在AI革命中合作的重要性，表示：“挑戰不僅是擁抱AI，而是要深思熟慮地引導其發展。這場革命應將商業成功與社會福祉緊密結合，這需要真誠的合作。”

KPMG英國連接技術部主管保羅·亨寧格指出，雖然峰會可能會激發合作風險評估策略，但組織也會期待隨著技術的持續發展而有定期更新。

儘管峰會的目標雄心勃勃，但Cloudera EMEA區域首席技術官克里斯·羅伊爾斯認為尋求全面監管仍然是遙不可及的理想。他建議企業應該專注於使用受信的數據來源來訓練其AI模型。同樣，Trellix總經理法比恩·雷施主張在AI開發中應將安全措施放在首位，以增強信心並防範網路威脅。

突出AI風險

在蘇納克演講前，英國政府發表了一份文件，詳細說明了潛在的AI風險，包括：

- 社會危害：生成錯誤信息和深度造假、因自動化導致的工作干擾，以及可能導致不公平結果的算法偏見。

- 濫用風險：AI技術可能促進武器的創造或者增強網路攻擊和虛假信息活動的效果。

- 失控風險：對於人類將決策權交給不對齊的AI系統的擔憂，以及高級代理人尋求擴大影響力的風險。

報告還概述了可能加劇上述風險的普遍挑戰，例如設計安全AI系統的複雜性、評估其安全性和確保部署的問責性。

針對報告，Deployteq首席執行官斯尤爾·范德·李烏讚揚英國政府對AI安全的嚴肅態度，並認識到AI在各行各業中提供的重大機遇——這取決於有效的監管和政策制定者的指導。