劉麗娜判斷,在即將到來的元首會晤中,AI一定會處於重要位置。AI是具有劃時代意義的顛覆性技術,它對國家安全和國際戰略穩定的影響,某種意義上可以類比當年的核武器。2024年中美兩國元首就確認過“核武器使用決定必須由人類掌控”這個共識,這其實就是AI風險管控的一個先例和起點。
劉麗娜分析,中美AI風險管控的基礎框架非常必要且緊迫,但是恐怕無法一步到位。最必要、也最有共識基礎的是兩個領域:一個是致命性自主武器系統,必須確立“有意義的人類控制”這條紅線,這既關乎戰略穩定也關乎國際人道法;另一個是防止AI系統被用於大規模傷害,包括網絡攻擊、生化風險、深度偽造等問題。
劉麗娜指出,雙邊基礎框架搭建的難點在於,中美之間的戰略互信正處在低位。美國一邊談風險管控、一邊用芯片管制卡中國脖子,這種“一手對話、一手遏制”的做法,本身就在侵蝕談判的基礎。
劉麗娜表示,人工智能技術迭代速度遠超傳統外交談判進程,未來如果能搭建成功雙邊AI風險管控的基礎框架,我覺得會以“多利益有關方治理”的模式實現。政府層面,確立基本原則、劃定安全紅線;技術層面,兩國實驗室與安全研究機構建立常態化聯合評測與技術對話機制,將現有“二軌”“一點五軌”交流機制化;企業層面,頭部模型公司就安全標準、紅隊測試、事故通報形成行業共識;社會層面,圍繞人工智能倫理與風險開展公共討論。我覺得衹有建立多層次的合作結構,才能成長出有根系、可持續的AI風險管控制度安排。 |