合力推動人工智能健康發展
“目前來看，讓大模型完全不犯錯幾乎不可能，但減小犯錯幾率，減弱錯誤危害性，是可以做到的。”常永波說，安全治理需產學研共同發力，中國信息通信研究院已開展一系列標準和測評研究，頭部廠商也在加速構建自身的安全和治理體系。
螞蟻集團安全內容智能負責人趙智源介紹了相關經驗。一方面，在大模型產品投入應用前，企業需做好全面評測，對暴露出的安全問題展開針對性防禦，把好入口關；相關產品進入市場後，也要時刻監控可能出現的風險隱患，進行技術補救和改進。另一方面，模型技術通常跑在安全技術前，行業研究要保持一定前瞻性。
“我們很早就開始探索基於安全知識構建視覺領域生成內容風險抑制的技術。在多模態大模型發布後，我們又將這一技術集成到多模態基座中，降低風險內容生成比例。”趙智源介紹，螞蟻集團已構建起面向產業級應用的大模型安全一體化解決方案“蟻天鑒”2.0版本，形成包括大模型基礎設施測評、大模型X光測評等在內的測評和防禦技術鏈條，並已運用於金融、政務、醫療等專業場景下的AI應用全流程。
常永波說，大模型落地門檻正在大幅降低，大量中小企業在模型安全治理方面的能力較弱，有些甚至不符合基本的合規要求。解決這些問題，需要監管的進一步引導和頭部廠商的能力釋放。
“我們現在已把‘蟻天鑒’的測評能力框架開源，將來也會把檢測能力以及對風險的認知更多分享到平台上，它可以適配較多模型。希望我們提供的開放能力能幫助大模型行業持續健康發展。”王維強說，模型廠商離用戶最近，可第一時間發現安全隱患，並通過和監管保持良性溝通互動，助力大模型安全落地。
清華大學長聘副教授李琦認為，大模型安全應用是一個新興領域，研究和應用尚處於起步階段。隨著新的實踐不斷深入發展，相關技術也會持續升級，為建構大模型安全實踐範式打造高價值參考體系。
人工智能治理是全球性問題。WAIC 2024開幕式上發布的《人工智能全球治理上海宣言》提出，高度重視人工智能的安全問題。宣言強調，以發展的眼光看問題，在人類決策與監管下，以人工智能技術防範人工智能風險，提高人工智能治理的技術能力。宣言呼籲，推動制定和采納具有廣泛國際共識的人工智能的倫理指南與規範，引導人工智能技術的健康發展，防止其被誤用、濫用或惡用。 |
