談及人工智能的威脅，許多人首先想到的大概會是像美劇《西部世界》（Westworld）裡的場景，機器人獲得自我意識後，開始對人類展開瘋狂報復。或者是像《未來簡史》（Homo Deus：A Brief History of Tomorrow）的作者尤瓦爾•赫拉利（Yuval Noah Harari）所預測的那樣，人工智能會逐漸替代人的工作，使一部分人喪失價值，成為“無用階層”。
這類想法並不能說是錯誤的，但最近一些科學家試圖使人們意識到，那種情況對於我們的時代或許還太過遙遠，而人工智能帶來的威脅可能更加細微，以至於它已經出現在我們的眼前卻未被察覺。
來自牛津大學人類未來研究所（FHI）、劍橋大學存在風險研究中心（CSER）和埃隆•馬斯克（Elon Musk）支持的OpenAI公司的20多位專家，於2月21日發布了一篇題為《人工智能的惡意使用：預測、預防和緩解》（The Malicious Use of Artificial Intelligence：Forecasting， Prevention， and Mitigation）的報告。其中指出，在未來5年到10年，人類社會可能會因為對人工智能技術缺乏控制和不當使用，而面臨巨大的威脅。在那些被列舉的危害中，有一部分人們現在已經可以感知到，而另外一部分則尚難預料。
報告將關注重點放在人工智能最可能被惡意使用的三個領域：數字安全、物理安全和政治安全（Digital， Physical， and Political Security）。其中，與自動攻擊、釣魚（Phishing）、語音合成、數據中毒有關的網絡攻擊已經為人們所熟悉，而未來還會增多。無人機以及全自動和半自動駕駛系統的出現也會帶來新的風險，包括多輛無人駕駛汽車故意撞擊，使用數千架無人機協同攻擊，把商用無人機變成人臉識別刺客，控制關鍵基礎設施以索要贖金等。而在政治方面，人工智能可以在“後真相時代”大顯神通，用於傳播虛假但可信的文章和視頻，提高宣傳的精准度，進而左右民眾觀點；當然，它也能在私有和公共空間催生更好的監控技術。
專家們警告，人工智能和其他新興技術一樣，也存在兩面性。這種具有強大技術優勢的工具一旦被人惡意使用，效益與危害之間的平衡將被打破，大規模、精細化和高效率的社會攻擊將成為可能。
這份報告向人們透露了兩個重要但經常被誤解的信息：其一，人工智能的威脅並非遠在天邊，而是已經存在於我們的社會現實中，是正在發生的事實；其二，這種威脅不是由已經覺醒的人工智能對全人類實施的報復和傷害，而是人類中的一部分人對另一部分人實施的攻擊和侵害行為。
當我們承認科幻作品中的人工智能形象很可能只是人類的假想敵之後，我們就可以收起虛幻的恐懼，轉而面對現實，認真思考如何防範人工智能被惡意使用的問題。
|
