左圖：生成式AI發展迅速，美國大選將成假信息重災區，圖為拜登本月在X上發布搞笑圖片以拉攏年輕選民。＼法新社；右圖：特朗普17日突然現身兜售限量款球鞋。＼美聯社（來源：大公報）
中評社北京2月19日電／據大公報報導，綜合《華爾街日報》、《紐約時報》、美聯社報導：隨著生成式人工智能（AI）的爆炸式發展，人們如今已無需破費就擁有高超的技能，即可輕易傳播虛假信息。在被稱為全球超級選舉年的2024年，生成式AI將全面滲透及影響社會，為選民辨別信息帶來全新挑戰，也將衝擊各地選舉。
全球70多個國家和地區將在2024年舉行重要選舉，涉及約40億人，佔世界總人口的一半。許多人擔憂，例如ChatGPT等生成式AI，可能會被用來製造假新聞、生成虛假圖像和視頻，以在選舉期間操縱選民。
AI可助宣傳也可造假
在本月舉行的印尼大選期間，AI已經在宣傳中起到了舉足輕重的作用。印尼國防部長普拉博沃最終贏得總統寶座，就離不開其競選團隊利用AI技術的宣傳，包括用AI製作候選人的卡通形象，拉近與年輕選民的距離等。除此之外，支持普拉博沃的“專業集團黨”成員還利用“深偽”技術，製作視頻拉票，引起爭議。在該視頻中，於2008年去世的印尼前總統蘇哈托“起死回生”對觀眾喊話，鼓勵其為普拉博沃投票。另外，印尼各黨派還在宣傳影片中使用AI生成的孩童形象，以避開“政治廣告不能聘用小孩”的規則。
除了用作政治宣傳外，AI還可能被用來發布關於投票的誤導或錯誤信息。例如通過仿建地區政府官方網站、短訊、社交媒體等形式，向選民定向發布與投票流程相關的虛假公告，例如給出錯誤的投票時間或地點干擾選舉。
美國大選一直是各種假新聞和陰謀論的重災區，在AI迅猛發展的2024年舉行大選，也讓各界提高警惕。上月，在美國新罕布什爾州民主黨初選的前幾日，當地約出現了上萬通AI詐騙電話，一個與美國總統拜登極為相似的聲音，呼籲選民不要投票。不久後，新罕布什爾州總檢察長辦公室調查顯示，這通詐騙電話的聲音源於得州一個叫“生命企業”的公司，已引用“反對壓制選民”的法律對該公司發出禁令，但未收到回覆。
特朗普失利或不承認結果
華盛頓大學AI專家、榮譽退休教授埃齊奧尼預計，選舉年期間恐將出現一場“假信息海嘯”。埃齊奧尼表示，未來可能有更多更惡劣的虛假內容，在未被標註為“AI生成”的情況下，於網絡上大肆流傳，在選舉期間愚弄大眾。“你可能看到各種各樣的假新聞，拜登被『送往醫院』、候選人開始『說』一些他沒說過的話、某地發生爆炸等等。”
美國國會兩黨人士及聯邦選舉委員會正就相關技術的監管舉措進行商議，但尚未敲定任何規則或立法。美國前總統特朗普本人、競選團隊和支持群體熱衷於撒布假信息。無黨派組織保障民主聯盟的高級研究員謝弗擔心，如果特朗普本次大選失利，美國或將重演不承認大選結果的暴力事件。
科企簽署協議抵禦AI干預
16日，包括OpenAI、微軟、Adobe在內的20家科技公司共同簽署自願協議，承諾將採取措施，防止欺騙性的AI內容干預今年全球的選舉。各公司將一同合作，開發用於檢測AI生成的誤導性圖像、視頻和音頻的工具，並對其自家AI服務中的此類內容採取措施。這些科企表示，識別AI產生的內容或證明其來源的技術手段，可能包括加入浮水印或嵌入元數據。該協議沒有具體說明履行承諾的時間表，或每家公司將如何實現這些承諾。
Meta Platforms全球事務總裁克雷格認為，該協議在未來能夠產生的作用大小取決於這些簽署公司的“廣度”。他表示，如果各個平台都能自己制定新的檢測、來源、標籤、水印等政策，那將會皆大歡喜，但除非有進一步的承諾，以共享的互通方式做到這一點，否則一切各種各樣的承諾都是“畫大餅”。
