專家警告：AI以假亂真擾亂2024美國大選

人工智能（AI）技術日趨成熟，一些專家表示，AI技術正在以前所未有的速度大規模地破壞選舉。圖為人工智能示意圖。(Pixabay)

 

 

【大紀元2023年05月16日訊】（大紀元記者洪雅文綜合報導）在2024年選舉之前，由人工智能（AI）生成的政治虛假信息已經在網上瘋傳，從拜登疑似發表攻擊變性人的演講的篡改視頻，到AI生成的兒童在圖書館學習撒旦教的圖像，一些專家表示，AI技術正在以前所未有的速度大規模地破壞選舉。

 

隨著AI技術越趨普及，成本也相對低廉，AI工具不僅可以迅速產生針對性的競選電子郵件、文本或視頻誤導選民，冒充候選人，還能夠結合演算法，廣泛地傳送虛假信息。

 

ZeroFox網絡安全公司情報副總裁A‧J‧納什（A.J. Nash）警告說：「我們還沒有做好準備。對我來說，人工智能製作音頻和視頻的能力已突飛猛進。當它能大規模地做到這一點，並在社交平台上發布，那麼將產生重大的影響。」

 

艾倫人工智能研究所的創始首席執行官奧倫‧艾茲奧尼（Oren Etzioni）說：「如果埃隆‧馬斯克親自給你打電話，告訴你投票給某個候選人，你會怎麼做？很多人都會聽。但這不是他。」

 

Forcepoint網絡安全公司的全球首席技術官佩特科‧斯托揚諾夫（Petko Stoyanov）表示，希望干涉美國選舉的團體或利用人工智能和合成媒體來削弱選民對選舉的信任。他說，「如果一個國家、網絡犯罪分子（以AI）冒充某人會怎樣？會有什麼影響？我們有任何追索權嗎？我們將看到更多來自國際的錯誤信息。」

 

以下是專家整理AI造成的重大影響：

 

1.  以候選人的口吻自動發出機器人電話信息，指示選民在錯誤的日期投票。
2.  候選人承認犯罪或表達種族主義觀點的虛假音頻。
3.  發布候選人演講或接受采訪的虛假視頻片段。
   
4.  生產假的當地新聞報導圖片，謊稱某位候選人退出競選。
   

 

為了遏止這些現象，紐約州國會眾議員伊薇特‧克拉克（Yvette Clarke）已在國會提案，要求參選人使用AI創建的競選廣告時，必須附加標籤，任何AI合成圖像則需在圖片上添加水印。

 

責任編輯：李琳