針對近期美國發生多起AI深度造假事件，當地時間2月1日，美國聯邦通信委員會(FCC)主席傑西卡·羅森沃塞爾(Jessica Rosenworcel)提議，將使用AI生成的語音撥打機器人電話(robocall)定為非法。

　機器人電話(robocall)也被稱為預錄電話，使用計算機控制的自動撥號器來發出預先錄製好的信息，就像機器人一樣，一般以推銷或傳播某種信息為目的，頻繁騷擾手機用戶。

　美國聯邦通信委員會表示，機器人電話中用人工智能生成的聲音「在過去幾年中不斷升級」，並且「有可能通過模仿名人、政治候選人和親密家庭成員的聲音來製造錯誤信息迷惑消費者」。

　羅森沃塞爾表示，她提出的宣告式裁決(Declaratory Ruling)將「根據現行法律認定這種新興技術是非法的，這將為我們在全國各州總檢察長辦公室的合作夥伴提供新的工具，他們可以利用這些工具打擊騙局，保護消費者。」報道稱，委員們將在未來幾周內對該提案進行表決。

　此前，人工智能生成的虛假信息已多次干擾美國政治活動。

　當地時間1月21日，美國的一些選民們曾接到一個類似拜登聲音的電話，要求選民「把你的票留到11月選舉」，理由是1月23日投票的人沒法再參與屆時的總統選舉投票。電話還特意用了拜登的口頭禪「真是一派胡言」。據美聯社報道，電話說法不實。

　此外，在2023年2月舉行的芝加哥市長選舉第一輪投票前夕，社交媒體上出現了一段關於候選人保羅·瓦拉斯的視頻，偽造瓦拉斯的聲音發表言論，聲稱「警察隨隨便便就可以射殺嫌疑人」，並呼籲削減警察經費。在瓦拉斯向社交媒體平台發出投訴之後，社交媒體刪除了這段視頻，但該視頻在下架前已經被瀏覽了數千次。

　語音克隆初創公司ElevenLabs證實，偽造的拜登語音是由該公司提供的工具生成。目前，ElevenLabs已暫停利用深度造假技術發布信息的賬戶。

　據澎湃新聞報道，互聯網安全組織「網絡尖刀」的一位匿名技術專家表示，深度造假技術製作的內容在視覺、聽覺上非常逼真，很難單憑肉眼或傳統的技術手段辨別真偽。攻擊者可以利用技術手段隱藏深度造假的痕跡和特徵，使其難以被檢測到。現在互聯網上存在大量圖片和視頻數據，這些數據用於訓練深度學習模型，從而也被深度造假技術利用，「可用的數據集越多，模型的質量就越高，深度造假的結果離真人越近。」

　那麼，在傳播過程中如何加強對此類視頻的監管呢?

　中國社會科學院大學互聯網法治研究中心執行主任劉曉春建議，語音克隆公司研發App時，對於跟名人有關、誤導性較強、傳播風險較大的視頻，可以在傳播過程中加強顯性標識的設計，明確標明這是一個合成內容，提醒受眾。(綜合來源：新華社、央視新聞、澎湃新聞)