新罕布什爾州檢察總長辦公室表示，路易斯安那州的民主黨政治顧問史蒂芬．克拉瑪（Steven Kramer）因假冒美國總統拜登的電話，於 5/24 被起訴。這些假電話使用了 AI 生成的拜登語音，試圖阻止民眾在新罕布什爾州的初選中投給拜登。幾千名居民都收到了這些自動語音電話，要求他們不要在 11 月之前投票。克拉瑪面臨多項罪名，包括選民抑制（voter suppression）和冒充候選人。這些電話同時顯示偽造的來電資訊，違反聯邦通訊委員會（FCC）的規定。 FCC 提議對克拉瑪罰款 600 萬美元。
今年 1 月份電話內容曝光後，克拉瑪表示，他僅利用 500 美元就讓 5000 名選民收到這些以假亂真的電話。AI 生成的造假內容可能在即將到來的總統和國會選舉中誤導選民，華府對此表示感到擔憂。已有參議員表明希望在選舉前，通過特定法律來應對威脅。
拜登競選團隊表示，他們已經組建了一個小組來應對 AI 帶來的挑戰，尤其著重於防止惡意的深偽內容。FCC 主席 Jessica Rosenworcel 指出，由 AI 生成的廣播和電視廣告不受禁止，但應標明係由 AI 生成。她強調，當來電者聽起來像知名的政治家、名人或自己的家人時，大家就更容易受騙。
＊本文開放合作夥伴轉載，資料來源：《Reuters》首圖來源：Unsplash 。
