聯邦通訊委員會（FCC）對一名利用 AI 技術模仿美國總統拜登（Joe Biden）聲音進行非法自動語音電話的詐騙人士罰款 600 萬美元。詐騙人士的身份是政治顧問史蒂夫·克雷默（Steve Kramer），他在新罕布夏州初選期間使用生成式 AI 技術模仿拜登的聲音，要求選民不要參加初選，而保存選票到 11 月的總選舉中使用。這些非法自動語音電話影響了大約 25,000 名選民。
FCC 的罰款旨在警告其他潛在的高科技詐騙人士，表明利用生成式 AI 技術進行選舉干擾、詐騙消費者或妨礙數據安全的行為將不被容忍。此事件促使FCC在2024年2月正式宣布禁止在自動語音電話中使用 AI 生成的聲音。
克雷默及其合作的賴福公司（Life Corporation）和電信公司 Lingo 均面臨進一步的法律行動。儘管 FCC 可以提出罰款和違規宣告，但需要依賴當地或聯邦執法機構執行刑事指控。這一案件突顯了監管新興技術方面所面臨的挑戰，並強調了建立健全法律框架以保護消費者，以及維護民主流程健全有其必要。
＊本文開放合作夥伴轉載，資料來源：《TechCrunch》《Merklepal》《Indigilife》首圖來源：Unslpash 。
