如果你明明沒有使用人工智慧進行創作，但卻被 AI 工具判定為「有罪」，甚至於因此失去工作，那你會有什麼感覺？一名居住在美國俄亥俄州、擁有 24 年資歷的當地記者，就因為 AI 偵測工具的錯誤指控，導致自己的工作權受損，即便她立刻提出申訴，卻依然沒有得到任何回應。
AI 代理時代來臨！Gartner 預測，2028 年 15% 日常工作決策將由 AI 代理自主完成
Kimberly Gasuras 是一名美國地方記者，從事文章寫作已經有 24 年，她對於 AI 工具的態度十分明確，Kimberly Gasuras 說自己並不需要人工智慧，畢竟過去 20 多年來她並不依賴 AI 完成寫作工作，當然未來也不需要。可是，這樣的邏輯卻沒有讓她成功保住工作權。
擅長文字工作的 Kimberly Gasuras 在一個名為 WritersAccess 的自由寫作平台上賺了很多錢，她主要為中小型公司撰寫部落格文章和相關內容；到了 2023 年中期，由於一些客戶轉為使用 ChatGPT 滿足文章方面的需求，導致她的收入出現直線下滑。
然而這還不是 AI 衝擊她工作最糟糕的部分。某日，Kimberly Gasuras 收到 WritersAccess 寄來的一封訊息，指出 AI 內容偵測工具 Originality.AI，將她的創作文章標記為「AI 生成」，但她明明沒有使用 AI 進行寫作。Kimberly Gasuras 當下立刻回信向平台捍衛清白，但並沒有得到任何有效回應。
幾個月後，WritersAccess 再次發信給 Kimberly Gasuras，並指出由於她過度使用人工智慧進行文章撰寫，因此帳號遭到停權，無法再透過平台接案或寫作文章，收入也直接歸零。
當 AI 內容偵測成為一門生意
回顧一年半前，當 ChatGPT 引起全世界關注時，它同時引發了外界的焦慮，眾人開始思考如何將 AI 所生成的文章，跟真人絞盡腦汁所寫出來的創作進行區別。許多新創公司藉此機會，紛紛推出人工智慧偵測工具，填補外界的需求和空缺，例如 Copyleaks、GPTZero、Originality.AI 和 Winston AI 等等，全都如雨後春筍般冒出，並且讓 AI 內容偵測成了另一門炙手可熱的生意。
這些公司宣傳的是「安心」。他們希望透過「證據」和「問責」，讓人類創作者和依賴文章寫手的企業，可以從 AI 手中奪回話語權。市面上許多 AI 偵測工具都聲稱，自家產品的人工智慧偵測準確率高達 99%，但越來越多的專家、研究人員和業內人士皆認為，這些工具遠遠不如開發者所承諾的可靠。
UnDetectable AI 聯合創始人 Bars Juhasz 表示，事實上當今的 AI 文章偵測技術，並不像廠商所宣傳的那樣準確；多數 AI 內容偵測器在模組訓練過程中，其可靠性帶有嚴重疑慮，而根據他們的驗證，這些工具的準確率絕對不可能高達 99%，但即便這個數字是真的，在 100 人中仍會出現 1 個無辜的人，因為遭 AI 偵測工具給予錯誤判定，進而影響到自己的生計和聲譽。
AI 偵測工具容易遭到「愚弄」
普遍而言 AI 內容偵測器的工作原理，在於發現人工智慧撰寫文章時的特徵，例如完美的語法和標點符號運用。以英文寫作來說，若想要遭到偵測工具標記為「AI 生成」，其實只要單純把文章放進寫作輔助服務 Grammarly 中進行修正就可以了。
科技媒體《Gizmodo》採訪了一些作家，他們指出自己被寫作平台要求使用 Grammarly 來精進文章品質，但諷刺的是由於修正後的文章過不了 AI 文章檢測，最後他們反而遭到平台解雇。
柏林技術與經濟應用科學大學教授 Debora Weber-Wulff 表示，現在的人工智慧檢測公司就是在賣「萬金油」，因為某些領導者與企業總是願意相信，有一些神奇的軟體可以解決他們對 AI 文章的焦慮，並且想透過簡單的方式，找出那些由 AI 生成的作品；問題在於研究已經表明，AI 偵測工具不夠準確、不夠可靠甚至容易遭到愚弄，業界必須尋找其他的解決方案。
誇大 AI 偵測準確率的商業手法
面臨指控的 Originality.AI 執行長 Jonathan Gillham 向媒體表示，他們確實聽到了許多類似於 Kimberly Gasuras 的故事，他能夠理解當作家傾注心血創作的作品遭到錯誤指控時，由於 AI 偵測工具「誤報」為人類所帶來的痛苦。
Jonathan Gillham 強烈建議「不要在學術領域使用 AI 內容偵測工具，更不該將其用於紀律處分。」他解釋，畢竟對於學生來說，若自己的論文或研究遭到 AI 偵測器誤報，學生需要承擔的後果太過嚴重。然而，Originality.AI 卻在一篇部落格文章中指出，自家產品在未來的教育環境中「不可或缺」，言行顯然有所矛盾。
科技媒體《Gizmodo》所採訪的多位 AI 內容偵測工具專家，幾乎都表示他們擔心參與人工智慧檢測行業的廠商，會利用誇大旗下產品的準確率，導致客戶產生誤解。面對商業宣傳和科學準確性的衝突，GPTZero 和 Originality.AI 的代表都指出，他們會致力於開放和透明，竭盡全力提供關於旗下工具侷限性和缺點的明確資訊。
另一方面《Gizmodo》所詢問的內容作家全都表示，現有的 AI 偵測工具就是行業的問題所在。一名文章創作者指出，他同意人工智慧是無法阻擋的發展趨勢，但是這些 AI 文章偵測器卻讓發案的金主感到緊張和偏執，最終只會導致作家們集體失業。
【延伸閱讀】
◆ 你看的新聞以後都 AI 寫的？3 個例子告訴你媒體不是這樣用 AI
＊本文開放合作夥伴轉載，資料來源：《Gizmodo》、《BioMed Central》。首圖來源：Unsplash
