Meta 宣布更新其人工智慧標籤政策，將「被操縱媒體」的定義擴展到人工智慧生成的影片之外，現在還包括 Facebook、Instagram 和 Threads 上的誤導性音訊和圖像。
新政策的一個重要特點是它很容易被視為限制言論自由。 Meta 沒有採取刪除有問題的內容的方法，而是簡單地對其進行標記。 Meta引入了「用AI製造」和「用AI想像」兩個標籤，以明確哪些內容是用AI創建或修改的。
新的警告標籤
人工智慧產生的內容將基於識別作者身份訊號和人工智慧自我報告：
“我們在人工智慧生成的視訊、音訊和圖像上的‘人工智慧製造’標籤將基於我們對人工智慧圖像行業共享的信號或透露正在上傳人工智慧生成內容的人的信號的檢測。”
具有高度誤導性的內容可以更顯著地標記，以便用戶更好地理解它。
違反社群標準的有害內容，例如煽動暴力、幹擾選舉、霸凌或騷擾的內容，無論是人類生成的還是人工智慧生成的，都可能被刪除。
Meta更新政策的原因
最初的人工智慧舉報政策於 2020 年制定，由於技術狀況，僅限於解決誤導性影片（即描繪公眾人物說了他們從未做過的事情的影片）。 Meta 的監督委員會認識到技術已經發展到需要新政策的程度。 因此，除了視訊之外，新政策現在還擴展到處理人工智慧生成的音訊和影像。
根據用戶回饋
Meta 更新規則的過程似乎已經預料到了來自各方的阻力。 其新政策是基於廣大利害關係人的廣泛評論和公眾的意見。 新政策還可以根據需要靈活調整。
元解釋：
「2023 年春天，我們開始重新評估我們的政策，看看是否需要一種新方法來跟上快速發展的步伐……我們完成了與世界所有主要地區34 個國家的120 多個利益相關者的磋商。總體而言，我們聽到了對標記人工智慧生成的內容的廣泛支持，以及對在高風險場景中更突出標記的強烈支持。許多利益相關者都接受人們自我揭露內容作為人工智慧生成的概念。
……我們也對 13 個國家的 23,000 多名受訪者進行了民意研究，詢問人們像 Meta 這樣的社群媒體公司應該如何在其平台上處理人工智慧產生的內容。 絕大多數人 (82%) 贊成為人工智慧生成的內容添加警告標籤，這些內容描繪了人們說了他們沒有說過的話。
……監督委員會指出，其建議是在與民間社會組織、學者、政府間組織和其他專家協商後提出的。”
協作與共識
Meta 的公告解釋說，他們計劃透過與人工智慧協會、政府和非政府組織等組織進行審查，使政策與技術保持同步。
Meta 修訂後的政策強調人工智慧生成內容的透明度和背景的必要性，內容刪除將基於違反其社群標準的情況，並且首選回應將標記潛在有問題的內容。
閱讀 Meta 的公告
我們標記人工智慧產生的內容和操縱媒體的方法
精選圖片由 Shutterstock/Boumen Japet 提供
