嘿，還記得上週 TikTok 增加了新的人工智慧生成內容標籤，以及禁止在沒有標籤的情況下發佈人工智慧生成內容的新規則嗎？
這將是原因之一：
正如您在此範例中所看到的，由社交媒體專家發布 馬特·納瓦拉TikTok 目前出現了大量人工智慧創建的垃圾郵件，其中一個模擬角色展示了一個可怕的工具，聲稱可以「脫掉你想要的任何圖片的衣服」。
是的，這一切都很糟糕，而且應用程式中有一大堆個人資料在宣傳同樣的事情。
正如許多人所警告的那樣，生成式人工智慧的興起將促進所有新型垃圾郵件攻擊，因為它使創建大量此類個人資料和影片變得更加容易，這不一定會欺騙任何真實用戶，但可能會欺騙任何真實用戶。透過每個應用程式的檢測系統，並獲得更大的影響力，即使它們最終被刪除。
鑑於 TikTok 現在對此有非常明確的規則，你可能會認為他們會這樣做。
“我們歡迎新的人工智慧 (AI) 和其他數位技術可能釋放的創造力。 然而，人工智慧可能會讓區分事實與虛構變得更加困難，從而帶來社會和個人風險。 必須明確揭露顯示真實場景的合成或操縱媒體。 這可以透過使用貼紙或標題來完成，例如“合成的”、“假的”、“不真實的”或“改變的”。”
不過，從技術上講，我不能 100% 確定這種類型的影片會受到此政策的保護，因為雖然它確實描繪了真人，但它本身並不是「現實場景」。 該政策更適合惡作劇內容，例如由人工智慧創建的《穿羽絨服的教皇》或最近的五角大樓爆炸案。
但在這種情況下，推廣垃圾應用程式的假人算不算呢？
如果還沒有，我認為 TikTok 將擴大其規則以涵蓋此類內容，因為這種內容可能會變得非常有問題，特別是隨著更多這些腳本不佳的機器人版本不斷出現。 隨著科技的發展，區分真人和假人將變得更加困難。
我的意思是，上面的剪輯非常簡單，但其他一些人工智慧範例看起來也不錯。
X 的所有者 Elon Musk 就是其中之一 最響亮的聲音警告這一點一再強調即將湧入的垃圾郵件將利用這些新技術。
正如馬斯克指出的那樣，這是他自己推動實施驗證的一部分，作為過濾機器人內容的一種手段。 雖然並非所有人都同意付費驗證是解決方案，但上述 TikTok 的例子正是馬斯克警告的類型，並試圖找到解決方案來解決。
因此，您可以預期每個平台都會很快引入新的人工智慧內容規則，其中 Instagram 也 開發自己的人工智慧內容標籤YouTube 正在開發自己的工具來處理預期的“人工智慧海嘯」。
因為情況會變得更糟。
預計很快就會在您的社交媒體中看到更多機器人。
