隨著網路上流動的生成人工智慧圖像流不斷增加，Meta 今天宣布，它正在簽署一套新的人工智慧開發原則，旨在防止 濫用生成人工智慧工具來剝削兒童。
「安全源於設計」計劃，由 反人口販賣組織 Thorn 和負責任的開發團隊 All Tech is Human 概述了該平台可以承諾採取的一系列關鍵方法，作為其生成式人工智慧開發的一部分。
這些措施主要涉及：
- 負責任地採購人工智慧培訓資料集，以保護它們免受兒童性虐待材料的影響
- 致力於對生成式人工智慧產品和服務進行嚴格的壓力測試，以檢測和減輕有害結果
- 投資研究和未來技術解決方案 改進此類系統
正如索恩所解釋的：
“就像網路加速了針對兒童的線下和線上性傷害一樣，產生人工智慧的濫用對兒童安全產生了深遠的影響，包括受害者識別、受害、預防和虐待擴散。 這種濫用及其相關的下游危害已經發生，今天需要集體行動。 需求是明確的：我們必須減少濫用生成式人工智慧技術對兒童進行、擴散和進一步的性傷害。 這一刻需要積極主動的回應。
事實上，各種報告已經表明，人工智慧圖像產生器正在被用來在未經人們同意的情況下創建露骨的圖像，包括兒童。 這顯然是一個關鍵問題，重要的是所有平台都應盡可能消除誤用，確保消除其模型中可能促進誤用的漏洞。
這裡的挑戰是，我們不知道這些新的人工智慧工具能做什麼，因為這項技術過去從未存在過。 這意味著許多工作將歸結為反覆試驗，使用者會定期尋找繞過保障措施和保護措施的方法，以使這些工具產生令人擔憂的結果。
這就是為什麼訓練資料集是一個重要的焦點，以確保此類內容不會首先污染這些系統。 但不可避免的是，總是會有一些方法濫用自主生成過程，而且隨著人工智慧影片創作工具隨著時間的推移變得更加可行，情況只會變得更糟。
這也是為什麼這很重要，很高興看到 Meta 與Google、亞馬遜、微軟和 OpenAI 等公司一起簽署了新計畫。
您可以在此處了解有關「安全源自設計」計劃的更多資訊。
