OpenAI 宣布正在擴大對其最新文本到圖像生成器 DALL-E 3 的訪問範圍，允許 ChatGPT Plus 和企業客戶在 ChatGPT 應用程式中使用 AI 系統。
DALL-E 3 AI影像產生器
DALL-E 3 於上個月首次發布，利用 ChatGPT 的自然語言處理功能，根據用戶提供的詳細文字提示創建圖像。
新系統旨在透過改進視覺細節、更清晰的圖像以及對大型、快速描述的響應能力來改進 OpenAI 之前的 DALL-E 2 模型。
上個月，微軟透過與 Bing 搜尋和 Bing 聊天集成，成為第一個公開部署 DALL-E 3 的主要平台。
然而，一些有問題的內容最初通過了系統的內容過濾器，包括有爭議的 9/11 場景的圖像。
OpenAI 表示，此後它加強了 DALL-E 3 的安全緩解和監督。
OpenAI 在一份公告中聲稱：
「我們使用多層安全系統來限制 DALL·E 3 產生潛在有害影像的能力，例如暴力、成人或仇恨內容。 在將用戶提示和生成的圖像呈現給用戶之前，會對其進行安全檢查。”
此外，該公司表示已經實施了新措施，以限制模仿特定藝術家或公眾人物風格的結果。
AI影像偵測器
OpenAI 正在開發一種內部“來源分類器”，可以識別圖像是否由 DALL-E 3 生成，準確率超過 99%。
像 DALL-E 這樣的文字和圖像生成系統一直面臨著複製受版權保護的內容、生成未經同意的親密圖像以及延續偏見的挑戰。
OpenAI 將透過使用者回饋和專家指導繼續完善 DALL-E 3 的安全性。
展望未來
DALL-E 3 向 ChatGPT 訂閱者的發布代表公開可用的 AI 成像功能的顯著擴展。
儘管 OpenAI 聲稱這項最新模型在安全實踐方面取得了進步，但有害內容和智慧財產權侵犯的風險仍然存在。
展望未來，全產業在人工智慧道德方面進行合作和建立合理監管的需求只會加劇。
特色圖片：Bartek Winnicki/Shutterstock
