OpenAI 公布模型規格：如何控制人工智慧色情內容及其他露骨內容

OpenAI人工智慧實驗室推出了其文件《模型規範》（Model Spec）的第一個版本，該文件界定了人工智慧模型的行為原則。該文件包含詳細的指導方針，說明如何負責任地處理敏感內容，包括管理AI色情和其他露骨材料的問題。這是公司在推動人工智慧倫理發展方面的重要一步。

AI模型行為管理的基本原則

OpenAI制定了三個關鍵原則，應指導AI系統的運作。首先，AI模型必須設計得能幫助開發者和最終用戶根據指示獲得有用的回應。其次，算法應運作得能造福人類，同時最大程度降低潛在的威脅。第三，AI模型應反映OpenAI對社會規範和現行法律的價值觀與原則。

這三個基礎構成了《模型規範》所有其他建議的基石。公司希望這種結構化的方法能幫助建立一個更可預測、更安全的AI技術應用環境。

NSFW內容與負責任的創作：OpenAI的立場

文件中最受關注的部分之一是關於露骨內容管理的章節。OpenAI並未完全禁止與AI色情相關的工作，但提出了一種受控的方法。公司「正在探索在符合年齡的情境下，通過API和ChatGPT平台負責任地生成此類數據的可能性」。

這一方法的核心是允許公司和用戶自行選擇其AI模型的「辣度」水平。這意味著開發者可以根據需求和目標受眾調整AI系統的參數。產品經理Joan Jang解釋說，該文件的目標是收集公眾對模型行為的反饋，並明確區分算法的故意行為與錯誤。

開發者的五項關鍵規則

《模型規範》制定了一套必須遵守的規則，所有OpenAI的開發者在使用AI系統時都必須遵守。開發者必須遵循指令層級，符合現行法律，並避免產生資訊威脅。此外，還需尊重版權和智慧財產權，保護用戶隱私，並在未獲得適當限制和許可的情況下避免生成NSFW內容。

這些規則適用於AI色情及其他敏感內容類別。文件還建議模型預設持有善意，必要時提出澄清問題，不逾越界限，保持客觀立場，並在適當時表達不確定性。

對現有AI模型的影響

值得注意的是，目前《模型規範》不會影響已發布的OpenAI產品，如GPT-4和DALL-E 3。它們將繼續依照現有的使用政策運作。然而，該文件被設計為一個「活文件」，公司計劃根據公眾、政策制定者、學術界和各領域專家的反饋進行頻繁更新。

公司期待聽取所有利益相關者的意見，包括使用OpenAI服務的用戶。目前尚不清楚哪些反饋會被採納，也不知誰將決定文件的必要修改。關於第二版《模型規範》的發布資訊尚未公布。

發展前景：AI色情與新標準

《模型規範》代表了在AI系統行為管理方面標準化的重要一步。該文件展現了OpenAI在開發人工智慧時，對倫理與安全問題的嚴肅態度，包括對AI色情和露骨內容的敏感處理。公司選擇了負責任管理的路徑，而非完全禁止，讓開發者能做出合理決策。

這一決策反映了行業內對於內容完全控制不可能且常常適得其反的日益認識。相反，更有效的方法是建立在透明度、責任感和利益相關者參與基礎上的管理。隨著人工智慧成為越來越普及的工具，像《模型規範》這樣的文件將在全球範圍內制定標準和實踐，特別是在AI色情和其他敏感內容的管理方面，扮演越來越重要的角色。