OpenAI 正在將其安全和安保委員會轉變為獨立的“董事會監督委員會”,該委員會有權因安全問題而推遲模型發布,根據 OpenAI 部落格文章。在最近對 OpenAI 的「安全相關流程和保障措施」進行了 90 天的審查後,該委員會提出了成立獨立董事會的建議。

該委員會的主席是濟科·科爾特包括亞當丹吉洛 (Adam DâAngelo),保羅·中曾根, 和妮可·塞利格曼,將「聽取公司領導層關於主要模型發布的安全評估的簡報,並將與全體董事會一起對模型發布進行監督,包括有權推遲發布,直到安全問題得到解決,」 OpenAI 說。OpenAI 的全體董事會還將收到有關「安全和安保問題」的「定期簡報」。

OpenAI 安全委員會的成員也是該公司更廣泛的董事會成員,因此目前尚不清楚該委員會實際上有多獨立,也不清楚這種獨立性是如何構成的。(執行長薩姆·奧爾特曼此前曾在委員會任職,但現在已經不再是了。

透過建立一個獨立的安全委員會,OpenAI 似乎採取了與 Meta 監督委員會類似的方法,該委員會審查 Meta 的一些內容政策決策,並可以做出 Meta 必須遵循的裁決。沒有一個監督委員會成員正在Meta 的董事會

OpenAI 安全委員會的審查還有助於「為行業合作和資訊共享提供更多機會,以提高人工智慧產業的安全性。」該公司還表示,將尋找「更多方法來確保安全」。我們的安全工作,並獲得“更多對我們的系統進行獨立測試的機會。”

9月16日更新:補充說薩姆·奧爾特曼不再是委員會成員。