OpenAI 安全團隊又一重量級人物出走
在 OpenAI 負責 AGI（亦即人類等級人工智慧）準備的資深顧問 Miles Brundage，在週三宣布離職時發出了一個嚴厲的警告：沒有任何人做好迎接AGI 的準備，包括 OpenAI 自身。
「無論是 OpenAI 還是其他任何尖端實驗室都還沒準備好『迎接 AGI』，這個世界也還沒準備好。」Brundage 寫道，他花了六年時間協助塑造該公司的 AI 安全倡議。
對 OpenAI 轉向商業化感到擔憂
據報導，該公司面臨著兩年內從非營利組織轉型為營利性公益公司的壓力——否則可能不得不退還近期 66 億美元的投資。這種走向商業化的轉變，長期以來一直讓 Brundage 感到憂心。早在 2019 年 OpenAI 首次成立營利部門時，他就表達了顧慮。
在解釋離職原因時，Brundage 提到，這家備受矚目的公司日益限制他的研究和發表自由。他強調，在 AI 政策討論中，獨立聲音的重要性，必須擺脫行業偏見和利益衝突，他在 X 發文指出，他認為在非營利部門擔任研究員和倡議者能發揮更大影響力，因為他將「有更多自由發表研究的機會」。
OpenAI 安全團隊又一重量級人物出走
他的離職是 OpenAI 安全團隊又一位重量級人物出走。知名研究員 Jan Leike 在抱怨「安全文化和流程已經讓位給炫目的產品」後離開。共同創辦人 Ilya Sutskever 也離職創業，專注發展安全的 AGI。
就在幾個月前，該公司解散了致力於長期 AI 風險防範的「超級校準」（Superalignment ）團隊，如今 Brundage 的「AGI 準備小組」也面臨裁撤，凸顯了 OpenAI 在原始使命與商業野心之間日益加劇的矛盾。
團隊解散前，已被剝奪「用於安全研究」的算力
這次離職或許也反映出 OpenAI 內部更深層的文化分歧。許多研究人員加入是為了推進 AI 研究，現在卻發現自己身處一個越來越以產品為導向的環境。
內部資源分配已成為一個焦點——有報導指出，Leike 的團隊在最終解散之前被剝奪了用於安全研究的運算能力。
儘管存在這些摩擦，Brundage 表示，OpenAI 已提出透過資金、API 積分和早期模型存取來支持他未來的工作，且不附加任何條件。
隨著 Brundage 的離職，OpenAI 的經濟研究部門（直到最近還是 AGI 準備團隊的子團隊）將轉由 OpenAI 新任首席經濟學家 Ronnie Chatterji 領導。
Brundage 表示，其餘正在縮編的 AGI 準備小組成員將分散到 OpenAI 的其他部門。
責任編輯：Sisley