OpenAI 宮斗的「幕後黑手」,是 ChatGPT

當我(一次又一次天真地)以為 OpenAI 這場風波要塵埃落定時,它總能以《繼承之戰》編劇都沒法寫出來的方式反轉。

在超過九成 OpenAI 員工徹底撕破臉,聯名要求董事會解散,並迎回 Sam Altman 後 ,董事會還沒放棄抵抗。他們甚至找到了競爭對手 Anthropic,試圖讓兩家公司合併。


董事會希望説服 Anthropic 的聯合創始人兼 CEO Dario Amodei 接任 CEO,以完成四天更換四個 CEO 歷史壯舉。

Dario Amodei 也曾是 OpenAI 高管,他離職後創立的 Anthropic 主推安全的 AI,旗下聊天機器人 Claude 是 ChatGPT 的競品。


分析認為,如果 OpenAI 和 Anthropic 真合併了,那簡直又是一場混亂的開端,因為兩家明星創業公司背後是幾家科技巨頭在 AI 領域佈局的站隊。

微軟和 OpenAI 一隊,Anthropic 則和亞馬遜以及 Google 簽了數十億美元的雲計算協議,兩家巨頭也都有投資 Anthropic。

目前 OpenAI 已經處於分崩離析的邊緣,競爭對手開始招募流出的大批人才,同時 OpenAI 的大客户也在考慮轉投 Anthropic、微軟或 Google 等公司

在我們繼續追蹤事態發展的同時,也回顧一下這場劇變的起始點 —— OpenAI 的內部矛盾。《大西洋月刊》在最新的一篇報道中,挖出了內部深埋已久的理念衝突。

OpenAI 的混亂,從 ChatGPT 發佈那天就開始了


1. OpenAI 原本沒打算髮布 GPT-3.5。2022 年秋季,OpenAI 原本在籌備發佈 GPT-4。但有傳言稱 Anthropic 也要發聊天機器人,於是 OpenAI 管理團隊在 11 月宣佈幾周後就要發佈產品,選用了當時相對完善的 GPT-3.5。

2. 沒人料到 ChatGPT 的成功。ChatGPT 的發佈很低調,低調到公司裏好些員工都不知道 OpenAI 發佈了它。當時知情的員工還在賭能引來多少用户,最多隻猜到一萬用户。結果,上線五天用户數就突破了一百萬。

3. ChatGPT 不僅讓服務器宕機,也讓檢測工具失效。團隊做了一個流量監測工具,可追蹤用户行為,理解用户在如何使用這個工具,協調潛在危機和濫用。ChatGPT 的爆火讓這個工具重複崩潰。

4. OpenAI 的安全團隊勸產品團隊減緩產品更新速度。ChatGPT 發佈後用户數快速增長,安全團隊未能跟上應對安全隱患和惡意使用。隨後,產品團隊不顧安全團隊提醒,堅持乘勝追擊,接連推出了付費版 ChatGPT 和開放 API 接口。

5. 詐騙危機。隨着 ChatGPT 和 GPT-4 的廣泛應用,也有人找到了漏洞。有用户開始大規模創建新賬號,以獲取每個新賬號帶來的 20 美元優惠。阻止這些詐騙成為了 OpenAI 當時的首要任務,原本被分配到不同領域的小支安全團隊成員被安排專注於解決這個問題。

6. 壓力之下,一些員工甚至出現了精神健康問題。公司內部的溝通情況很糟糕,員工只有在發現同事在 Slack 上消失時才知道他們被解僱了。

7.「感受下 AGI(feel the AGI)」。技術進步之快,首席科學家 Ilya Sutskever 愈加確信 AGI 終會實現,他的行為也越來越像某種「精神領袖」,口頭禪是「感受下 AGI」,意指大家已經很接近實現 AGI 的目標了。Sutskever 曾在社交媒體發文「如果你能感受到 AGI,你就應聘 OpenAI」。在 OpenAI 的 2022 節日派對上,Sutskever 甚至帶領員工齊聲高呼「感受下 AGI!感受下 AGI!」員工還在 Slack 上做了「感受下 AGI」的 emoji。

8. 信念的另一面,是對 OpenAI 在安全方面不夠重視的擔憂。今年 7 月,Sutskever 和 Jan Leike 帶領成立了「Superalignment(超級對齊)」團隊,研發更多上游 AI 安全技術,獨佔公司 20% 現有計算芯片,準備迎接在這個十年內即將到來的 AGI。「對齊」的意思是讓 AI 只做人們想讓它們做的事。

9. 今年的一次內部活動中,Sutskever 甚至還定製了一個木雕像以代表「不對齊的 AI」,然後一把火燒了,代表 OpenAI 做對齊 AI 的決心。

10. 今年 10 月,矛盾升温。知情人士稱,Altman 意在削弱 Sutskever 在公司的影響力,引發了和董事會間的衝突。

11. 11 月 6 日開發者大會,Altman 宣佈推出可定製 GPT 功能 ,Sutskever 徹底怒了,帶着憂慮去找董事會。

12. 11 月 17 日,Altman 在線上會議被董事會辭退。

13. 面對眾多 Altman 將回歸的傳聞,馬斯克在 X 上表示如果 Altman 真的迴歸,他會很擔心。因為「Ilya 有很好的道德準則,不會追尋權力。如果不是覺得必須要動手的話,Ilya 不會有這樣極端的行為。」

14. 11 月 20 日,Sutskever 對員工表示,Altman 並不會迴歸 OpenAI 擔任 CEO。亞馬遜旗下直播平台 Twitch 的聯合創始人 Emmett Shear 將擔任 OpenAI 臨時 CEO。

混亂背後:Sutskever 和 Altman 的理念衝突


1. 主導 OpenAI 前沿技術發展的首席科學家 Ilya Sutskever 師從「AI 教父」Geoffrey Hinton,主張謹慎地應對 AI 和 AGI 的安全隱患。

2. Sutskever 的表現一直很出色。他加入 Hinton 團隊早期,Hinton 給了他一項很複雜的任務,Sutskever 厭倦了編寫過程要做的計算,告訴 Hinton 自己寫一個程序語言來完成更簡單。當時 Hinton 聽到有點生氣,警告他這可能會耗一整個月且無果而終。Sutskever 坦白説:「我今早其實就做完了。」

3. 業內地位極高。Sam Altman 稱 Sutskever 是其中一位全球最受尊敬的研究者,並認為把他請來了,能吸引更多 AI 人才。馬斯克直言認為他是 OpenAI 成功的關鍵人物。

4. 為了把 Sutskever 從 Google 挖到 OpenAI,馬斯克和 Google 的聯合創始人 Larry Page 鬧翻了。

5. Sutskever 的 AI 觀:技術就像是一種自然力量。把控 AGI 的初誕生至關重要,否則它會遵循類似「適者生存」的法則,優先保住自身存在。就和人與動物一樣,人不恨動物,但當人類要發展,我們就會把建造高速公路的需求放在動物生存之上。

6. 當那篇歷史性論文「Attention Is All You Need」出來時,Sutskever 是為數不多能看出其重要性的人:「我們在等的就是這個。」

7. Sutskever 主張將特定價值觀「刻」在超級 AI 中,讓 AI 像動物一樣擁有一些類似「天性」的「銘印」:「最終,AI 將變得非常、非常、非常強大。我們將無法理解他們。他們會比我們聰明得多。到那個時候,強烈的銘印至關重要,只有這樣,他們對我們的感覺才會像我們對自己的孩子一樣。」

8. AGI 爭奪戰無益。Sutskever 認為如果有多支團隊爭先做出 AGI,他們用來保證 AGI 安全性的工作就更少空間了。與之相比,Altman 稱自己更像一個「中間派」,既要保證速度,也要確保其安全性。

9. Sutskever 心中的第一批 AGI 看起來就像超級巨大的數據中心,內置專有神經網絡,極度耗能,耗能約等於上千萬個家庭用電量。這些 AGI 肯定會深度影響社會,但我們不確定誰會受益。

10. OpenAI 前員工説 Sutskever 在內部有很多追隨者,稱他是備受尊敬且親力親為的領袖,對於建設 OpenAI 前沿技術至關重要。OpenAI 前總裁 Greg Brockman 則擅長於將 Sutskever 的研究成果轉化成可用的 AI 產品。

Sam Altman 被罷免事件時間線:


當地時間 11 月 16 日週四晚

Altman 收到 Sutskever 發來的信息,要求於週五中午進行對話。Sutskever 告訴 Sam 他被解僱了,並且新聞很快就會發布。

當地時間 11 月 17 日週五

OpenAI 宣佈 CEO Sam Altman 將離開公司,首席技術官 Mira Murati 被任命為臨時 CEO,這一人事任命立即生效。

OpenAI 董事會在博文中表示,「Altman 先生與董事會的溝通中沒有保持坦誠,阻礙了董事會履行其職責的能力。董事會不再對他繼續領導 OpenAI 持有信心」。

Altman 在 X 平台上發文稱,我很喜歡在 OpenAI 的時光,這對我個人來説是具有變革性的,希望對世界也有一點變革。最重要的是,我喜歡和這麼多有才華的人一起工作。

OpenAI 總裁、董事會主席 Greg Brockman 宣佈辭職,他表示對董事會的決定感到震驚和難過。

OpenAI 三名高級研究人員於當地時間週五晚辭職。

當地時間 11 月 18 日週六

Sam Altman 告訴投資者,他計劃推出一家新的 AI 企業。Greg Brockman 預計將加入這一企業,該項目仍在開發中,目前尚不清楚該合資企業的確切性質。

OpenAI 董事會正在與 Altman 討論重返 CEO 崗位。他對迴歸感到「矛盾」,並希望對治理進行重大改變。

當地時間 11 月 19 日週日

Sam Altman 與 Greg Brockman 抵達 OpenAI 公司舊金山總部與高管們會面。

OpenAI 臨時 CEO Mira Murati 計劃重新聘請 Sam Altman 和 Greg Brockman,而同時,董事會成員仍在尋求一位新的 CEO。

OpenAI 董事會選擇聘請亞馬遜遊戲直播平台 Twitch 的前 CEO Emmett Shear 擔任首席執行官,Altman 迴歸失敗。

得知 Altman 不會迴歸,數十名 OpenAI 員工在內部宣佈他們將退出公司。

微軟 CEO Satya Nadella 宣佈:OpenAI 創始人 Sam Altman 和 Greg Brockman 及其同事們將加入微軟,領導一個新的高級人工智能研究團隊。
當地時間 11 月 20 日

710 多名 OpenAI 員工要求董事會辭職,否則可能集體投奔微軟

未完待續……


資料來源:愛範兒(ifanr)

如果喜歡我們的文章,請即分享到︰

標籤: OpenAI  ChatGPT