兩個 Anthropics 的故事

(SeaPRwire) –   我週三在倫敦東區一個擠滿開發者的活動空間度過。這次活動是 Code w/ Claude：Anthropic 在歐洲首次舉辦的開發者專場活動。這感覺就像是該公司的一場慶功宴，據報導該公司目前的融資估值為 9000 億美元——如果屬實，這個數字將超過其主要競爭對手 OpenAI。Anthropic 崛起的背後是本週湧入倫敦會場的開發者們，他們享用了免費的午餐和晚餐，並獲得了贈送的迷你電腦。這些重度用戶在 Claude 上的花費遠超普通人。換句話說，他們是 Anthropic 的生命線，而該公司有動力讓他們不斷回訪。

在一天的兩場主題演講中，Anthropic 的高管們詳細介紹了編碼人員如何最好地利用 AI 來提高生產力。房間裡的氣氛幾乎是毫無保留的熱情。Claude Code 的創作者 Boris Cherny 宣稱，AI 幫助他重新找回了最初讓他用學校計算機編程時感受到的魔法。我遇到的開發者們談論著電腦編程的文藝復興，機會多於可以利用它們的人。

這一天描繪了 Anthropic 作為一家產品公司的形象。很少談論 Anthropic 在其他地方一直大聲疾呼的風險。在舞台上，Anthropic 的員工們暗示著 AI 的持續進步——展示了許多向上向右的圖表——但主要是為了鼓勵開發者利用 Claude Code 的眾多功能，而不是為了減輕風險。當一位 Anthropic 研究員問有多少人曾在使用 Claude 編寫的代碼而未經閱讀就發布時，令人驚訝的數字舉起了手。“這是一場危險的遊戲，”他說，引來了緊張的笑聲。然後他迅速轉向討論開發者如何從 Claude 中獲得最大收益。

週四的經歷則截然不同。我搭火車前往牛津大學，Anthropic 的聯合創始人 Jack Clark 將在那裡發表講座。Clark 是一個引人入勝的人物。他多年來的大部分工作都涉及衡量，然後警告 AI 進步的速度及其伴隨的許多風險。這次講座也不例外。他說 AI 對殺死地球上的每一個人構成了“非零”的可能性，並警告說，即使避免了這種全面危機，未來幾年也將比我們記憶中的任何時期都充滿更多的顛覆。

Clark 預測，到 2028 年，或者更早，AI 將達到“遞歸自我改進”，或者獲得自我改進的能力——從而導致一個不可預測的未來。“我們從未遇到過一種具有這種特性的技術，它可以在沒有人類的情況下製造出更好的版本，”他說。Clark 說，世界上大多數人對當前 AI 模型的能力“視而不見”，更不用說未來六個月將出現的模型了。

很容易——而且令人安慰——將此視為一位億萬富翁高管為了自身利益而推銷自己的技術。但另一種解讀這次講座，以及 Anthropic 作為一家公司的大部分工作的方式是，這是來自最接近這種奇特新技術並能看到其發展方向的人的警告。今年 4 月 Claude Mythos 的問世——Anthropic 最新的模型，擁有國家級別的網絡攻擊能力——表明 Anthropic 過去的許多預測都是正確的，他們預測的未來在某種意義上已經到來。該模型非常強大，以至於 Anthropic 決定不公開發布它，而是給予一小部分公司和政府訪問權限，以便修補世界上最常用的軟件中的漏洞。

Clark 說，即使是 Anthropic 自己也低估了 AI 進步的規模和速度。他說，當 Mythos 完成訓練時，“我們當時想，‘哦，它來了！它來得比我們想像的要快！而且我們的準備不足。’”

Anthropic 對政策制定者和開發者的說法不同，這既不邪惡，也不令人驚訝。公司總是根據不同的群體量身定制信息，而且 Anthropic 一直公開談論 AI 的風險，而其他公司則選擇保持沉默。儘管如此，如此近距離地體驗這兩種不同的敘事，讓我產生了一種深刻的眩暈感。一方面，Anthropic 有一個可信的說法，它掌握著可能是史上最強大技術的鑰匙，同時又承擔著向政府和社會警告這一不便事實的責任。另一方面，它仍然是一家普通的軟件公司，依賴於那些穿著連帽衫和牛仔褲、喜怒無常的開發者的意願。

如果 Clark 是對的，那麼這個時代的任何事物都不會長久。Anthropic 目前如此依賴的開發者將發現自己比說出“遞歸自我改進”的速度更快地被機器取代。也許這就是為什麼他的預測沒有出現在週三的主題演講中。