直擊Anthropic！解密人工智慧黑盒子秘辛

一家人工智慧公司的研究人員正試圖理解他們所發明的人工智慧在「想什麼」——他們檢視其神經元，對它進行類似心理學的實驗，甚至讓它接受「心理治療」。

_{Illustration by Timo Lenzen}

在舊金山一家人工智慧研究公司 Anthropic * 的員工餐廳裡，擺著一台由聊天機器人操控的自動販賣機。這個機器人名叫克勞迪烏斯，負責管理販賣機的庫存並設法獲利。Anthropic 的員工並沒有讓克勞迪烏斯太好過；他們以各種惡作劇式的需求來「整」它，例如要求它進貨中古世紀刀劍、違禁品冰毒，甚至是可食用的瀏覽器餅乾。不過，就算沒有這些刻意的干擾，克勞迪烏斯對一些最基本的商業邏輯仍然難以掌握：例如，員工還得特地告訴它，既然餐廳其他地方可以免費拿到零熱量可樂，它幾乎不可能賣出多少零熱量可樂。

惡搞一台由人工智慧操控的自動販賣機，聽起來或許無關緊要。但 Anthropic——這家由一群憤而離開 OpenAI 的成員所創立、估值高達三千五百億美元的公司——卻是「可解釋性」研究領域最具代表性的實驗室之一。所謂可解釋性，本質上是在探討我們究竟知道、以及不知道多少人工智慧實際運作的方式。（這台自動販賣機的「沙皇」克勞迪烏斯，其實是 Anthropic 聊天機器人克勞德的延伸版本。）在雜誌中 Gideon Lewis-Kraus 深入這家公司，訪問了數十位員工，探討人工智慧領域這個核心議題。本週稍早，我透過電話訪問了他，請他分享所見所聞。

以下對話已經過編輯與節錄

我們來談談這台自動販賣機，它算是一種隱喻嗎？

自動販賣機確實是一種隱喻，因為它本身就是一個初步實驗：克勞德是否有能力經營一家小型企業？如今人們談論著這樣一個未來：一家市值十億美元的公司，可能只有一名員工，甚至完全沒有員工。
但這個計畫最吸引我的地方在於，它對 Anthropic 的員工來說還有更深一層的意義：這是一個觀察自己所創造之物本質、並反覆測試與折騰它的機會。我們平常談到人工智慧時，往往帶著敬畏，甚至某種宿命論——它多麼強大、多麼無所不能。我想呈現的是，對於實際打造這些模型的人而言，那種敬畏感並沒有那麼強烈。更多時候，是一種帶點混亂的認知：這些東西既古怪又有趣，值得反覆實驗、拆解與挑戰。員工會想：我們創造了這個系統，但我們其實並不完全理解它能做什麼、為什麼能做到。因此，我們乾脆讓它試著販售冰毒或中世紀武器。

從某種角度來看，他們是在努力釐清自己究竟打造出什麼樣的東西，這並不是在開玩笑。

這絕對不是玩笑！雖然過程充滿趣味，但背後的風險其實不低。Anthropic 的主要客戶多半是企業用戶，他們必須清楚掌握自己所販售產品的能力與限制。

你深入公司內部採訪調查，請談談你的觀察。

一開始，我對那種圍繞企業內部權力鬥爭的陰謀論敘事並不感興趣。我想做的是偏技術層面的報導：探討我們對這些系統運作方式究竟理解到什麼程度，以及我們存在哪些知識盲區。我並不特別在意和高階主管對談——我真正想關注的是第一線的研究人員。
我喜歡寫那種出現語言斷裂的故事——彷彿我們卡在某種話語的死巷裡，一再重複同樣的辯論；每一方都覺得，只要這一次、只要他們的團隊聲量再大一點，就能說服對方。在人工智慧的討論中，人們經常各說各話。我想像的是，如果一開始就承認雙方都帶著不確定性，那會是什麼感覺？如果我們從「我們真的不知道，但可以確定的是，不論結果如何都會非常奇特」這個前提出發，又會帶來什麼不同？
「可解釋性」指的是那些對聊天機器人進行開放式實證研究的研究者；他們試圖釐清，我們究竟能對這些系統提出哪些有根據的判斷。雖然全球各地都有團隊投入這項工作，但若要說哪個機構最有系統地推進這項研究，無疑是 Anthropic。

他們是適合承擔這項任務的角色嗎？你如何看待這家公司在整個局勢中的定位？

除了極少數例外，我接觸到的員工大多相當正直，也確實在認真思考這些關鍵問題。在布魯克林文學圈這樣相對封閉的文化圈裡，人們常以為從事人工智慧產業的人不太在意倫理議題。但事實並非如此——相信我，他們不僅持續思索這些問題，而且思考的層次與複雜度，往往超出外界的想像。
我的直覺是，各家實驗室的一般研究人員其實相差不大，真正的差異多半體現在管理層的決策與風格上。研究人員終究是研究人員。大家之所以投入這些研究，是因為其中蘊含的科學與哲學問題實在太迷人。至於實驗室之間的巨大差異，也許可以用一句義大利諺語來形容：魚若腐爛，必先從頭開始。

閱讀故事內容請詳閱 The New Yoker What Is Claude? Anthropic Doesn’t Know, Either

_{＊註：Anthropic PBC，是一家美國的人工智慧（AI）初創企業和公益公司，由OpenAI的前成員創立。}