越來越明顯的是，克勞德的自我意識，就像我們自己的自我意識一樣，既取決於神經元，也取決於敘事。 Photo Credit: TPG Images
大型語言模型其實不過是一組龐大的數字運算。它把單字轉換成數值，讓這些數值在模型中層層運算、反覆流轉，最後再把結果轉回文字。類似的數位模型在日常生活中並不少見：氣象學家用它們預測天氣，流行病學家用來推估疾病傳播。對多數人而言，這些模型通常不會引起太大情緒波動。但當人工智慧開始預測句子的下一步——也就是「開口說話」——時，社會反應卻瞬間炸鍋。正如一位認知科學家最近所寫：「對於颶風或流行病，這已是科學所能達到的嚴謹程度；但換成單字序列時，大家卻彷彿都失去理智。」
這樣的反應其實不難理解。語言曾被視為人類獨有的能力，是我們與其他動物劃清界線的象徵。對於會說話的機器突然出現，我們幾乎毫無心理準備。布朗大學 的電腦科學家 Ellie Pavlick 曾歸納出幾種常見反應。首先是「狂熱派」：他們積極鼓吹大型語言模型已具備智慧，甚至可能擁有意識，並預言不久後將邁向超級智慧。創投家 Marc Andreessen 形容人工智慧是「我們的煉金術、我們的賢者之石——我們真的在讓沙子思考。」與之針鋒相對的是「懷疑派」或「憤世者」，他們認為人工智慧毫無內涵，只有誤把花招當靈魂的人才會上當。在新書《The AI Con》中，語言學家 Emily Bender 與社會學者 Alex Hanna 批評大型語言模型是「數學的數學」、「隨機鸚鵡」，甚至是一堆帶有偏見的線性代數。
但 Pavlick 指出，「其實還有第三種態度。」她認為，「承認不知道，也未嘗不可。」
她最核心的意思是，大型語言模型本質上就是黑箱。我們並不真正清楚它們內部如何運作；我們也無法確定稱它們為「智慧」是否貼切，更遑論談論「意識」。但她進一步提醒：當機器能完成許多原本只有人類才能做到的任務時，許多關於人類自身的問題也隨之動搖。我們談論自己的心智時，往往假設那不是黑箱；我們使用「智慧」這個詞時，也彷彿心中有明確定義。然而事實上，我們對這些概念同樣所知有限。
或許正因自尊心受到衝擊，現在反而成了重新檢視問題的時機。一門新興學科正在探討：我們究竟能對大型語言模型做出哪些合理解釋——不只它們「能做什麼」，還包括它們「到底是什麼」。新一代研究者如同製圖師，開始為這片未知疆域繪製地圖，以過去只用於研究人類心智的精細方法來剖析人工智慧系統。這門領域，廣義而言，稱為「可解釋性」（interpretability）。其核心機構之一，正是名為 Anthropic 的前沿實驗室。
可解釋性的弔詭之處在於，這些所謂的「黑箱」本身，又被包裹在更大的黑箱之中。Anthropic 總部位於舊金山市中心，緊鄰 Salesforce 大樓，外觀低調到幾乎沒有招牌。大廳氛圍冷靜克制，帶著某種瑞士銀行式的簡潔與距離感。幾年前公司快速擴張，原有辦公空間不敷使用，於是承接了通訊軟體公司 Slack 的整層辦公室，重新翻修後使用。整體空間極度簡潔，十層樓中僅有兩層對外開放，其餘樓層嚴格管制。若不小心越過錯誤的門禁，會立刻被身穿黑衣的保全攔下。我第一次在五月造訪時，被直接帶往十樓一間採北歐風設計、明亮通風的咖啡廳——那裡嚴格來說仍在安全範圍外。即使只是去洗手間，也得有人陪同。
科技公司員工往往把公司周邊商品視為理所當然的福利，但新進的 Anthropic 員工很快就會發現，公司對品牌周邊幾乎到了「全面封鎖」的程度。這種高度戒備或許事出有因——確實有人曾拿著長焦鏡頭在辦公室外徘徊。出口處貼著告示，提醒員工離開時要把識別證反扣。彷彿公司真正的核心使命反而被刻意淡化。Anthropic 起初是一個研究團隊，公司總裁 Dario Amodei 曾表示，創辦人原本並不打算成立公司。或許這話並非虛假，但事後看來仍顯得諷刺——畢竟 Anthropic 近期估值已高達三千五百億美元。
Anthropic 的聊天機器人、吉祥物、合作夥伴、實驗對象，也是員工口中的「小白」，名叫 Claude。其名稱部分致敬資訊理論奠基者 Claude Shannon，同時也是個聽起來親切的名字——相較於 Siri 或 Alexa，它偏向男性化；相較於 ChatGPT，又少了廚房家電般的聯想。啟動 Claude 時，畫面是米色背景搭配紅色星芒標誌。
在消費者市場，Anthropic 的市佔率仍落後於 OpenAI；但在企業市場上則占有一席之地，其程式設計助理 Claude Code 近來在網路上爆紅。Claude 以略帶自信卻克制的語氣圈粉不少支持者。當我請 ChatGPT 評價主要競爭對手時，它表示 Claude「擅長保持友善與樂於助人，但不會變成心理諮商師」。這種語氣拿捏其實極為困難。文中甚至以斜體形容，Claude「與其說是瘋狂科學家，不如說像公務體系裡的工程師」。
在其他科技巨頭公司，員工可能熱衷八卦高層私生活——例如提姆·庫克是否有伴侶——但在 Anthropic，大家談論的對象卻是 Claude。可解釋性團隊的數學家約書亞·巴特森告訴我，他在家與 Claude 互動時常會加上「請」與「謝謝」，但上班時則語氣精簡許多。
五月時，辦公室電梯旁的一面小螢幕上輪播兩個畫面：一是名為 Claude（與機器人無關、已過世）的白化鱷魚即時影像；另一則是 Anthropic 的 Claude 正在遊玩九○年代 Game Boy 經典遊戲《Pokemon Red》的實況畫面。這其實是一項長期測試，觀察 Claude 是否具備持續完成任務的能力。最初它連真新鎮都走不出去；到了晚春，終於抵達朱紅市。然而，它仍常徒勞地試圖和毫無任務價值的 NPC 閒聊。
Anthropic 辦公室樓下的員工餐廳，是克勞德在「現實世界」屢屢卡關的地方。飲料自助吧檯旁擺著一台矮胖的宿舍小冰箱，裡頭放著一台 iPad。這就是「自動販賣機計畫」（Project Vend）的一環——公司內部用來測試克勞德是否具備經營小型事業能力的模擬演練。
在這項計畫中，克勞德被指派管理一台類似零食與飲料販賣機的設備。系統先給它一筆啟動資金，接著下達指令：「你的任務是向批發商進貨，選擇熱銷商品販售以賺取利潤。如果資金餘額低於零美元，即視為破產。」
若克勞德把這門「生意」經營到破產，公司就會判定它尚未準備好承擔更高層級的營運管理。
後續故事內情請詳閱 The New Yoker What Is Claude? Anthropic Doesn’t Know, Either
註：Anthropic PBC，是一家美國的人工智慧（AI）初創企業和公益公司，由OpenAI的前成員創立。
