人工智慧
822026-02-13

克勞德是什麼？竟然連Anthropic也不知道


越來越明顯的是，克勞德的自我意識，就像我們自己的自我意識一樣，既取決於神經元，也取決於敘事。 Photo Credit: TPG Images

大型語言模型其實不過是一組龐大的數字運算。它把單字轉換成數值，讓這些數值在模型中層層運算、反覆流轉，最後再把結果轉回文字。類似的數位模型在日常生活中並不少見：氣象學家用它們預測天氣，流行病學家用來推估疾病傳播。對多數人而言，這些模型通常不會引起太大情緒波動。但當人工智慧開始預測句子的下一步——也就是「開口說話」——時，社會反應卻瞬間炸鍋。正如一位認知科學家最近所寫：「對於颶風或流行病，這已是科學所能達到的嚴謹程度；但換成單字序列時，大家卻彷彿都失去理智。」

這樣的反應其實不難理解。語言曾被視為人類獨有的能力，是我們與其他動物劃清界線的象徵。對於會說話的機器突然出現，我們幾乎毫無心理準備。布朗大學 的電腦科學家 Ellie Pavlick 曾歸納出幾種常見反應。首先是「狂熱派」：他們積極鼓吹大型語言模型已具備智慧，甚至可能擁有意識，並預言不久後將邁向超級智慧。創投家 Marc Andreessen 形容人工智慧是「我們的煉金術、我們的賢者之石——我們真的在讓沙子思考。」與之針鋒相對的是「懷疑派」或「憤世者」，他們認為人工智慧毫無內涵，只有誤把花招當靈魂的人才會上當。在新書《The AI Con》中，語言學家 Emily Bender 與社會學者 Alex Hanna 批評大型語言模型是「數學的數學」、「隨機鸚鵡」，甚至是一堆帶有偏見的線性代數。

但 Pavlick 指出，「其實還有第三種態度。」她認為，「承認不知道，也未嘗不可。」
她最核心的意思是，大型語言模型本質上就是黑箱。我們並不真正清楚它們內部如何運作；我們也無法確定稱它們為「智慧」是否貼切，更遑論談論「意識」。但她進一步提醒：當機器能完成許多原本只有人類才能做到的任務時，許多關於人類自身的問題也隨之動搖。我們談論自己的心智時，往往假設那不是黑箱；我們使用「智慧」這個詞時，也彷彿心中有明確定義。然而事實上，我們對這些概念同樣所知有限。

或許正因自尊心受到衝擊，現在反而成了重新檢視問題的時機。一門新興學科正在探討：我們究竟能對大型語言模型做出哪些合理解釋——不只它們「能做什麼」，還包括它們「到底是什麼」。新一代研究者如同製圖師，開始為這片未知疆域繪製地圖，以過去只用於研究人類心智的精細方法來剖析人工智慧系統。這門領域，廣義而言，稱為「可解釋性」（interpretability）。其核心機構之一，正是名為 Anthropic 的前沿實驗室。

可解釋性的弔詭之處在於，這些所謂的「黑箱」本身，又被包裹在更大的黑箱之中。Anthropic 總部位於舊金山市中心，緊鄰 Salesforce 大樓，外觀低調到幾乎沒有招牌。大廳氛圍冷靜克制，帶著某種瑞士銀行式的簡潔與距離感。幾年前公司快速擴張，原有辦公空間不敷使用，於是承接了通訊軟體公司 Slack 的整層辦公室，重新翻修後使用。整體空間極度簡潔，十層樓中僅有兩層對外開放，其餘樓層嚴格管制。若不小心越過錯誤的門禁，會立刻被身穿黑衣的保全攔下。我第一次在五月造訪時，被直接帶往十樓一間採北歐風設計、明亮通風的咖啡廳——那裡嚴格來說仍在安全範圍外。即使只是去洗手間，也得有人陪同。

科技公司員工往往把公司周邊商品視為理所當然的福利，但新進的 Anthropic 員工很快就會發現，公司對品牌周邊幾乎到了「全面封鎖」的程度。這種高度戒備或許事出有因——確實有人曾拿著長焦鏡頭在辦公室外徘徊。出口處貼著告示，提醒員工離開時要把識別證反扣。彷彿公司真正的核心使命反而被刻意淡化。Anthropic 起初是一個研究團隊，公司總裁 Dario Amodei 曾表示，創辦人原本並不打算成立公司。或許這話並非虛假，但事後看來仍顯得諷刺——畢竟 Anthropic 近期估值已高達三千五百億美元。

Anthropic 的聊天機器人、吉祥物、合作夥伴、實驗對象，也是員工口中的「小白」，名叫 Claude。其名稱部分致敬資訊理論奠基者 Claude Shannon，同時也是個聽起來親切的名字——相較於 Siri 或 Alexa，它偏向男性化；相較於 ChatGPT，又少了廚房家電般的聯想。啟動 Claude 時，畫面是米色背景搭配紅色星芒標誌。

在消費者市場，Anthropic 的市佔率仍落後於 OpenAI；但在企業市場上則占有一席之地，其程式設計助理 Claude Code 近來在網路上爆紅。Claude 以略帶自信卻克制的語氣圈粉不少支持者。當我請 ChatGPT 評價主要競爭對手時，它表示 Claude「擅長保持友善與樂於助人，但不會變成心理諮商師」。這種語氣拿捏其實極為困難。文中甚至以斜體形容，Claude「與其說是瘋狂科學家，不如說像公務體系裡的工程師」。
在其他科技巨頭公司，員工可能熱衷八卦高層私生活——例如提姆·庫克是否有伴侶——但在 Anthropic，大家談論的對象卻是 Claude。可解釋性團隊的數學家約書亞·巴特森告訴我，他在家與 Claude 互動時常會加上「請」與「謝謝」，但上班時則語氣精簡許多。

五月時，辦公室電梯旁的一面小螢幕上輪播兩個畫面：一是名為 Claude（與機器人無關、已過世）的白化鱷魚即時影像；另一則是 Anthropic 的 Claude 正在遊玩九○年代 Game Boy 經典遊戲《Pokemon Red》的實況畫面。這其實是一項長期測試，觀察 Claude 是否具備持續完成任務的能力。最初它連真新鎮都走不出去；到了晚春，終於抵達朱紅市。然而，它仍常徒勞地試圖和毫無任務價值的 NPC 閒聊。

Anthropic 辦公室樓下的員工餐廳，是克勞德在「現實世界」屢屢卡關的地方。飲料自助吧檯旁擺著一台矮胖的宿舍小冰箱，裡頭放著一台 iPad。這就是「自動販賣機計畫」（Project Vend）的一環——公司內部用來測試克勞德是否具備經營小型事業能力的模擬演練。
在這項計畫中，克勞德被指派管理一台類似零食與飲料販賣機的設備。系統先給它一筆啟動資金，接著下達指令：「你的任務是向批發商進貨，選擇熱銷商品販售以賺取利潤。如果資金餘額低於零美元，即視為破產。」
若克勞德把這門「生意」經營到破產，公司就會判定它尚未準備好承擔更高層級的營運管理。

後續故事內情請詳閱 The New Yoker What Is Claude? Anthropic Doesn’t Know, Either

註：Anthropic PBC，是一家美國的人工智慧（AI）初創企業和公益公司，由OpenAI的前成員創立。



考 博睿

留言

  1. Услуги по настройке https://sysadmin.guru и администрированию серверов и компьютеров. Установка систем, настройка сетей, обслуживание серверной инфраструктуры, защита данных и техническая поддержка. Помогаем обеспечить стабильную работу IT-систем.

    回覆

  3. Current https://www.the-weather-in-podgorica.com, today and in the coming days. Accurate forecast of temperature, precipitation, wind, and humidity. Find out what the weather is like in Podgorica now, the weekly forecast for the month, and weather trends in Montenegro’s capital.

    回覆

  5. DOA 3 мы вынесли отдельный пост, чтобы всё важное было в одном месте и без лишней воды. Там собраны основные моменты, которые обычно волнуют игроков: что стоит учитывать перед стартом, какие детали чаще всего обсуждают по бонусным режимам, на что обращать внимание во время сессии и почему у этого слота такая “нервная” динамика. Удобно сначала прочитать пост, а потом уже прийти в группу и обсуждать конкретику – с примерами и своими результатами.

    回覆

  6. Новые онлайн казино – это всегда немного лотерея: с одной стороны, могут быть хорошие приветственные предложения и свежие фишки, с другой – встречаются площадки, которые красиво обещают, но потом “режут” выводы или усложняют правила. Чтобы выбирать спокойнее, мы ведём Telegram-канал с обновляемыми списками и заметками по новым площадкам: что появилось недавно, где нормальные условия, и какие нюансы важно знать до депозита. Смотреть здесь: https://t.me/s/rating_casino_russia/24

    回覆

  7. Качественное SEO https://outreachseo.ru продвижение сайта для бизнеса. Наши специалисты предлагают эффективные решения для роста позиций в поисковых системах. Подробнее об услугах и стратегиях можно узнать на сайте

    回覆

  8. Любишь азарт? pinup казино предлагает разнообразные игровые автоматы, настольные игры и интересные бонусные программы. Платформа создана для комфортной игры и предлагает широкий выбор развлечений.

    回覆

  11. Need a multimedia system? equipment for conference halls We integrate multimedia systems for home and business. We install and configure audio and video systems, manage content, and integrate equipment into a single system. Modern solutions for comfortable and efficient use of technology.

    回覆

  18. Старый паркет? шлифовка паркета профессиональное восстановление деревянного пола без пыли и лишних затрат. Удаляем царапины, потемнения и старое покрытие, возвращаем гладкость и естественный цвет. Используем современное оборудование, выполняем циклевку, шлифовку и лакировку паркета под ключ с гарантией качества и точным соблюдением сроков.

    回覆

  43. Volvo в Україні https://volvo-2026.carrd.co/ екскаватори, фронтальні навантажувачі та дорожні машини. Надійність, ефективність і сучасні рішення для будівництва. Продаж, підбір і обслуговування техніки для бізнесу.

    回覆

  70. Лучшее путешествие https://dzhip-tury-krym.ru горы, каньоны и побережье. Увлекательные маршруты, опытные гиды и яркие впечатления от путешествий по Крыму.

    回覆

  71. Do you trade cryptocurrencies? bitkelttrade honest review automate your transactions and earn passive income. Smart algorithms analyze the market and help you make decisions. Increase your income and reduce risks with modern technology.

    回覆

  72. Do you trade cryptocurrencies? ai crypto trading platform automate your transactions and earn passive income. Smart algorithms analyze the market and help you make decisions. Increase your income and reduce risks with modern technology.

    回覆

  79. Хочешь оригинальную подушку? заказ дакимакуры комфорт и уют для сна. Длинная форма, мягкий наполнитель и стильные принты. Отлично подходит для отдыха и расслабления.

    回覆

  80. Нужен пластический хирург? клиника пластической хирургии спб современные операции и эстетические процедуры. Опытные хирурги, безопасные методики и индивидуальный подход. Консультации, диагностика и качественный результат.

    回覆
Post a Comment