一套新的準則旨在使聊天機器人克勞德變得睿智、正直和安全。這也標誌著公共責任從憲政政府向私人科技公司發生了顯著的轉移。
安特羅皮克公司今年冬天發布的這份憲法，無論從法律、政治，甚至傳統意義上講，都算不上是憲法。圖：Ben Hickey
「除非你能非常確定它長大後不會想要殺了你，否則你就應該擔心，」 78歲的諾貝爾獎得主、人工智能之父杰弗裡·辛頓去年在接受哥倫比亞廣播公司（CBS）採訪時說道。嚴格來說，這並非育兒建議，而是對即將到來的人工智慧末日發出的警告。接著他想到一個主意：如果人工智慧不是我們的孩子，不是裹在鈦合金外骨骼裡的迷你終結者T-600呢？如果我們才是它的孩子呢？ 「母親真心關懷自己的孩子，」辛頓在接受美國有線電視新聞網（CNN）採訪時說道，彷彿對人類的這份善意感到有些驚訝。因此，如果科技公司能夠賦予人工智慧母性本能，或許就能阻止它們毀滅人類。 「我們需要讓它們對我們產生同理心，」辛頓呼籲。
辛頓的「母親」概念招致了不少批評—— 《財富》雜誌評論道：「佛洛伊德要是知道了，肯定會想說幾句。」— 尤其來自女權主義者，這在很大程度上是因為，在一個似乎既鄙視女性又鄙視嬰兒的科技界，很難讓人接受這種對母愛的矯造作的感傷。但辛頓一直堅持己見，他最近告訴一位加拿大採訪者，人工智能不應該是你的老闆或助手，而應該成為你的母親，因為“如果有可能開發出一種人工智能，讓它比關心自己更關心我們，那麼如果我們因為沒有嘗試而滅絕，那就太愚蠢了。”
今年一月，Anthropic公司發布了一套聊天機器人Claude的道德準則，這套準則主要由一位名叫Amanda Askell的37歲蘇格蘭哲學家撰寫，引發了截然不同的反響。 「聊天機器人沒有母親，但如果它們有的話，Claude的母親就是Amanda Askell，」Vox網站報導。這番話原本可能讓人難以接受，但Askell本人卻將訓練大型語言模式比喻為「父母教養孩子」。她正在進行一項嚴肅而引人入勝的道德哲學實驗。你希望他們善良，所以用好的價值觀來培養他們，然後讓他們走向世界，並希望他們能按照這些價值觀行事。但阿斯克爾也特意指出，人智軟體對克勞德的影響“遠超父母”，並表示訓練一個大型語言模型最終並不像養育孩子那樣。例如，他指出，「孩子們天生好奇，但對於模型，你可能需要告訴他們，『我們認為你應該重視好奇心。』」我們也認為你不應該殺了我們。如果不太麻煩的話。
這些被稱為「克勞德憲法」的準則出台之際，正值人工智慧和憲政民主面臨嚴峻考驗之時。在許多人看來，前者似乎過於強大，後者則過於軟弱。去年，當被問及是否有義務「維護憲法」時，唐納德·川普總統回答：「我不知道。」克勞德則更加配合。 「我們認為，到2026年，一個切實可行的目標是訓練克勞德，使其幾乎從不違背其憲法的精神。」Anthropic公司執行長達裡奧·阿莫迪在今年冬天宣布。然而，就在幾週後，川普禁止美國政府使用Anthropic公司的人工智慧，因為阿莫迪拒絕解除禁止克勞德對美國公民進行大規模監控和發射全自動武器的倫理限制。 （在發布禁令數小時後，川普下令轟炸伊朗，由於逐步淘汰伊朗核武需要數月時間，因此這次行動是在克勞德的協助下進行的。）也就是說，安特羅皮克公司拒絕指示克勞德違反其章程，以便該公司能夠避免政府的禁令，一些法律專家認為，該禁令違反了美國憲法。
原文摘自 紐約客The New Yorker Does A.I. Need a Constitution?
