在聖塔菲研究所替人類失敗命名

這幾天泡在聖塔菲研究所（Santa Fe Institute），實在是過癮極了。這次比較趕一點，出門前才在查聖塔菲在哪裡，原來在墨西哥州，然後在曼哈頓計劃的 Los Alamos 旁邊，也在絕命毒師的阿布奎基旁邊。這邊的房子叫做 Adobe House，原來 Adobe 是泥磚屋的意思！就是紅紅的邊緣導圓角泥屋。

所以這個禮拜都在 Adobe House 裡與一群世界上好聰明的傢伙們聊天。而且他們可以容許我腳上長蟲，在旁邊的帶輪辦公椅上或門旁邊怡然自得的扭來扭去，實在太好了。

真的是出門前才在看與會者名單，即使我是一個有自信的混蛋，這幾年不太有冒牌者症候群，但看到名單還是嚇到吃手收，怎麼都是我喜歡的書的作者。不過一定是老天爺有眼，嚇到一下子，忽然在某個文章看到說——如果我是房間裡最笨的人，那我就是最過癮的人！

聖塔菲研究所是研究複雜系統名聞遐邇的機構，這次是用不同社會尺度討論 AI 到底可以怎麼辦，前半場有 OpenAI、DeepMind 贊助，後半場維持獨立性，大公司退場。

參與者有科幻小說家、電腦科學家、科學哲學教授、人類學者、複雜科學家（即使我聽了很過癮，但我還是不知道複雜科學的定義）、經濟學者、工程師、網路法學巨擘、宗座社科院的學士、一些重要NGO的人、美國最大的工會政策主任等等。

討論的議題也是五花八門，包含 AI 與陰謀論之間的關係、知識生產制度何去何從、大學的採購制度怎麼辦（太對味了，這牽涉到 AI token 的躉購（Ｘ）），因為是 Chatham House Rule，而且我腦子只記得住暴論，所以紀錄一些很有趣的瘋狂點子。

席間有人提出，如果大 AI 公司出了史諾登，他想要吹哨，發現內部太邪惡了，他有海量的資料，而且窮盡努力也無法回天，我們該如何在外面協助他。

這個討論是在大 AI 公司有代表還在的場子。但我懷疑這是極為聰明的二階操作，光是將這類想像植入內部治理，就有機會有效遏阻邪惡的路徑。

看到大 AI 公司的朋友，我想起了在公部門服務的左支右絀的尷尬狀態，不過他們顯然擁有一些霹靂的力矩，只有他們能在裡面撬動一些東西。

另一個討論也非常有趣，衍生自 IEEE 大大的引子，他說他是發明 CRM 的人們之一，然後他花了幾十年在懺悔這件事。他說有很多壞事，到很後面才有人終於為其命名。有了名字，才有處理問題的條件。

所以他建議大家進入「推測設計」的狀態，想想如果人類失敗了，到底會敗在哪些難以言喻的狀態，然後強迫我們為這些狀態命名。我取了一個 Agentic Grid Collapse，就如同許多區域大規模閃崩停電仍然找不到原因，Agent 在每一個週期的集體降智，只會持續下探挑戰醫療、金融、國安服務的崩潰底線。

討論時，一定是我的口音問題，宗座學者聽成 Agentic Greed Collapse，自然而然地引用教宗最新潮的通諭「Magnifica Humanitas」，討論權力的私有化。

這是我最喜歡的討論過程之一。

另一個關於高教未來的討論，有一個朋友提出很棒的觀點，我過去真的沒有想過。他以 essay writing 為例，說學會規則很簡單，真正鍛鍊很困難。如果交作業用 AI，就只是搞懂了規則，實際上沒有鍛鍊到。這樣實質上沒有學到東西。所以用 AI 生產垃圾論文，也是一種滿足規則的遊戲，這將會讓論文掛名不再有用。

這可以衍生成，如果你一直停留在焦慮的階段，實質上是沒學到東西的，只是對於規則的改變感到迷惑，甚至連 hack 規則都算不上；但真正的正道，要實質上痛苦，才會有所得。Skin in the game。

我最近的案頭語是「誠實的面對自己」。

有沒有真的學到東西、貢獻社會，自己最清楚，欺騙自己容易，抄捷徑容易，但實際上會喪失很多真正的東西。（善哉善哉）

最後是原來美國的工會聯合會的力量比我想像中的強大，我學到很多工會聯合體的集體談判權與行動方案。這不禁讓我想到一本封面是打卡紙的書，裡面寫到，左派是不是該醞釀數十年，擁有自己的「朝聖山學社」（Mont Pelerin Society, MPS），新自由主義的濫觴。

中間有一個故事是，過去工人在美國通用汽車罷工時，有一個人按下關停的按鈕，他說按下去的瞬間他才真正感受到，原來他才是人類，機器是機器。

過程中我一直很納悶，這些參與者怎麼有可能空出一個禮拜，不都是超級忙人。後來頓悟了，原來空出一個禮拜就是目的本身，如果不知道這些人是誰，很可能會以為這只是另一個空想大會（想到狸貓之前一直提到的美國淨評估辦公室），但如果他們能帶回去自己的組織，還真的可能有深遠影響，這大概就是 SFI 一直舉辦具有言說式傳統的密集討論會的原因吧。