【臉書】繪圖AI模組化帶來的明星與信任危機小記

背景

變革性技術的必然悲劇

E. O. Wilson 對人類社會有精準的描述：「paleolithicemotions, medieval institutions, and god-like technology」（舊石器時代的情緒，中世紀的機構制度，和如上帝般的科技）

AI 發展速度快到各種壞事的條件已經齊備，變化以日為單位，猜測數日內會有無法挽回的悲劇發生，且我們無法預防。

觀察

最近繪圖 AI 引起轟動並不是因為技術產生奇點式的發展，而是模組化工具成熟。

隨便舉一個例子，18 禁。稍微具有良知的算圖平台平時會把 NSFW 的任何 Prompt 遮蔽，但現在你只要去 GitHub 下載安裝單機版就可以享受 Stable Diffusion 的威能。這還不打緊，你還可以去 CiviTai 下載各種「優化」模組，添上你特別喜歡的類別，比如 Cosplay 辣妹。

最令人害怕的事情來了，除了優化模組，你還可以安裝特定的「皮膚」，讓特定明星的身姿或臉孔，出現在圖片上面。目前已經有許多明星模組供人下載使用。（包含台灣名模網紅等）

由於實在太方便了（你甚至不需要會基礎的程式能力），接下來會發生什麼事顯而易見。特定明星即將被套用在各種性癖的怪奇圖片上面，而且製作者所需要花費的成本幾乎為零。

想法

「某網紅因粉絲散播仿造獵奇猥褻照片而告別直播事業」類似的新聞必然會發生，因為最大量的「臉孔」素材，不是明星就是重度網路演藝者。類似的前例是使用 Deepfake 技術的屁孩 YouTuber，因為亂合成名人的臉與 A 片的身體被抓去關。但這次可能會更嚴重，因為想像力就是人類的超能力。

色情還好，那仇恨圖片呢，黑人槍殺白人的圖片，或相反；男人痛毆女人的圖片，或相反；美軍槍殺穆斯林？或相反？你說封鎖犯罪圖片使用者的伺服器，也可以與社群平台合作封禁被檢舉人，那如果我放上分散式儲存服務如 IPFS呢？

變革性技術的出現很有可能割裂人類對技術的信任，或對其他人類的信任。這次全有賴於 AI 工具的可堆疊性，人類文明的進步源自於使用上一個天才的發明，悲劇也有可能誕生於此，而且沒有人可以負全責，畢竟這次是協作的共業。

高潮與張力到了盡頭會發生什麼事誰也不知道，與其打造 CP 值低到爆的 ChatGPT 台灣國家隊，是不是該投資人文社會專業人才，以集體智慧（Collective Intelligence, CI）防止人工智慧（AI）的悲劇誕生呢？

會這樣說是因為我完全無法想像該如何制定 AI 壞心防治方法，但人文社會領域總有辦法吧。