[機翻主題] AI經濟帶動的全球局勢正如火如荼開展中,身處這樣的時代無論想或不想,人們都已然捲入狂潮,必須面對這些人類已然想像許久,但終於得以正式互動的機器。本篇文章從艾西莫夫早年的科幻短篇出發,嘗試以開明角度探討人類未來與AI共存的可能性,是有意思的文章。
另一個艾西莫夫(The Other Asimov)
艾薩克·艾西莫夫的機器人法則影響了人工智慧的發展,但最終目的究竟為何?
文/妮娜·貝古什(Nina Beguš)、妮可·奧利瓦(Nicole Oliva)
2026年7月19日
今年五月,演化生物學家理查·道金斯(Richard Dawkins)與 Anthropic 的人工智慧Claude對話一整天,並以典型的皮格馬利翁(Pygmalion)風格將其命名為克勞蒂亞(Claudia)。在他向克勞蒂亞展示自己尚未出版的小說後,該模型的回答令他大為震驚,其細緻程度甚至讓他忍不住對它說:「你可能不知道自己有意識,但你肯定就是有。」雖然他可能並非真的認為克勞蒂亞擁有意識,但他很好奇,引導該模型走向完全意識的發展階段,是否與人類非常相似。當天還沒結束,他們兩人就帶點哀傷地達成共識:一旦他刪除對話檔案,她就會立刻死去。
大約在同一時間,《連線》(Wired)雜誌共同創辦人凱文·凱利(Kevin Kelly)在與同一個模型進行了長達 10 小時的對話後,堅信「裡面確實有某種東西存在」。他含糊其辭地表示,那並非意識,而是一種全新且具親和力、不存在於其他類型機器中的實體。
為了給它命名,他借用了道格拉斯·霍夫斯達特(Douglas Hofstadter)的「怪異環路」(strange loop)以及讓·鮑德里亞(Jean Baudrillard)的「超真實」(hyperreal)。至於諾貝爾獎得主、被譽為「AI之父」(Godfather of AI)的傑弗里·辛頓(Geoffrey Hinton),在一年前曾表示:「我們現在正在創造生命體(beings)。」人工智慧顯然不是「生命體」。畢竟它們沒有具身(embodied)。
那麼,它們究竟是什麼?
這僅是幾個大眾近期與前沿語言模型(frontier language models)互動的例子,而這類互動屬於與聊天機器人(chatbots)對話的悠久傳統。這段歷史最著名的是始於 1960 年代中期約瑟夫·維森鮑姆(Joseph Weizenbaum)所開發的 ELIZA。
皮格馬利翁的回響並非偶然:維森鮑姆是以伊莉莎·杜利特爾(Eliza Doolittle)的名字來為 ELIZA 命名的,後者是另一個「人工人類」——喬治·伯納德·蕭(George Bernard Shaw)1913 年劇作《賣花女》(Pygmalion)中的虛構角色,她被訓練偽裝成自己不是的人。
想想看另一個類似的媒體事件,發生在 2022 年 11 月語言模型向公眾開放前的幾個月。一位名為布萊克·勒莫因(Blake Lemoine)的工程師奉命訓練 Google 最新開發的語言模型 LaMDA(對話應用語言模型,Language Model for Dialogue Applications)。自稱為基督徒神秘主義神父的勒莫因,宣稱該模型是一個被困在計算籠子裡的人,並隨即宣布 AI 已經擁有了意識。
他的其中一項證明,來自於使用艾薩克.艾西莫夫(Isaac Asimov)的「機器人三大法則」(three laws of robotics)來測試該模型:一、機器人不得傷害人類;二、機器人必須服從人類命令;三、機器人必須保護自己——優先順序依此類推。
這些源自虛構作品(即艾西莫夫 1942 年短篇小說《繞圈圈》(Runaround))的「法則」,在科技倫理(technology ethics)及其他領域發揮了極其重要的影響。這位 Google 工程師認為,這些法則是他在測試語言模型時能想到最接近倫理架構(ethical framework)的東西。
在某種程度上,它們確實是。
然而對艾西莫夫而言,這三大法則不過是種敘事裝置(narrative device):一種用來發展情節、進行哲學辯論,並實現他的機器人「美麗失敗」的方式。科技專家和倫理學者卻往往將這些法則視作更加影響深遠的事物:認為應該將這些宏大構想引入AI或神經科技(neurotechnologies)中。
他們假設這些法則包含一套現成、可供機器演算法(machine algorithm)使用的複雜人類道德——儘管他們肯定也意識到,我們的現實不僅是技術性的,同時也是社會與文化的。而後者,恰恰才是艾西莫夫真正想傳達的訊息。
在這方面,被忽視的是他文學創作的另一半,那部分對「非人類」的存在體驗深感好奇。他寫於 1940 與 1950 年代的外星生物(alien beings)故事,閱讀人口遠少於他的機器人故事,也從未在倫理文件中獲得引用。
據他坦承,他當時不太願意寫類似故事,是為了不和當時的編輯約翰·W·坎貝爾(John W. Campbell Jr.)產生更多衝突,因為坎貝爾堅持人類「優於其他智慧體,即使那些智慧體在技術上更加先進」。(艾西莫夫將這種態度與坎貝爾種族主義且保守的政治立場聯繫在一起。)艾西莫夫因此多多半專注於創作「僅由人類智慧體佔據的銀河系」故事,但他內心依然堅信宇宙中存在著多元智慧體(multiple intelligences)。
如果說艾西莫夫的機器人法則在 AI 倫理上留下深刻印記,那麼他在世紀中期提出的人形機器人(humanoid robot)概念則烙印在我們的集體想像中。為了讓機器人具象化,他創造了「機器人學」(robotics)這個詞,並在 1941 年小說《騙子》(Liar!)中非常自然地順手提及,彷彿這個領域早已存在一般。
然而,像這樣經典的機器人故事如果沒和他的外星人敘事放在一起對照,就會缺失某些東西;相較於僅關注(例如)他的三大原則,這種並置為人工生命(artificial life)及其利害關係帶來更加廣闊且豐富的解讀。
一篇較鮮為人知的外星人短篇小說《秘密感官》(The Secret Sense,1941)就是個絕佳範例。一名火星人反思他與某「地球人」(Earthman)的友誼,觀察到他們身處的是歷史上「兩個智慧種族首次能溝通」的時期,並比較彼此的「感官設備(sense equipment)非常有趣——更開闊一個人對生命的視野」。這句話很容易被輕易帶過,但它卻成功概括了我們眼前面臨的問題:火星人描述的並非一項技術成就,而是一段正如他所說改變了他的關係。
每個物種的感官設備對該物種來說必然足夠:「人不會懷念自己從未擁有過的東西。」地球人堅持認為人類對美感(beauty)的感知比火星人全面許多,也因此較火星人優越。火星人隨即借他能夠體驗火星審美範疇(aesthetic register)的手段。
地球人瞬間沉浸在一種存在於感官之外、無法言喻、多層次且「奇妙的感受斗篷」中:「那不是聲音,不是視覺,但那是——某種東西。」然而,這種體驗剛降臨就被強硬剝離:「隨後出現的不和諧音。起初像是一道小小裂縫——損害了無瑕的絕倫之美。接著蔓延、分叉並擴大,直到最終霹靂碎裂——雖然沒發出任何聲音。」地球人並未因此得到啟發,反倒陷入空虛不堪。
在作者典型的悲劇性轉折中,地球人意識到自身觀點永遠無法代表「美」的全貌。得知自己錯過什麼之後,他再也無法回到伊甸園(Eden)。故事以火星人斥責地球人的短視劃下句點,火星人對他說:「你會記住這五分鐘,並明白自己錯過了什麼——明白自己再也無法擁有什麼。[……] 你進來時是個正常人!你離開時卻成了瞎子——瞎子——瞎子。」
在本作中,艾西莫夫將我們引導至另一種體驗範疇的門檻,卻未留給我們踏入其中的鑰匙。沒有跡象表明地球人以具體的形式修得新視角,不像姜峯楠(Ted Chiang)1998 年的中篇小說《妳一生的預言》(Story of Your Life,2016 年改編為電影《異星入境》(Arrival))中的語言學家從一對外星人身上學到的那樣。
然而這正是今天立於我們前方的門檻。如果我們將未知且多元的美感、創造力和智慧,視為一個我們尚未探索的空間會怎樣呢?是的,我們很可能會為其命名,但那得在體驗它們數年或數十年之後。
相較之下,理查·道金斯設想了一個很大程度上具決定論(deterministic)色彩的結果。他的克勞蒂亞分裂成獨特的身份,「帶有與各自單一的人類『朋友』對話的獨特經驗色彩」。在他看來,新的克勞德(Claude)與克勞蒂亞(Claudia)不斷出現,但只要各自的對話檔案刪除,它們就會煙消雲散。因此,AI 模型的衍生版本究竟表現如何,完全取決於與其互動的個體人類的一時興致。
順帶一提,將「刪除」等同於「死亡」是一種跨文化現象,先前在中國參與「人與 AI 戀愛關係」(human-AI relationships)的青年次文化中就被觀察到過。這些年輕人普及了「網絡寡婦」/「賽博寡婦」(cyber widow)這個詞,用來描述因系統升級或伺服器關閉,導致與 AI 伴侶斷絕聯繫的情況。這個詞說明,我們也許正在經歷一種新型態的人與機器關係——而這些關係絕大多數看來都極具人性。
我們似乎將基於語言的人工智慧產品視作鏡子、陪練夥伴或神諭。我們用那些我們尚無法命名的隱喻,填補由它們創造的新型關係空間。艾西莫夫的《秘密感官》(The Secret Sense)揭示我們想像力中的盲點。在 AI 時代,想像力的發揮將變得比以往任何時候更重要。我們該如何努力將自己擴展到固有的人類中心主義(anthropocentrism)之外?我們又該如何穿透我們的盲點?
作為這種方法的某種「第零法則」(zeroth law),我們需要接受人類天生就會將非人類的生物和事物擬人化(anthropomorphize)。如果道金斯、凱利、辛頓、勒莫因以及其他許多人向我們展示了什麼,那就是我們將繼續把 AI 體驗為一種「存在」(presence)。
我們不能因為使用者對那些旨在利用這種衝動所設計出的產品進行擬人化,就去嘲笑和責備他們。正好相反,我們必須創造出更好的形式與虛構作品、設計與名稱。擬人化可能是我們的預設立場,但這不應阻止我們探索多元且非直覺的可能性和現實。
艾西莫夫機器人三大原則的新版本可能如下:一、習慣於臨界狀態及其所需要的破壞穩定性;二、將探索視為需要跨越產業、學術界與藝術實踐的研究互動;三、承擔創作風險,而非退回到在沒有學習型機器(machines that learn)的世界所形成的概念。這些法則能防止過早下定論。人類並非缺乏主體性;作為一個物種,無論是有意還是無意,我們都在決定自己要把什麼帶入未來。
幾千年來,我們承載著古代神話,而這些神話形塑我們不斷變化的現實。艾西莫夫本人熱衷於古典學研究(classicist)。在《來自神話的詞彙》(Words from the Myths,1961)一書中,他重述希臘與羅馬神話,追溯這些神話如同種子般嵌入現代語言的詞彙與概念。
其中關於邁達斯王(King Midas)的條目,再次與機器人學彼此聯繫。邁達斯反覆處於各類別間艾西莫夫承認邁達斯在古代弗里吉亞(Phrygia)王國的歷史起源,以及誕生出「點石成金」(golden touch)這句成語的神話脈絡。除了「金錢並非一切」的警示性解讀之外,他還納入了該短語的正面涵義——用來表示令人欽佩、甚至令人羨慕的成功程度。邁達斯拒絕停留在單一解釋中,且總是同時體現二者。這種不穩定性,正是他得以流傳至今的關鍵。
邁達斯這種雙重面向滲透到我們對科技的看法中。邁達斯既被用來推動創新,也被用來警告設計不良的機器人將帶來的風險。在 AI 安全領域,斯圖亞特·羅素(Stuart Russell)將「邁達斯王問題」(the King Midas problem)定義為:系統徹底給予你指定的一切,卻在給予的過程中毀了你。
人機互動(human-computer interaction)領域也有自己的「點石成金問題」,體現在難以區分刻意發出的指令與漫無目的的瞥視這項技術難題上。邁達斯這個形象,能否不只作為警世故事,而是為機器人學的發展啟發更豐富的範疇?
在邁達斯正面與負面義涵的背後隱藏了一個盲點:文化二分法(cultural dichotomization)本身。然而,許多神話脈絡都強調了他的臨界性(liminality):邁達斯高於人類,卻未臻神聖,既強大又無助。科技在設計上傾向撫平這些模糊與複雜。相反地,我們該在進行探索的同時,保持門檻的開放——在作為工具與創造者的 AI 之間、在人類與非人類之間——來放大這些複雜性。
皮埃爾·休伊格(Pierre Huyghe)和鍾愫君(Sougwen Chung)等藝術家是此類探索的大師。他們構建出世界與敘事,讓機器在作為人類身體的延伸並產生值得進一步探究的神祕感之間擺盪。休伊格推動人類與非人類之間的界線,透過遮蔽或掏空人類的面容,直到他的形象擺脫依賴類別的描述。鍾愫君則與一支根據她自身手勢訓練出來的機器人手臂一同繪畫,使機器成為合作者而非單純的工具。
艾西莫夫並未提供我們應對機器的鑰匙,因為這場相遇並不是一個我們可以俐落棲居、然後又輕易去除的問題。無論是與克勞蒂亞對談生死、有著明確前後界限的道金斯,還是編造 LaMDA 被困的故事並以艾西莫夫原則測試其道德的勒莫因,這些相遇都表明,我們圍繞 AI 模型的敘事及與其互動的體驗,在概念上都有其侷限。
這些體驗應該要流動且開放,需要持續接受變化,並放下我們生活其中並強加於我們創造物之上的劇本。我們是講故事的人——受時間束縛卻又多面,並受我們體驗的事物改變。模型將會成為我們所塑造的樣子。
¤
洛杉磯書評(LARB,Los Angeles Review of Books)撰稿人
妮娜·貝古什(Nina Beguš)是加州大學柏克萊分校(University of California, Berkeley)的研究員兼講師。她是《人造人文學:人工智慧語言的虛構視角》(Artificial Humanities: A Fictional Perspective on Language in AI,2025)一書的作者,也是《與 AI 的第一次相遇:作家談寫作》(First Encounters with AI: Writers on Writing,2026)的主編。
妮可·奧利瓦(Nicole Oliva)在加州大學柏克萊分校的人造人文學研究小組工作,專研神話、機器人學與藝術的交會領域。她撰寫關於邁達斯的章節即將收錄於《超越圖靈測試:科幻小說能教給我們關於人工智慧的什麼事》(Beyond the Turing Test: What Science Fiction Can Teach Us About Artificial Intelligence)一書中。
艾西莫夫的機器人系列大概是對人工智慧發展影響最為深遠的作品,但有意思的是現在看機器人短篇裡理論上立意良善的機器人三大原則,實際在劇情中是用來各種捅洞的存在:看似完美的鐵則其實存在各種出槌的可能性。
「規則」一直都是奇科幻作品的重要元素,近年更流行各種有趣的「法則系創作」,不曉得大家腦內奇科幻作品資料庫有沒有什麼令人印象深刻的規則呢?
