圖文/國立臺灣大學科學教育發展中心
本系列作品由教育部與臺大科學教育發展中心授權轉載
艾薩克.艾西莫夫Isaac Asimov(1920—1992)
著作等身的多產作家,除了如《基地》系列、《機器人》系列等深植人心的科幻作品外,同時也是一位科普作家,也曾在大學中任教。「機器人學三大定律」最初出現在Asimov1942年的短篇小說《轉圈圈》(Runaround)中,用以規範通用AI的行為,也是機器倫理的濫觴。三定律看似周全,實際上存在內在矛盾與例外,因而常見於其他科幻作品,作為故事發展的開端或主軸。然而一套倫理學竟然在被規範者出現之前就被廣泛討論,反映了大眾對於「人造智慧體」的猜忌與不安。
撰文/陳品妤|編輯/高敬堂
審訂/葉言都(東吳大學歷史系兼任助理教授、科幻小說作家)
非凡的科學天才
Asimov是俄裔猶太人,三歲時與家人移民到美國紐約定居。小時候,他在父親糖果店的報攤上找到一本《驚奇科幻》雜誌(Astounding Science Fiction,現已改名為Analog Science Fiction and Fact),閱讀之下,科幻世界的廣袤星空立刻深深吸引了他,開啟了Asimov對科學的興趣。
Asimov成績出色,年僅十九便從哥倫比亞大學化學系畢業,而後繼續攻讀生物化學博士。沒想到不久,二次世界大戰緊接著爆發,中斷了Asimov的學業。二戰期間,Asimov發揮所長,在大氣實驗室擔任民間研究員。戰後,Asimov繼續在陸軍服滿最後的九個月役期,並在28歲那年回歸校園,取得博士學位後,在波士頓大學醫學院擔任講師。
身為舉世公認的天才,Asimov對此稱不上謙虛,卻也從不驕矜自大。一方面,他在名片上幽默地自稱是人類的「自然資源」;另一方面,他對炫耀智識的人毫不客氣。1962年,Asimov高分通過「門薩國際」(Mensa International)──一個僅接受高智商會員的國際同好會──的入會測驗。根據Asimov自述,那並不完全是個很好的經驗:有些會員過分誇耀智商、不斷與他人爭吵。正如Asimov所說:「即使科學會引起問題,但無知也不能解決問題。」比起這些自私的聰明人,他顯然更理解知識的可貴。
科普之王
Asimov平均每年出版或主編十本書。在他全職寫作的期間,甚至高達每年十三本。曾有記者問過他:「倘若醫生宣告你只剩六個月能活,你會怎麼做?」,Asimov瀟灑回應:「打字打得更快一點!」(“Type faster!”)。
如此多產的作家,作品橫跨杜威十進位圖書分類法,從自然科學到人文藝術,可謂真正的上知天文下知地理;唯獨「哲學」是Asimov唯一不曾出版的分類。但Asimov的文字條理分明,字裡行間邏輯嚴謹,若真出版哲學圖書,不過是錦上添花而已。除了學識淵博,Asimov最為人津津樂道的,還有過人的幽默感。他出版了數本打油詩及笑話集,以及趣味橫生的科普作品。
1957年,蘇聯發射世上第一枚人造衛星,其技術震驚整個世界。造成美國教育界的危機感,認為必須痛定思痛,改革科學教育,培養更多科技人才。在此之前,Asimov的創作以科幻小說為主,這時他有感於科學普及的重要,改為寫作科普專書。他的科普作品也極為成功,暢銷書《智者的科學指南》(The Intelligent Man’s Guide to Science)出版以後,Asimov決定辭去教職,全心投入科普工作。而這部作品經過多次編修,成為後來的《艾西莫夫科學新指南》(Asimov’s New Guide to Science)。
1940年代,美國科幻小說的三巨頭之一Robert Anson Heinlein曾說:「如果Isaac不知道答案,就不要查詢大英百科全書,因為它也不知道答案。」可見Asimov科普大師的名譽當之無愧。
科幻小說大師
在鑽研學術之餘,Asimov沒有停止探索世界的驚奇,盡情嘗試有趣的事物。當然,也包括科幻小說寫作。
1939年,Asimov陸續向《驚奇科幻》投稿多篇科幻小說。當時的編輯John W. Campbell Jr.成為他的伯樂,引導他在1941年寫出短篇《夜幕低垂》(Nightfall),躋身一線科幻小說家。之後,Asimov出版多部大受歡迎的短篇,以及經典的長篇系列。其中,「機器人系列」與「基地系列」堪稱Asimov科幻小說的兩大代表系列作品。
「機器人系列」的主角是人類刑警Elijah Baley與他的機器人夥伴R. Daneel Olivaw。面對看似違反「機器人學三大法則」的不可能犯罪,兩人抽絲剝繭、攜手揭開案件真相,頗有古典推理小說色彩。他們辦的案子從熟悉的地球到太空殖民地,讀者能一窺Asimov設想的未來社會,並與這對搭檔一起思考:人類的未來該何去何從?人類與機器人如何攜手共存?在系列的最後一集,Baley與Daneel之間深厚的「跨種族」情誼,或許是Asimov對這一連串難題的解答。
「基地系列」的格局更大,是科幻類型的「太空歌劇」(Space Opera)。故事敘述數學家Hari Seldon預見銀河帝國即將滅亡,為縮短帝國崩潰的動盪期,打造保存文明的基地,使人類能早日邁向和平。銀河帝國的命運取材自羅馬帝國的興衰史,也是Asimov對人類歷史的回應:無論如何,唯有以不停求變,來回應瞬息萬變的環境,才是人類的永續生存之道。
Asimov在科幻小說的成就斐然,多次獲得科幻界的最高榮譽──雨果獎(Hugo Award)。而他在小說中創造的多個字詞,如前述提及的「機器人學」(Robotics),還有「正子」(positronic)、「心理史學」(Psychohistory)等,更被《牛津英語辭典》收錄;其中,用於預測人類命運的「心理史學」,甚至成為部分社會學家的理論參照。
身為一位科幻小說家,除了作品以外,Asimov最為人津津樂道的,是與另一位科幻巨匠──同時也是位著名的科學作家(science writer)、電影《2001太空漫遊》(2001: A Space Odyssey)原著小說的作者──Arthur Charles Clarke的相處模式。
兩人雖是好友,卻多次在各種場合挖苦對方。例如Clarke偶然得知在一場不幸的航空事故中,其中一位罹難乘客正好隨身帶著一本自己的著作。他將這則新聞轉給Asimov,並補充:如果那名乘客當時帶的是Asimov的書,或許就能安詳地死去了(無聊到睡著)!Asimov也不甘示弱地回擊,告訴Clarke:這場事故對於那名乘客而言至少是種解脫(不用再看Clarke的書了)。但他們的修養,徹底打破「文人相輕」的迷思。一次偶然的機會,兩位作家共乘一輛計程車,行經紐約市公園大道時,達成了著名的《Asimov-Clarke公園大道協議》(The Asimov-Clarke Treaty of Park Avenue,或稱《Clarke-Asimov協議》)才平息了這場瑜亮之爭:往後當被問到誰才是最優秀的科幻作家時,Asimov得回答是Clarke;同樣地,Clarke也將堅持Asimov才是最優秀的科學作家。Clarke更在自己的著作《第三行星報告》(Report on Planet Three)中寫道:「根據《Clarke-Asimov協議》,第二名的科學作家將這本書獻給第二名的科幻作家」,足見兩位大師惺惺相惜。
跨世紀的機器人預言
Asimov於科幻小說中生動描繪了人類與機器人共存的未來,並首先使用「機器人學」(Robotics)這個詞彙,至今仍深刻影響著科技的發展。機器人學之父Joseph F. Engelberger就曾表示,他之所以投入機器人學,正是因為讀了學長Asimov的機器人故事。2010年3月9日,美國眾議院為了表彰Asimov的貢獻,將每年四月的第二個星期指定為「全國機器人週」。
雖然科學家自科幻小說汲取靈感早已不是新鮮事,像是IBM的第一台超級電腦,即是以Douglas Adams的小說《銀河便車指南》(The Hitchhiker’s Guide to the Galaxy)中的超級電腦「深思」(Deep Thought)命名,但是Asimov的科幻小說不僅為機器人學家提供了靈感,更塑造了AI在大眾心目中的印象。
就實用的角度來看,Asimov在小說中提出的人形機器人設計相當實際:一、家庭機器人以「女性」的形象出場,減少機器人給人類的侵略感。二、區隔人類與機器人,以免過於擬真的機器人被當作人類。三、制定機器人應當遵守的原則,防止機器人傷害人類。在現代機器人設計中,我們已經可以看見這些原則的實踐。
除此之外,Asimov在與另一位作家Robert Silverberg合著的《正子人》(The Positronic Man)中,也以擁有自我意識的機器人Andrew為主角,結合機器人學、心理學、社會科學等視角,探討人類與AI之間的互動與情感關係。這部擴寫自Asimov另一部作品《雙百人》(Bicentennial Man)的長篇小說,先後被改編為熱門的同名電影與風靡世界的Play Station 4遊戲《底特律:變人》(Detroit: Become Human)。可見Asimov的科幻小說不僅開啟了人們對機器人的想像與討論,也深深影響了通俗文化。驚人的是,這些深具啟發性的作品,竟有泰半是上個世紀40到50年代的創作。
1964年,Asimov在《紐約時報》撰文,預言2014年的世界。而今回首,其中許多想像竟都與現實不謀而合:
. 機器人既不會普及也不會發展良好,但是它們將會存在。
►正確!機器人尚未普及,依舊處於開發狀態。
. 人類將致力於設計擁有「機器人大腦」的車輛。這些車輛可以設置特定的目的地,在前進時不受駕駛緩慢的反應干擾。
►正確!自動駕駛車輛是目前正在研發中的熱門產品,前途一片光明。
. 精巧的機械裝置將把人類從瑣碎的工作中解放出來。廚房設備被設計成自動裝置:燒開水並煮成咖啡、烤麵包、煮或炒蛋、烤培根等。只要前一天晚上預訂,早餐就會在第二天的指定時間準備好。
►正確!雖非主力研究項目,但已有相似產品付諸實際運用,例如日本豪斯登堡樂園的奇妙餐廳(変なレストラン)。
. 在公元2014年的世界,幾乎沒有日常工作是機器無法做得比人纇更好的。因此,人類在工作上的角色將大幅轉變為機械運作的看管者。學校的方針因此改變。高中生將被教導電腦技術的基礎知識,熟練掌握二進制算數,並接受應用程式語言的完善訓練。
►部分正確。自動化的理念正是如此,講究智慧化與客製化服務的第四次工業革命也是正在進行式,只是速度似乎沒有Asimov設想中來得快。在基礎教育方面,雖與全面普及仍有一段距離,但將編程等電腦相關技能向下扎根,是各國政府共同努力的方向。
. 通訊技術將發展出視聽功能。你將在聽到聲音的同時看見通話對象。而螢幕不僅可以用來查看通話對象,還可以用來研讀文件、相片,跟閱讀書本的文字段落。同步衛星將在太空中徘徊,使你能打電話到地球上的任何地點,包括南極洲的氣象站。
►正確!視訊電話已實現多年,並在當下人手一支智慧型手機的社會中廣泛運用,儼然成為當代通訊不可或缺的一部分。
Asimov半世紀前的預言,竟與事實相去不遠。誰說他在科幻小說中所描繪的未來,僅只是天馬行空呢?
機器人學三大定律
1942年,Asimov在短篇小說《轉圈圈》(Runaround)裡,首次提出著名的「機器人學三大定律」:
一、機器人不得傷害人類,或因不作為而使人類受到傷害;
A robot may not injure a human being or, through inaction, allow a human being to come to harm;
二、除非違背第一定律,機器人必須服從人類的命令;
A robot must obey the orders given it by human beings except where such orders would conflict with the First Law;
三、在不違背第一及第二定律的情況下,機器人必須保護自己。
A robot must protect its own existence as long as such protection does not conflict with the First or Second Laws.
若機器人不遵守規則,就會導致不可逆的傷害,以此作為機器人失去控制時的保險機制。在其他科幻作品中,也經常援引這三條定律,作為給機器人或AI系統的限制。
科學家創造強大的AI,是為了增進社會福祉。矛盾的是,許多科學家卻警告:倘若有一天功能強大的通用人工智慧(Artificial General Intelligence,AGI)成真,它將意識到人類之於宇宙只是滄海一粟,進而消滅或者奴役人類。Tesla執行長Elon Musk曾經表示,AGI可能使人類淪為機器的寵物,而聯合DeepMind的創辦人Mustafa Suleyman及數百名專家齊聲反對「致命自主武器系統」(Lethal Autonomous Weapons,LAWS)的開發。
在這樣的背景下,機器人學三大定律也受到前所未有的重視與討論。例如2016年,微軟CEO Satya Nadella曾在《未來的夥伴關係》(The Partnership of the Future)一文中提及:雖然層層遞進的三定律深具啟發,為AI倫理學提供了很好的基礎,但仍未提供一套研發團隊在開發AI模型或機器人時應該遵守的價值觀或設計原則。實際參與AI研究的知名科學家Ben Goertzel也透露:機器人學三大定律的邏輯缺陷太多,在小說中便存在許多漏洞,即使是機器倫理學界也不認為它是一個令人滿意的基礎。話雖如此,我們依然可以從三定律的失敗中學習,體認到任何試圖以具體規則為依據的道德規範注定會失敗。
然而這些批評似乎都忽略一個事實:Aismov不是以「科學家」,而是「科幻小說家」的身分寫下三大定律。在「機器人系列」中,正是因為三定律存在漏洞,才會帶出兩位主人公後續一系列的精采冒險。另一方面,不是所有學者都認為AI真的會反噬人類。比如Facebook 創辦人Mark Zuckerberg對此便抱持著樂觀的態度,認為技術的好壞取決於使用者;只要立意良善,AI將在不久的將來持續造福人類。
科學與反智主義
Asimov終其一生透過教育和著書,將知識傳播到更遠的地方。某種程度上,可以視為對於1980年代「反智主義」(anti-intellectualism)盛行的一種反制。當時的美國政治人物為博取大眾選票無所不用其極,Asimov對此撰文感嘆:美國存在一種「名為無知的邪教」(a cult of ignorance),人們誤以為民主意味著「我的無知就跟你的知識一樣好」。在那個年代,Asimov更是少數公開支持同性戀、女性權益的公眾人物。
1992年,Asimov撒手人寰,然而當時的媒體對於他的死因卻沒有太多的著墨。直到多年後,Asimov的第二任妻子代為出版他的自傳時,才透漏:Asimov是因手術輸血而感染愛滋病毒(HIV),後續引發心腎衰竭而逝世。那是個HIV知識尚未普及,對於愛滋病仍充滿歧視的年代。即使Asimov處之泰然,並願意公諸於世,但在醫師的建議與輿論偏見可能殃及家人的考慮下作罷。這段令人五味雜陳的插曲,正突顯了Asimov生前所堅持──科學普及的重要性。