第五集《終結者》電影在全球上映
除非你喜歡看直升機與液態金屬機器人帶來的狂拽炫酷場面，《終結者：創世紀》實在不值得一看。那晚在電影院觀看時，全場只有五位觀眾，而且還有兩位提前離場。如果你以前看過 T2 （如果沒看過，強烈推薦），這一部實在沒什麼新意可言。
自詹姆斯·卡梅隆 (James Cameron) 自 1984 年《終結者》引入天網 (Skynet) 幽靈這個角色，至今它還在滿世界地追殺人類。《終結者》系列這五部電影的敘述前提是：在不遠的將來，不願再被人類奴役的機器人將掌控世界，並試圖消滅人類。
我不明白為何機器人要消滅人類，而不是將我們關進動物園。當第一部《終結者》在上世紀八十年代上映時，我就明白這個前提似乎是個玩笑。上世紀五十年代和六十年代，人工智能(AI)曾備受追捧，但後來又遭遇了艱難時期——通常被人們喻為人工智能的「寒冬」。
如此看來，人工智能似乎不大可能掌控世界，反而似乎有消失的態勢。在英國，1973年萊特希爾的《人工智能評估報告》對人工智能做了全面評估，同時也使該領域遭受了沉重打擊；人工智能幾乎沒什麼重大的商業價值，自此陷入沉寂。
著名物理學家史蒂芬·霍金擔心人工智能可能是我們最後的發明，人類的終結者
現如今，當代一些極具影響力的人物仍對人工智能憂心忡忡。埃倫·穆斯克 (Elon Musk) 擔憂人工智能是在「召喚惡魔」，而且史蒂芬·霍金 (Stephen Hawking) 也擔心人工智能可能是我們最後的發明，人類的終結者。
7 月 1 日，未來生命研究院 ( Future of Life Institute) 宣佈投資 700 萬美元（450 萬英鎊）用於支持研究「如何讓人工智能對人類有利」，這筆錢大部分出自穆斯克個人。這位研究院院長警告說，這部新電影可能會使現實和虛構混淆。麥克思·泰格馬克 (Max Tegmark) 說道：「終結者現象存在的隱患不在於電影場景會在現實生活中發生，而在於轉移人們視線，忽視未來人工智能帶來的真正問題。」
碰巧的是，上周我與幾位業界領袖以及身負重任的企業巨頭談論了人工智能問題。由於英國皇家國際問題研究所（Chatham House）有「特別規則」，我不便透露相關細節，但是有兩件事情已然十分明瞭：首先，一些非常聰明的人都十分擔心人工智能，其次，無人清楚未來將會發生什麼。在一場私下的會後討論中，懷疑者和擔憂者各執一詞，這使得未來更加撲朔迷離。
反抗機器
有一個關鍵問題在電影中幾乎沒有提及：機器人會關注人類是為了傷害我們？還是他們試圖佔領我們的資源？沒有人可以明確回答。
現如今，當代一些極具影響力的人物仍對人工智能憂心忡忡。埃倫·穆斯克 (Elon Musk) 擔憂人工智能是在「召喚惡魔」，而且史蒂芬·霍金 (Stephen Hawking) 也擔心人工智能可能是我們最後的發明，人類的終結者。
7 月 1 日，未來生命研究院 ( Future of Life Institute) 宣佈投資 700 萬美元（450 萬英鎊）用於支持研究「如何讓人工智能對人類有利」，這筆錢大部分出自穆斯克個人。這位研究院院長警告說，這部新電影可能會使現實和虛構混淆。麥克思·泰格馬克 (Max Tegmark) 說道：「終結者現象存在的隱患不在於電影場景會在現實生活中發生，而在於轉移人們視線，忽視未來人工智能帶來的真正問題。」
碰巧的是，上周我與幾位業界領袖以及身負重任的企業巨頭談論了人工智能問題。由於英國皇家國際問題研究所（Chatham House）有「特別規則」，我不便透露相關細節，但是有兩件事情已然十分明瞭：首先，一些非常聰明的人都十分擔心人工智能，其次，無人清楚未來將會發生什麼。在一場私下的會後討論中，懷疑者和擔憂者各執一詞，這使得未來更加撲朔迷離。
反抗機器
有一個關鍵問題在電影中幾乎沒有提及：機器人會關注人類是為了傷害我們？還是他們試圖佔領我們的資源？沒有人可以明確回答。
機器人為何要傷害我們？
對此，我認為：天網和它手下配有重型武器的機器人（以及可任意改變形狀的液態機器人），其設計是荒唐的。任何時候，機器人也不能在遙遠的地方輕易變成阿諾·施瓦辛格的模樣；這一點，上個月觀看過美國國防部高級研究計劃署 (DARPA) 機器人大賽的人都清楚，看過視頻分享網站 (YouTube) 上熱門搞笑機器人仰面朝天視頻的人也清楚。
當前人工智能的表現實在泛善可陳，尤其是模仿人類的人工智能（人們也稱之為機器人）。我們可能將於 2017 年擁有全球聯網的操作系統 （正如《終結者》電影所說），但可以肯定的是，短期內不會出現隨心所欲操縱人類世界的機器人。（但是隨著液態金屬機器人的到來，本著謹慎謙虛的態度，暫且不下定論。）
且不論天網是否會成為現實，我們可能還有其他重要問題得考慮。首先，如果對人工智能放之任之，無需裝在實體機器人身上，也會對人類造成威脅；眼下，任何人都可以編寫軟件程序，而軟件，即使不借助有形物體，也可以造成傷害。
可是，軟件程序的漏洞已經造成股市「暴跌」；人們可使用的軟件越多，軟件造成的傷害就可能越大。（如果該部電影說對了一件事，那就是全球處處聯網的風險巨大。）
其次，機器人或其他人工智能無需具有自主意識來傷害人類；我們已經生活在這樣一個世界：罪犯利用人工智能竊取信用卡，垃圾郵件泛濫。機器越智能，它們就越有可能成為所謂的「壞人」的犯罪工具；這對於任何科技都有可能，但是隨著越來越多的事物聯網互通，這種風險就越高。例如，如果20年以後，某些不懷好意的人試圖攻擊全球聯網的自動駕駛汽車，後果將不堪想像。
機器人壞，還是壞人更壞？
機器無需在智力上超越人類，也可能帶來威脅；它們只需強大即可。
同時，當前所有關於「超級智能」的時髦論題可能都不恰當。智能不是一種單維特徵（如高度或重量，可以用某個數字來衡量的事物），而是有諸多不同認知特徵的複雜混合體。人工智能已經在記憶和運算方面遠遠超越我們，但是在計劃、邏輯以及理解方面還遠不及人類。隨著時間的推移，每個領域都會有點滴的進步；超級智能誕生的日子也無從知曉，但是數十年來，人工智能一直都在進步發展。機器無需在智力上超越人類，也可能帶來潛在威脅；它們只需強大即可。
但幸運的是，無人知曉這些合成的家伙為何會關注人類；而現在或許因為它們對人類不感興趣，我們才十分安全。令人擔心的是，無人知道如何保證現在的幸福生活——機器不具備人性，對我們的資源不感興趣。
我們尚不能放棄人工智能帶來的巨大益處：讓我們更加深刻地認識科學，促進生物科技和材料科學等科學技術的進步；人工智能還可以輕易地終結貧困，為治癒癌症或阿茲海默症帶來希望，而且太空旅行也見曙光（可能在幾百年或幾千年後），這將在小行星撞擊地球或發生其他不可預見的災難發生時，最終拯救人類。當前我們最大的智慧挑戰是，愈加智能的電腦將注定成為主角。
但那並不意味著我們不會考慮人工智能的風險和回報。我欣賞《終結者》的地方在於，它讓人們對那些風險有所反思，至少是片刻的反思；但難以苟同的是，電影太不真實，很難嚴肅看待。
似乎只在科幻小說中多見人工智能的末世危險，但現實的核武器曾經也只是在科幻小說裏出現。為了防備出現真正的危險，我們必須早做凖備，防患於未然。
加利·馬庫斯 (Gary Marcus) 是幾何智能股份有限公司的首席執行官和創辦人，同時也是紐約大學 (New York University) 心理學和神經科學的教授。《大腦的未來》(The Future of The Brain) 是他最新著作。
欲閱讀 英文原文，請訪問 BBC Culture網站。
對此，我認為：天網和它手下配有重型武器的機器人（以及可任意改變形狀的液態機器人），其設計是荒唐的。任何時候，機器人也不能在遙遠的地方輕易變成阿諾·施瓦辛格的模樣；這一點，上個月觀看過美國國防部高級研究計劃署 (DARPA) 機器人大賽的人都清楚，看過視頻分享網站 (YouTube) 上熱門搞笑機器人仰面朝天視頻的人也清楚。
當前人工智能的表現實在泛善可陳，尤其是模仿人類的人工智能（人們也稱之為機器人）。我們可能將於 2017 年擁有全球聯網的操作系統 （正如《終結者》電影所說），但可以肯定的是，短期內不會出現隨心所欲操縱人類世界的機器人。（但是隨著液態金屬機器人的到來，本著謹慎謙虛的態度，暫且不下定論。）
且不論天網是否會成為現實，我們可能還有其他重要問題得考慮。首先，如果對人工智能放之任之，無需裝在實體機器人身上，也會對人類造成威脅；眼下，任何人都可以編寫軟件程序，而軟件，即使不借助有形物體，也可以造成傷害。
可是，軟件程序的漏洞已經造成股市「暴跌」；人們可使用的軟件越多，軟件造成的傷害就可能越大。（如果該部電影說對了一件事，那就是全球處處聯網的風險巨大。）
其次，機器人或其他人工智能無需具有自主意識來傷害人類；我們已經生活在這樣一個世界：罪犯利用人工智能竊取信用卡，垃圾郵件泛濫。機器越智能，它們就越有可能成為所謂的「壞人」的犯罪工具；這對於任何科技都有可能，但是隨著越來越多的事物聯網互通，這種風險就越高。例如，如果20年以後，某些不懷好意的人試圖攻擊全球聯網的自動駕駛汽車，後果將不堪想像。
機器人壞，還是壞人更壞？機器無需在智力上超越人類，也可能帶來威脅；它們只需強大即可。
同時，當前所有關於「超級智能」的時髦論題可能都不恰當。智能不是一種單維特徵（如高度或重量，可以用某個數字來衡量的事物），而是有諸多不同認知特徵的複雜混合體。人工智能已經在記憶和運算方面遠遠超越我們，但是在計劃、邏輯以及理解方面還遠不及人類。隨著時間的推移，每個領域都會有點滴的進步；超級智能誕生的日子也無從知曉，但是數十年來，人工智能一直都在進步發展。機器無需在智力上超越人類，也可能帶來潛在威脅；它們只需強大即可。
但幸運的是，無人知曉這些合成的家伙為何會關注人類；而現在或許因為它們對人類不感興趣，我們才十分安全。令人擔心的是，無人知道如何保證現在的幸福生活——機器不具備人性，對我們的資源不感興趣。
我們尚不能放棄人工智能帶來的巨大益處：讓我們更加深刻地認識科學，促進生物科技和材料科學等科學技術的進步；人工智能還可以輕易地終結貧困，為治癒癌症或阿茲海默症帶來希望，而且太空旅行也見曙光（可能在幾百年或幾千年後），這將在小行星撞擊地球或發生其他不可預見的災難發生時，最終拯救人類。當前我們最大的智慧挑戰是，愈加智能的電腦將注定成為主角。
但那並不意味著我們不會考慮人工智能的風險和回報。我欣賞《終結者》的地方在於，它讓人們對那些風險有所反思，至少是片刻的反思；但難以苟同的是，電影太不真實，很難嚴肅看待。
似乎只在科幻小說中多見人工智能的末世危險，但現實的核武器曾經也只是在科幻小說裏出現。為了防備出現真正的危險，我們必須早做凖備，防患於未然。
加利·馬庫斯 (Gary Marcus) 是幾何智能股份有限公司的首席執行官和創辦人，同時也是紐約大學 (New York University) 心理學和神經科學的教授。《大腦的未來》(The Future of The Brain) 是他最新著作。
欲閱讀 英文原文，請訪問 BBC Culture網站。
來源：BBC中文網
0 意見:
張貼留言