那一天,海因裡希最得意的機器人用血淋淋的現實,殘酷無比地告訴海因裡希:
它其實根本不懂人類、根本不懂生命對人類的價值!而他,也其實根本不懂它!
於是,看著好像在求表揚一樣乖巧地跑回自己身邊、自己曾最得意的、滿身他最愛之人淋漓刺目鮮血的機器人,他直接崩潰了。
海因裡希從此整日以酒精麻醉自己,更聲名狼藉,被當做開發人工智慧會遭詛咒的最好證明,飽受喪妻之痛和惡意批評的折磨,能熬過來堪稱奇蹟。
且哪怕他現在終於重新振作起來,也堅決拒絕讓計算機進行自我學習。
這裡面不僅有情感上的厭惡,也有理論和現實共同帶來的恐懼。
透過人教匯出的人工智慧,和透過自我學習培養出的人工智慧,成長過程看起來大同小異。
後者好像不過是把提取資料、建立函式等工作交給計算機自己去完成,且計算機完成的也好像真遠比人高效。
問題是,正是因為計算機完成得實在太高效了,人根本跟不上,漸漸就會越來越搞不清:
計算機到底提取出什麼資料?又到底用哪些資料來重新定義人類提出的概念?到底是怎麼理解人類的概念?它自己定義的概念到底和人類的概念有多大差異?
人類只能用結果來大概判斷,計算機的理解和人類的理解間到底有多大偏差,非常模糊、暗藏危機。
還拿教計算機理解微笑一事來舉例說明。
由於計算機對微笑的理解不是人類直接定義、傳授的,要搞清計算機到底理不理解微笑,又理解到什麼程度,人類只能拿出一大堆同時包含微笑、非微笑表情的立體頭像,讓計算機先去識別,後透過準確率大小來大概判斷計算機的理解程度。
可縱使計算機百分百地識別出了微笑和非微笑,就能說計算機百分百明白微笑是怎麼回事嗎?
別忘了,計算機的結構和人腦非常不同,根本沒腦波,就決定了人的理解和計算機的理解必然存在差異。
進而,生命的概念、以及生命對人類到底有多重要等,都是一樣的。
若忽視本質上的差異,只憑機率達標就武斷地認為計算機能理解人類,並把事情完全交給計算機,那計算機有一天一定會做出讓許多人類後悔莫及、痛苦不已的事。
計算機不理解人類,本質上沒惡念,卻或又比有惡念的惡人更恐怖。
沒有惡念也代表沒法預防,且它又有足夠作惡能力,特別是當它面對那些普通猿人的時候。
海因裡希相信,人類對計算機的誤解、懶惰和狂妄如果繼續如此發展下去,只要計算機一個邏輯錯誤,就可能對廣大普通猿人造成大範圍的深刻傷害。
是故,海因裡希才執著於培養出,既智慧到能與其它人工智慧匹敵、又能夠被人類完全理解和控制的,老概念的那種人工智慧。
這非常困難,海因裡希都沒想過會有人看好和投資,而約瑟夫也全心全意地幫助他。
他對這事還真非常感興趣,且好不容易有空去做一些自己感興趣的事。
突然,約瑟夫的計算機彈出了一個新聞視窗,那是一個迅速躥紅、非常火爆的熱點影片。
約瑟夫不由微微一愣,手上極罕見地出現了一個小小的停頓。
那新聞,正是偽裝後的顧雷一邊高喊“胡瓦”一邊把諾露達的鞋送進垃圾粉碎機的相關報道。
而約瑟夫儘管轉眼就關掉影片,卻依舊在一瞥之間對所有內容瞭然於心,乃至是已看破顧雷的偽裝。
如今,事情的影響正野火燎原般地激化擴大。