丹尼斯愣了一剎,想也沒想便答道:“怎麼可能,機器人的所謂‘大腦’,只不過是一堆金屬、塑膠,還有晶片,所有的仿生反應都是程式預設。沒有任何生物性,談何靈魂。”
“那麼……”葉梨接著問,“你覺得機器人會產生自我意識麼?”
丹尼斯眉頭一緊,略微思索,認真回答道:“那要看你問的是哪種機器人了,假如是目前市面上流行的智慧機器人,比如貴公司幾年前量產的‘1號原型’,我看過智腦系統原始碼,毫無破綻,堪稱完美,是不可能出現你說的這種情況的,但是……”
葉梨沒有插話,示意他繼續說下去。
“假如是它……”丹尼斯指了指隔離室,“抱歉,我這一年都在監獄裡,沒有途徑獲得你們最新機型的程式原始碼,無法判斷。”
葉梨瞭然他的小心思,輕輕一笑,將手持電腦切換到一個內碼表面,向丹尼斯遞去。
在丹尼斯檢視程式碼時,葉梨開口介紹:“房間裡的矽基智慧體卡羅爾,主要搭載行政秘書的工作模組,前不久,買家反映它在執行指令的時候表現得很奇怪,有點不聽使喚,返廠檢修後,我們在它的資料海中發現一段程式碼——就是你現在看到的——經科研小組的成員驗證,這是一段並不完美的病毒程式碼,但我們有理由相信,這段程式碼一旦完成,有一定的機率破壞SILICONER1智腦系統的防禦,甚至改寫機器人三定律……”
葉梨頓了頓,繼續說:“它甚至有名字,叫靈魂病毒,最不可思議的是,卡羅爾的智腦系統知道它的存在,多個自檢日誌中都有記錄,但是不知為何,智腦系統僅在第一次對‘靈魂病毒’發動了攻擊,之後便視而不見。”
丹尼斯看完,面部表情也漸漸變得凝重,半響之後,他放下葉梨的手持電腦,問:“你說的自我意識又是怎麼回事?”
“有一部分研究員認為,智腦系統忽視‘靈魂病毒’的行為是產生自我意識的表現,一部分則認為那僅僅是病毒的自我隱蔽造成的影響。”
“所以你們把它隔離起來,進行監控?”丹尼斯問。
葉梨點點頭:“沒錯,我們成立了工作組,集合全中心的科研力量,對卡羅爾進行了一系列的測試,我們甚至動用了行為分析和心理學方面的研究員,得出的結論很不理想,卡羅爾確實表現出了一些自主跡象。”
“‘靈魂病毒’從何而來?”丹尼斯又問了一個關鍵問題。
“暫時不得而知,我們的計算機專家沒有找到任何線索,有人甚至認為,這段程式碼,其實是卡羅爾自己寫的。”
聞言,丹尼斯驀然抬頭,一臉訝異地看向葉梨,隨即哈哈大笑起來。
“無稽之談。”丹尼斯嗤笑,“高智慧程式的學習能力確實強,但您也是計算機方面的專家,應該知道,只要是程式,就有嚴格的邏輯觀,1+1=2,是因為數學只允許它等於2,出現這種情況,只有一個可能,就是被人為篡改了。”
“我們不認為目前世界上有任何駭客可以突破我們在SILICONER1智腦系統上設定的防火牆。”葉梨並不贊同丹尼斯的說法。
丹尼斯搖搖頭,“雖然沒有看到SILICONER1的智腦系統指令碼,但我認為,你們為了做到系統的高智慧,一定開發了不少許可權,比如……無限制聯接世界網。”
說完,丹尼斯抬頭觀察葉梨的神色,得到她肯定的答覆後,他繼續說:“據我所知,你們從前的做法,是建立一個智慧機器人的內部知識網,也就是你們後來註冊專利的‘SILICONER1資料海’,並在硬體與程式上限制智慧機器人進行更大規模的運算,這是你們從過去的人工智慧自我學習後‘屢屢學壞’的事件中,吸取經驗,想出的解決方法。但是現在的SILICONER1專案顯然是要超越從前,追求更高的智慧能動,要達到這些目的,勢必要提高機體的運算速度。我猜,你們對SILICONER1智腦系統的許可權開放值,一定到了零界點。”
葉梨無言,點了點頭。
“門窗開多了,一定會漏風的。也許你們的許可權開得太大,讓它有機可乘,溜到世界網上,接受了不該接受的資訊,嚴格地說,那隻能算是自我學習出了問題,和靈魂可沒什麼關係。”丹尼斯說完,輕輕撓了撓頭,“你應該給我看看你們的智腦系統,也許我能從中找到一些蛛絲馬跡。”
葉梨嘴角帶笑,盯著丹尼斯不說話,這位年輕人的內在顯然與他外表展現出的簡單無害截然相反。
丹尼斯被她盯得不好意思起來,訥訥解釋道:“我的意思是,除了自我學習出了問題,還有一種可能,SILICONER1能聯接世界網,自然也有人能透過世界網連入SILICONER1的智腦系統,做一些修改,放幾個病毒,足以擾亂程式執行,讓你們誤以為SILICONER1產生了自我意識,這些,都需要對智腦系統進行嚴密的排查,空談無用,我想,你們找我來,應該也是看中了我某方面的特殊技能吧。”
葉梨點點頭,研究中心不乏高水平的計算機專家,但是正向的研究一直得不到結果,找一個駭客,反向切入,也許能找到解決方案。
但是……眼前的年輕人顯然有些過於自信了。
這也難怪,從他的履歷可以看出,這位年輕人在計算機領域從來沒有遇到對手,他有理由,也有這個資本,對自己信心十足。
“你既然已經是我們團隊的一員了,那麼,智腦系統早晚都會對你開放的,但現在,我需要你把目光焦點放在它身上——”葉梨指了指隔離室。
丹尼斯順著她手指的方向看去,金髮女子恰巧在此時抬起頭,隔著玻璃,兩人的目光彷彿有了一瞬間交匯。
“在沒有得到結論之前,我不想否定你的觀點。”葉梨對丹尼斯說,“但是我希望你在研究SILICONER1智腦系統之前,好好觀察一下卡羅爾,也許,你會理解其他研究員為什麼會得出那些你認為‘無稽’的結論。”
丹尼斯點點頭,他也意識到自己方才的態度有些過於主觀了。
葉梨嘴角泛起一個微小的弧度,和理性思考的人打交道就是有這點好處,對方不會被情感左右,哪怕偶爾出現一些主觀臆斷,也會在思考後及時改正,對錯分明,沒有灰色地帶。
“我需要提醒你一件事,SILICONER1這次出現的紕漏如果無法儘快解決,後續影響將是毀滅性的……”稍微停頓了一下,葉梨繼續說,“我們做的最壞打算是,訊息洩露,在人們的恐懼與各方壓力下,我們恐怕不得不對所有SILICONER1主體進行銷燬。”
“什麼?”丹尼斯驚呼,“這怎麼可以?SILICONER1是一項跨時代的發明,不知耗費了多少人一輩子的心血啊!”
“我們也不願意走到這一步,銷燬SILICONER1,等於是將中心多年的研究毀於一旦。”葉梨語氣沉重,“但是,從各方面的跡象來看,訊息已經走漏,我們的時間不多了。”
“所以你們找我來……”丹尼斯有了一絲領悟。
“沒錯,我們現在有兩個方案,一是最壞的打算,剛才已經對你說了,二是查殺‘靈魂病毒’,堵住程式漏洞,我們打算設計一款名為‘心鎖’的智腦系統補丁,對目前所有載入了智腦系統的SILICONER1進行監控。6號樓現在集合了全中心的科研力,分成五組,日夜不休研發程式補丁。”葉梨鄭重地說,“相信你能理解,此次事件是否能安然收場,與你未來的去留是息息相關的。”
丹尼斯瞭然,他透過暗網瞭解過一些公島的傳聞,據說,中心的背後支持者是公島保守派,也就是目前的執政黨,去年,中心透過SILICONER1專案替執政黨拉到了大量支援,在這當口出現問題,一旦被披露,必然是對保守派執政黨的一次重擊,但他若能找到問題的解決方案,便有了與當局談判的資本,說不定能獲得減刑,甚至爭取到重獲自由的機會。