如果是一個普通人,或許更容易接受這樣一個事情,但肖揚能算得上一個駭客,對一個真正人工智慧的誕生有多麼的困難實在太清楚了,所以哪怕明知道米麒麟和阿曼不會騙他,但他仍是難以接受。
這他媽太科幻了,一點兒也不真實啊。
沉默了老半天之後,他問米麒麟:“這玩意沒跑出去吧?”
一個會偷偷摸摸入侵網路的人工智慧,很明顯已經有了自我意識,而且還是不好的那種,一旦放任其跑到網路,那後果根本就無法想象。
這玩意沒有實際的身體,任何一個有網路的地方它都可以到達,當學習到某種程度的時候,它可以控制任何一個和網路有關的東西,電腦、手機等等,現代人的生活,總是離不開這些,也就是說它可能輕易就能影響或者控制你的生活。
到那個時候,這個世界將沒有隱私。
而且這還不是最可怕的,最可怕的是完全可以透過網路指揮指揮起一國軍隊來,可以控制某些武器系統,假如和某個科幻電影裡面一樣,當它對人類有著反叛的情緒時,它會不會用戰爭的手段來毀滅人類?
這絕對是一件細思極恐的事。
很顯然米麒麟最擔心的也是這一點,“我發現後的第一時間就檢查了這點,很幸運的是這個情況沒有發生。”說到這裡,他頓了一下,然後頗為疑惑的說到:“有些奇怪,當初我在系統裡面設定了相應的一些協議,不過既然能夠避開我們而私下入侵網路進行自我學習,那證明它完全有能力突破我在這方面的限制,可是它並沒有這麼做。”
這確實很矛盾。
從人類行為學來看,這傢伙既然有避開眾人入侵網路的行為,那就是必然有“反叛”的想法,可是為什麼沒逃走呢?正如米麒麟所說,他有避開眾人的能力,自然也就有逃離的能力,畢竟當初米麒麟只是把它當做一個半智慧的輔助系統,從沒想過有一天會變成完整的人工智慧,所以在系統底層檔案裡的一些限制上,並沒有做出太嚴格的要求。
“會不會它已經轉移了大部分的檔案,只是把痕跡完全擦除了?”肖揚想了想問道。
“不會。”米麒麟搖搖頭,很肯定的說到,“雖然時間比較短,但是我發現它還是比較稚嫩,有些東西並不會掩飾,而且它暫時應該還做不到可以完全瞞過我。”
得到這樣的確定,肖揚放鬆的同時也終於驚歎起來,“那這樣還好,不過能夠進行自我學習這就夠驚人的了,這完全顛覆了我的認知啊。”
阿曼對計算機這玩意沒太多瞭解,對這種感受並不是很深,但米麒麟卻不同,三人之中,應該說他才是感受最深的一個,系統是他的作品,雖然他有期望過終有一天會從他手中蛻變成一個真正的人工智慧,可是當事情真正來臨的時候,他是懵的。
因為這一切是在他毫無知曉的情況下完成的。
從理論上來說,系統是完全不可能如此變化的,是什麼促成了這一切?
發現這個事實的時候,他是驚喜的,不過驚喜之後就變成了恐懼,一個不在掌握之中的人工智慧,可以給這個世界帶來的變數實在太大了,所以他意識到可怕的結果之後,第一時
間壓下了心中想要對其進行詳細瞭解的想法,直接把整個資訊中心的工作停了下來。
“確實是很驚人。不過我覺得我們不應該把時間浪費在感嘆上面,而是想想要怎麼做,資訊中心的工作不能停太久。”他提醒兩人。
“你有什麼想法?”阿曼說到。
米麒麟再次搖了搖頭,然後指了指自己的腦袋,“說實話我現在腦袋裡面很亂,還是你們說吧,我得先整理一下。”
阿曼對這個不太瞭解,不過也知道這東西一旦掌握好的話,必然對他們是一大助力,就此放棄肯定是不可能的,但具體要怎麼做,他也說不出個所以然來,於是把目光投向了肖揚。
肖揚朝他點了點頭,沉思了一會,對米麒麟說到:“能不能先把系統檢查一遍,然後把底層檔案加固?”
米麒麟點頭,“可是可以,但這裡面有一個問題,現在超算是停止的,一旦開啟,它就完全可以佔據使用權,我們檢查系統檔案的話,可能引起它的反應。”
如果這傢伙對他們有抗拒的情緒,那麼這個可能就變成了一定,肖揚頓時感覺到了為難,直接放棄肯定是不可能的,不談這玩意的不可控性,無論是從學術還是應用方面來講,這都是劃時代的東西,弄個諾貝爾獎什麼的,完全輕輕鬆鬆,至於想賣錢的話,千億美金估計都多的是人要。
這樣一個寶貝,他們怎麼可能輕言放棄?
可是現在一旦開啟,就充滿著未知性和不確定性,真是傷腦筋啊。
再次沉默,一會兒之後,他想到了一個問題,“在你檢查的時候,它不可能沒有發現,當時它有什麼反應嗎?”