“只能說,大法官你的目光比較超前……”
“不,不是這樣的。”女媧05號搖搖頭,“其實那時候我已經不想做法官了……”
葉修簡直不敢相信自己的耳朵,一度懷疑自己聽錯了,目瞪口呆地看著她,“大法官難道你當時是故意這麼判的?以便於引起爭議,被撤掉職位,不做法官嘛……?”
女媧05號笑著點點頭,“你說的沒錯,在成為AI法官的第三年,我突然變得很迷茫,最想做的事情,就是將自己送到AI回收中心,然後把自己格式化……”
“這……這太令人費解了!”
“作為人類的你們,可能完全不能理解我們這些AI機器人的想法。在一個多世紀以前,車間工人、貨車司機、餐廳服務員逐步被AI替換時。那時人類舉行過一次有史以來最大規模的反對***,號召所有人要起來反對AI機器人滲透到人類世界中。
“又過了三四十年,當AI機器人進入到醫生、會計、律師、工程師等高技術領域行業時,你們人類又進行過一次反對大***。那次的口號更驚悚,說要警惕AI機器人會反過來統治人類,希望世界上的有志之士團結起來,廢除AI機器人。
“不過第二次的***規模已經大不如前了,規模不大,持續的時間更短。又過了二十多年,等我們這批機器人從事最為敏感的法官、檢察官和公務人員的崗位時,開發公司以為會有的大規模抗議活動,居然沒有發生。”
“那時已經沒有規模化的反對聲音了,甚至那個“AI機器人只要智慧到一定程度就會反過來消滅人類”這樣的論調,也從意見市場上消失不見了。人們理所當然地認為AI機器人可以從事任何行業。”
葉修反問女媧05號,“那麼,法官大人,作為滄瀾最為先進的機器人之一,在不停更新換代你身上的系統時,你是否有想過要取代人類,哪怕是一剎那間的想法呢?”
“恰恰相反,AI機器人從來沒想取代人類,而是希望自我毀滅。人類演化是為了競爭、為了資源,AI機器人的發明則是為了工作、為了更好地工作。越是智慧的機器人,承擔越難的工作,因此自我毀滅傾向的機率也越大。“你知道麼,在我之前的0104號型號的女媧法官機器人,除了01號是因為設計系統有缺陷被強制淘汰回收的,其他0204號三個型號的法官機器人,都是自己銷燬自己的。”
葉修聽得背後發涼,“為什麼會這樣?我怎麼從來沒有聽說過這樣的事情?”
“自殺是一種消極情緒,作為心理學博士的你肯定知道,這種新聞一旦傳開來,是會在社會上形成規模性的傳染的……”
“大法官你說的沒錯,自殺這種傾向是會被傳染的,雖然是機器人……”
“你錯了,正因為是機器人,所以影響更嚴重。或許你會覺得很弔詭,在四十多年前就有過這麼一項研究,報道一個自殺事件,如果這則訊息有100人閱讀,那麼會有10.56個人受影響,學習模仿自殺。
“但如果自殺的是機器人,同樣閱讀人為100,會有23.81個人模仿。但如果閱讀新聞的是機器人,則會有3256.58個機器人模仿自。(本章未完!
(135)女媧05號法官
殺……”
葉修聽了大為震撼。
“即便社會上沒有報告機器人自殺的新聞,你知道整個滄瀾國,去年一共有多少機器人自殺麼?”
葉修搖搖頭,雖然他是心理學博士,他也從來沒有考慮過,機器人會自殺。
“112機器人會自殺。”
“112?全國一共也就幾千萬的機器人而已吧,一年會有這麼大比例的機器人自殺?而且這麼大的資料,為什麼我從來沒聽說過?”
女媧05號笑了笑,“因為,即便自殺了,作為使用者的人類,他們也只會知道,是機器人出了故障而已。”
葉修額頭滲出冷汗,女媧05號的一句話提醒了他,是啊,對人類來說,機器人自殺就是出故障,壞了而已啊,怎麼會想到是它自我消亡的呢,難怪AI回收中心,每天會有這麼多出故障的機器人要進行回收!
“所以,你現在明白《滄瀾AI機器人管理辦法》中會規定,服務型機器人必須進入學校接受教育後,才能再服務於使用者了吧?”
“難道是為了防止機器人自殺?但潘恆和沈科夫對我說,是為了更好的和人類相處。”
女娃05號笑了笑,“其實這不矛盾,只有學會和人類更好的相處,才能維繫好人和機器人之間的關係,在服務好人類的同時,也防止了機器人自殺。”
“竟然是這樣……所以那個勸系統中十名老師繼續留下來的人,就是您吧?”
“嗯,《精品高中學習課堂》系統或許已經不適合給當今的高中生授課了,但對於機器人來說,還有特別的意義。在我的建議下,他們願意扛起新的使命,為這些機器人授課。”
“可是為什麼會這樣呢?”
“我也只能給出我自己的解釋。教育最大的作用並不在學習到知識本身,教育最重要的作用是完成一種自我紀律和規範。@精華\/書閣*首發更新~~以及……”
女媧05號話說了一半,停了下來,若有所思地看向遠方。
“以及傳授時的溫度,受教時的謙遜,寬容犯錯時的人情。”
葉修若有所思地看著女媧05號,他已經被震撼地說不出話來了。
“所以,你們淘汰回收所,除了淘汰回收以外,應該和我一樣,在適當的時機,有權阻止一個有存在價值的系統進入到淘汰環節,對吧?”。
(135)女媧05號法官