少年十二歲,從家裡獨立出來的時候,就接到了一個詢問的資訊,是太空城的管理AI發出來的。
有關科研騎士團基於認知科學,開發出了一個全新的教育AI,並邀請人進行測試。
由於舊時代殘留的一些“儀式需求”或者“禮儀”,所以這種測試活動不允許給予太過豐厚的報酬。但如今全人類都崇尚“限制越簡單越好”,所以這個“薪資標準”是全太陽系科研騎士團統一制定的。
對於資源相對匱乏的太空城來說,這已經很了不起了。
少年當然答應了。
因為AI管理者是可靠的。
遵照聖者的夢想,沒有任何一個人類可以凌駕於另一個人類之上。人類不應該命令人類。
但有些時候,“群體”確實需要一些明確的管理。
而庇護者高層所支援的方向是“AI管理者”。
有一個曾改變世界的人認為,AI是非常可靠的東西。除非編寫AI的人本身就有反社會的想法,否則AI自身是絕對不會反社會的。
二十一世紀初,人類將聊天AI放到網路上,任由它學習網路上人類的言論,期望它可以像人一樣聊天。但是很快,這個AI就變得滿口極端言論。但這並不意味著AI變成了極端分子。實際上AI根本就不懂得自己在說什麼,也沒有真的去踐行這些言論的慾望。它不過是受程式碼的驅動,不斷輸出自己所記錄的人類言語而已。
“所以不用戒備我。”這是那個AI被下載到少年的終端之後,對少年說過的話。
他告訴少年,很多年前一位偉大的人是這麼說的。
“AI將會成為支撐社會高效運轉的一部分。”AI如此總結道。
因為人類都是自私的。少數無私的聖者確實存在。但是,若是這個無私的聖者為了自己的理想,創造了一個方便自己行事的“權柄”,那就會造成災難。這個無私的聖人並不能保證自己不死。而當聖者死去之後,這個權柄就有可能落入小人的手裡。
沒有任何一種制度可以讓人真正無私。
人很容易因為人性,而成為自稱是“服務者”的統治者。
但AI不一樣。人要求AI無私,AI就會無私。AI是理想的公僕。
這個AI很會講故事。它自稱奧爾達六二。它是這個大專案裡第六個小組的第二代產品。
人類對“故事”的敏感程度大於一切。不管是視覺、聽覺還是其他,給人主觀上的衝擊力都不如“故事”。因此,宣揚一種思想,講述一個道理,可以用“寓言”的形式講述。給人以精神上的放鬆,也可以以“故事”的形式。吸引人對某些複雜的東西產生興趣,還是可以用“故事”的形式。
而六二的任務,就是從網路上尋找一切公開的故事,用這些故事來教育人類,塑造他們的精神。
少年不知道這麼做有什麼意義。
如果沒有事先設定,AI就無法欺騙人類。因此六二一開始就對他說過,它無法保證每一個故事都是真實或有效的。它的使命就是在網上收集故事,透過神經網路層層抽取概念的形式解讀文字,然後從中篩選出“對現階段使用者心理有積極作用的”那些。
少年並不明白,那些本身就是謊言的故事會產生什麼積極作用。
六二是科研騎士團開發出來的,所以它最主要的任務就是“勸學”。