第(2/3)頁

    收入也沒有被考慮到。當時開發忒彌斯的兩個程序員顯然沒有考慮到世界上仍存在大量的低收入群體，導致了一些面對窮人的不公。比如，“富人為學校捐錢可以換取入學資格”這種事，他們認為并不算壞，因為捐助可以讓學校發展得更好——卻忽視了由此可能導致的可怕后果。

    在忒彌斯2.0系統中，開發人員吸取教訓，從全球人群中抽樣出一個群體，用他們的特征來訓練子系統，然后再將數量擴增至60億，來具體判斷一件事的性質，或者說，它“是否符合道德”。

    抽樣人群多達數萬人。人類的大部分道德評判要素都被這些人概括：性別，階級，信仰……開發人員相信，這一系統可以為一切道德困境，做出二元的判斷。

    這一年便被劃為新控制論時代開始的元年。它的誕生帶著歷史的必然：隨著全球經濟與人口素質的提高，人們越發呼吁一種可以仲裁一切終端的強力機器。這一機器的物質實體是正冉冉升起的世界政府，而它的內在構造，就是忒彌斯等一系列道德評判系統。

    小到夫妻吵架，大到超級大國間的爭端，由于熱核戰爭之后人們對武力的極端厭惡，所有人都趨向于使用文明的方式來解決。而如果使用法官審判，誰來審判法官？如果使用陪審團討論，又如何顧及法庭之外，億萬蕓蕓眾生？

    但也不能真的讓一切事情都交給一切人來評判。總不能因為你和水管維修工的糾紛，就叫數十億人進行一場只有兩個選擇的投票。

    代替人類進行評判的系統必須存在，它還必須盡可能接近人類群體本身。

    如果把全人類比做一個巨人，那忒彌斯2.0就好比一個侏儒。雖然小得多，卻仍舊五官完整，四肢健全。

    忒彌斯2.0很好的處理了大量的疑難問題。比如，“老婆和媽掉水里了該救哪個？”的答案認為應該救媽。畢竟不是每個人都有老婆，但基本每個人都有媽。

    再比如，“為了修建太空電梯犧牲兩萬人是否應該？”，人們的答案壓倒性的表示不應該。因為沒人見過太空電梯，但大家都知道死的兩萬人可能是自己。

    也就是這時，忒彌斯2.0暴露出了它仍舊存在的問題：時效性。自世界政府成立，系統上線以來已經度過了近百年。在這百年之中，人們積累了修建太空電梯的所有技術，卻仍因為可能存在的犧牲導致根本無法通過系統的道德性判斷。

    類似的問題還有很多。克隆技術下誕生的克隆人合法性問題亟待解決，多性別婚姻與物種雜交的新形勢等待方案，自由主義盛行的年代里人們有沒有反對自由的自由，而人人平等的權利架構下，生育這件事又該怎么納入統籌。這些問題，已經遠不是多年前的一些老舊系統能夠解決的了。

    當然，保守主義者會認為，如果我們和道德相悖，恰好證明我們走錯了路。但激進主義者認為，一群面對“是否支持雙性別半人馬與植入復制版人類意識的四足機器人開展大規模婚配”的問題只會選“是”的系統，已經遠遠落后于時代了。

    你問為什么忒彌斯2.0里的那些系統只會選“是”？因為它們看不懂問題，只能蒙第一個。

    邁向未來的第一步雖艱難卻仍需大膽前進。世界政府作了這幾百年來唯一一個“不合法”的決定：對忒彌斯2.0進行升級。諷刺的是，那些子系統似乎全都知道忒彌斯拆除后自己的命運，所以一律反對升級，但世界政府破除萬難，在人口普查的同時開展了一次覆蓋所有算得上“人”的家伙的投票，結果大家一致同意。

    為什么同意？因為其實大部分人也不明白這個系統有啥用，蒙了第一個選項。

    忒彌斯3.0誕生的紀念儀式上，世界政府的首席行政人員，也叫大交互員，宣讀了新系統對人類發展的重要意義。

    “最新版的忒彌斯系統連接著每個人的腦機接口，數據接駁服務器或者生物質腦組織。從今往后，我們會以每天一次的頻率，對全人類的意識進行采樣，再將海量的數據映射到忒彌斯系統之中。換言之，面對所有問題，我們將團結每一個人，給出最中肯，最符合道德的答案。全人類的同理心，將共同投影在這一塊小小的設備中，綻放出無可比擬的道德光輝。”

    為了紀念這種光輝，儀式所在的廣場被命名為“道德高地”。從此，如果誰真的站在道德高地上靠近忒彌斯系統，那他可能真的有資格對你進行道德綁架。

    改版的忒彌斯3.0系統實現了一種幾乎不可能的道德審判方式，即讓全人類站在你面前面對你小小的糾結。有49.7％的人類支持你下午稱病逃課，有36.2％的人類支持你去吻心中所愛的那個機器人姑娘，有89.7％的人支持你為了拯救人類犧牲自我——雖說這個是問著玩的。

    所以，當你的老師嚴厲的盯著你，說有63.2％的人認為不交作業應該受罰的時候，她很可能是認真的。
    第(2/3)頁