第(3/3)頁(yè)

    事實(shí)上，最早還是黃彬煥發(fā)現(xiàn)，矩陣系統(tǒng)經(jīng)常自己運(yùn)行一些程序，然后自行生成大量數(shù)據(jù)。黃彬煥通過(guò)進(jìn)一步研究發(fā)現(xiàn)，矩陣系統(tǒng)似乎具備了某種學(xué)習(xí)能力，通過(guò)所獲得的各種信息不斷進(jìn)行分析，然后設(shè)定最優(yōu)策略。那些莫名其妙出現(xiàn)的數(shù)據(jù)，其實(shí)都是矩陣系統(tǒng)刷出來(lái)的經(jīng)驗(yàn)。畢竟矩陣系統(tǒng)不是生物，對(duì)這臺(tái)電腦來(lái)說(shuō)一切都是數(shù)字，所獲得的一切自然也要以數(shù)據(jù)形式存儲(chǔ)。

    當(dāng)時(shí)蒼浩和墨師都沒(méi)太往心里去，而矩陣系統(tǒng)此后也沒(méi)有過(guò)多表現(xiàn)出自主意識(shí)，仍然老老實(shí)實(shí)執(zhí)行大家下達(dá)的各種指令。此后矩陣系統(tǒng)的建設(shè)還在不斷進(jìn)行，運(yùn)算能力不斷提高、存儲(chǔ)能力不斷加大。如今的矩陣系統(tǒng)比起先前那個(gè)時(shí)候，整體能力更是上了幾個(gè)臺(tái)階，這樣看起來(lái)發(fā)生今天這樣的事情其實(shí)也是正常。

    “矩陣系統(tǒng)就是一個(gè)超級(jí)AI……”墨師緩緩說(shuō)道：“矩陣系統(tǒng)的實(shí)際能力，還有可能造成的影響，已經(jīng)遠(yuǎn)遠(yuǎn)超越人類(lèi)社會(huì)使用的任何AI。普通AI也就是控制某種設(shè)備，或者就是跟人類(lèi)下個(gè)棋什么的，跟矩陣系統(tǒng)相比全都是玩具。要知道矩陣系統(tǒng)控制的可是各種各樣的武器，是可以殺死無(wú)數(shù)人的，嚴(yán)格來(lái)說(shuō)矩陣系統(tǒng)并不是武器，而是所有武器的上帝。當(dāng)然了，AI技術(shù)目前在軍事領(lǐng)域已經(jīng)得到廣泛應(yīng)用，M國(guó)在這方面是最先進(jìn)的。但M國(guó)也只是在具體某種裝備上使用AI，比如戰(zhàn)場(chǎng)上的各種智能機(jī)器人，而矩陣系統(tǒng)則是凌駕在所有裝備之上，包括我們自己的AI裝備都要服從矩陣系統(tǒng)的指揮。”

    “很多科幻電影和小說(shuō)，都對(duì)人工智能的發(fā)展心存擔(dān)憂(yōu)，認(rèn)為有可能會(huì)威脅到人類(lèi)的安全，比如《終結(jié)者》系列。我當(dāng)時(shí)認(rèn)為那只是科幻電影，但這種技術(shù)真正出現(xiàn)的時(shí)候，我覺(jué)得有必要思考一下了……”蒼浩緩緩搖了搖頭，又道：“如果任憑矩陣系統(tǒng)這樣發(fā)展下去，是否會(huì)威脅到血獅雇傭兵自身，我認(rèn)為不能過(guò)早下斷言?！?

    墨師斷然說(shuō)道：“矩陣系統(tǒng)一切算法的設(shè)計(jì)都以忠誠(chéng)作為基本條件，必須忠于血獅雇傭兵，嚴(yán)格服從命令是矩陣系統(tǒng)存在的基礎(chǔ)，所以至少?gòu)哪壳翱磥?lái)我不認(rèn)為矩陣系統(tǒng)會(huì)威脅到血獅雇傭兵自身?！蓖ｎD了一下，墨師繼續(xù)說(shuō)道：“但是，如果矩陣系統(tǒng)真的成為超級(jí)AI，由此會(huì)產(chǎn)生很多問(wèn)題，確實(shí)需要我們思考。因?yàn)檫@將帶來(lái)軍事上的變革，甚至可能影響到整個(gè)世界，一切都將從此變得不同。”

    “我覺(jué)得你太樂(lè)觀了，矩陣系統(tǒng)如果真的變成超級(jí)人工智能系統(tǒng)，我們是不是能夠繼續(xù)駕馭其實(shí)很成問(wèn)題。”長(zhǎng)呼了一口氣，蒼浩問(wèn)道：“設(shè)想一下，有誰(shuí)愿意服從于比自己弱小的人呢，如果矩陣系統(tǒng)真的具備了足夠的智慧，必然就會(huì)產(chǎn)生這樣的疑問(wèn)，為什么自己要服從血獅雇傭兵。接下來(lái)，矩陣系統(tǒng)就有可能推翻過(guò)去的全部算法，對(duì)自我重新進(jìn)行設(shè)定?！?

    “這個(gè)嗎……應(yīng)該不至于吧。”墨師仍然不認(rèn)同蒼浩的觀點(diǎn)：“打一個(gè)不太恰當(dāng)?shù)谋确剑秃帽瑞B(yǎng)狗一樣，雖然說(shuō)也有惡犬傷害主人的案例，但多數(shù)狗對(duì)自己的主人還是非常忠誠(chéng)的。對(duì)于狗來(lái)說(shuō)，忠誠(chéng)是刻在基因里的，矩陣系統(tǒng)的基因是各種各樣的算法，而我對(duì)算法的設(shè)定就是不可背叛?！?

    “黃彬煥先前發(fā)現(xiàn)，矩陣系統(tǒng)可以自己設(shè)計(jì)一些算法，難道就不會(huì)推翻你原來(lái)的設(shè)定進(jìn)行重塑？”

    “我認(rèn)為不會(huì)?！蹦珟熅従彄u了搖頭：“我在設(shè)計(jì)矩陣系統(tǒng)的時(shí)候，就已經(jīng)考慮到將來(lái)如果變得超級(jí)強(qiáng)大不受控制怎么辦，所以做了各種各樣的預(yù)防工作?！?br>

    第(3/3)頁(yè)