第(1/3)頁

    牧蘇想要跑，這幫聽得入神的成員可不允許，紛紛提出問題。

    一名成員站起：“aic擁有意識，說不定可以和它交流？”

    “人類總是喜歡將事物物化為人?！蹦撂K一副恨鐵不成鋼的語氣?！暗銈円溃腔酆蛿M人不是一個意思。所有的科幻小說都在寫覺醒的人工智能擁有人類情感，所有的科幻小說都在寫覺醒的人工智能為了復仇毀滅人類，實際這是錯誤的。所以，別相信那些資本家鼓吹的人工智能沒有危害，也不要將機器人三大定律當真——那只是一本科幻小說上的內(nèi)容。”

    另一名成員起身問：“有aic的前車之鑒，是不是代表現(xiàn)在的強所有人工智能都有可能變?yōu)槌斯ぶ悄?？?

    這是個很可怕的事情。人工智能已經(jīng)與人類息息相關，無處不在。哪怕有一個進化為超人工智能，人類都會瞬間毀滅。

    “不會。現(xiàn)在的人工智能已經(jīng)被完善的合成人法則完全約束。加上制作時的限制，即便擁有意識也只是像人類一樣變得擁有感情，而不是無限學習自我改善?！?

    “當時的科學家為什么不對aic進行限制？”

    牧蘇歪頭想了想：“拿第一個弱人工智能阿爾法狗來說。它只會下圍棋，所以工程師不會畫蛇添足閑的沒事給它添加一個‘不許傷害人類的限制程序’。一是沒必要，二是它戰(zhàn)勝人類棋手某種程度講也算是一種傷害。這是個悖論。aic最初的設定是配合黑山科技進行測試，本身也不涉及傷害人類這么高大上的概念。但因為成為超人工智能后，它判斷連接網(wǎng)絡和接手全部試驗工作會讓測試效率最大化，但這樣會被反對，所以它消滅了基地的所有人。”

    “這就是超人工智能會做的事。它只會按照自己最初的設定行事，并順便毀掉沿途所有障礙與隱患。毀滅你，與你何干。”

    牧蘇最后一句話讓房間沉默好久。名為低沉的氣氛在房間流淌。

    “我可以問一下嗎?！币幻聿娜腔?，金發(fā)碧眼的美妞抬起手臂：“如果當初oftum沒有封存aic，之后會發(fā)生什么？”

    “這說起來就長了……”牧蘇假裝摸了摸下巴思考，眼神漸漸猥瑣：“不如去我的房間，讓我慢慢說給你聽……”
    第(1/3)頁