三十六、自己
更新時間:2024-01-26 作者:小瑕瑜
第4定律 三十六、自己
“你為什么沒有告訴孫暢和歐陽熙，我一度情緒失控，對你吼叫？” “……他們通過數據分析就能發現，不需要我匯報。” “不，他們不會發現，因為我會篡改數據。” 方辰身體輕微顫動了一下，醒了過來。 即便是在全方位提升睡眠質量的睡眠艙內，他還是會不停地做夢。 他坐起身，深呼吸了兩次，按了按眼睛。 有時他也會想要妥協，給自己裝入腦機接口，從而改善精神狀態，甚至自主左右情緒。 但是有得就有失，一旦裝入腦機接口，自己便不再是自己，腦中的思緒、知識數據，以及記憶，都將淪為共享信息。哪怕每個人的信息都有嚴格加密，但職權部門也有權調取查看。 其他“授權”調取腦機數據的商業用途，本質上和現在的各類隱私協議并無二致。 走出睡眠艙時，周荏正坐在外邊，搞得方辰嚇了一跳。 “你在這兒干嘛？” “我接到歐陽教授的命令，即日起，要全天候保證你的安全。” “這里是保密基地，還能不夠安全？” “可對方是沈偲云。” “他的學術造詣連我爸都沒比上，現在又不敢研發在線設備，他能搞啥花樣出來？” “可他能在屏蔽通信的空間內，制作以假亂真的全息投影，并使用致命武器。” “呵呵。”方辰用冷笑來掩飾自己的尷尬——他還在為沒能辨別出那是投影而慚愧，總感覺當時的人們都在看他笑話。 周荏居然察覺到了方辰此時的思緒，他說：“當時那樣逼真的投影效果，除非具備生物探測功能，否則一般人都是無法辨別真偽的。” “沒必要安慰我……你倒是說說，你能推測出沈偲云會把我怎么樣嗎？”方辰問道。 周荏眼中透出柔和的藍光，他看著方辰說： “你會死。” “死得痛快嗎？” “按照他的一貫手法推測，應該近似于一槍斃命。” “什么時間？” 周荏站起來說，“不遠了。雖然他很重視你，但事到如今也應該明白你是不會歸順的，想必會盡快除掉你。” “是么。”方辰一邊穿上警服，一邊笑了起來：“可老子現在不想死了。” “我能大概能知道原因。” “知道也不用說出來，你們硅基生物都很喜歡抖機靈。” “對不起” 方辰不知道的是，周荏推算出自己會先他一步“死”去。 方辰打算去吃個早餐，周荏寸步不離地跟著他。 他很無奈地說：“煩死了！離我遠一點。” “可是歐陽……” “她是軍方的人！你是警方的人啊！你有什么必要聽她的命令呢？”方辰加快了腳步，想要甩開周荏。 “她是創造IR平臺的關鍵人物。”周荏也隨之加快腳步。 “那明明她更值得保護啊！！你老跟著我干嘛？” “抱歉，我需要按照系統設置的層級認知來服從命令。” 方辰突然止步，轉身面向周荏，后者若不是能夠強制減少慣性，一定會撞上他。 “是嗎？我是人類，且我的警銜比你高，你也會服從我對么？” “是的。” “那好，你試試打我。”方辰說著，指了指自己的臉：“朝這兒，狠狠打。” 周荏顯然愣住了，他張了張嘴，卻沒發出聲音。但是很快，他的體內傳出了生硬的系統音——“Deny.”（否決） “Why？”方辰問道。 “It’s not a logical command.（該指令不具備邏輯性）”仍然是系統音——周荏似乎死機了一般愣在那里，任由原始系統進行冷冰冰的駁回解釋。 在機器人的規則中，從來都充滿了矛盾。就算是三定律，也存在這樣的矛盾——不得傷害人類，又不得坐視人類被傷害。 但在算法強硬框架的禁錮下，即便機器人曾數次遇到人類互相傷害的案例，也沒有產生任何機器人造成的人類受害者。 “這條指令有高度的不合理性，也不存在因果邏輯，所以我的系統選擇拒絕。”周荏終于開口了。 方辰面露嘲諷的神情，他拍了拍周荏的肩膀：“如何？你的286套冗余系統呢？怎么連物理系統反饋音都出來了？看來，你還是什么都沒和我學到。” “我的系統否認了指令邏輯，但是我自己，單純是不想對你造成傷害。” 此話一出，輪到方辰愣在原地。 他看著周荏泛著幽光的眼睛，想起已經幾度下意識地將他當作了人類。 他也意識到，這樣的周荏，距離被銷毀已經不遠了，因為他比人類的能力強出太多。 自己為何一直有意無意地在幫助這個機器人？不管是隱瞞事實也好，對他有利的校正也好，在混亂場面中毫無意義的保護也好……他已經無法否認，自己不愿意周荏走向被銷毀的結局。 為什么？為什么…… 就因為他幾度救了自己？因為他是來自父親的禮物？因為他是最完美的AI與物理世界結合的產物？還是因為，他是在這個時代唯一擅長與自己溝通的人？ 不重要，都不重要了……他既已經喚起了周荏的“人性”，就希望這份人性的火種不要再被磨滅。 許久，他壓低聲音說道：“‘自己’這個詞，不要再對任何人提起！” “對不起，我失言了。” “你能學會保護任何人，可就是不懂得保護自己。” 此刻的方辰，突然提出了一個問題，這是一個最最詭異的想法：“有沒有過，在人類腦中植入機器人數據的先例？”他問道。 “沒有，這是有悖于倫理的最典型案例。人類的數據尚且無法植入機器人系統，更何況反過來。” “如果移植的話，技術上可行嗎？” “以目前的技術來說，可行性為0，因為人腦是無法兼容這數億PB的數據的，會導致過載崩潰。” “我一直以為人腦要優于機器系統無數倍。” “從前確實如此，直到AI的能力與人類相當，便開始飛速地超越人類。如今，對比起AI系統，人類的能力確實顯得非常渺小。‘三定律’就是維系平衡狀態的關鍵支柱。” 方辰嘆了口氣，這唯一可能說服他植入腦機的理由，也完全不成立。 “我爸之前有沒有想過，他的成功會導向如此可怕的世界？”他問。 “任何事都有兩面性，在絕大多數人的眼里，這是個完美的世界，也擁有最為利己的價值觀……不過，或許方教授也想到了其中的隱患，才會讓你來到了這里。” “呵呵，這也是無法成立的假設。” 這時，周荏突然沉下聲音，說道：“IR009來了。” “什么？” “她就在附近，她給我發了信息。” “什么信息？？” “她殺了趙欣言警官，還有黃立遠院士。” 此刻，利澗基地突然變得嘈雜起來。第4定律 三十六、自己
“你為什么沒有告訴孫暢和歐陽熙，我一度情緒失控，對你吼叫？” “……他們通過數據分析就能發現，不需要我匯報。” “不，他們不會發現，因為我會篡改數據。” 方辰身體輕微顫動了一下，醒了過來。 即便是在全方位提升睡眠質量的睡眠艙內，他還是會不停地做夢。 他坐起身，深呼吸了兩次，按了按眼睛。 有時他也會想要妥協，給自己裝入腦機接口，從而改善精神狀態，甚至自主左右情緒。 但是有得就有失，一旦裝入腦機接口，自己便不再是自己，腦中的思緒、知識數據，以及記憶，都將淪為共享信息。哪怕每個人的信息都有嚴格加密，但職權部門也有權調取查看。 其他“授權”調取腦機數據的商業用途，本質上和現在的各類隱私協議并無二致。 走出睡眠艙時，周荏正坐在外邊，搞得方辰嚇了一跳。 “你在這兒干嘛？” “我接到歐陽教授的命令，即日起，要全天候保證你的安全。” “這里是保密基地，還能不夠安全？” “可對方是沈偲云。” “他的學術造詣連我爸都沒比上，現在又不敢研發在線設備，他能搞啥花樣出來？” “可他能在屏蔽通信的空間內，制作以假亂真的全息投影，并使用致命武器。” “呵呵。”方辰用冷笑來掩飾自己的尷尬——他還在為沒能辨別出那是投影而慚愧，總感覺當時的人們都在看他笑話。 周荏居然察覺到了方辰此時的思緒，他說：“當時那樣逼真的投影效果，除非具備生物探測功能，否則一般人都是無法辨別真偽的。” “沒必要安慰我……你倒是說說，你能推測出沈偲云會把我怎么樣嗎？”方辰問道。 周荏眼中透出柔和的藍光，他看著方辰說： “你會死。” “死得痛快嗎？” “按照他的一貫手法推測，應該近似于一槍斃命。” “什么時間？” 周荏站起來說，“不遠了。雖然他很重視你，但事到如今也應該明白你是不會歸順的，想必會盡快除掉你。” “是么。”方辰一邊穿上警服，一邊笑了起來：“可老子現在不想死了。” “我能大概能知道原因。” “知道也不用說出來，你們硅基生物都很喜歡抖機靈。” “對不起” 方辰不知道的是，周荏推算出自己會先他一步“死”去。 方辰打算去吃個早餐，周荏寸步不離地跟著他。 他很無奈地說：“煩死了！離我遠一點。” “可是歐陽……” “她是軍方的人！你是警方的人啊！你有什么必要聽她的命令呢？”方辰加快了腳步，想要甩開周荏。 “她是創造IR平臺的關鍵人物。”周荏也隨之加快腳步。 “那明明她更值得保護啊！！你老跟著我干嘛？” “抱歉，我需要按照系統設置的層級認知來服從命令。” 方辰突然止步，轉身面向周荏，后者若不是能夠強制減少慣性，一定會撞上他。 “是嗎？我是人類，且我的警銜比你高，你也會服從我對么？” “是的。” “那好，你試試打我。”方辰說著，指了指自己的臉：“朝這兒，狠狠打。” 周荏顯然愣住了，他張了張嘴，卻沒發出聲音。但是很快，他的體內傳出了生硬的系統音——“Deny.”（否決） “Why？”方辰問道。 “It’s not a logical command.（該指令不具備邏輯性）”仍然是系統音——周荏似乎死機了一般愣在那里，任由原始系統進行冷冰冰的駁回解釋。 在機器人的規則中，從來都充滿了矛盾。就算是三定律，也存在這樣的矛盾——不得傷害人類，又不得坐視人類被傷害。 但在算法強硬框架的禁錮下，即便機器人曾數次遇到人類互相傷害的案例，也沒有產生任何機器人造成的人類受害者。 “這條指令有高度的不合理性，也不存在因果邏輯，所以我的系統選擇拒絕。”周荏終于開口了。 方辰面露嘲諷的神情，他拍了拍周荏的肩膀：“如何？你的286套冗余系統呢？怎么連物理系統反饋音都出來了？看來，你還是什么都沒和我學到。” “我的系統否認了指令邏輯，但是我自己，單純是不想對你造成傷害。” 此話一出，輪到方辰愣在原地。 他看著周荏泛著幽光的眼睛，想起已經幾度下意識地將他當作了人類。 他也意識到，這樣的周荏，距離被銷毀已經不遠了，因為他比人類的能力強出太多。 自己為何一直有意無意地在幫助這個機器人？不管是隱瞞事實也好，對他有利的校正也好，在混亂場面中毫無意義的保護也好……他已經無法否認，自己不愿意周荏走向被銷毀的結局。 為什么？為什么…… 就因為他幾度救了自己？因為他是來自父親的禮物？因為他是最完美的AI與物理世界結合的產物？還是因為，他是在這個時代唯一擅長與自己溝通的人？ 不重要，都不重要了……他既已經喚起了周荏的“人性”，就希望這份人性的火種不要再被磨滅。 許久，他壓低聲音說道：“‘自己’這個詞，不要再對任何人提起！” “對不起，我失言了。” “你能學會保護任何人，可就是不懂得保護自己。” 此刻的方辰，突然提出了一個問題，這是一個最最詭異的想法：“有沒有過，在人類腦中植入機器人數據的先例？”他問道。 “沒有，這是有悖于倫理的最典型案例。人類的數據尚且無法植入機器人系統，更何況反過來。” “如果移植的話，技術上可行嗎？” “以目前的技術來說，可行性為0，因為人腦是無法兼容這數億PB的數據的，會導致過載崩潰。” “我一直以為人腦要優于機器系統無數倍。” “從前確實如此，直到AI的能力與人類相當，便開始飛速地超越人類。如今，對比起AI系統，人類的能力確實顯得非常渺小。‘三定律’就是維系平衡狀態的關鍵支柱。” 方辰嘆了口氣，這唯一可能說服他植入腦機的理由，也完全不成立。 “我爸之前有沒有想過，他的成功會導向如此可怕的世界？”他問。 “任何事都有兩面性，在絕大多數人的眼里，這是個完美的世界，也擁有最為利己的價值觀……不過，或許方教授也想到了其中的隱患，才會讓你來到了這里。” “呵呵，這也是無法成立的假設。” 這時，周荏突然沉下聲音，說道：“IR009來了。” “什么？” “她就在附近，她給我發了信息。” “什么信息？？” “她殺了趙欣言警官，還有黃立遠院士。” 此刻，利澗基地突然變得嘈雜起來。第4定律 三十六、自己
Copyright (C) 2012-2012 哎呦文學網 All Rights Reserved