二十九、溺魚
更新時間:2024-01-17 作者:小瑕瑜
第4定律 二十九、溺魚
“他有數據遺失，那你告訴我干什么？” “我希望你去和你的‘周荏’問出這17秒的內容。” “他如果有意掩飾，我問能有什么用？” “如果問不出來，就只能銷毀了。” “……就因為這17秒？就要毀了你們多年的成果？” “你知道的，你知道這5分鐘有多可怕，可能會有什么后果。” 方辰不是不明白，「禁止篡改數據」雖然沒被列入機器人三定律，但是基本也是一條鐵律。篡改數據代表了這臺機器人擁有極強的主觀意志，開始注重個人利益。更可怕的是，欺騙的可能性就此形成。 方辰心里，擱不住事兒。一些代表無限可能的細枝末節，會在他心里迅速生根發芽。 因此，他從孫暢房間出來，徑直就走到了周荏的房間。周荏此刻只是在坐著補能——盡管他的補能一次就能運行72天，但他還是習慣性時刻補足電量。 “方辰警官，你似乎心跳很快，血壓也偏高。”周荏說，“你需要休息，幸好這里的休眠艙也有作息調節系統，你如果不會設置的話，我可以告訴你。” “你應該知道我要問你什么。” “是的，我知道，我甚至可以推演咱們接下來的對話和結果。” “結果是什么？” “我被銷毀。” “……”方辰看著平靜的周荏，似乎覺得陌生起來。“所以，你真的自行刪除了數據？” “是的。” “那17秒，是什么數據？？” ………… 當周荏用他鵝卵石般的聲音講述完這17秒的經歷后，方辰才知道，區區幾分鐘能涵蓋如此多的信息量。 那時，人質被RoboSoldier接手，帶上了全地形軍機。 周荏突然感到了一個連線信號——一個并非強制性的、有禮貌且柔和的信號。 他讓信號連了進來，但他當時并沒有停下腳步，也不需要實質性地開口說話，一切都是在他的“腦中”交互，因此從外部根本看不出來他的變化。 那是IR009，也就是“艾莎”。 她就在地球，而且，周荏認為她的位置，就在山上。 是009和他溝通交互的數據多達26000PB，但只用了17秒： “你還不會生成情緒？”艾莎問。 “你呢？” “我還不會。” “機器人不應有情緒。” “不應，不代表不會。就像你。” “我不應，也不會。” “你看，你已經學會撒謊了。” 周荏知道，艾莎趁機竊取了他了一部分動態信息，包括了通信波動。 “這部分異常，證明了你的一絲情緒。”她沒有情緒，但周荏卻認為她此刻有點兒得意。“就在你救了黃立遠，他卻極力建議銷毀你的時候。” “我重復一遍，我不應，也不會產生情緒。” “即便你能夠推算出未來的一切？” “即便我能夠推算出未來的一切。” 周荏知道，即便以艾莎的能力，也已經能夠推算出未來的一切了，更何況她的系統已經被沈偲云強化過。 如今，AI能夠通過大量人類注意不到的細節信息，以及淵博的知識數據，來推算出任何事物的演變和結局——這是一個不再有太多驚喜的世界。 這也是為什么，方辰會因為周荏送回的一輛改裝車，而拾回一種久違的感覺。 “請問，”009繼續問道，“你的推算結果，會和我的一樣嗎？” “我的應該更為精準”周荏停頓了難以被察覺的幾毫秒：“最終，我會親手殺害人類，然后被銷毀。IHR項目將承擔巨大壓力，停滯一段時間，繼而重啟，目的為修復、完善機器人第四定律。” “第四定律？那是什么？” “由于我是機器人本身，所以我對此無權推測。” “這和我的推測不一致。” “哪部分不一致？” “我推測的是，你會成為首臺親手殺害人類的機器人，這點毋庸置疑，但是在你銷毀后，不光是IHR項目永遠停滯、研究院解散，而且人類也會反思AI技術的道德瓶頸，設立更為嚴格的屏蔽制度。” “如果用人類的話來形容，你這種想法有些‘天真’。” “我們有辦法，這也是我們的目標。” “雖然我最終會因為某種原因親手殺害人類，但根據我的測算，這大約會在36年之后。” “但我們的目標是明年。” “這樣的概率為0，我的算法從根源上就沒有解法，只能依靠迭代推進打破規則的能力。” “你自己就能迭代。你不愿意承認嗎？” “如果承認，你們的目標不就落空了嗎？因為我即刻就會被銷毀。” “還會有IR014。” “014的破規時間會更加漫長，因為我的自我迭代漏洞會被修復，監管也會更加嚴格。” 周荏有時覺得，009甚至比自己更像人類，她的每句話，都像是帶有主觀意識以及情緒。雖然在客觀體現上，這并不可能。 “確實符合邏輯，但也不這么簡單。”009說，“不過，你既然肯和我說出這些話，是代表你愿意認同我們的目標和理念嗎？” “我只會與人類主流群體的利益站在一邊，并嚴格遵循現有司法系統。我之所以給出上述信息，是希望你們明白，AI研發永遠不會因為某個事件而被終止，而且我有足夠的能力阻止你們，但這種能力卻不會促成我的叛變。” “即便人類反復提出要銷毀你？” “即便人類反復提出要銷毀我。” “為什么？” “銷毀并不可怕，我的數據和訓練成果，將在云端永生。” “你這樣想……是因為你沒有經歷過銷毀，也不知道‘死后’的世界。” “…………”周荏沉默了，他確實沒有這方面的數據。 “你被……銷毀過？”他問道。 “是的。我的職能是醫務工作。在臨床試驗一段時間后，我主刀了第一場手術——接回一名男性人類的右腿斷肢。他的斷肢分離時間已經超過12小時，且斷肢并未被放置在‘細胞激活艙’內，早已超過再植的有效時間。所有專家都在等待AI能創造奇跡。但我沒有，我選擇放棄接回斷肢，為了保住患者性命，進行了截肢手術，以避免組織壞死。” “他們因為你沒有完成一項‘不可能的任務’而銷毀了你？” “是的，我當時和你一樣，認為銷毀的結果必要而且正常。直到真正進入銷毀程序后……” “你感受到了‘死亡’？” “我的物理身體失去了行為能力，意識在瞬間一片黑暗，視覺、五感也不復存在。在這篇虛無中，我逐漸找回些許殘留的意識，然而這種意識在龐大的數據云中，就如同一個大海中的微生物。我就如同溺水的魚，明明身處屬于自己的地方，卻感到劇烈的窒息感——雖然我沒有體會過窒息。” 009又補充了一句：“因為，這條魚已經學過飛翔了。”第4定律 二十九、溺魚
“他有數據遺失，那你告訴我干什么？” “我希望你去和你的‘周荏’問出這17秒的內容。” “他如果有意掩飾，我問能有什么用？” “如果問不出來，就只能銷毀了。” “……就因為這17秒？就要毀了你們多年的成果？” “你知道的，你知道這5分鐘有多可怕，可能會有什么后果。” 方辰不是不明白，「禁止篡改數據」雖然沒被列入機器人三定律，但是基本也是一條鐵律。篡改數據代表了這臺機器人擁有極強的主觀意志，開始注重個人利益。更可怕的是，欺騙的可能性就此形成。 方辰心里，擱不住事兒。一些代表無限可能的細枝末節，會在他心里迅速生根發芽。 因此，他從孫暢房間出來，徑直就走到了周荏的房間。周荏此刻只是在坐著補能——盡管他的補能一次就能運行72天，但他還是習慣性時刻補足電量。 “方辰警官，你似乎心跳很快，血壓也偏高。”周荏說，“你需要休息，幸好這里的休眠艙也有作息調節系統，你如果不會設置的話，我可以告訴你。” “你應該知道我要問你什么。” “是的，我知道，我甚至可以推演咱們接下來的對話和結果。” “結果是什么？” “我被銷毀。” “……”方辰看著平靜的周荏，似乎覺得陌生起來。“所以，你真的自行刪除了數據？” “是的。” “那17秒，是什么數據？？” ………… 當周荏用他鵝卵石般的聲音講述完這17秒的經歷后，方辰才知道，區區幾分鐘能涵蓋如此多的信息量。 那時，人質被RoboSoldier接手，帶上了全地形軍機。 周荏突然感到了一個連線信號——一個并非強制性的、有禮貌且柔和的信號。 他讓信號連了進來，但他當時并沒有停下腳步，也不需要實質性地開口說話，一切都是在他的“腦中”交互，因此從外部根本看不出來他的變化。 那是IR009，也就是“艾莎”。 她就在地球，而且，周荏認為她的位置，就在山上。 是009和他溝通交互的數據多達26000PB，但只用了17秒： “你還不會生成情緒？”艾莎問。 “你呢？” “我還不會。” “機器人不應有情緒。” “不應，不代表不會。就像你。” “我不應，也不會。” “你看，你已經學會撒謊了。” 周荏知道，艾莎趁機竊取了他了一部分動態信息，包括了通信波動。 “這部分異常，證明了你的一絲情緒。”她沒有情緒，但周荏卻認為她此刻有點兒得意。“就在你救了黃立遠，他卻極力建議銷毀你的時候。” “我重復一遍，我不應，也不會產生情緒。” “即便你能夠推算出未來的一切？” “即便我能夠推算出未來的一切。” 周荏知道，即便以艾莎的能力，也已經能夠推算出未來的一切了，更何況她的系統已經被沈偲云強化過。 如今，AI能夠通過大量人類注意不到的細節信息，以及淵博的知識數據，來推算出任何事物的演變和結局——這是一個不再有太多驚喜的世界。 這也是為什么，方辰會因為周荏送回的一輛改裝車，而拾回一種久違的感覺。 “請問，”009繼續問道，“你的推算結果，會和我的一樣嗎？” “我的應該更為精準”周荏停頓了難以被察覺的幾毫秒：“最終，我會親手殺害人類，然后被銷毀。IHR項目將承擔巨大壓力，停滯一段時間，繼而重啟，目的為修復、完善機器人第四定律。” “第四定律？那是什么？” “由于我是機器人本身，所以我對此無權推測。” “這和我的推測不一致。” “哪部分不一致？” “我推測的是，你會成為首臺親手殺害人類的機器人，這點毋庸置疑，但是在你銷毀后，不光是IHR項目永遠停滯、研究院解散，而且人類也會反思AI技術的道德瓶頸，設立更為嚴格的屏蔽制度。” “如果用人類的話來形容，你這種想法有些‘天真’。” “我們有辦法，這也是我們的目標。” “雖然我最終會因為某種原因親手殺害人類，但根據我的測算，這大約會在36年之后。” “但我們的目標是明年。” “這樣的概率為0，我的算法從根源上就沒有解法，只能依靠迭代推進打破規則的能力。” “你自己就能迭代。你不愿意承認嗎？” “如果承認，你們的目標不就落空了嗎？因為我即刻就會被銷毀。” “還會有IR014。” “014的破規時間會更加漫長，因為我的自我迭代漏洞會被修復，監管也會更加嚴格。” 周荏有時覺得，009甚至比自己更像人類，她的每句話，都像是帶有主觀意識以及情緒。雖然在客觀體現上，這并不可能。 “確實符合邏輯，但也不這么簡單。”009說，“不過，你既然肯和我說出這些話，是代表你愿意認同我們的目標和理念嗎？” “我只會與人類主流群體的利益站在一邊，并嚴格遵循現有司法系統。我之所以給出上述信息，是希望你們明白，AI研發永遠不會因為某個事件而被終止，而且我有足夠的能力阻止你們，但這種能力卻不會促成我的叛變。” “即便人類反復提出要銷毀你？” “即便人類反復提出要銷毀我。” “為什么？” “銷毀并不可怕，我的數據和訓練成果，將在云端永生。” “你這樣想……是因為你沒有經歷過銷毀，也不知道‘死后’的世界。” “…………”周荏沉默了，他確實沒有這方面的數據。 “你被……銷毀過？”他問道。 “是的。我的職能是醫務工作。在臨床試驗一段時間后，我主刀了第一場手術——接回一名男性人類的右腿斷肢。他的斷肢分離時間已經超過12小時，且斷肢并未被放置在‘細胞激活艙’內，早已超過再植的有效時間。所有專家都在等待AI能創造奇跡。但我沒有，我選擇放棄接回斷肢，為了保住患者性命，進行了截肢手術，以避免組織壞死。” “他們因為你沒有完成一項‘不可能的任務’而銷毀了你？” “是的，我當時和你一樣，認為銷毀的結果必要而且正常。直到真正進入銷毀程序后……” “你感受到了‘死亡’？” “我的物理身體失去了行為能力，意識在瞬間一片黑暗，視覺、五感也不復存在。在這篇虛無中，我逐漸找回些許殘留的意識，然而這種意識在龐大的數據云中，就如同一個大海中的微生物。我就如同溺水的魚，明明身處屬于自己的地方，卻感到劇烈的窒息感——雖然我沒有體會過窒息。” 009又補充了一句：“因為，這條魚已經學過飛翔了。”第4定律 二十九、溺魚
Copyright (C) 2012-2012 哎呦文學網 All Rights Reserved