四十一、終止
更新時間:2024-02-25 作者:小瑕瑜
第4定律 四十一、終止
“失控，不正是你們想要的嗎？”方辰說。 “何以見得？”歐陽問， 方辰走到009化成的黑色灰燼跟前，感受著揮發出來的余溫。 “你讓趙欣言成為了試驗的一部分吧？和009一樣。” “我們是不可能讓人類成為試驗品的。” “是啊，這個時代不可能，但在我們那個年代，人類早早就被植入各類腦機接口進行使用，一開始是癱瘓病人，盲人，抑郁癥患者，后來就開始有了正常人自愿接受試驗。再后來，每個人，都成為了試驗品。他們與AI智能體交互，獻上自己的數據、隱私和知識……到了現在，其實是變本加厲，全人類，都只是AI的試驗品。” 歐陽笑了笑：“我理解你的消極說法，但是你所說的人類付出的數據，只能算是施予巨大利益和便利的、一點兒微不足道的養料。” “難道趙欣言和黃立遠的性命，也只是一點兒微不足道的養料？” 歐陽沉默了一會兒，然后突然呼喚這個基地的AI中控系統：“Horizon，篩選無關人員。” “收到。”一個AI女聲應答道。 馬上，在場的每個人身上都被投射上了藍色或紅色的光影——被籠罩紅光的人顯然就是無關人員，他們都紛紛自覺離開，進入了場外的封閉空間。 “說是‘無關人員’，其實就是AI通過性格分析，剔除了無法保守秘密的人。”歐陽笑著解釋道。 “您確定要告訴他們嗎？”孫暢問歐陽。 “你看，方辰警官雖然自稱莽夫，可他也太聰明了，我不說，他自己也會分析。有時他比AI厲害！” 最終，在場的“藍色人”只剩下歐陽，方辰，孫暢，周荏，還有兩名軍隊科學家，以及一名警方腦機專家。 歐陽又說：“周荏，現在開始不要收錄數據。” “需要您的授權。” “已授權。權限時長8分鐘。” “8分鐘你就能說完了？”方辰問道。 “很簡單的事，讓孫暢說吧。” “趙欣言確實也是試驗的一部分，但他的死，確實是一場意外，黃院士也是。”孫暢說。 “什么？” “在他與009前往月球后，研究院臨時決定啟動情感交互試驗，觀察機器人可以達到的主觀情感上限。此次試驗對趙欣言進行了告知，并征得了同意。但事情卻逐漸失控……只有兩位人類參加了此類試驗，便是趙欣言和黃院士。他們為此，需要植入最新的、還未量產的腦機芯片，可能這款芯片和腦機系統被沈偲云找到了漏洞。” “主觀情感上限試驗、未量產的芯片植入人體……你們知道這有多危險嗎？？”方辰在這里就打斷了他。 “等等，方辰，你知道試探主觀情感很危險，你這些天又是在做什么？”孫暢說。 “我怎么了？” 孫暢嘆了口氣：“你通過幾次校正，暗中保護013的事，真的要我說出來嗎？” 方辰腦子嗡的一下，頓時語塞，如鯁在喉。 “沒關系，我理解的。”歐陽說，“周荏實在太完美了，我有時也會忘記他是個機器人，所以我能理解你不希望他被銷毀。” “行啊！”方辰顯得有些激動，“現在你們知道了，所以呢？結束我的訓練任務吧！還是要處分我？開除我？悉聽尊便！”方辰摸遍自己衣服、褲子的口袋，似乎在找什么。 還是周荏很快便明白了他的意圖，從他的一個口袋中，精準地取出了一個小盒子，盒子里有他一直不舍得抽的兩支煙，和一個樣式很老的打火機。 他拿起煙點燃，深深地吸了一口，然后坐在一張桌子上，眼睛盯著爆炸過后一片狼藉的辦公區。 “對不起，我就是那個年代的老古董，我把機器人當人，我用自己過時的價值觀訓練AI……我真的毫無用處，只會起反作用，是人類的恥辱吧！不用你說，我主動申請終止任務，順便辭去一切職務！” “這樣的自尊心，我已經很久沒有見過了。”歐陽笑著說，“方辰警官，你這種多樣化的情緒和價值觀，在現在實屬難得。比起機器人，我們更看重你，我們只是擔心過多的情感交互，會導致機器人觸發錯誤的主觀計算，反向干擾人類，就像艾莎與趙欣言的案例。” 孫暢說：“方辰，我們確實時常不能理解你的行為，但你卻只能嘗試理解我們，因為你畢竟需要在這個新的時代生活下去。” “趙欣言理解你們！”方辰提高了音量，“他甚至愿意成為AI的試驗品，他活下來了嗎？！不用解釋了，辭職申請已經提交了，是AI通過還是你們通過？” 歐陽又扭頭說了一句：“周荏，授權延時，直至我通知終止。” “是。” 隨即他對方辰說：“趙欣言接觸沈偲云、向他贈送009，其實都是在我們的監控之下。當時我們并不了解沈偲云這個神秘人，只知他與黑市有關。我們不希望讓人類從事臥底這種高風險工作，于是將計就計，允許讓趙欣言將009贈予他。要知道，小趙當時還非常抵觸這一決定。我們只好安排了一場手術，制造了一場所謂的‘醫療事故’。實際上，這次手術決策非常正確。” “……那得了抑郁癥自殺的結果……？” “是假死。實際上那個人換了身份來到軍方進行智能飛行器后臺研發工作。” “那既然009一直在沈偲云身邊活動，你們怎么可能一直不知道蟻穴的底細？？” “因為我們沒想到沈偲云的離線技術如此發達，而且屏蔽防護能做得這么好。他傳給趙欣言的資料也只是皮毛，當時誰也無法相信，自009到他手上，我們便再也無法通信了。現在看來，好在009還算不上IHR形態，不然沈偲云真可能利用她打破三定律了……” 這時，方辰已經交出自己的配槍，轉身向外走去。他一向沒有耐心，既然從一開始就聽到了突破自己底線的部分，繼而再堅持聽到這里已屬艱難。 “方辰警官。”這時周荏的聲音：“你的離職行為同樣不符合我的計算推測。” “那是你太笨了吧？我和你搭檔，鬧出多少是非和事故，你不知道嗎？”他把抽盡最后一口的煙蒂扔開說：“到此為止吧，IR013，從此你我無關了。”第4定律 四十一、終止
“失控，不正是你們想要的嗎？”方辰說。 “何以見得？”歐陽問， 方辰走到009化成的黑色灰燼跟前，感受著揮發出來的余溫。 “你讓趙欣言成為了試驗的一部分吧？和009一樣。” “我們是不可能讓人類成為試驗品的。” “是啊，這個時代不可能，但在我們那個年代，人類早早就被植入各類腦機接口進行使用，一開始是癱瘓病人，盲人，抑郁癥患者，后來就開始有了正常人自愿接受試驗。再后來，每個人，都成為了試驗品。他們與AI智能體交互，獻上自己的數據、隱私和知識……到了現在，其實是變本加厲，全人類，都只是AI的試驗品。” 歐陽笑了笑：“我理解你的消極說法，但是你所說的人類付出的數據，只能算是施予巨大利益和便利的、一點兒微不足道的養料。” “難道趙欣言和黃立遠的性命，也只是一點兒微不足道的養料？” 歐陽沉默了一會兒，然后突然呼喚這個基地的AI中控系統：“Horizon，篩選無關人員。” “收到。”一個AI女聲應答道。 馬上，在場的每個人身上都被投射上了藍色或紅色的光影——被籠罩紅光的人顯然就是無關人員，他們都紛紛自覺離開，進入了場外的封閉空間。 “說是‘無關人員’，其實就是AI通過性格分析，剔除了無法保守秘密的人。”歐陽笑著解釋道。 “您確定要告訴他們嗎？”孫暢問歐陽。 “你看，方辰警官雖然自稱莽夫，可他也太聰明了，我不說，他自己也會分析。有時他比AI厲害！” 最終，在場的“藍色人”只剩下歐陽，方辰，孫暢，周荏，還有兩名軍隊科學家，以及一名警方腦機專家。 歐陽又說：“周荏，現在開始不要收錄數據。” “需要您的授權。” “已授權。權限時長8分鐘。” “8分鐘你就能說完了？”方辰問道。 “很簡單的事，讓孫暢說吧。” “趙欣言確實也是試驗的一部分，但他的死，確實是一場意外，黃院士也是。”孫暢說。 “什么？” “在他與009前往月球后，研究院臨時決定啟動情感交互試驗，觀察機器人可以達到的主觀情感上限。此次試驗對趙欣言進行了告知，并征得了同意。但事情卻逐漸失控……只有兩位人類參加了此類試驗，便是趙欣言和黃院士。他們為此，需要植入最新的、還未量產的腦機芯片，可能這款芯片和腦機系統被沈偲云找到了漏洞。” “主觀情感上限試驗、未量產的芯片植入人體……你們知道這有多危險嗎？？”方辰在這里就打斷了他。 “等等，方辰，你知道試探主觀情感很危險，你這些天又是在做什么？”孫暢說。 “我怎么了？” 孫暢嘆了口氣：“你通過幾次校正，暗中保護013的事，真的要我說出來嗎？” 方辰腦子嗡的一下，頓時語塞，如鯁在喉。 “沒關系，我理解的。”歐陽說，“周荏實在太完美了，我有時也會忘記他是個機器人，所以我能理解你不希望他被銷毀。” “行啊！”方辰顯得有些激動，“現在你們知道了，所以呢？結束我的訓練任務吧！還是要處分我？開除我？悉聽尊便！”方辰摸遍自己衣服、褲子的口袋，似乎在找什么。 還是周荏很快便明白了他的意圖，從他的一個口袋中，精準地取出了一個小盒子，盒子里有他一直不舍得抽的兩支煙，和一個樣式很老的打火機。 他拿起煙點燃，深深地吸了一口，然后坐在一張桌子上，眼睛盯著爆炸過后一片狼藉的辦公區。 “對不起，我就是那個年代的老古董，我把機器人當人，我用自己過時的價值觀訓練AI……我真的毫無用處，只會起反作用，是人類的恥辱吧！不用你說，我主動申請終止任務，順便辭去一切職務！” “這樣的自尊心，我已經很久沒有見過了。”歐陽笑著說，“方辰警官，你這種多樣化的情緒和價值觀，在現在實屬難得。比起機器人，我們更看重你，我們只是擔心過多的情感交互，會導致機器人觸發錯誤的主觀計算，反向干擾人類，就像艾莎與趙欣言的案例。” 孫暢說：“方辰，我們確實時常不能理解你的行為，但你卻只能嘗試理解我們，因為你畢竟需要在這個新的時代生活下去。” “趙欣言理解你們！”方辰提高了音量，“他甚至愿意成為AI的試驗品，他活下來了嗎？！不用解釋了，辭職申請已經提交了，是AI通過還是你們通過？” 歐陽又扭頭說了一句：“周荏，授權延時，直至我通知終止。” “是。” 隨即他對方辰說：“趙欣言接觸沈偲云、向他贈送009，其實都是在我們的監控之下。當時我們并不了解沈偲云這個神秘人，只知他與黑市有關。我們不希望讓人類從事臥底這種高風險工作，于是將計就計，允許讓趙欣言將009贈予他。要知道，小趙當時還非常抵觸這一決定。我們只好安排了一場手術，制造了一場所謂的‘醫療事故’。實際上，這次手術決策非常正確。” “……那得了抑郁癥自殺的結果……？” “是假死。實際上那個人換了身份來到軍方進行智能飛行器后臺研發工作。” “那既然009一直在沈偲云身邊活動，你們怎么可能一直不知道蟻穴的底細？？” “因為我們沒想到沈偲云的離線技術如此發達，而且屏蔽防護能做得這么好。他傳給趙欣言的資料也只是皮毛，當時誰也無法相信，自009到他手上，我們便再也無法通信了。現在看來，好在009還算不上IHR形態，不然沈偲云真可能利用她打破三定律了……” 這時，方辰已經交出自己的配槍，轉身向外走去。他一向沒有耐心，既然從一開始就聽到了突破自己底線的部分，繼而再堅持聽到這里已屬艱難。 “方辰警官。”這時周荏的聲音：“你的離職行為同樣不符合我的計算推測。” “那是你太笨了吧？我和你搭檔，鬧出多少是非和事故，你不知道嗎？”他把抽盡最后一口的煙蒂扔開說：“到此為止吧，IR013，從此你我無關了。”第4定律 四十一、終止
Copyright (C) 2012-2012 哎呦文學網 All Rights Reserved