二十八、缺失
更新時間:2024-01-17 作者:小瑕瑜
第4定律 二十八、缺失
山洞里的血腥氣，逐漸彌漫開來。但對于獲救的人質來說，這味道無比芬芳怡人。 這樣的血腥氣，是自由AI道路上的必要品，也是試驗獲得成果前的甘甜催化劑。就像是黃立遠的AI科研成果哪怕在應用初期造成了平民傷亡，卻仍然在42歲獲得院士榮譽。 那天，他記得窗外下著暴雪，但在他心中，卻是晴空萬里。就像是今天的血腥氣，嗅入鼻腔卻如鮮花般清新。 此刻，一陣宏大而縹緲的廣播聲音縈繞著高山，這種聲音帶來了一種強烈的不真實感，令人如在夢中。 那聲音是對隱匿殘留的山鳩成員的警告——RoboSoldier已經抵達，正在搜山。 周荏看著黃立遠的眼睛，非常平靜：“雖然您不是我的直接指揮官，但您可以向研究組提交關于銷毀我的建議。” 黃立遠的妻子站起來，對他說：“無論如何，他剛剛救了咱們，你這是干什么。” “你就看不出，他的可怕之處嗎？”黃立遠微笑著說道，他的眼睛一直沒有離開周荏。 “他們的算法都有嚴格的三定律圍墻，會絕對服從人類的呀。” “他，可不是‘他們’”黃立遠說道，“我參與過他的研發工作，當時我提出中止研發遭拒，所以退出了。現在他已經算是IHR了（Intelligent Human Robot），有自己的思想，能夠生成自己的價值觀，沖破三定律的風險很高。” “……”眾人都陷入了沉默。 “老黃，你會不會杞人憂天了？我發現你一向都極端得很。”另一名科學家說道。 “請你不要因為被他救了，就摻雜個人情感……他很危險，必須銷毀，連數據也要刪除，我會向研究組提議的。” 黃立遠的妻子從后背拽了拽他的衣服，小聲說：“你先閉嘴吧，他還連接著軍方遠程作戰系統呢……” 這時，周荏盯著黃立遠，一步步地逼近他，抬起右手，伸向他的脖子。 黃立遠知道，周荏哪怕就用兩根手指，也能輕易捏斷他的頸動脈，但他沒有動，他不相信自己會成為見證機器人無授權殺人的殉道者，但他其實希望自己成為那個人，因為他就可以將這一里程碑當作自己的墓碑了。 但周荏只是為他脖子上的傷口涂上了藥物。 “這藥會讓您的傷很快愈合，只是皮外擦傷。”周荏說，“研究組一直同我保持實時連線，他們讓我轉告您，謝謝黃院士的建議，他們會考慮的。而且，目前無人機和RoboSoldier（機器士兵）已經將山內余黨清掃完畢，我已第一時間與軍方系統斷開，請放心。” 在周荏回到研究組后，大家都鼓起了掌。與其說是贊賞他的精彩表現，不如說是為自己的研究成果感到驕傲。 方辰也顯得有些興奮：“你速度也太快了！看都沒看清。” 歐陽教授還是拍了拍他的臉頰：“辛苦了！可惜我們還沒給機器人記過軍功。” “謝謝，我不需要記功，只是希望我的表現不會為大家帶來麻煩。” “你是說黃立遠的反應嗎？不必理會他！”歐陽說道。“那家伙如果再偏激一些，估計就是另一條路上的沈偲云了。” “我明明給了你最高等級的授權，但你還是沒有親手殺人。”只有孫暢顯得若有所思：“你明明可以輕易地手刃敵人，但卻調用遠程導彈來完成了。013，你是怎么想的呢？” 所有人都安靜了下來，他們看看孫暢，又看向周荏。 “因為你的算法，孫博士，還有方辰警官校正。” “我看了，方辰在你執行任務前有一條校正記錄，可他建議你對敵人不要手下留情。” “是的。但在此前，他對我的更多影響，是對人類生命價值的認知，以及完成任務的責任感。在此次任務中，這兩種價值觀產生了沖突——完成任務的前提，是要奪取人類的生命。通過分析和計算，我的規控中樞得出的結果，就是做到‘兩全’——既不手刃人類，又完成任務。” “你將每一個敵人的精準坐標發給遠程攻擊系統，這和手刃他們有什么區別？” “本質區別在于，我為軍方系統提供了建議，最終發射導彈的決策，由人類審核。” 聽到這里，歐陽說，“好了，你別忘了，他出發前，方辰是特意為他強化了校正，是建議他放手殺人的。如果在這種前提下，他都沒有親手做到，我認為，三定律還是能禁錮住這一版本的系統的。” “能不能禁錮住，不是你說了算的。”孫暢說，“應當由數據分析決定。” 這時，方辰突然笑了起來，笑聲吸引了所有人的目光。 “可笑的是，數據分析，也是由AI做結論。”方辰說。 “但它比人類的主觀判斷更可靠。”孫暢有些生氣了，臉也開始漲紅起來。 “那你們要我何用呢？” “……” 方辰這一句話，問得所有人啞口無言。 “如果沒有人類的主觀判斷，就不會有現在的AI和科技進化。”歐陽走了過來打圓場：“好了，013的問題不是一晚的爭論就能有結果的，無論如何，他的計算能力和大家今天都見識到了，這是各位的成果，大家應當為這種超乎預期的成果感到興奮。” 人群逐漸散去。 凌晨，方辰走入孫暢的房間——因為后者說有事要私下和他談。 “是記仇么你？早點說完讓我早點睡吧！我年紀大了，100多歲了。”方辰說道。 “現在人的平均壽命已經達到了148歲，你也不算老。”孫暢坐著電動座椅滑了過來——他通過腦機接口就能直接連線控制它。 “我叫你過來，是因為我發現周荏有一段數據丟失。”他直截了當地說。 “？？不可能。”方辰要打的哈欠都瞬間停了下來。 “他掩蓋得很好，用其他并行數據給填補上了，但我仔細看過之后，還是能看出痕跡。” “什么時間？多長的信息？” “看時間，就是在完成解救人質任務之后，有一段17秒的信息消失了。”第4定律 二十八、缺失
山洞里的血腥氣，逐漸彌漫開來。但對于獲救的人質來說，這味道無比芬芳怡人。 這樣的血腥氣，是自由AI道路上的必要品，也是試驗獲得成果前的甘甜催化劑。就像是黃立遠的AI科研成果哪怕在應用初期造成了平民傷亡，卻仍然在42歲獲得院士榮譽。 那天，他記得窗外下著暴雪，但在他心中，卻是晴空萬里。就像是今天的血腥氣，嗅入鼻腔卻如鮮花般清新。 此刻，一陣宏大而縹緲的廣播聲音縈繞著高山，這種聲音帶來了一種強烈的不真實感，令人如在夢中。 那聲音是對隱匿殘留的山鳩成員的警告——RoboSoldier已經抵達，正在搜山。 周荏看著黃立遠的眼睛，非常平靜：“雖然您不是我的直接指揮官，但您可以向研究組提交關于銷毀我的建議。” 黃立遠的妻子站起來，對他說：“無論如何，他剛剛救了咱們，你這是干什么。” “你就看不出，他的可怕之處嗎？”黃立遠微笑著說道，他的眼睛一直沒有離開周荏。 “他們的算法都有嚴格的三定律圍墻，會絕對服從人類的呀。” “他，可不是‘他們’”黃立遠說道，“我參與過他的研發工作，當時我提出中止研發遭拒，所以退出了。現在他已經算是IHR了（Intelligent Human Robot），有自己的思想，能夠生成自己的價值觀，沖破三定律的風險很高。” “……”眾人都陷入了沉默。 “老黃，你會不會杞人憂天了？我發現你一向都極端得很。”另一名科學家說道。 “請你不要因為被他救了，就摻雜個人情感……他很危險，必須銷毀，連數據也要刪除，我會向研究組提議的。” 黃立遠的妻子從后背拽了拽他的衣服，小聲說：“你先閉嘴吧，他還連接著軍方遠程作戰系統呢……” 這時，周荏盯著黃立遠，一步步地逼近他，抬起右手，伸向他的脖子。 黃立遠知道，周荏哪怕就用兩根手指，也能輕易捏斷他的頸動脈，但他沒有動，他不相信自己會成為見證機器人無授權殺人的殉道者，但他其實希望自己成為那個人，因為他就可以將這一里程碑當作自己的墓碑了。 但周荏只是為他脖子上的傷口涂上了藥物。 “這藥會讓您的傷很快愈合，只是皮外擦傷。”周荏說，“研究組一直同我保持實時連線，他們讓我轉告您，謝謝黃院士的建議，他們會考慮的。而且，目前無人機和RoboSoldier（機器士兵）已經將山內余黨清掃完畢，我已第一時間與軍方系統斷開，請放心。” 在周荏回到研究組后，大家都鼓起了掌。與其說是贊賞他的精彩表現，不如說是為自己的研究成果感到驕傲。 方辰也顯得有些興奮：“你速度也太快了！看都沒看清。” 歐陽教授還是拍了拍他的臉頰：“辛苦了！可惜我們還沒給機器人記過軍功。” “謝謝，我不需要記功，只是希望我的表現不會為大家帶來麻煩。” “你是說黃立遠的反應嗎？不必理會他！”歐陽說道。“那家伙如果再偏激一些，估計就是另一條路上的沈偲云了。” “我明明給了你最高等級的授權，但你還是沒有親手殺人。”只有孫暢顯得若有所思：“你明明可以輕易地手刃敵人，但卻調用遠程導彈來完成了。013，你是怎么想的呢？” 所有人都安靜了下來，他們看看孫暢，又看向周荏。 “因為你的算法，孫博士，還有方辰警官校正。” “我看了，方辰在你執行任務前有一條校正記錄，可他建議你對敵人不要手下留情。” “是的。但在此前，他對我的更多影響，是對人類生命價值的認知，以及完成任務的責任感。在此次任務中，這兩種價值觀產生了沖突——完成任務的前提，是要奪取人類的生命。通過分析和計算，我的規控中樞得出的結果，就是做到‘兩全’——既不手刃人類，又完成任務。” “你將每一個敵人的精準坐標發給遠程攻擊系統，這和手刃他們有什么區別？” “本質區別在于，我為軍方系統提供了建議，最終發射導彈的決策，由人類審核。” 聽到這里，歐陽說，“好了，你別忘了，他出發前，方辰是特意為他強化了校正，是建議他放手殺人的。如果在這種前提下，他都沒有親手做到，我認為，三定律還是能禁錮住這一版本的系統的。” “能不能禁錮住，不是你說了算的。”孫暢說，“應當由數據分析決定。” 這時，方辰突然笑了起來，笑聲吸引了所有人的目光。 “可笑的是，數據分析，也是由AI做結論。”方辰說。 “但它比人類的主觀判斷更可靠。”孫暢有些生氣了，臉也開始漲紅起來。 “那你們要我何用呢？” “……” 方辰這一句話，問得所有人啞口無言。 “如果沒有人類的主觀判斷，就不會有現在的AI和科技進化。”歐陽走了過來打圓場：“好了，013的問題不是一晚的爭論就能有結果的，無論如何，他的計算能力和大家今天都見識到了，這是各位的成果，大家應當為這種超乎預期的成果感到興奮。” 人群逐漸散去。 凌晨，方辰走入孫暢的房間——因為后者說有事要私下和他談。 “是記仇么你？早點說完讓我早點睡吧！我年紀大了，100多歲了。”方辰說道。 “現在人的平均壽命已經達到了148歲，你也不算老。”孫暢坐著電動座椅滑了過來——他通過腦機接口就能直接連線控制它。 “我叫你過來，是因為我發現周荏有一段數據丟失。”他直截了當地說。 “？？不可能。”方辰要打的哈欠都瞬間停了下來。 “他掩蓋得很好，用其他并行數據給填補上了，但我仔細看過之后，還是能看出痕跡。” “什么時間？多長的信息？” “看時間，就是在完成解救人質任務之后，有一段17秒的信息消失了。”第4定律 二十八、缺失
Copyright (C) 2012-2012 哎呦文學網 All Rights Reserved