二十三、改變
更新時間:2024-01-17 作者:小瑕瑜
第4定律 二十三、改變
“啊？去哪里？我家的安保系統不是挺好的嗎？”方辰問。 “你那個所謂的安保系統，也就相當于一個‘破門鈴’吧？沒有任何攻擊防御程序。而且，就算我們給你安裝最新的民用安保系統，估計也是徒勞。” “這……有點突然。” “你從前不是軍人出身嗎？”孫暢用一種疑惑的語氣問方辰：“我一直以為，你們那個年代的軍人，可以克服任何‘突然’。” 方辰一時語塞，但他心中默然想著，我已脫下軍裝將近百年了。 “好了，這些天013也是在那邊，目前位置還是機密，等你過去了，我們會對你進行說明。”孫暢說道。 方辰回到家，沒有拿過多的物品，但是帶上了父母和女友的“盒子”。 打開門，周荏正站在門口。“好久不見，方辰警官。” 一時間，方辰有許多問題憋在喉間。但是，他沉默了一會兒，也只是說了句，“好久不見。” 周荏似乎已經很懂得察言觀色了，他只說出三個字：“請放心。” 他的身后，緩緩降下一架輕型載人飛行器。方辰看清了飛行器側面的徽章。 “這是軍方的飛行器？” “是的，我暫時無權解釋你的更多問題，待抵達基地后，將由人類負責人為你解釋。”隨即，二人登機。 “我以為你已經很擅長處理‘授權’一類的問題了。”方辰冷笑一聲。他以為現在的周荏已經知道，某些事情完全可以適度繞過授權，比如提前為他解釋一些即將知曉的問題。 周荏目視下方，說道：“經過近期的升級調校，我對于授權流程有了更深刻的認知。” 方辰順著周荏的目光看去——這是座艙的監控系統。 方辰心中掠過一絲不安，因為他認為這一簡單的動作，或許意味著周荏有了與人類周旋、或者自我掩飾，甚至自我修改算法的能力，這可能比繞過授權還要可怕。 但是周荏又說了一次：“放心。” 小型軍用載人飛行器的續航里程并不算很遠，但是可以屏蔽各類智能感知信號，相當于軌跡完全隱形。 無人飛行器降落在一個遠郊地區的破舊停機坪，這里是一個智能化水準最低的邊緣地帶，連線設備和路側智能都比較少。 周荏和方辰走入一幢年代久遠的二層小樓，久遠到讓方辰甚至感到了一絲自己年代的味道。 這是一間清洗中心，里邊有數臺兩人多高的大型洗衣機和干洗機，正發出機械質感的轟鳴聲——它們為服務型客機、星際飛行客機，機器人公司等等提供清洗服務，整個空間充斥著洗滌劑的味道。 雖說是非常傳統的業務，但是這里也沒有人類，只有三臺老式機器人來回作業——一臺負責清洗，一臺負責折疊，一臺負責包裝。 周荏在一臺巨大的洗衣機前站定，通過透明的門組件可以看到，里邊正在翻滾著一堆臟兮兮的布質座墊，以及卷起泡沫的水。 突然，周荏打開了洗衣機的門，方辰下意識地躲了一下，但里邊的水和物品并未泄出分毫。直到周荏走了進去，方辰才發現，里邊的一切都是全息投影制造的幻象，包括這臺機器的轟鳴聲，也是音響設備播放的。 二人站在里邊，透明門關閉，“洗衣機”內部的升降板帶著他們開始下降。地面上，洗衣機仍是正常工作的樣子，看不出任何異常。 下降了大約3分鐘后，他們抵達了一個基地，一位機器人警察為他們打開了門，并進行了虹膜掃描識別。 “方辰警官，周荏警官，請進。”它說道。 這里并不像方辰觀看過的科幻電影那般巨大，這一「秘密基地」布局緊湊，大廳約有2/3個籃球場那么大，另外上層還有一些住宿用的房間。 這里人員不多，但是智能連線設備、屏蔽防御設備以及量子計算機很多。 不過，這地方通風良好，色調明亮，并不至于令長期地下作業的人發生情緒問題。 正如方辰預料中的那樣，這里有數名身著軍裝的人，人數甚至超過了警方人員。 孫暢此時正在和幾位軍人交談，看到方辰后走了過來。 “這兩周多，013就是在這里調校升級。”孫暢說道：“從今天開始，你先暫時住這里。” “他有了哪些調整？”比起了解這是什么地方，方辰更想提這個問題。 孫暢淺淺笑了一下，就像是已經預判了方辰的焦急。“實際上，我們不是給他收緊限制，反而是為他放寬了自由度……他現在，認知與決策更加接近真人，但與此同時，我們將底線進一步加固，不然，以目前的類人程度，他很容易越界。” “……明知道有打破三定律的風險，為什么要讓他更加類人？” “我們需要他完成一些任務。” “你們不怕嗎？”方辰提高了音量。他又聯想到周荏在座艙內看著監控傳感器的“眼神”。 “怕的話，不光AI發展不到今天的水準，科學也不可能實現質變，你都未必醒得過來。” “可是這存在嚴重的倫理問題！很多觸犯人類倫理底線的科學技術，即便能夠輕松實現，也都只停留在理論。” “013就只有一臺，目前還沒有014，他就是‘理論’。一旦實驗失敗，我們有把握將其完全銷毀。”孫暢看著方辰身后的周荏，毫不避諱。 方辰陷入了沉默，此刻，他才意識到只有自己將周荏誤當作人類。 “你們就不在乎自己的巨大心血和海量資金嗎？” “還是那句話——在乎，科學就不會進步。” 此時，有一位看起來50歲左右的女性軍官，向方辰走來——她在一群20余歲的年輕博士中，很是顯眼。 方辰看到她的軍銜——是正軍級，但是孫暢稱呼其為“歐陽教授”。 “方警官。”她與方辰握了手，很有力度。方辰感到她也是還在堅持運動的那類人，而且感覺她的眼神有一種與其他學者都不一樣的光亮。即便已到中年，卻看起來比年輕人更加有活力。 “早已聽聞你是單兵作戰一代軍人的‘活化石’。”歐陽說。 “一介莽夫罷了。”方辰說。 “可是，我從經你校正的013身上，可看不出莽夫的影子。他的類人價值觀，我在任何實驗品身上都沒見過。” 方辰非常疑惑，他并沒有感覺到自己校正的參與度有多高，也不覺得周荏的改變有多大。 “我和孫暢博士都是國際安全科研中心IR架構項目組的成員，之前的IR機器人都沒被用在作戰領域，而從013開始，我們終于見到了用于作戰的可行性，于是，希望由你這樣的優秀軍人帶領，培養其應變能力和作戰邏輯。” “我并沒覺得他有多大變化。” “可能從外部確實看不太出來。但我們通過他的數據和算法決策發現，現在即便修改他的算法基準，他的責任感和計算能力也都能達到峰值——也就是說，從前他是嚴格依靠算法和三定律執行任務，保護人類；而現在，他是基于自我意識、正向價值觀和強烈的責任感在進行計算和決策。再加上他并不具備現代人類對于自身風險的恐懼感，以及其潤硬件戰斗力，我們認為，他已經趨于一名完美的戰士。” 歐陽并沒有用“作戰機器人”，而是“戰士”，這讓方辰覺得，自己不再是唯一將周荏看作人類的人了。第4定律 二十三、改變
“啊？去哪里？我家的安保系統不是挺好的嗎？”方辰問。 “你那個所謂的安保系統，也就相當于一個‘破門鈴’吧？沒有任何攻擊防御程序。而且，就算我們給你安裝最新的民用安保系統，估計也是徒勞。” “這……有點突然。” “你從前不是軍人出身嗎？”孫暢用一種疑惑的語氣問方辰：“我一直以為，你們那個年代的軍人，可以克服任何‘突然’。” 方辰一時語塞，但他心中默然想著，我已脫下軍裝將近百年了。 “好了，這些天013也是在那邊，目前位置還是機密，等你過去了，我們會對你進行說明。”孫暢說道。 方辰回到家，沒有拿過多的物品，但是帶上了父母和女友的“盒子”。 打開門，周荏正站在門口。“好久不見，方辰警官。” 一時間，方辰有許多問題憋在喉間。但是，他沉默了一會兒，也只是說了句，“好久不見。” 周荏似乎已經很懂得察言觀色了，他只說出三個字：“請放心。” 他的身后，緩緩降下一架輕型載人飛行器。方辰看清了飛行器側面的徽章。 “這是軍方的飛行器？” “是的，我暫時無權解釋你的更多問題，待抵達基地后，將由人類負責人為你解釋。”隨即，二人登機。 “我以為你已經很擅長處理‘授權’一類的問題了。”方辰冷笑一聲。他以為現在的周荏已經知道，某些事情完全可以適度繞過授權，比如提前為他解釋一些即將知曉的問題。 周荏目視下方，說道：“經過近期的升級調校，我對于授權流程有了更深刻的認知。” 方辰順著周荏的目光看去——這是座艙的監控系統。 方辰心中掠過一絲不安，因為他認為這一簡單的動作，或許意味著周荏有了與人類周旋、或者自我掩飾，甚至自我修改算法的能力，這可能比繞過授權還要可怕。 但是周荏又說了一次：“放心。” 小型軍用載人飛行器的續航里程并不算很遠，但是可以屏蔽各類智能感知信號，相當于軌跡完全隱形。 無人飛行器降落在一個遠郊地區的破舊停機坪，這里是一個智能化水準最低的邊緣地帶，連線設備和路側智能都比較少。 周荏和方辰走入一幢年代久遠的二層小樓，久遠到讓方辰甚至感到了一絲自己年代的味道。 這是一間清洗中心，里邊有數臺兩人多高的大型洗衣機和干洗機，正發出機械質感的轟鳴聲——它們為服務型客機、星際飛行客機，機器人公司等等提供清洗服務，整個空間充斥著洗滌劑的味道。 雖說是非常傳統的業務，但是這里也沒有人類，只有三臺老式機器人來回作業——一臺負責清洗，一臺負責折疊，一臺負責包裝。 周荏在一臺巨大的洗衣機前站定，通過透明的門組件可以看到，里邊正在翻滾著一堆臟兮兮的布質座墊，以及卷起泡沫的水。 突然，周荏打開了洗衣機的門，方辰下意識地躲了一下，但里邊的水和物品并未泄出分毫。直到周荏走了進去，方辰才發現，里邊的一切都是全息投影制造的幻象，包括這臺機器的轟鳴聲，也是音響設備播放的。 二人站在里邊，透明門關閉，“洗衣機”內部的升降板帶著他們開始下降。地面上，洗衣機仍是正常工作的樣子，看不出任何異常。 下降了大約3分鐘后，他們抵達了一個基地，一位機器人警察為他們打開了門，并進行了虹膜掃描識別。 “方辰警官，周荏警官，請進。”它說道。 這里并不像方辰觀看過的科幻電影那般巨大，這一「秘密基地」布局緊湊，大廳約有2/3個籃球場那么大，另外上層還有一些住宿用的房間。 這里人員不多，但是智能連線設備、屏蔽防御設備以及量子計算機很多。 不過，這地方通風良好，色調明亮，并不至于令長期地下作業的人發生情緒問題。 正如方辰預料中的那樣，這里有數名身著軍裝的人，人數甚至超過了警方人員。 孫暢此時正在和幾位軍人交談，看到方辰后走了過來。 “這兩周多，013就是在這里調校升級。”孫暢說道：“從今天開始，你先暫時住這里。” “他有了哪些調整？”比起了解這是什么地方，方辰更想提這個問題。 孫暢淺淺笑了一下，就像是已經預判了方辰的焦急。“實際上，我們不是給他收緊限制，反而是為他放寬了自由度……他現在，認知與決策更加接近真人，但與此同時，我們將底線進一步加固，不然，以目前的類人程度，他很容易越界。” “……明知道有打破三定律的風險，為什么要讓他更加類人？” “我們需要他完成一些任務。” “你們不怕嗎？”方辰提高了音量。他又聯想到周荏在座艙內看著監控傳感器的“眼神”。 “怕的話，不光AI發展不到今天的水準，科學也不可能實現質變，你都未必醒得過來。” “可是這存在嚴重的倫理問題！很多觸犯人類倫理底線的科學技術，即便能夠輕松實現，也都只停留在理論。” “013就只有一臺，目前還沒有014，他就是‘理論’。一旦實驗失敗，我們有把握將其完全銷毀。”孫暢看著方辰身后的周荏，毫不避諱。 方辰陷入了沉默，此刻，他才意識到只有自己將周荏誤當作人類。 “你們就不在乎自己的巨大心血和海量資金嗎？” “還是那句話——在乎，科學就不會進步。” 此時，有一位看起來50歲左右的女性軍官，向方辰走來——她在一群20余歲的年輕博士中，很是顯眼。 方辰看到她的軍銜——是正軍級，但是孫暢稱呼其為“歐陽教授”。 “方警官。”她與方辰握了手，很有力度。方辰感到她也是還在堅持運動的那類人，而且感覺她的眼神有一種與其他學者都不一樣的光亮。即便已到中年，卻看起來比年輕人更加有活力。 “早已聽聞你是單兵作戰一代軍人的‘活化石’。”歐陽說。 “一介莽夫罷了。”方辰說。 “可是，我從經你校正的013身上，可看不出莽夫的影子。他的類人價值觀，我在任何實驗品身上都沒見過。” 方辰非常疑惑，他并沒有感覺到自己校正的參與度有多高，也不覺得周荏的改變有多大。 “我和孫暢博士都是國際安全科研中心IR架構項目組的成員，之前的IR機器人都沒被用在作戰領域，而從013開始，我們終于見到了用于作戰的可行性，于是，希望由你這樣的優秀軍人帶領，培養其應變能力和作戰邏輯。” “我并沒覺得他有多大變化。” “可能從外部確實看不太出來。但我們通過他的數據和算法決策發現，現在即便修改他的算法基準，他的責任感和計算能力也都能達到峰值——也就是說，從前他是嚴格依靠算法和三定律執行任務，保護人類；而現在，他是基于自我意識、正向價值觀和強烈的責任感在進行計算和決策。再加上他并不具備現代人類對于自身風險的恐懼感，以及其潤硬件戰斗力，我們認為，他已經趨于一名完美的戰士。” 歐陽并沒有用“作戰機器人”，而是“戰士”，這讓方辰覺得，自己不再是唯一將周荏看作人類的人了。第4定律 二十三、改變
Copyright (C) 2012-2012 哎呦文學網 All Rights Reserved