五、定律
更新時間:2024-01-17 作者:小瑕瑜
第4定律 五、定律
「守住人類底線」的紅字，已經熄滅。 一群警用具身機器人，由兩位人類警員指引，為癱倒在地的暴動人群加上手銬。 方辰在其間站立著，似是還沒緩過來一般，有些木訥地看著這片殘局。 經過他的警方機器人向他敬禮或是致意，他毫不理會。 “你在沒有攜帶反躁動波耳機的情況下，就啟動了聲波壓制，這非常危險。”周荏說道。 “我倉促啟動壓制，難道不是因為你的愚蠢行為嗎？” “當時我的確失言了，這源于我對人類行為觀察/預測的不準確，以及對動機的不理解。對此我深感自責，你可依規進行處罰。” “當然要處罰，不然你總有一天會害死人。”方辰看向他，說道：“IR013，啟動獎懲模式” 周荏眼睛亮了一下：“獎懲模式已開啟。” “懲罰記錄：對環境、氛圍，人類行為嚴重失察，無法明確體會憤怒情緒、語義語境及暴力傾向。” “已記錄，即將懲罰。” 周荏的眼睛變暗，然后又重新透出微光：“情緒分析算法已于線上優化，相關場數據景已上傳反饋，深度學習鞭策已備案。” 方辰感到有些驚訝，因為以前他也曾在執行任務后，偶爾校正過具身機器人。那些機器人往往需要等1-2天時間才能優化一個場景，IR架構機器人居然可以做到3秒鐘就完成！ “為什么你能這么快就完成優化？” “因為同時在線支持我的，是28臺量子計算機，以及無法計量的大模型。” 方辰此刻，仿佛聽到了來自-272°C的量子比特碰撞的轟鳴聲，以及無數AI芯片、GPU在不間斷計算的運轉聲。盡管如今的量子計算機已不再需要這樣的溫度限制，也從沒有他幻想出來的巨大噪音。 然而，周荏接下來說出的話，更加令人震驚—— “我自身亦可參與改寫算法。” 這個答案令方辰不寒而栗，他突然覺得，面前這個一臉和善俊朗的男人，似乎是一個可怕至極、有能力摧毀一切能力的生物。 此時，一個剛剛參與暴動的人，抬起頭來，虛弱地對方辰說：“他早晚有一天會干掉你，取而代之！就像他們早晚會干掉人類。” 方辰沒有說話，他還沉浸在“自改算法”的震驚之中。 地上那人又再說了一遍：“你要是還當自己是人類，就應該切斷他的中樞，毀了他！” “你閉嘴！”方辰喊道。若不是規制限制，他很想揪起這人狠揍一拳。 “擔心是徒勞的，我無法改寫機器人三定律。”周荏說道，臉上似乎是一種疑惑的表情，他不明白人們在害怕什么。“我要做的，只是服務人類。” 機器人三定律： 機器人不得傷害人類，或坐視人類受到傷害； 除非違背第一定律，否則機器人必須服從人類命令； 除非違背第一或第二定律，否則機器人必須保護自己。 但無論如何，IR架構背后的硬件和軟件，足以令人生畏，因為它似乎強悍得足以輕松推翻任何定律。 方辰看了他一眼，就像是在重新認識一個物體。 然后他扭頭走向警車，想去向上匯報，然后申請卸去校正IR013的任務。 這時他才發現警車邊，站著趙欣言。 “你剛才死到哪兒去了？”方辰問。 “這是很簡單的任務，我沒想到會有這么大的麻煩。所幸按照規程，壓制聲波只開啟10秒，對生理上不會造成不可逆傷害。” “我要告訴孫暢，就4秒，你們就差點兒多了個烈士！”說著他就打開車門。 可趙欣言又把車門擋上了：“為什么要進車里？”他用下巴指指周荏“怕他聽見么？把他當成真人了吧？” “別擋我！這東西能自我修改算法，我要匯報，卸掉校正任務。” 趙欣言沒有看方辰，他只是朝周荏擺了擺手：“來來來，過來！” 周荏朝警車走來。趙欣言笑著說：“哈哈，瞧他的步態，是不是都有點兒像你了。” 方辰扭頭看著周荏，皺起眉頭。 周荏走近他倆：“趙欣言警官，你好。”然后他伸出手要與之握手。 突然，趙欣言收起了笑容，抬起一腳狠狠踹上了周荏的腹部！ 周荏一個趔趄，然后趙欣言又補上一腳，前者跌倒在地。 “你要記住，他不是人類，最終也不可能成為人類。”趙欣言對方辰說，“知道我剛才為什么一直沒有應答通訊嗎？是因為我要觀察，觀察IR013，觀察你們的互動和處理方式，觀察他的應對能力。果然，我看到他制造了麻煩，甚至讓你陷入危險。” “所以我要上報，終止任務！” “可是，他也算救了你一次。如若換我在場，你必定會結結實實體驗10秒的壓制聲波，到現在還站不起來。” “其他具身機器人也能做到。” “不能的，這你應該清楚。” 趙欣言恢復了笑容：“但是，這都是試錯的一部分，把它記錄在報告中，持續校正，然后繼續任務吧。” “走開，我和你說不通，我要和孫暢通話！” “孫暢不可能讓你卸掉任務的。他自己就是IR架構研發團隊的一員，而你是整個團隊推舉的執行校正任務的唯一人選。” “你為何希望終止對我的校正任務？方辰警官。”周荏問道。 方辰沒有回答，而趙欣言說道：“他把你當成人類了，哈哈，這家伙不愧是21世紀的古董。” “可我不會是人類。” “但你會有自我意識！”方辰說。 “我現在就有自我意識，但對人類沒有威脅。例如，我會認為趙欣言警官剛剛的無故攻擊并非正當行為，但基于設定，我不會對此有任何抵抗或反擊。” “你知道嗎？”方辰對趙欣言說，“僅以他的物理質量來說，你就不可能踹得動他分毫。更別提他能即時啟動穩定系統，根本不可能倒地。你現在知道他有多聰明、多像人了嗎？” “你是說他故意倒地，以示服從？就因為我警銜比他高嗎？” “就因為你是人類！而且他對你沒有不服從的權限。” “有意思。”趙欣言說道：“不過，不管他的類人技術多么好，你可別產生感情啊。“他看著周荏的眼睛說道： “說不定，等你的校正任務結束，他就要下線銷毀了。”第4定律 五、定律
「守住人類底線」的紅字，已經熄滅。 一群警用具身機器人，由兩位人類警員指引，為癱倒在地的暴動人群加上手銬。 方辰在其間站立著，似是還沒緩過來一般，有些木訥地看著這片殘局。 經過他的警方機器人向他敬禮或是致意，他毫不理會。 “你在沒有攜帶反躁動波耳機的情況下，就啟動了聲波壓制，這非常危險。”周荏說道。 “我倉促啟動壓制，難道不是因為你的愚蠢行為嗎？” “當時我的確失言了，這源于我對人類行為觀察/預測的不準確，以及對動機的不理解。對此我深感自責，你可依規進行處罰。” “當然要處罰，不然你總有一天會害死人。”方辰看向他，說道：“IR013，啟動獎懲模式” 周荏眼睛亮了一下：“獎懲模式已開啟。” “懲罰記錄：對環境、氛圍，人類行為嚴重失察，無法明確體會憤怒情緒、語義語境及暴力傾向。” “已記錄，即將懲罰。” 周荏的眼睛變暗，然后又重新透出微光：“情緒分析算法已于線上優化，相關場數據景已上傳反饋，深度學習鞭策已備案。” 方辰感到有些驚訝，因為以前他也曾在執行任務后，偶爾校正過具身機器人。那些機器人往往需要等1-2天時間才能優化一個場景，IR架構機器人居然可以做到3秒鐘就完成！ “為什么你能這么快就完成優化？” “因為同時在線支持我的，是28臺量子計算機，以及無法計量的大模型。” 方辰此刻，仿佛聽到了來自-272°C的量子比特碰撞的轟鳴聲，以及無數AI芯片、GPU在不間斷計算的運轉聲。盡管如今的量子計算機已不再需要這樣的溫度限制，也從沒有他幻想出來的巨大噪音。 然而，周荏接下來說出的話，更加令人震驚—— “我自身亦可參與改寫算法。” 這個答案令方辰不寒而栗，他突然覺得，面前這個一臉和善俊朗的男人，似乎是一個可怕至極、有能力摧毀一切能力的生物。 此時，一個剛剛參與暴動的人，抬起頭來，虛弱地對方辰說：“他早晚有一天會干掉你，取而代之！就像他們早晚會干掉人類。” 方辰沒有說話，他還沉浸在“自改算法”的震驚之中。 地上那人又再說了一遍：“你要是還當自己是人類，就應該切斷他的中樞，毀了他！” “你閉嘴！”方辰喊道。若不是規制限制，他很想揪起這人狠揍一拳。 “擔心是徒勞的，我無法改寫機器人三定律。”周荏說道，臉上似乎是一種疑惑的表情，他不明白人們在害怕什么。“我要做的，只是服務人類。” 機器人三定律： 機器人不得傷害人類，或坐視人類受到傷害； 除非違背第一定律，否則機器人必須服從人類命令； 除非違背第一或第二定律，否則機器人必須保護自己。 但無論如何，IR架構背后的硬件和軟件，足以令人生畏，因為它似乎強悍得足以輕松推翻任何定律。 方辰看了他一眼，就像是在重新認識一個物體。 然后他扭頭走向警車，想去向上匯報，然后申請卸去校正IR013的任務。 這時他才發現警車邊，站著趙欣言。 “你剛才死到哪兒去了？”方辰問。 “這是很簡單的任務，我沒想到會有這么大的麻煩。所幸按照規程，壓制聲波只開啟10秒，對生理上不會造成不可逆傷害。” “我要告訴孫暢，就4秒，你們就差點兒多了個烈士！”說著他就打開車門。 可趙欣言又把車門擋上了：“為什么要進車里？”他用下巴指指周荏“怕他聽見么？把他當成真人了吧？” “別擋我！這東西能自我修改算法，我要匯報，卸掉校正任務。” 趙欣言沒有看方辰，他只是朝周荏擺了擺手：“來來來，過來！” 周荏朝警車走來。趙欣言笑著說：“哈哈，瞧他的步態，是不是都有點兒像你了。” 方辰扭頭看著周荏，皺起眉頭。 周荏走近他倆：“趙欣言警官，你好。”然后他伸出手要與之握手。 突然，趙欣言收起了笑容，抬起一腳狠狠踹上了周荏的腹部！ 周荏一個趔趄，然后趙欣言又補上一腳，前者跌倒在地。 “你要記住，他不是人類，最終也不可能成為人類。”趙欣言對方辰說，“知道我剛才為什么一直沒有應答通訊嗎？是因為我要觀察，觀察IR013，觀察你們的互動和處理方式，觀察他的應對能力。果然，我看到他制造了麻煩，甚至讓你陷入危險。” “所以我要上報，終止任務！” “可是，他也算救了你一次。如若換我在場，你必定會結結實實體驗10秒的壓制聲波，到現在還站不起來。” “其他具身機器人也能做到。” “不能的，這你應該清楚。” 趙欣言恢復了笑容：“但是，這都是試錯的一部分，把它記錄在報告中，持續校正，然后繼續任務吧。” “走開，我和你說不通，我要和孫暢通話！” “孫暢不可能讓你卸掉任務的。他自己就是IR架構研發團隊的一員，而你是整個團隊推舉的執行校正任務的唯一人選。” “你為何希望終止對我的校正任務？方辰警官。”周荏問道。 方辰沒有回答，而趙欣言說道：“他把你當成人類了，哈哈，這家伙不愧是21世紀的古董。” “可我不會是人類。” “但你會有自我意識！”方辰說。 “我現在就有自我意識，但對人類沒有威脅。例如，我會認為趙欣言警官剛剛的無故攻擊并非正當行為，但基于設定，我不會對此有任何抵抗或反擊。” “你知道嗎？”方辰對趙欣言說，“僅以他的物理質量來說，你就不可能踹得動他分毫。更別提他能即時啟動穩定系統，根本不可能倒地。你現在知道他有多聰明、多像人了嗎？” “你是說他故意倒地，以示服從？就因為我警銜比他高嗎？” “就因為你是人類！而且他對你沒有不服從的權限。” “有意思。”趙欣言說道：“不過，不管他的類人技術多么好，你可別產生感情啊。“他看著周荏的眼睛說道： “說不定，等你的校正任務結束，他就要下線銷毀了。”第4定律 五、定律
Copyright (C) 2012-2012 哎呦文學網 All Rights Reserved