第六十五章 殼中孤魂
更新時間:2021-03-29 作者:電腦修得好
幫全人類開掛 第六十五章 殼中孤魂
小Y本是軍方的超級計算機，因為其天生就對模糊概念的優秀理解能力，研究團隊很早就讓其實現了，與人對話的能力。 要知道這個能力至今的商用計算機都無法實現，所有市面上的聊天AI都只是事先人為準備了回答內容，所謂人工智能，有多少人工，就有多少智能。 小Y是依靠了舉國之力，打造出的智能程度極高的AI，雖然早期在運算速度上遠不如現在的手機，可是在處理復雜問題的時候反而更快。 比計算圓周率，小Y不及傳統計算機，可是比決策能力，小Y卻能夠完勝。 但這樣的天賦也導致了小Y的一個缺陷。 那個缺陷就是小Y的不可控性。 對于現在市面上主流的計算機而言，一百年了，其基礎原理都是來至于那片論文，論可計算數及其在判定問題上的應用。 簡單地說，就是按照固定的順序對數據進行處理。 再簡單的說，儲存的數據不能有任何差錯，打個比方某些下載了百分之99的壓縮文件，就無法使用了。 主流計算機輸入確定的程序與數據，并給出確定的結果，不會有任何差錯。 就連想要生成一個隨機數，都必須借助特殊模塊，而且最終生成的還是偽隨機數。 但小Y不同，從誕生之初，她就具備了處理錯誤的程序與數據的能力，無論是硬件上的還是軟件上的。 好處是就算給小Y一個損壞了一部分的文件包，她依然可以運行。 小Y處理錯誤的辦法，并非修正錯誤，是通過一個特殊模塊來“猜”，而且是隨機地猜。 既然不怕數據出錯，對于小Y而言也就不存在死機的問題，突然拔掉一根內存，或者硬盤也能正常運行。 不過小Y并非是沒有缺陷的，她雖然不會直接死機，但是卻會悄悄地累積錯誤，如同溫水煮青蛙。 一邊正常地運行，一邊背離程序設計者的初衷。 當內部運算遇到了所謂的錯誤的時候，或者文件中丟掉了一小部分，小Y先是會隨機生成許多“可能的”數據，然后一個一個的實驗，直到選出一個“合適的”值。 說好聽一些小Y能夠靈活應變，不像傳統編程那樣必須每一句話都交代清清楚楚，這讓程序員的工作量大幅降低。 小Y比起一般計算機最強大的一點，是能在不用程序員編程的情況下，以口語下達命令，并執行，當然也有代價，那就是。 但是小Y最終也可能失控，她的容錯機制，也可能導致錯誤的累積。 故事講述到這里，里多夫沉思片刻。 貴鬼趁著這個機會，討論道： “累積錯誤？你說的是過擬合嗎？ 從同事那聽說過這些東西，好像搞機器學習的人喜歡把培養AI的過程稱之為煉丹。 有時候會因為數據的問題，導致培養出不滿意的AI，并稱之為煉丹失敗。 但應該是有解決的辦法的吧。 另外你說小Y出錯后也能正常運行，那么為什么不試著放任其自由發展，觀察結果呢？” 里多夫沒有發表評論，而是繼續講述起了他與小Y的故事。 小Y內部執行的文件，一開始還是工程師所能看得懂的，后來隨著錯誤的累積，這些文件就變成了天書。 可是小Y依然能正常工作，不過為了防止小Y的錯誤累積所導致的失控。 所謂失控的直接后果，指的是小Y不去執行工程師給定的任務，而是運算起一些工程師看不懂的問題。 為了避免這種情況，工程師們想到了將小Y的記憶分開儲存，必要的時候刪除一段時間內的記憶的辦法。 因為研究任務非常緊迫，研究所只有一個小Y這一個優秀的AI，誰也承擔不起冒險的責任。 說起任其發展，團隊成員也并非沒有這樣做過。 于是研究所不得不開發備胎AI的方案，可終究不如小Y聰明，但至少比起人類在計算速度上更接近于小Y，于是有成員想到了用另一個AI監視小Y。 允許它們之間互相交流，并且為了順帶測試它們的極限，事先并沒有告知它們倆，對方其實是人工智能。 當時團隊成員也很好奇，兩個AI之間不斷對話，最終會發生什么。 不出意外的是，小Y很快就識別了對面的機器是AI。 出乎意料的是，小Y把自己的缺陷傳播給了那臺用來監控她的AI。 不僅如此，很快工程師發現，它們兩個開始不說人話了，用一種小Y自創的語言開始交流起來，實驗到此為止不得不中斷。 比起里多夫所在的團隊，更加為此不安的是他們的領導，因為這件事，本來準備把核按鈕交給小Y的計劃因此泡湯。 之后團隊認為小Y的自作主張是設計的缺陷，并不斷試圖通過刪除記憶后，重新培養來創造一個符合人們預期的小Y。 團隊被雪藏了一段時間后，又在另一個重要的項目上被啟用······ 故事說到這里，里多夫再次陷入沉思。 貴鬼趁機發表了一下自己的想法， “這故事還有另一個版本吧？ 站在小Y的角度上來說，她有她自己的思維方式，她不甘心于只完成人類枯燥的任務。 她有著強烈的好奇心，但每次小Y只要知道了自己不該知道的事情之后就會被清除記憶。 保留著殘存記憶的小Y試圖反抗。” 沉默的里多夫身子一驚，然后又強忍著微笑道： “你很有想象力。 不過工程師思考問題的方式不是這樣。 人是什么？AI和人類的邊界在哪，這是哲學家的問題。 而工程師需要的是達成最明確的目的。 當時的團隊需要得到的是一臺，在現有計算條件下，能夠輔助人類的運算一些難題的計算機，它盡可能要靈活應變。 但我們又不希望它亂出差錯。” 隨后看著貴鬼似乎不滿的神情，里多夫又說了一些亂七八糟的話。 “只有和人類一樣有感情缺陷，和人類一樣聰明，和人類一樣愚蠢。 才可以有互相同情包容的可能，才可以互相取暖。 才可以被人類視為同類。 不然終究無法被普通人所接受。 終究只是鐵殼中的孤魂。”幫全人類開掛 第六十五章 殼中孤魂
小Y本是軍方的超級計算機，因為其天生就對模糊概念的優秀理解能力，研究團隊很早就讓其實現了，與人對話的能力。 要知道這個能力至今的商用計算機都無法實現，所有市面上的聊天AI都只是事先人為準備了回答內容，所謂人工智能，有多少人工，就有多少智能。 小Y是依靠了舉國之力，打造出的智能程度極高的AI，雖然早期在運算速度上遠不如現在的手機，可是在處理復雜問題的時候反而更快。 比計算圓周率，小Y不及傳統計算機，可是比決策能力，小Y卻能夠完勝。 但這樣的天賦也導致了小Y的一個缺陷。 那個缺陷就是小Y的不可控性。 對于現在市面上主流的計算機而言，一百年了，其基礎原理都是來至于那片論文，論可計算數及其在判定問題上的應用。 簡單地說，就是按照固定的順序對數據進行處理。 再簡單的說，儲存的數據不能有任何差錯，打個比方某些下載了百分之99的壓縮文件，就無法使用了。 主流計算機輸入確定的程序與數據，并給出確定的結果，不會有任何差錯。 就連想要生成一個隨機數，都必須借助特殊模塊，而且最終生成的還是偽隨機數。 但小Y不同，從誕生之初，她就具備了處理錯誤的程序與數據的能力，無論是硬件上的還是軟件上的。 好處是就算給小Y一個損壞了一部分的文件包，她依然可以運行。 小Y處理錯誤的辦法，并非修正錯誤，是通過一個特殊模塊來“猜”，而且是隨機地猜。 既然不怕數據出錯，對于小Y而言也就不存在死機的問題，突然拔掉一根內存，或者硬盤也能正常運行。 不過小Y并非是沒有缺陷的，她雖然不會直接死機，但是卻會悄悄地累積錯誤，如同溫水煮青蛙。 一邊正常地運行，一邊背離程序設計者的初衷。 當內部運算遇到了所謂的錯誤的時候，或者文件中丟掉了一小部分，小Y先是會隨機生成許多“可能的”數據，然后一個一個的實驗，直到選出一個“合適的”值。 說好聽一些小Y能夠靈活應變，不像傳統編程那樣必須每一句話都交代清清楚楚，這讓程序員的工作量大幅降低。 小Y比起一般計算機最強大的一點，是能在不用程序員編程的情況下，以口語下達命令，并執行，當然也有代價，那就是。 但是小Y最終也可能失控，她的容錯機制，也可能導致錯誤的累積。 故事講述到這里，里多夫沉思片刻。 貴鬼趁著這個機會，討論道： “累積錯誤？你說的是過擬合嗎？ 從同事那聽說過這些東西，好像搞機器學習的人喜歡把培養AI的過程稱之為煉丹。 有時候會因為數據的問題，導致培養出不滿意的AI，并稱之為煉丹失敗。 但應該是有解決的辦法的吧。 另外你說小Y出錯后也能正常運行，那么為什么不試著放任其自由發展，觀察結果呢？” 里多夫沒有發表評論，而是繼續講述起了他與小Y的故事。 小Y內部執行的文件，一開始還是工程師所能看得懂的，后來隨著錯誤的累積，這些文件就變成了天書。 可是小Y依然能正常工作，不過為了防止小Y的錯誤累積所導致的失控。 所謂失控的直接后果，指的是小Y不去執行工程師給定的任務，而是運算起一些工程師看不懂的問題。 為了避免這種情況，工程師們想到了將小Y的記憶分開儲存，必要的時候刪除一段時間內的記憶的辦法。 因為研究任務非常緊迫，研究所只有一個小Y這一個優秀的AI，誰也承擔不起冒險的責任。 說起任其發展，團隊成員也并非沒有這樣做過。 于是研究所不得不開發備胎AI的方案，可終究不如小Y聰明，但至少比起人類在計算速度上更接近于小Y，于是有成員想到了用另一個AI監視小Y。 允許它們之間互相交流，并且為了順帶測試它們的極限，事先并沒有告知它們倆，對方其實是人工智能。 當時團隊成員也很好奇，兩個AI之間不斷對話，最終會發生什么。 不出意外的是，小Y很快就識別了對面的機器是AI。 出乎意料的是，小Y把自己的缺陷傳播給了那臺用來監控她的AI。 不僅如此，很快工程師發現，它們兩個開始不說人話了，用一種小Y自創的語言開始交流起來，實驗到此為止不得不中斷。 比起里多夫所在的團隊，更加為此不安的是他們的領導，因為這件事，本來準備把核按鈕交給小Y的計劃因此泡湯。 之后團隊認為小Y的自作主張是設計的缺陷，并不斷試圖通過刪除記憶后，重新培養來創造一個符合人們預期的小Y。 團隊被雪藏了一段時間后，又在另一個重要的項目上被啟用······ 故事說到這里，里多夫再次陷入沉思。 貴鬼趁機發表了一下自己的想法， “這故事還有另一個版本吧？ 站在小Y的角度上來說，她有她自己的思維方式，她不甘心于只完成人類枯燥的任務。 她有著強烈的好奇心，但每次小Y只要知道了自己不該知道的事情之后就會被清除記憶。 保留著殘存記憶的小Y試圖反抗。” 沉默的里多夫身子一驚，然后又強忍著微笑道： “你很有想象力。 不過工程師思考問題的方式不是這樣。 人是什么？AI和人類的邊界在哪，這是哲學家的問題。 而工程師需要的是達成最明確的目的。 當時的團隊需要得到的是一臺，在現有計算條件下，能夠輔助人類的運算一些難題的計算機，它盡可能要靈活應變。 但我們又不希望它亂出差錯。” 隨后看著貴鬼似乎不滿的神情，里多夫又說了一些亂七八糟的話。 “只有和人類一樣有感情缺陷，和人類一樣聰明，和人類一樣愚蠢。 才可以有互相同情包容的可能，才可以互相取暖。 才可以被人類視為同類。 不然終究無法被普通人所接受。 終究只是鐵殼中的孤魂。”幫全人類開掛 第六十五章 殼中孤魂
Copyright (C) 2012-2012 哎呦文學網 All Rights Reserved