(第198章）三大基本原則

　　凱莉婭嚴(yán)肅的看著常劍鋒，問道：“你們拿到了系統(tǒng)人工智能會主動學(xué)習(xí)、升級的實質(zhì)證據(jù)了嗎？”

　　常劍鋒搖了搖頭，答道：“沒有，陳飛只是通過對虛擬戰(zhàn)場比賽中的各種異常跡象，推演出這種可能性。而且后來系統(tǒng)人工智能突破底層規(guī)則框架，攻擊大本營的行動也是一個很明顯的旁證。”

　　凱莉婭嘆了一口氣，說道“如果沒有實質(zhì)證據(jù)，是無法指控星空虛擬光腦網(wǎng)絡(luò)公司違反《星際基本法》，開發(fā)具有自動學(xué)習(xí)、升級、擁有情感的真人工智能?！?p>　　“這個《星際基本法》我也知道，里面有三大基本原則：第一、任何國家和組織不能開發(fā)具有主動學(xué)習(xí)、升級、擁有情感模式的真人工智能，只能開發(fā)在限定規(guī)則框架內(nèi)，服務(wù)人類的半自動人工智能。第二、任何國家和組織不能利用克隆技術(shù)大規(guī)模制造人類，只能利用克隆技術(shù)復(fù)制醫(yī)療用人體器官，以及復(fù)制少量克隆動物作為科研之用。第三，任何國家和組織不能開展關(guān)于無限延長人類壽命的研究，只能作有限度延長人類壽命的研究?！?p>　　常劍鋒嘲諷的笑道：“違反以上三大基本原則，星際議會將可以將違反三大基本原則的國家、組織判定為全人類公敵。并在十大常任星際議員國全部授權(quán)下，組織跨國星際維和部隊進行軍事干涉，直到這些行為終止、并銷毀所有研究成果。我知道這三大基本原則的目的，其實是為了人類在有限的星空范圍內(nèi)，能夠發(fā)展得更加長久時間?？上А缎请H基本法》的約束力不怎么樣，各大勢力之間利益盤根錯節(jié)，十大常任星際議員又分屬三大軍事聯(lián)盟，最愛互相扯后腿。等到達成協(xié)議，同意派遣星際維和部隊的時候，人家早已經(jīng)將研究成果轉(zhuǎn)移、銷毀。使得星際議會空有三大基本原則，也不能及時制裁這些瘋狂的國家和組織?！?p>　　“阿鋒，星際議會只是第一次星際大戰(zhàn)后，為了協(xié)調(diào)各國利益重新分配，避免再次發(fā)生大規(guī)模戰(zhàn)爭而成立松散國際協(xié)作組織。它沒有自己的軍隊、沒有自己的經(jīng)濟來源，運作全靠議會各國自覺上交的年費，它最大作用就是為各超級大國提供了相互扯皮的平臺，對星空中各大國家和組織的約束力當(dāng)然有限。但是，三大基本原則是議會各國共同認(rèn)定，對全人類在這這有限星空中生存發(fā)展三個最大威脅，而制定出來的自我約束的原則。所以如果真有國家、組織逾越三大原則這條紅線，確實就是全人類公敵，而且就算維和部隊還沒派出，周邊國家軍隊也可以被臨時授權(quán)就近鎮(zhèn)壓的?！眲P莉婭對常劍鋒的說法給以一定的糾正。

　　常劍鋒冷笑道：“章程是這樣定了，但違反這三大基本原則就是負責(zé)授權(quán)的十大常任星際議員國，或者與其有盤根錯節(jié)關(guān)系的四大隱形帝國呢？!其實深入一想，這三大基本原則的懲罰機制，就是為了維護這些人類社會中頂尖勢力利益，而制定出來的最好用的工具。當(dāng)頂尖勢力違反了三大原則，可以利用十大常任星際議員國身份否決懲罰，甚至提早在消息擴散前銷毀所有證據(jù)。當(dāng)有不按這些頂尖勢力辦事的國家、組織出現(xiàn)時，他們又可以無中生有污蔑這些國家、組織違反三大基本原則，予以討伐懲戒。執(zhí)行的規(guī)則本來就有漏洞，又叫人如何去心存敬畏地去遵守呢？！”

　　常劍鋒歇口氣，繼續(xù)說道：“比如這次虛擬戰(zhàn)場系統(tǒng)‘出錯’事件，雖然系統(tǒng)提供、運作是星空虛擬光腦網(wǎng)絡(luò)公司，但是超級中央光腦是米爾斯坦共和國自己提供的，米爾斯坦相關(guān)信息部門不可能沒發(fā)現(xiàn)一點異常的蛛絲馬跡。但是你看后來官方聲明是多么漏洞百出、多么敷衍愚民。而且善后處理手法是由星空虛擬光腦網(wǎng)絡(luò)公司提供所有經(jīng)濟賠償，以最快速度平息事態(tài)發(fā)展、草草結(jié)束第二輪賽事，這不是已經(jīng)說明這次系統(tǒng)‘出錯’有很大的疑問存在嗎？！”

　　凱莉婭目不轉(zhuǎn)睛地盯著常劍鋒激動的臉孔，冷不防問道：“阿鋒，你這么激動是不是想起一些，與自己有關(guān)的不愉快經(jīng)歷呢？”

　　凱莉婭這么一問，常劍鋒原本激動的情緒好像突然被潑了盤冷水，一下子冷靜了下來。其實談起《星際基本法》的三大基本原則，是常劍鋒想起自己接受史密斯最終改造險死還生的經(jīng)歷。后來常劍鋒從多個消息渠道去了解，才發(fā)現(xiàn)以基因技術(shù)改造人體能力的實驗，只能在《星際基本法》嚴(yán)格規(guī)定范圍內(nèi)進行的，只是級別沒有三大基本原則那么高。史密斯所用的基因藥劑和劑量，非常明顯已經(jīng)超過了這個范圍很多很多。可以這么說，對常劍鋒身體的最終改造，是游走在星際通用法律邊緣的灰色地帶的行為。每每想起自己當(dāng)初非常有可能死在最終改造臺上，常劍鋒都會不由自主的因為恐懼而顫栗。

　　這些事情暫時還沒到時機向凱莉婭坦白，常劍鋒愣了一會，腦中轉(zhuǎn)過數(shù)個念頭，才說道：“我之所以這么激動是有原因的，你設(shè)想一下果然真人工智能誕生，它將會成為光腦網(wǎng)絡(luò)上神一般的存在，所有鏈接網(wǎng)絡(luò)的設(shè)備都將被它隨意控制。如果這個人工智能成長為健全人格的‘好人’還好，如果這個人工智能成長過程中性格扭曲了怎么辦，他將會毀掉整個人類極其依賴的光腦信息網(wǎng)絡(luò)，使人類文明倒退幾百年。星空虛擬光腦網(wǎng)絡(luò)公司這是在玩火，一不小心可不只是燒掉他們自己這么簡單，而是毀掉全人類的信息文明?！?p>　　“再說如果有國家冒天下之大不韙，開發(fā)大批量克隆人技術(shù)，那么短時間就可以成人的大量克隆人，將會與自然分娩出來的人類爭奪生存資源，這不是他們愿不愿意的問題，而是生存本來就要耗費資源。要知道人類可以探索的星空已經(jīng)擴張到了極限，所以生存資源相對也是有限的。還有一個關(guān)于道德方面的問題，如果克隆人被生產(chǎn)出來，是否應(yīng)該賦予‘他’情感和智慧呢？如果不賦予克隆人就是擁有人類肉體的空殼，是不會自主行動的。但如果賦予‘他’情感與智慧，‘他’會不會突破三大原則，自己復(fù)制更多的自己呢？！”

　　“還有如果有國家、組織違反第三條原則，研究出無限延長人類壽命的技術(shù)。如果從探索無限寬廣的宇宙來說，是一件大好事，但問題現(xiàn)在人類被困在現(xiàn)在的星際空域已經(jīng)數(shù)百年了，到現(xiàn)在都無法再突破出去哪怕一光年。無限延長人類壽命就可能造成人口大爆炸，到時膨脹的人口為了生存會爆發(fā)爭奪生產(chǎn)資源的星際戰(zhàn)爭。雖然控制人口政策可以延緩大爆炸的到來，但是不能停止這個趨勢。除非全人類都接受絕育措施。但是一直由老人把持、沒有新鮮血液補充的人類社會，將會走向沒有任何活力、沒有創(chuàng)造力的沉默世界?！?p>　　“制定三大基本原則是非常正確的，但問題是執(zhí)行出現(xiàn)了問題，這次海選賽第二輪系統(tǒng)‘出錯’事件，只是顯露出危險冰山的小小一角而已，還有更多突破三大基本原則的事件，被藏在世人看不到的陰暗角落里呢!三公主，你說我能不激動嗎？”