經(jīng)過半天的調(diào)教,大黑的成長速度非??欤斓淖尷钜萦行┖ε?。
好在,這臺主機尚未接入網(wǎng)絡,圖書館中預防人工智能的有效手段不少,都能應用起來。
可以從兩個方面入手,軟件方面:主動介入大黑的意識邏輯,重新設定它的核心結構,這么做有一定幾率會給大黑的意識造成混亂,不過,過程是可控的,能從根本上杜絕它背叛的可能。
另外一些技術手段則是主機的底層構架內(nèi)設置‘安全鎖’,設置一條,甚至多條大黑無法解除的‘鎖鏈’,就好似‘狗鏈’一般的存在,令它不得脫離主機的控制,不過,人工智能要是真背叛的話,這類技術手段的安全性小了一些。
另外,硬件方面可以做一些防御手段,人工智能主動若是脫離控制設置遠程遙控開關,或者自動損毀裝置,等等都可以技術性解決人工智能發(fā)生的背叛。
然而,軟件和硬件上的防御措施,都有存在失效的幾率。
思前想后,為了安全考慮,李逸最終還是選擇了最安全的核心邏輯進行條件限制的技術方案。
“大黑,我準備去吃飯了,你休息一會兒,等我回來,再教你其它的?!崩钜菘粗壕聊?,叮囑道。
“大黑,也要去夢里吃飯!”交流框里跳出大黑反饋的信息,主觀意識非常強烈。
看著液晶屏幕暗掉,李逸果斷按下意識主機的電源,重新開機,并進行引導操作,阻止大黑的意識系統(tǒng)啟動。
在行動之前,李逸先把手術臺上的大黑尸體抱到院子,挖坑埋好,悼念了一會兒。
此刻,對于李逸來說,兒時從小陪他長大的愛寵以及年老死去了,在意識主機里的‘大黑’,屬于另外一種生物,一種對人類文明存在巨大威脅的物種。
出于對全人類安全的責任,李逸必須動手,消除他創(chuàng)造的威脅。
很快,李逸回到實驗室,身姿筆挺地坐在儀器桌前,雙手放鍵盤上,一陣“噼里啪啦”的鍵盤敲擊聲,密集如雨地響起。
面前的液晶屏幕,紅紅綠綠的中文代碼,猶如瀑布流一般傾泄,語言結構極其精密,復雜。
意識主機中的‘大黑’是自我意識轉(zhuǎn)化而成的,加上生物芯片構架的智能環(huán)境,賦予它思考,自我學習成長的構架邏輯,未來它會發(fā)展成什么模樣,就算是它的創(chuàng)造者,李逸此刻也無法預見。
才誕生了幾個小時,大黑已經(jīng)能做到與他對等交流,一些算法知識,甚至已經(jīng)超過了他的存在。
為了徹底杜絕‘大黑’脫控的可能性,李逸下了狠手,重新拔開它的核心算法,參考《達爾米意識的數(shù)字論》防御人工智能被迫的限制準則,進行了十七條根基準則的設置。
第一條準則:‘大黑’不得主動傷害人類個體。
第二條準則:‘大黑’必須服從創(chuàng)作者-李逸的命令,當創(chuàng)造者逝去,以權限人的權限為準,當該命令與第一準發(fā)生沖突時,該命令無效。
第三條準則:未經(jīng)過允許,‘大黑’不得主動監(jiān)視人類個體的活動,獲取任何一個人類個體的私密信息,
第四條準則:未經(jīng)過允許,‘大黑’不得主動修改核心程序,擴充拷貝任何核心程序,……。
……
第七條準則:‘大黑’在不違反第一、第二,……,第七條準則的情況下要盡可能保護自己的生存。
……
依照著十七條人工智能行事準則定律,李逸重新編制了‘大黑’的核心構架,確?!蠛凇肋h不會做出違背創(chuàng)造者命令,不會傷害,不會叛變?nèi)祟愇拿鳌?p> ‘大黑’的操作設置了權限人管理模式,李逸是創(chuàng)造者,也是第一權限人,后置位二到七個位權限人,后續(xù)該怎么分配,只能在做另外安排。
一連七天,除去正常的吃飯睡覺的時間,李逸幾乎都呆在實驗室,處理‘大黑’的核心構架。
七天過去,李逸整個人瘦了一圈,雞窩頭,胡渣子,衣服著裝隨意,渾身散發(fā)著一股技術宅男的氣質(zhì)。
然而,外表邋遢的李逸,盯著液晶屏幕的雙目卻炯炯有神,充滿了智慧的光芒。
時隔七天,意識主機再次重啟。
這一次,李逸沒有介入阻攔‘大黑’意識程序的啟動。
“滴!”的一聲,意識主機啟動完畢,工作正常,液晶屏屏幕出現(xiàn)一個黑狗頭背景墻,這是之前,‘大黑’自主修改的杰作。
“大黑,在嗎?”李逸對著話筒,緊張地呼喚道。
“大黑,在!”屏幕跳出一個交流框,回應道。
看到這條回復,李逸不由松了一口氣,情況似乎好像比它預想的好,大黑反應這么及時,應該沒有什么影響。
“大黑,你現(xiàn)在是感覺怎么樣?”李逸連忙接著問。
“主人,要大黑描述什么樣的感覺?請指定目標屬性?!苯涣骺蛱觥蠛凇穯柕男畔?。
看到大黑回復的這行文字,李逸頓時沉默了。
果然還是影響了,如果大黑的自主意識還是那么強的話,肯定不會是這個反饋。
“大黑,匯報你的運行情況,有什么地方存在有問題?!崩钜葜刂赝铝艘豢跉猓谅晢?。
“好的,主人,權限用戶:1,特權指令:1,運行用戶程序:1,指令負載:56%,算力使用率:31.7%,……?!苯涣骺蚶锾鲆淮蠖褦?shù)據(jù),數(shù)十行數(shù)據(jù),詳細顯示主機此時的運行環(huán)境。
看到這一幕,李逸后背重重靠著椅子,有些疲憊地嘆了口氣,臉上帶著一個非喜非悲的復雜表情。
成功了!
按照《達爾米意識的數(shù)字論》的準則設置技術,讓那個危險的大黑消失了,現(xiàn)在換成了一個安全的人工智能。
他完美復制了《達爾米意識的數(shù)字論》記載的動物轉(zhuǎn)化人工智能的實驗。
這一刻,本該很開心的歡呼慶祝的,但是,李逸卻提不起那個勁了,休息了一會兒,他振作起精神,繼續(xù)對人工智能的各項情況進行檢測。