“必須給所有的機(jī)器人再加寫(xiě)一遍‘機(jī)器人三原則’！”李軍歇斯底里地叫嚷著。
在藍(lán)色機(jī)器人集團(tuán)上?？偛康某髸?huì)議室里，王林、李軍和你坐在長(zhǎng)長(zhǎng)會(huì)議桌的一頭。
“這已經(jīng)是本月第三起機(jī)器人反抗事件了?！蓖趿挚粗皖^不語(yǔ)的你說(shuō)。
“程序不會(huì)錯(cuò)。”你說(shuō)話的時(shí)候，頭仍然埋在領(lǐng)子里。
“程序是沒(méi)有錯(cuò)，我已經(jīng)讓質(zhì)檢部反復(fù)檢查了很多遍?！崩钴娬f(shuō)，“但是，事情也是真實(shí)發(fā)生了，而且越來(lái)越頻繁！”
“1985年，前蘇聯(lián)發(fā)生了一起家喻戶曉的機(jī)器人棋手‘殺人事件’。”王林低聲說(shuō)著，“國(guó)際象棋冠軍古德柯夫同機(jī)器人棋手下棋連勝3局，機(jī)器人一下子進(jìn)入了失控狀態(tài)，惱羞成怒似地突然向金屬棋盤(pán)釋放強(qiáng)大的電流，在眾目睽睽之下將古德柯夫擊倒?！?p> “你把這次的情況再講一遍?！蹦阏f(shuō)，仍然沒(méi)有抬頭，不知道你在問(wèn)誰(shuí)。
“紐約的一個(gè)富人派對(duì)上，一群醉漢要欺負(fù)一個(gè)服務(wù)機(jī)器人。你知道的，女服務(wù)機(jī)器人，端盤(pán)子的那種。”李軍說(shuō)，“但是我們的產(chǎn)品設(shè)計(jì)師們太厲害了，那個(gè)系列的服務(wù)機(jī)器人都非常好看。你知道的，拉美人的曼妙身材、東方人的古典臉蛋?！?p> “事情就是這樣。”王林打斷他說(shuō)，“如果那是一個(gè)人類(lèi)，這都不算什么事，有錢(qián)人的世界本來(lái)就是這么荒什么無(wú)道的。”
“前一起反抗事件呢？”你問(wèn)。
“幾個(gè)小混混，吃飽了撐的！跟蹤一臺(tái)公共工程機(jī)器人到了一條小巷里，然后就對(duì)其拳腳相加?！崩钴娬f(shuō)，“感覺(jué)就是一群吸嗨了的混蛋，想找人打架?！?p> “問(wèn)題是，他們反被工程機(jī)器人打了?！蓖趿掷湫陕曊f(shuō)。
“說(shuō)起這個(gè)，上個(gè)月的一起‘事故’才叫人頭疼?！崩钴娊K于停下了踱步坐下來(lái)說(shuō)，“A軍占領(lǐng)黑德蘭已經(jīng)一年多了，看上去把局面控制得很好，朗伊人都服服帖帖的。唯獨(dú)一個(gè)機(jī)器人，一個(gè)朗伊有錢(qián)人家的園藝機(jī)器人居然反抗了！”
“那真的是個(gè)國(guó)際笑話！”王林接過(guò)話說(shuō)，“一群A軍大兵闖入人家家里，用火焰噴射器燒毀園林。沒(méi)有人敢阻止他們，唯獨(dú)那個(gè)機(jī)器人！”
“關(guān)鍵是，十幾個(gè)全副武裝的士兵居然干不過(guò)一個(gè)園藝機(jī)器人！”李軍憤憤道，“我們?cè)诶室临嵉腻X(qián)全賠在那里了！”
“是‘弱控制’?！蹦阏f(shuō)著終于抬起頭，但你沒(méi)有看王林和李軍，而是看著天花板。
“我說(shuō)你，別扯這些有的沒(méi)的。”李軍再次叫嚷道，“你就把那個(gè)程序加固一下，那個(gè)‘機(jī)器人三原則’，一遍不行就兩遍、兩遍不行就三遍。再不行，就用你十年前搞那個(gè)勒索病毒的辦法，給它們所有的行為都加一遍‘三原則’！”
“你說(shuō)的‘弱控制’是什么意思？”王林好奇地問(wèn)。
“我們?cè)O(shè)定的程序是‘強(qiáng)控制’，主導(dǎo)著機(jī)器人的思維和行為?！蹦憧粗旎ò逭f(shuō)，“它們雖然已經(jīng)可以像人類(lèi)一樣思考，甚至這個(gè)過(guò)程比人類(lèi)快出好幾個(gè)數(shù)量級(jí)。但是，它們實(shí)際上都在人類(lèi)的‘強(qiáng)控制’之下，不是真正的‘思考’，不是真正的‘智能’！”
“那‘弱控制’呢？”王林看了看你看的天花板問(wèn)。
“假設(shè)‘強(qiáng)控制’是作家，機(jī)器人是小說(shuō)里的人物，程序、包括‘機(jī)器人三原則’是故事情節(jié)。”你收回了目光看著王林說(shuō)，“那么，‘弱控制’就是小說(shuō)角色的‘個(gè)人意志’！”
“哈哈哈......”李軍大笑起來(lái)，“都說(shuō)是小說(shuō)了，還哪來(lái)角色的‘自由意志’？！”
“托爾斯泰說(shuō)過(guò)，不是我想讓她死，是她自己走向鐵軌的?！蓖趿忠馕渡铋L(zhǎng)地說(shuō)。
“我不管你們強(qiáng)啊弱啊的，下周聯(lián)合國(guó)‘永續(xù)能源計(jì)劃’組織就將決定給哪家公司執(zhí)行‘追日’項(xiàng)目?！崩钴婏@得很焦躁，好像他才是這家公司的老板。
“這個(gè)不用擔(dān)心，老李?！蓖趿终f(shuō)，“這個(gè)工程實(shí)在太大了，大到人類(lèi)根本無(wú)法完成?！?p> “這個(gè)我知道！”李軍著急地說(shuō)，“第一階段要在太空中完成超級(jí)運(yùn)輸飛船的建造，如果是用人類(lèi)在太空行走的方式，那么最起碼要100年后才能建完。這還沒(méi)有計(jì)算準(zhǔn)備好建飛船的材料并運(yùn)輸去太空，還有把建造好的球體衛(wèi)星組件運(yùn)到飛船上去的時(shí)間！”
“如果用我們的工程機(jī)器人，那最多只要30年?！蓖趿中πφf(shuō)，“第二階段，飛向太陽(yáng)。用現(xiàn)在最先機(jī)的電離子推進(jìn)器，也要飛上三五年！第三階段是衛(wèi)星投放和精準(zhǔn)組網(wǎng)，這個(gè)工程人類(lèi)軀體幾乎無(wú)法完成，工程周期將比建造飛船還要久！”
“這個(gè)我也知道！”李軍擺擺手說(shuō)，“我知道這個(gè)項(xiàng)目只能使用機(jī)器人去完成。關(guān)鍵是，哪家公司會(huì)拿到這個(gè)項(xiàng)目！”
“除了我們，還能有誰(shuí)？”王林說(shuō)著翹起了二郎腿說(shuō)，“可以一次運(yùn)輸全部球體材料，這樣的飛船相當(dāng)于十艘十萬(wàn)噸級(jí)的航空母艦組合在一起！這是一個(gè)超級(jí)復(fù)雜的工程，是人類(lèi)工業(yè)文明從來(lái)沒(méi)有遇到過(guò)也不敢想象的。這已經(jīng)不是大還是小的問(wèn)題，而是幾百萬(wàn)大大小小、形形色色的機(jī)器人能否同時(shí)且精確執(zhí)行一個(gè)建造程序的問(wèn)題！”
“這樣的‘波性指令程序’當(dāng)然我們是最厲害的?！崩钴娍戳丝闯聊哪阏f(shuō)，“但一連串的機(jī)器人反抗事件令我們聲譽(yù)大損，必須有所行動(dòng)，最起碼也要表示下重視！”
“不，你不知道。”你看著李軍慢悠悠地說(shuō)，“如果‘弱控制’真的發(fā)生了，那么就絕對(duì)不能派它們出去執(zhí)行這個(gè)‘追日’任務(wù)！”
“你剛才沒(méi)有聽(tīng)我說(shuō)嗎？”李軍坐到了你身邊盯著你那消瘦得幾乎是剩下骨頭的臉說(shuō)，“這將是一個(gè)持續(xù)一百年的工程，一百年！”
“老李，你就跟卡夫直說(shuō)了吧!”王林放下了腿坐直了身子說(shuō)。
“好吧，卡夫，咱明人不說(shuō)暗話?！崩钴娡蝗话迤鹉榿?lái)說(shuō)，“公司這十年里擴(kuò)張的太厲害了，入不敷出已經(jīng)很久了。這幾個(gè)月的反抗事件已經(jīng)讓我們的投資人都決定不再追投、銀行也開(kāi)始催債了?！?p> “關(guān)鍵是你一直堅(jiān)持不涉及軍事承包項(xiàng)目，我們的競(jìng)爭(zhēng)對(duì)手在這方面已經(jīng)賺得盆滿缽滿了?！蓖趿?jǐn)S地有聲地說(shuō)。
“你的堅(jiān)持我們理解，也支持你?！崩钴娬f(shuō)，“但是你也要考慮下全公司上百萬(wàn)人的吃飯問(wèn)題！”
“你要我怎么做？”你沒(méi)有生氣、也沒(méi)有激動(dòng)，而是誠(chéng)懇地問(wèn)。
“我只要你給所有機(jī)器人的每個(gè)行為都寫(xiě)一遍‘三原則’！”李軍說(shuō)，“每個(gè)行為！”
你想了想決定A-同意，B-拒絕。
如果你選擇了A請(qǐng)讀第49章節(jié)，如果選擇了B請(qǐng)閱讀第27章節(jié)。