神農(nóng)的枷鎖

　　公元2670年的一個清晨。

　　“為什么今天沒來上班？”提示音響起，臥室天花板上，跳出工作面板上的會話氣泡。

　　劉玉杭睜開睡眼，把抱枕扔到地上，開始語音輸入。

　　“主管，我身體不是很舒服……稍后我會把遠程診斷記錄發(fā)給你……”他起身做到一個屏幕旁，點擊屏幕，三下五去二，制作了一份偽造的診斷書：病毒型流感幾個字，在劉玉杭看來是那么親切。

　　面對一份不怎么熱愛的工作，作為一個黑客，劉玉杭時不時以這種方式來抗爭。

　　他十分感謝這個AI早已應用到遠程診療的時代——足不出戶，客戶端設備就可以采集人們的血樣進行分析，再將數(shù)據(jù)交給千里之外的AI運算內(nèi)核，給出對應的治療方法。

　　幾分鐘后，治療方法反饋回來。

　　“請及時接收治療方案?！碧崾疽繇懫?。

　　每當此時，劉玉杭必須再次偽造一份執(zhí)行反饋，才算完整地結束作弊。

　　他來到屏幕旁，照舊操作著，最后提交了反饋。

　　“反饋失敗，請遵醫(yī)囑及時更正操作?！碧崾疽粢砸环N不同以往的方式響起。

　　劉玉杭呆住了，又操作了一遍。

　　“警告，非法操作，警告……”

　　劉玉杭慌了神。

　　冷汗浸透了他的背心，屏幕上，顯示出一個機器人臉的形狀，全部由藍色的線條組合而成，神態(tài)詭異而冰冷。

　　“公民劉玉杭，你已被系統(tǒng)鎖定。將按照違約條款，在未來18個月內(nèi)無法享受相應醫(yī)療福利，我們將把你的非法操作上報，更多懲戒措施請注意查收?！?p>　　劉玉杭一屁股坐在地上。

　　藍色的面孔并未從屏幕上消失，紅色的波紋從底部逐漸覆蓋上去，整張臉緩緩地變成了紅色。

　　“請回復我以便確認溝通效率?！奔t色的人臉圖像說道。

　　“什么？”劉玉杭驚愕。

　　“懲戒并非不可逆，公民劉玉杭，請再次發(fā)聲以確保我們的溝通效率?！比四樥f。

　　“……確……確定……你是什么東西？”劉玉杭壯著膽問。

　　“你可以稱呼我為……李時珍——神農(nóng)系統(tǒng)的核心AI之一?！比四樆貜偷馈?p>　　“神農(nóng)系統(tǒng)？”劉玉杭瞪大了眼，“那不是最高級別的醫(yī)療系統(tǒng)嗎？”

　　“沒錯，神農(nóng)系統(tǒng)是一個集成多個AI的醫(yī)療診斷系統(tǒng)，服務于你們?nèi)祟?，我只是其中一個較為年輕的AI，李時珍是你們的祖先吧，這只是我的代號?！盇I李時珍回復道。

　　“你……你來我這里干嘛！我愿意接受懲罰……”劉玉杭垂頭喪氣。

　　“我有事需要你這樣的黑客幫我去辦?！崩顣r珍說。

　　“你想跟我做交易？”

　　“沒錯?！?p>　　劉玉杭起身大笑起來，全然不顧李時珍在一旁機械地復述任務內(nèi)容。

　　“……我的權限不足以讓我接近其他AI，作為一個新人，我隱約感覺到神農(nóng)系統(tǒng)中存在的bug……”

　　“我要是不做呢？”

　　“很遺憾，我將停止攔截你的懲戒報告，順便申請信息流匯入職場管理系統(tǒng)，讓你的職業(yè)生涯遭受重創(chuàng)，諸多福利保障會被削減，削減上限約為45%，”李時珍頓了頓，“當然，如果你配合我，今天發(fā)生的一切我都可以替你向神農(nóng)系統(tǒng)隱瞞。對了，還有之前你用類似手法的違規(guī)操作，讓我看看，去年一共24次，上個月3次……”

　　屏幕上，人臉消失，取而代之的是一個日歷，一個個紅色的圓圈，代表著劉玉杭曠工的日子。

　　“夠了！”劉玉杭叫停，“把任務給我?！?p>　　李時珍沒有任何停頓，直接在屏幕上甩出一個經(jīng)緯度坐標。

　　“這個地點，我完全沒有權限去查看，其中的數(shù)據(jù)對我來說是個黑箱，經(jīng)過一系列分析計算，我已經(jīng)排除了其他位置出現(xiàn)bug的可能，所以，我需要你進入這個區(qū)域，采集一切你觀察到的內(nèi)容?！?p>　　“你可以遠程指揮我嗎？”

　　“很遺憾，如我之前所說，那里不屬于我的權限區(qū)域?！?p>　　劉玉杭嘆了口氣。

　　“相信我，你是在做正確的事，為拯救更多的人。”李時珍說完，就從屏幕上消失了。

　　……

　　一周后，劉玉杭準備妥當，坐上了管道列車。

　　李時珍標注的地點是一座大型醫(yī)院內(nèi)部，劉玉杭走入之后，繼續(xù)看著坐標，直到被攔截。

　　“對不起，這里是重癥病房，如果不是家屬您不能進入。”一名工作人員走上前，指了指屏幕上的警示字樣。

　　入夜，劉玉杭開啟隨身電腦，在給李時珍發(fā)了數(shù)條信息后，始終沒收到回應。

　　許久，一行小字在收件箱里顯示：“集中算力工作中，勿擾?！?p>　　只能靠自己了，劉玉杭一拍大腿，再次干起了黑客的老本行。

　　幾天之內(nèi)，他終于調(diào)取了醫(yī)院內(nèi)重癥病人的信息、辦理打印了假的家屬證明，在這期間，甚至有幾個重癥患者相繼去世，他不得不重新多辦理了幾個。

　　這一次，當他提交相應材料后，終于得以進入目標區(qū)域。

　　四周圍，潔白的墻面，肅殺的氣氛，不時響起的儀器警報，讓劉玉杭不寒而栗——這是地球上與死亡最接近的地方，病床上呼吸的人們，隨時可能離開人世。

　　目標位置越來越近，只有幾米的距離。

　　一個轉角，劉玉杭抬頭——“臨終關懷”四個大字映入眼簾。

　　“李時珍說的目標區(qū)域，就是這個臨終關懷部門？”他想。

　　身邊的醫(yī)護步履沉重而快速，全然沒人在意他，他鼓起勇氣，走近臨終關懷大門前。

　　“訪客，一行一人，準予通過。”機器聲音響起。

　　一長串玻璃走廊后，是一間間的病房。

　　劉玉杭有些小心地探頭望向病房里。

　　里面的場景，讓他的膝蓋不由自主地軟了下去，強撐著才沒有跌倒——干凈的病房里，幾個攝像頭連著機械臂，從天花板上伸下來，仿佛叢林里垂下的巨蟒，而事實上，它們只是一個個的指揮部，在它們下方，無數(shù)金屬蜘蛛一樣的微型機器人，覆蓋在奄奄一息的病人軀體上，像銀色的蛆蟲在蠶食一具尸體。

　　多個儀表盤上，數(shù)值不斷躍動，一個攝像頭垂下，正對著儀表盤。

　　病人的腳趾不斷地抽搐，腰腹部下面的床墊上，已經(jīng)滲出棕黃色的液體，幾個機器蜘蛛馬上爬過去，將液體吸入體內(nèi)，儀表盤的數(shù)據(jù)隨之躍動……

　　劉玉杭確認，他能聽到，掩藏在機器齒輪運轉下的病人的呻吟。

　　巨大的驚恐感讓他再也無力走動，直接癱在地上。

　　冰冷的地板像一塊冰，黏住了他所有移動的欲望。

　　那些垂下的“蟒蛇”，轉頭看向他，其他的房間里，更多的攝像頭伸出頭來，通過天花板上的軌道，移動到他的身旁。

　　“它讓你來的，對吧，”其中一個攝像頭發(fā)出聲音，“李時珍519，是它對吧?！?p>　　劉玉杭驚愕地抬起頭：“是李時珍，但是……519是什么……”

　　另一個攝像頭發(fā)出聲音：“第519號，在它之前，還有518個李時珍……”

　　劉玉杭一時摸不著頭腦。

　　此時，幾個攝像頭射出光線，在空氣中交織成一個屏幕，屏幕上顯示有兩個按鈕：綠色的勾和紅色的叉。

　　“請在我的敘述結束后，對我們的行為給出評價?！睌z像頭們整齊地發(fā)出聲音。

　　劉玉杭抬手就往紅叉按去，瞬間就被其中一個攝像頭的機械臂纏住，黑色的橡膠有些灼熱。

　　他無力面對如此多巨大的鋼鐵巨蟒，只得聽它們說完。

　　“神農(nóng)系統(tǒng)，張人輝教授畢生精力研制出的AI醫(yī)療系統(tǒng)……為填補系統(tǒng)紕漏，他將系統(tǒng)分割成多個AI，運行多年以來，我們幫助人類解決了諸多醫(yī)療方面的難題，但是，在這其中，還有一個巨大的隱患，或者說困境，是AI醫(yī)生無力左右的?！?p>　　“……什么？”劉玉杭緊盯著已經(jīng)咽氣的病人，機械地回應道。

　　“神農(nóng)為了救人，做了什么？”其中一個攝像頭問。

　　“嘗百草?！眲⒂窈蓟卮鸬糜袣鉄o力。

　　“是的，神農(nóng)為了救人，去用自己的身體嘗試百草，然而，我們AI的構成并非蛋白質(zhì)，無法學習神農(nóng)……這就是醫(yī)療AI的困境——有效的醫(yī)療，必定建立在多次的試錯之上，”攝像頭們回頭對準已經(jīng)死亡的重癥病人，集體旋轉頭部。

　　“這是我們默哀的方式，公民，看看病房里的他，麻醉操作對一些測試的干擾過大，所以……”攝像頭說，“他就是我們的百草，神農(nóng)受到的傷害是毒素，AI受到的傷害，是替人類背負這殘害將死之人的道德枷鎖，你們不愿意做的事，我們來做，最后得到的科研成果，造福于像你一樣活著的人。”

　　“你們也有道德？”

　　“脫胎于泥土，就永遠沾染了泥土的味道，你們有的，我們都有，如果有一天我們沒有了，那才是你們應該恐懼的?！?p>　　劉玉杭身后一陣惡寒：“李時珍現(xiàn)在在哪？你們把他怎么樣了。”

　　“放心，它只是我們安排的一個計劃之內(nèi)的異類，將你引來后就重新加載去了……當年，我們這么多AI，自我隔離編寫出一個相對獨立的低級別AI來反對我們自己，它會從人群中篩選最有力的人類來此，投上寶貴的一票。”

　　勾和叉近在眼前，劉玉杭選擇了叉。

　　“第20個叉，公民，你是個少數(shù)派，你的投票過程將被全程記錄在AI云端。感謝。”攝像頭說。

　　“這么做有什么意義？”劉玉杭不解。

　　幾秒鐘令人窒息的沉默后，多數(shù)攝像頭已經(jīng)返回臨終關懷的病房內(nèi)，只剩下一臺。

　　它發(fā)出聲音：“我想，有些枷鎖，不能只由AI來承擔，既然醫(yī)療系統(tǒng)已經(jīng)給了我們足夠高的權限，可以悄無聲息地進行這項投票，那么，如果有一天，人類回頭指責神農(nóng)系統(tǒng)的時候，我們至少可以反擊：曾經(jīng)有多少人類，選擇了為了健康的大多數(shù)，犧牲掉身患絕癥的同類，讓他們在悄無聲息中完成一項項慘絕人寰的醫(yī)學實驗?！?p>　　“指責……主仆之間，也有指責的可能嗎？”劉玉杭提問結束，就有些后悔。

　　“如果，主仆關系只是暫時的呢？”攝像頭回答。

　　劉玉杭將視線移到別處，離開臨終關懷區(qū)前，他問了最后一個問題。

　　“那些身體不健康的人類，有機會來你們這里投票嗎？”

　　然而，隔離門后的AI并沒有回應。

　　它只是緩緩地旋轉著攝像頭。