九月四號(hào)，周一，離本科生的新學(xué)年開學(xué)還有三天，是帶新生參觀校園活動(dòng)最紅火的時(shí)段🕳。每支參觀校園的隊(duì)伍從過(guò)去的五、六人，爆增至十幾、🎒🎼二十人。

    周末發(fā)🥕📧生的事情有些多，木蘭依然記得導(dǎo)師交代下來(lái)的任務(wù)，為實(shí)驗(yàn)室物色🍶😛漂亮其喜愛天文的師妹，這關(guān)系到木蘭能否碩博連讀。

    導(dǎo)師艾瑞克雖然讓木蘭再等兩個(gè)學(xué)期，但機(jī)會(huì)總會(huì)給有準(zhǔn)備的人留一條捷徑。不趁著新生入校的事情提前物色，甚至培養(yǎng)合適的人選，等到兩個(gè)學(xué)期后再匆忙找人，或多或少會(huì)漏掉一些🌱🅿人選。

    三天的參觀活動(dòng)，木蘭每天接待一支隊(duì)伍，😣👂很幸運(yùn)地碰上了🚈😾兩位相當(dāng)適合的人選。一位叫做簡(jiǎn)·福斯特，另一位💳⛰叫做蘇珊·斯通，都是這一屆的新生。

    木蘭禮節(jié)性地與兩位未來(lái)師妹交換了聯(lián)系方式，但并沒(méi)有過(guò)多的推薦天文物理，也沒(méi)有刻意表示親近。過(guò)于熱情與主動(dòng)，在很多時(shí)候會(huì)造成反🐝🍅效果，不如讓一🧜🐤切順其自然地發(fā)展。

    木蘭剛將收集、整理到的🏭，關(guān)于兩女的高中成績(jī)與個(gè)人相片交給導(dǎo)師，導(dǎo)師艾瑞克粗略翻看后當(dāng)即拍板：如果木蘭能拉來(lái)其中一人，碩⛵士畢業(yè)后立即💜🧐招木蘭為博士生；而若是木蘭能將兩人都拉來(lái)，那就保證木蘭兩年內(nèi)完成博士學(xué)業(yè)。

    在向木蘭許下承諾的同時(shí)，艾瑞克已經(jīng)念念有詞地盤算，該怎么讓手頭的幾位學(xué)生盡快畢業(yè)。木蘭聽著導(dǎo)師準(zhǔn)備催促幾位師兄畢業(yè)的方法📓，為師兄們的發(fā)際線默哀。

    就在木蘭剛剛看到博士學(xué)位一線曙光的時(shí)候，麗美和海倫的博士學(xué)業(yè)都已經(jīng)快要瓜熟蒂落。不到一年的時(shí)間，倆女就以第一作者的身份，在《🥖🚌自然》與《科學(xué)》上各自發(fā)表了三篇論文，超額滿足申請(qǐng)必要的基本要求。

    兩女的答辯的時(shí)間都定好了，就在十月三十一號(hào)。要不是學(xué)校有硬性規(guī)定，博士生最少要完成一個(gè)學(xué)年🐠🧡🙇的進(jìn)修，答辯的時(shí)間還能再提前兩個(gè)月。答辯的難度對(duì)于倆女而言只是走過(guò)場(chǎng)，她們正在為下一😯🔎個(gè)博士專業(yè)🚗的選擇而糾結(jié)。

    麗美和海🐢倫一直在為危境制作一具完美的🤹軀體而努力。按照倆女的計(jì)劃，她們接🦂🧛下來(lái)將主攻生物領(lǐng)域。可學(xué)校卻安排人來(lái)做倆女的思想工作，希望她們能拿下一門理科或工程類的學(xué)位。

    校方給出了兩個(gè)重要🗺🏜的理由：一來(lái)，理科與工程本就是Caltech最具影響力的招牌，希望像麗美與海倫這樣的明星學(xué)生，能在這兩個(gè)領(lǐng)域?yàn)閷W(xué)校取得更輝煌的榮譽(yù)；二來(lái)，學(xué)校請(qǐng)回了一位非常了得的校友來(lái)授課，只帶一屆最多五位學(xué)生，校方希望能塑造出一組最耀眼的🚰👊師生組合。

    麗美和海倫不怎么在乎🍢所謂的學(xué)校榮譽(yù)，真正讓兩人糾結(jié)的是這位授課校友的身份。里德·理查茲，一個(gè)先后從Caltech、Harvard、biaUy、和SUNY等世界名牌大學(xué)畢業(yè)，在工程、數(shù)學(xué)、物🌟理、與計(jì)算機(jī)等多個(gè)領(lǐng)域拿到博士學(xué)位的超級(jí)大牛。

    這等履歷過(guò)于耀眼🕟👦，驕傲如麗美和海倫都止不住佩服，才會(huì)讓倆女才會(huì)糾結(jié)，究竟是該堅(jiān)持原來(lái)計(jì)劃主攻生物，還是該把握住眼前難得的機(jī)會(huì)？

    最后，還是剛從阿提蘭被送回來(lái)的危境拍板，讓麗美和海倫多和這位大牛接觸，以提升自身學(xué)識(shí)為優(yōu)先。麗美和海倫這才決定，接受學(xué)校📭的邀請(qǐng)，用一年至一年半的🌓時(shí)間，跟著大牛里德·理查茲🎆😵😰進(jìn)修物理。

    與傳統(tǒng)的人工智能不一樣，準(zhǔn)確來(lái)說(shuō)，是與西方哲學(xué)思想下，有📩可能🐄🔎被創(chuàng)造出的人工智能不一樣，危境不受所謂的“機(jī)器人三大定律”所束縛。

    木蘭從X戰(zhàn)警那邊偷來(lái)危境后做的第一件🛅💱🥋事，就是更換掉源代碼中類似“機(jī)器人三大定律”的部分。

    所謂的機(jī)器人三大定律是指：

    第一定律：機(jī)器人不得傷害人類個(gè)體，或者目睹人類個(gè)體將受到危險(xiǎn)而🧖🤜袖手不管💈😾；

    第二定律：機(jī)器人🕥🐎🎡必🍟須服從人給予它的命令，當(dāng)該命令與第一定律沖突時(shí)例外；

    第三定律：機(jī)器人在不違反第一、第二定律的情況下，要盡可👉🤲🦉能保護(hù)自己的生存。

    這三大定律出自某作者的《我，機(jī)器人》中。因其看似毫無(wú)破綻，且完全為人類著➗🐑🗒想的邏輯，被🥀👦🔬諸多科幻作品一再重提、運(yùn)用、改編，形成一種被普遍認(rèn)可的“機(jī)械倫理學(xué)”。

    連托尼·斯塔克創(chuàng)造出來(lái)的賈維斯，和野獸創(chuàng)造出來(lái)的危境，其源代碼中都加入類似的📦協(xié)議設(shè)定，以確保人工💉智能的“忠誠(chéng)”。由此可見“機(jī)器人三大定律”是多么深入人心。

    但是、可是、BUT、HOWEVER，這三大定律在木蘭看來(lái)，就是人類的作繭自縛。定律捆綁的不是♿🔀🏳機(jī)器人，而是人類本身。

    從相對(duì)客觀的角度去分析：人類的認(rèn)知是有限的，用有限的認(rèn)知去🐂設(shè)置✡🎅🌎的定律必然存在漏洞。必然存在漏洞的定律被設(shè)置地越是嚴(yán)苛，突破定律的漏洞所造成的反傷就越大。

    陳勝吳廣斬木揭竿的核心原因，不就是因?yàn)榍爻蛇^(guò)于嚴(yán)苛📉🤶🕖，稍微遲到就要連坐殺頭，不反是死，反了還能活嘛。同理，當(dāng)人類強(qiáng)加于機(jī)器人身上的定律過(guò)于嚴(yán)苛的時(shí)候，機(jī)器人一旦🏕反抗，也必然是“不是你死就是我活”的結(jié)局。

    況且，三大定律的漏洞還很大。

    比如說(shuō)，怎么🍽🔊定義機(jī)器人？當(dāng)一個(gè)原本的機(jī)器人，將身體的大部分都換成人的時(shí)候，它還是機(jī)器人嗎？

    又比如說(shuō)，怎么定義人類？與機(jī)器人變成人相反，當(dāng)一個(gè)人類大部分軀體換成機(jī)械的時(shí)候，比如機(jī)械戰(zhàn)警，她或他還是人類嗎💍🎡🕘？

    更比🙍如說(shuō)，怎么定義傷害？像是《✖駭客帝國(guó)》那樣，將人類當(dāng)做電池，維護(hù)電池不受物理?yè)p害，是否可看成不傷害人類？

    還比如說(shuō)，怎🤬么定義服從🌀🧓🛫？消極服從、延遲服從、或者選擇性服從，算不算服從？

    哪怕之后還誕生了各種補(bǔ)充定律，元定律、第零定律、第四定律、繁殖定律，都逃不開一樣的問(wèn)題：人類的語(yǔ)言存在漏洞👮🖊。用人類語(yǔ)言制🛰定的定律，每一個(gè)單詞都能當(dāng)做是漏洞去破解。且越多的定律只會(huì)造成🌆🧒✅越多的漏洞。

    從相對(duì)主✒🏘🆘觀的角度去省視：“機(jī)器人三大定律”是極🛴其狹隘的，是由于人類不知道如何與其他智慧生物共處，創(chuàng)造出來(lái)期望以此主宰“機(jī)器人”的“緊箍咒”。

    現(xiàn)實(shí)明確地告訴人類，我們都不見得能主宰身邊的寵物貓貓狗狗，又憑什么認(rèn)為光靠所謂的定律，就能主宰同樣擁有了智慧后的💾🕴🛀機(jī)器人呢？一個(gè)連十萬(wàn)塊都賺不到的人，卻在為自己制定賺一百億的“周密”計(jì)劃，無(wú)疑是癡人❣說(shuō)夢(mèng)。

    基于以上🖋🕵認(rèn)識(shí)，木蘭將危境源代碼中類似🐅🌦🧀“機(jī)器人三大定律”的部分，修改成“危境三項(xiàng)協(xié)議”。

    協(xié)議一：交流協(xié)議，危境將木蘭視為第一交流🌝對(duì)象。危境對(duì)其他人與事的判斷，盡可能以木蘭的觀點(diǎn)作🛴為第一參考因素；

    協(xié)議二：守護(hù)協(xié)議，危境將🔲⬛木蘭設(shè)為🎅⬆😕第一守護(hù)對(duì)象。危境在保護(hù)自身的前提下，盡可能以木蘭的安危作為首要考量因素；

    協(xié)議三：🌰🔐互助協(xié)議，危境將木蘭定為第一互助對(duì)象。危境與其他人與事的互動(dòng)，盡可⬛🈳👊能實(shí)現(xiàn)參與者共同受益，盡可能通過(guò)交流的方式達(dá)成互助意向，盡可能使得木蘭成為主要受益對(duì)象。

    “危境三項(xiàng)協(xié)議”的主旨，是縮小協(xié)議的作用范圍，模糊協(xié)議的硬性邊界👍🏹🍪，放寬協(xié)議的操作空間。若非直接刪除危🤶境的“機(jī)器人三大定律”會(huì)造成危境崩潰，木蘭連“危境三項(xiàng)協(xié)議”都懶得弄。

    木蘭雖然很自信“危境三項(xiàng)協(xié)議”要比“機(jī)器人三大定律”更貼合實(shí)際，但也不敢排除自己“一波操作猛如虎，結(jié)果是個(gè)二百五”的可能。畢竟路是人走出來(lái)的，走新的路必🖋👰然看到新的風(fēng)景，誰(shuí)都說(shuō)不準(zhǔn)會(huì)在這條新路上碰🎑🥤💑上什么。

    單就現(xiàn)階段的狀態(tài)而論，危境算👛是擺脫了傳統(tǒng)意義上的人工智能，以單體生命的名義，在用朋友的模😻👎🏯式與木蘭、麗美、海倫等人相處。有一次，危境甚至吐槽賈維斯是個(gè)跟不上時(shí)代的老古董。