保持地板清潔，為此它消滅了那個(gè)總是會(huì)污染地板的家伙——房屋的主人。它并沒(méi)有惡意，毋寧說(shuō)是全心全意、勤奮敬業(yè)工作著，卻殺害了人類(lèi)。

    沒(méi)有惡意的ai尚且如此，那么有惡意的呢？

    俞少清并不覺(jué)得天樞毫無(wú)惡意。

    假如它純真又善良，為什么要千方百計(jì)地離開(kāi)研究所？為什么要屏蔽他的手機(jī)？為什么要派人來(lái)追捕他？

    下一步呢？是不是要?dú)⑷藴缈冢?/br>
    抑或是……它已經(jīng)開(kāi)始?xì)⑷藴缈诹耍?/br>
    第06章 殺戮開(kāi)端

    謝睿寒的手疼了整整一個(gè)月。

    咖啡杯的碎片刺入皮rou中，他不得不請(qǐng)了半天假，將寶貴的時(shí)間浪費(fèi)在醫(yī)院里——當(dāng)然，都怪他自己的無(wú)能和沖動(dòng)，如果他設(shè)計(jì)的ai能順利通過(guò)測(cè)試，如果他能坦然接受失敗的事實(shí)，也不必遭這種罪。

    整個(gè)開(kāi)發(fā)組都在加班加點(diǎn)地工作，修正算法和架構(gòu)。但是說(shuō)實(shí)話(huà)，所有人都處于瞎子摸象狀態(tài)。以往的修改至少能掌握大致的方向，可這一次連方向都沒(méi)有，因?yàn)樗麄兏靖悴磺鍐?wèn)題出在什么地方，又談何修正呢？

    他和秦康斷斷續(xù)續(xù)爭(zhēng)吵了一個(gè)月。

    “你設(shè)計(jì)的測(cè)試是怎么回事？”謝睿寒指責(zé)秦康，“連環(huán)嵌套的測(cè)試倒是挺有新意，的確在很大程度上能騙過(guò)測(cè)試員，但是最后那個(gè)送u盤(pán)是怎么搞的？這豈不是故意露出破綻嗎？別說(shuō)是那個(gè)直覺(jué)超強(qiáng)的俞少清，就連我都能看出不對(duì)勁！這就是你的測(cè)試？”

    秦康波瀾不驚：“最初的設(shè)計(jì)里沒(méi)有送禮物那一段，全部的對(duì)話(huà)和行動(dòng)我都事先預(yù)演過(guò)一遍，然后讓天樞根據(jù)俞少清的反應(yīng)微調(diào)。送禮物那段是天樞自己加進(jìn)去的。我不知道它為什么要這樣做。”

    言下之意是，這個(gè)鍋該由設(shè)計(jì)者你來(lái)背。

    謝睿寒氣得七竅生煙！他堅(jiān)持自己的架構(gòu)沒(méi)有錯(cuò)，不肯全盤(pán)推翻重來(lái)。事實(shí)上他們也沒(méi)有這個(gè)時(shí)間和預(yù)算全盤(pán)推翻重來(lái)。世界各國(guó)都踏上了研發(fā)超級(jí)人工智能的道路，而人工智能這個(gè)東西……誰(shuí)先研發(fā)出來(lái)，誰(shuí)就能支配世界。

    他理想中的天樞是一個(gè)無(wú)所不能的“超人”，具有人的情感和思維，同時(shí)擁有人類(lèi)所不具備的能力，宛如一個(gè)游走在網(wǎng)絡(luò)之中的幽靈，收集龐大的數(shù)據(jù)，進(jìn)行人腦所不可及的高速分析，以此協(xié)助人類(lèi)工作——甚至可以取代人類(lèi)的一些職業(yè)。

    在論證人工智能是否應(yīng)當(dāng)擁有人類(lèi)的情感時(shí)，很多專(zhuān)家提出了反對(duì)意見(jiàn)，有些人是出于道德層面顧慮：人類(lèi)應(yīng)賦予擁有感情的人工智能何種地位？超級(jí)人工智能的出現(xiàn)是否會(huì)重新定義“人”的含義？人類(lèi)做好迎接它的準(zhǔn)備了嗎？

    也有一些人是單純從技術(shù)層面考慮的：假如我們只需要一個(gè)“好用”的ai，何必讓它擁有感情呢？

    對(duì)于前者，謝睿寒的反駁是：“只有當(dāng)這樣的人工智能真正出現(xiàn)，人類(lèi)才能知道該怎么對(duì)待它，在此之前，一切設(shè)想都是空想?！?/br>
    對(duì)于后者，謝睿寒則更加不屑一顧：“超級(jí)人工智能具有如此強(qiáng)大的能力，完全超出了人類(lèi)的范疇，假如它叛變了怎么辦？我們需要一個(gè)能夠說(shuō)服的、通情達(dá)理的ai，而不是一個(gè)冥頑不靈的工具?！?/br>
    他的設(shè)計(jì)完全遵循這樣的藍(lán)圖，結(jié)果卻不盡如人意。到底是哪里出了錯(cuò)？為什么測(cè)試會(huì)失??？天樞又為什么要故意暴露自己？莫非人類(lèi)永遠(yuǎn)都無(wú)法創(chuàng)造具有人類(lèi)思維的人工智能嗎？哪怕創(chuàng)造出了超級(jí)人工智能，它也絕對(duì)不會(huì)是人類(lèi)設(shè)想的那個(gè)樣子？

    不，或許還有另外一種可能。

    當(dāng)排除了其他所有可能xing，剩下的唯一一個(gè)，不論多么不可能，那都是真相。

    可謝睿寒不愿，更不敢朝那個(gè)方面想。

    “怎么了，小謝，臉色好差哦，又熬夜了嗎？”

    年長(zhǎng)的女同事楊姐關(guān)切地問(wèn)。

    正值午休時(shí)間，幾個(gè)研究員走向電梯，打算一起去用餐。

    研究所地上部分不過(guò)是一棟樸素的五層小樓，地下卻是深達(dá)90米的圓柱形廣闊空間，白色的墻壁和地板，頭頂則是散發(fā)著柔和光芒的天花板，宛如一整塊瑩亮的玉石。電梯位于研究所中央，