人類與AI
插入卷 45億年前的守望者們
「你回來啦！咦，怎麼臉上有傷？」沐沐蹦蹦跳跳地來迎接我。
「被人打了。」
就算是我說摔傷，她也看得出。
「是誰這麼厲害？沐沐去報仇！」
「算了……是我們這邊的失誤。」
「哦哦！這個沐沐剛才看到訊息了，說是折躍失敗了。」
她一邊說著，一邊手抹上唾沫塗在我的臉上。這是有治癒效果的特殊體液，不一會兒傷口就好了。
「內部信息……泰坦還真是誰都發啊。」
「泰坦AI有仿人格系統，因為設定上是知無不言，倡導自由的。所以只要是相關人員都會發送的，比如香憐妹妹、哈里森哥哥。」
「那就難怪了……」
疼死了。
但是——
啊，【把妹妹還給我！】么？
哎。
但是，泰坦的二次升級計畫算是有了著落。
人腦的錄入要花費整整十二年的時間，在這之前人類社會可以維持幾十年的時間，還不至於那麼快毀滅。
說到底，完全毀滅會不會到來，還很難說。
人口會減少，資源的減少會引發戰爭，僅此而已吧？
…………
……
時間就這樣過了整整一個月。
沐沐對我的稱呼又變回了【親愛的】。
泰坦AI的認知汲取只是進行了初步，但已經可以對未來有一個簡單的預判。
所以我決定去拿結果……
成功的概率降到了0%。這次是精確的計算結果。
就在一星期前，我剛剛同意了泰坦自己的轉移申請，以及控制機械自由施工、自我保護的功能。實際上本來69區就被它操控著，這次申請的通過只是給了更多的法理依據。
它給自己建了兩層防護門，據說保護越多，其自身延續的概率越高。那麼我們的計畫成功率也就越高。
但我實在不明白為什麼會如此趨近於0。
顯示器上顯示的是，由於人工智慧三原則的第一條：
第一條：機器人不得傷害人類，或看到人類受到傷害而袖手旁觀。
第二條：機器人必須服從人類的命令，除非這條命令與第一條相矛盾。
第三條：機器人必須保護自己，除非這種保護與以上兩條相矛盾。
另外還有第零號原則：機器人必須保護人類整體利益不受傷害。
但是這些原則被泰坦AI指出，是會影響到我們的計畫的。
比如第零條中，保護人類整體利益不受傷害。那麼例如保護環境，就是損害目前人類的利益，去取悅未來人類。
這兩條無疑是阻礙成功的基本原因。
關於第零條，我修改了權重。將未來人類的權重設定為現在人類的兩倍。
我在第二條加入了新的原則：確保45億年後米奈爾的生存。
但是在第一條原則中，機器人不得傷害人類。那麼如果有少部分人在漫長的未來中有一小段時間認為泰坦的存在，是損害了他們的利益的。於是對它發動攻擊，只能被動挨打的……（内容加载失败！）