第六章 面具與小刀（13/13）

「關於第一條的意義，實際上所謂的〈機器人工學的三原則〉被認為是由〈弗蘭肯斯坦情結〉產生的……你知道〈弗蘭肯斯坦情結〉嗎？」

「知道。」

我回答說：「大概是弗蘭肯斯坦博士被自己創造的怪物殺死的故事。」

「對。〈科學的產物脫離人類控制並對人類造成傷害〉的心理，2019年有位叫筒井康隆的作家在他的著作中將其稱為〈造物主的擔憂〉，但嚴格來說，〈弗蘭肯斯坦情結〉更多的是對智能機器人可能殺死人類的危機感，而不僅僅是智能機器人對人類的反叛。」

「……」

「……想像一下，如果在〈愛麗絲事件〉中，愛麗絲反抗並不小心殺死了其中一個人。我們人類真的不能原諒她的行為嗎？不，可能在現代，大多數人會原諒她。也就是說，根據情況，智能機器人殺死人類是可以被接受的。重要的是，智能機器人對人類的反叛可能性。這也包括了智能機器人可能會判斷，完全『管理』人類，就像飼養家畜一樣，會對人類更有幫助，並實際採取行動……這不是善意或惡意的問題。我們作為創造者，不想把主導權交給我們的孩子。當然，對於那些並非開發者的人來說，他們根本不會覺得智能機器人是自己的孩子……總之，避免智能機器人對人類的反叛，同時給予智能機器人儘可能多的自由。……我們需要創建一個能夠解決這些問題的機制，那就是〈造物主的安眠〉。」

「……你是怎麼做到的？」

「非常簡單。只要智能機器人不意識到自己是智能機器人就可以了。他們認為自己是人類。這樣他們就不會考慮拒絕反抗人類，也不會在正當防衛時考慮種族的問題。」

「……」

「每個智能機器人都忘記了自己是智能機器人的事實，認為自己是人類，用自己的頭腦判斷正義。無論是見死不救還是為了保護一個人而殺死另一個人，都不是基於自己作為無機物的立場，而是基於自己的信念來思考，每個智能機器人都能做出自己的判斷。設置了〈造物主的安眠〉的智能機器人沒有設置機器人工學的三原則。他們可以殺人。他們可能會根據個例的判斷去殺人，但他們不會因為自己是智能機器人的立場而對人類採取行動。這樣就絕對不會發生反叛。並且他們擁有與人類同等的自由。因為如果他們不自稱是智能機器人，他們的外表和心靈都是人類！」

「……但是，即使他們認為自己是人類，也會出現各種問題吧？」

我問HAL斗：「雖然最近的智能機器人變得越來越像人類，但還是有很多與人類身體不同的地方……他們遲早會意識到自己可能是智能機器人吧。」

「是的。……（內容加載失敗！請重載或更換瀏覽器）