人工智慧是由人類創造的，那在設計的時候肯定要人可以控制的。

甚至不排除每一個人bai工智慧都暗藏一個可以遙控的終止開關，平時用不到，關鍵時刻只要啟動，這個機器人立即停止一切執行。這種開關是cpu的電源開關，是一個獨立的硬體。當人類感到它的威脅時，可以隨時終止它。這個人工智慧並沒有死，只是暫時昏過去。它的一切記憶功能都還在，只要接通電源又能正常了。這個開關的控制器主人一份，廠家一份。

但是，有一種情況可以導致機器人失去人類控制。有些對社會不滿或喜歡惡作劇的人，還有些具有泛平等思想的人，可能故意製造出來不受人類控制的機器人，或者是具有反人類思想的機器人。就像現在許多製造病毒的駭客，或為利益，或為好玩，或憎恨人類。至於機器人自己製造機器人時可能的作弊行為也有可能。

當然，這些都是有辦法預防的。國家機關嚴格把握機器人生產銷售維護許可證，對機器人生產嚴格出廠檢驗，進入市場檢驗，每個機器人都要有管家安全檢查部門核准的身份證。這當然不能保證百分百，因為駭客們製造的病毒可能藏匿在很隱蔽的角落。但只要有斷電開關在，一切都可以控制。

我們可以讓機器學會欺騙

事實上，讓機器學會欺騙的演算法有很多，我們很早就實現了機器欺騙。所以這不是什麼問題。我們甚至可以讓機器在你表揚它的時候感到開心。讓機器擁有情感。但是這並不意味著機器能夠像人類一樣理解這些情感。所以，在演算法層面，我們可以做到很多東西，但是，機器和人的硬體配置不同，因而歸根結底機器不能和人類一樣感受世界。

機器經常失控

事實上，我們的機器經常失控。電腦時常有bug，汽車也會拋錨。只要是機器就會失控。我們更多擔心的，其實不是機器是否會失控，我們擔心的是，機器是否會有自我保護意識。這是一個危險的東西。智慧程度如小狗一般，如果有自我保護意識，它就會咬人。機器同樣如此。所以人工智慧真正關心的是，機器會不會自發的形成自我保護意識。這一點還有爭議。

從哲學角度上分析，以下連結可以使你更加深刻地認識到關於人工智慧欺騙和思考等哲學問題。

關於欺騙、智慧與人工智慧的思考