此外，朱啟超認為，人工智能遠未完美。由於人為錯誤、機器故障等因素帶來的誤差在所難免，在對抗的環境下人工智能系統平台也面臨著被對手通過指令篡改、病毒入侵攻擊的可能，無人系統平台的失控可能造成濫殺無辜。第四，人工智能的運用，使得人在回路和人不在回路並存，往往為失誤行動的責任追查帶來新的困難。對於因無人機反恐作戰引發的人道災難，責任追究可能涉及操控者、程序員、採購官、戰地指揮官等多個方面，智能系統犯錯要比人犯錯更難以追溯責任。
同時，朱啟超說，由於技術的擴散，人工智能同樣可以被恐怖份子所使用，其弱點同樣可能被恐怖份子所利用。在一個日益互聯互通、信息快速傳遞的世界裡，人類面臨著新的跨域攻擊、戰爭誤判的風險。比如基於人工智能技術的網絡攻擊可使國家基礎設施遭受破壞，甚至導致核武器乃至生化武器的失控，誘發戰爭的誤判與升級。
朱啟超還表示，各國在運用人工智能技術升級防務能力的同時，我們有理由對人工智能保持審慎。人工智能將揭開開源戰爭、算法戰爭、混合戰爭等各類衝突的蓋子，各國將越來越難以追求絕對的安全。我們建議從人類命運共同體的角度，共同思考應對人工智能爆發時代的國際性安全挑戰。
|
