人工智能越來越像人,人類對機器有了感情怎麼辦?
“人類是否會與人工智能產生感情,將取決於這種過程是否給人類帶來愉悅。正如互聯網發展早期的一句常用語所說——在互聯網上,沒人知道你是一條狗。這表明,當人類在不知道溝通者的身份時,只要對方能夠給自己帶來愉悅,感情就可能產生。”趙聯飛認為,這可能會對人類的交往模式帶來影響。比如說,未來,知識型的人工智能可以回答人們能夠想到的很多問題,從而導致個體學習方式、生活方式乃至社會化模式的變革。
假如人與人工智能出現類夫妻、父女等情感,將考問現代倫理規範。“如果社會主流意見認為這種關係符合倫理,人們可能傾向於以類似於夫妻、父女之間的倫理準則來調節二者之間的關係;但如果人們始終認為,人與人工智能之間的關係是人占主導地位的‘遊戲關係’,那麼相應的倫理標準也就無從談起。”趙聯飛說。
未雨綢繆
專家建議完善人工智能技術規範和法律約束
面對人工智能帶來的種種衝擊,專家認為,上世紀50年代美國科幻小說家阿西莫夫提出的機器人三大定律,今天依然有借鑒意義。這三大定律是:機器人不得傷害人,也不得見人受到傷害而袖手旁觀;機器人應服從人的一切命令,但不得違反第一定律;機器人應保護自身的安全,但不得違反第一、第二定律。
“歸根結底,人是智能行為的總開關。”吳飛認為,人類完全可以做到未雨綢繆,應對人工智能可能帶來的威脅。
“開發者應該始終把人工智能對社會負責的要求,放在技術進步的衝動之上。正如生物克隆技術,從提出克隆技術那一天開始,克隆的社會倫理問題就始終優先於克隆的技術問題。”趙聯飛認為,人類應該在開發人工智能的過程中,逐步積累控制人工智能的經驗和技術,尤其是防止人工智能失控的經驗和技術。
在技術上加強對人工智能的控制是完全可行的。“人工智能儘管日益高級,但究其根本,仍然是在智能程序對大量數據處理基礎上得到的結果。進行編程時,開發者可以通過程序對其進行安全設置。比如,如果識別出來是人類,要自動保持距離;不能做出攻擊性動作,從力學幅度上予以約束。”中科院自動化所研究員孫哲南說,還可以把人類的法律規範和道德要求用代碼的形式寫入機器,全部數字語言化,使其遵守人類的行為準則。
“除了設計和建造要遵循技術規範,還可由政府有關部門牽頭,成立由人工智能技術專家、社會科學研究人員、政府管理人員為核心的人工智能管理委員會,對涉及人工智能的研究和開發項目進行審核評估,嚴格控制從技術轉化為產品的環節。”趙聯飛認為,此外,應從多個方面加強對人工智能的研究,跟蹤、了解人工智能的發展趨勢和實踐,開展以未來學為基本範式的研究。
(來源:人民網—人民日報) |