守牢安全底線
3月7日，中共中央政治局委員、外交部長王毅在十四屆全國人大二次會議記者會上表示，人工智能目前進入爆發式發展的關鍵階段。中國主張發展與安全並重，既要擁抱新事物新機遇，也要裝好刹車再上路，共同推進人工智能全球治理。
安全問題始終貫穿人工智能發展全過程。大模型的爆發式發展，更加重了社會對其安全性的關注。
周鴻禕把大模型引發的安全風險分為技術安全、內容安全和人類安全三個方面。技術安全主要涉及大模型技術本身引發的如網絡、數據等方面的風險；內容安全則是指控制、濫用、誤用和惡意應用大模型帶來的法律及道德問題；而人類安全則是大模型足夠強大後，人工智能是否安全可控的問題。
為此，他建議，我國應未雨綢繆，重視大模型安全。例如，研究制定保障大模型安全的標準體系，推動通用大模型開展安全評測、接入安全服務等，降低大模型的安全風險。
大模型安全既包括應用層面安全，同樣也包括產業鏈安全。
“大模型作為驅動新質生產力的重要技術底座，其本身也要構建在自主可控的國產軟硬件基礎之上，以及安全的產業鏈環境之中。”劉慶峰建議，為進一步推動自主國產大模型發展，要加快我國大模型開發者生態體系建設和運營，支持國產大模型向開發者開放，開展大模型評測體系和開源社區建設，降低研發和使用成本。同時，應鼓勵央企國企優先應用國產大模型，尤其是在關鍵敏感領域和核心戰略領域。
（來源：科技日報） |
