“我們必須要有足夠的技術手段，在數據、算法或使用中設立規範和標準。”他認為，要想規避這些危害，就需要加強技術研究和制度設計，將來必須能對人工智能踩刹車、關電源，在設計人工智能時要留有處理手段。“刹車的好壞、靈敏度都和技術有關，所以要加強技術研究。裝不裝刹車、什麼時候裝刹車，這需要制度配合。”
他也提到，除了文生文 ，還要考慮文生圖、文生視頻，“大語言模型是一維的數據串，到了圖像就變成了兩維數據，到了視頻就變成三維數據，這些數據怎麼在統一架構下訓練和學習？所以有很多技術上的問題需要考慮。”高文表示，要加強技術研究，完善理論基礎驗證，提升模型可解釋性，嚴格控制生成式人工智能的底層價值取向，實現安全價值對齊，“現在還是靠人來做對齊，把人回答的一些解讀一點點輸入來對齊，有沒有更好的對接方法，這也需要技術跟進。”
在算力能耗方面，“目前人工智能給我們帶來的一個技術和社會問題就是耗能太高。整個社會用電裡，大概1%～3%的耗電用在計算方面。人工智能稍微再往前走一兩年，大概有10%的耗電用在算力上，再往前走很可能要30%左右被算力耗掉。”高文表示，如何有效利用電力做適當的算力是當前面臨的挑戰，國內百“模”大戰也消耗了大量資源，要把開源和閉源模型高效利用起來，加強國產算力和國產生成式大模型構建。
與此同時，要確保數據要素可信流通。在制度設計方面，要開展與生成式人工智能倫理相關的理論研究，完善生成式人工智能的法律法規建設。“我們要在治理領域形成共識，加強國際合作。”高文表示。 |
