】 【打 印】 
“ChatGPT禁令”頻發為哪般
http://www.CRNTT.tw   2023-03-04 08:38:28
  中評社北京3月4日電/要說2023年初的互聯網熱點當屬ChatGPT,但是最近多家公司和機構開始對ChatGPT的使用施加限制。以ChatGPT為代表的人工智能技術在給人類帶來便利的同時也引發了諸多擔憂。
  
  首先是信息洩露和合規風險。摩根大通近日開始限制員工使用ChatGPT,成為第一家在工作場所限制使用ChatGPT的華爾街投行。隨後,花旗集團和高盛集團也加入華爾街禁用ChatGPT之列。而此前,微軟和亞馬遜因擔心洩露機密信息,禁止公司員工向ChatGPT分享敏感數據,因為員工輸入的信息可能會被ChatGPT用作進一步迭代的訓練數據。咨詢公司埃森哲也出於類似原因,警告員工不要將客戶信息透露給ChatGPT。
  
  其次是內容剽竊和作弊風險。在大學和出版界,“ChatGPT禁令”已經較為普遍。為避免學生過於依賴此類工具,美國、法國、英國等多國學校發出禁令,禁止學生在學校內使用類似於ChatGPT的人工智能工具完成學習任務和考試。香港大學近日也表示,禁止在港大所有課堂、作業和評估中使用ChatGPT或其他人工智能工具。美國知名科幻雜誌《克拉克世界》宣布,由於近期收到大量人工智能生成的稿件,決定停止接收投稿。在學術、應試和文學創作等領域,ChatGPT的表現十分優秀,遭到的反對也最為激烈,因為人們擔心對此類軟件的過度依賴將會使人喪失獨立思考的能力。
  
  此外,ChatGPT等人工智能技術對網絡和數據安全的威脅也值得關注。儘管ChatGPT本身尚不具備直接攻擊網絡安全和數據安全的能力,但由於它具有自然語言生成和理解的能力,能夠用來編程或寫論文,自然也能被用來編寫惡意代碼、垃圾郵件等。
  
  任何一項新技術的誕生往往伴隨著弊端與風險。面對人工智能帶來的挑戰,相應的安全技術和監管制度應該跟上。許多大學已經在使用檢測抄襲的軟件,ChatGPT的開發者OpenAI公司表示,該軟件的目標是與教育工作者合作,幫助教師和學生從人工智能中受益,不希望ChatGPT在學校或其他任何地方被用於誤導目的,已經在開發應對措施,以幫助識別該系統生成的文本。而針對此類應用的安全風險,目前國內外已經有不少業內企業著手建設人工智能安全平台,以提升對於威脅的檢測和響應能力。總體來看,衹有在合理的監管和治理之下,人工智能技術才能更好地為人服務。

  來源:經濟日報  作者:周明陽


          
】 【打 印】 【評 論

 相關新聞: