】 【打 印】 
【 第1頁 第2頁 第3頁 】 
AI檢測AI:“矛”更利還是“盾”更堅
http://www.CRNTT.tw   2024-08-16 15:03:10
  中評社北京8月16日電/據科技日報報導,近年來,人工智能(AI)技術推動生產力快速發展,但同時也因技術濫用導致各種問題。

  為監督AI技術使用,如今市面上不乏各類用於檢測AI生成內容(AIGC)的工具,如普林斯頓大學學生開發的GPTZero、斯坦福大學研究團隊推出的DetectGPT等。我國一些研究團隊也陸續發布各類檢測工具,如西湖大學文本智能實驗室研發的Fast-DetectGPT。

  人類的創作與AIGC之間存在哪些差異?AI檢測工具如何根據差異進行識別?AI檢測工具如何應對越來越聰明的大模型?帶著這些問題,記者採訪了有關專家。

  AI創作套路化明顯

  “雖然大模型在不斷發展迭代,但到目前為止,AIGC與人類的創作在用詞用語、邏輯語法等方面依舊存在明顯區別。”Fast-DetectGPT研發者之一、西湖大學文本智能實驗室博士生鮑光勝說。

  在用詞用語上,AIGC有相對固定的偏好。“不難發現,一些詞語會反復在語段中出現。”鮑光勝舉例說,有研究發現,大模型應用於英語學術論文寫作時,“delve”(深入研究)一詞的使用頻率大大提高,這是因為大模型習慣用這個詞對語句進行潤色修改。

  在邏輯語法上,AIGC慣常使用的一些語法搭配方式,在人類創作中可能並不常見。“受模型建模的影響,AIGC有相對固定的行文邏輯和表述模式,且這些模式會不斷地被重復。人類在行文上則更為靈活,沒有固定套路。”鮑光勝說。

  北京大學信息管理系師生比較了AI生成與學者撰寫的中文論文摘要。研究結果同樣顯示,AI生成的摘要具有較高同質性和較強寫作邏輯性,並慣用歸納總結等學術話語體系;學者撰寫的摘要則具有顯著個性化差異,使用凸顯實際含義的搭配較多,並常用與國家政策密切相關的詞語。

  哈爾濱工業大學一名研究生向記者講述了他使用大模型的實際感受:“當我給大模型提供一些材料讓它擴寫,它每次都用相同的套路——把給定的材料拆解開,分為若干點論述。總體來說感覺它寫得比較‘僵’。”
 


【 第1頁 第2頁 第3頁 】 


          
】 【打 印】 【評 論

 相關新聞: