中評社北京8月16日電／據科技日報報導，近年來，人工智能（AI）技術推動生產力快速發展，但同時也因技術濫用導致各種問題。
為監督AI技術使用，如今市面上不乏各類用於檢測AI生成內容（AIGC）的工具，如普林斯頓大學學生開發的GPTZero、斯坦福大學研究團隊推出的DetectGPT等。我國一些研究團隊也陸續發布各類檢測工具，如西湖大學文本智能實驗室研發的Fast－DetectGPT。
人類的創作與AIGC之間存在哪些差異？AI檢測工具如何根據差異進行識別？AI檢測工具如何應對越來越聰明的大模型？帶著這些問題，記者採訪了有關專家。
AI創作套路化明顯
“雖然大模型在不斷發展迭代，但到目前為止，AIGC與人類的創作在用詞用語、邏輯語法等方面依舊存在明顯區別。”Fast－DetectGPT研發者之一、西湖大學文本智能實驗室博士生鮑光勝說。
在用詞用語上，AIGC有相對固定的偏好。“不難發現，一些詞語會反復在語段中出現。”鮑光勝舉例說，有研究發現，大模型應用於英語學術論文寫作時，“delve”（深入研究）一詞的使用頻率大大提高，這是因為大模型習慣用這個詞對語句進行潤色修改。
在邏輯語法上，AIGC慣常使用的一些語法搭配方式，在人類創作中可能並不常見。“受模型建模的影響，AIGC有相對固定的行文邏輯和表述模式，且這些模式會不斷地被重復。人類在行文上則更為靈活，沒有固定套路。”鮑光勝說。
北京大學信息管理系師生比較了AI生成與學者撰寫的中文論文摘要。研究結果同樣顯示，AI生成的摘要具有較高同質性和較強寫作邏輯性，並慣用歸納總結等學術話語體系；學者撰寫的摘要則具有顯著個性化差異，使用凸顯實際含義的搭配較多，並常用與國家政策密切相關的詞語。
哈爾濱工業大學一名研究生向記者講述了他使用大模型的實際感受：“當我給大模型提供一些材料讓它擴寫，它每次都用相同的套路——把給定的材料拆解開，分為若干點論述。總體來說感覺它寫得比較‘僵’。”
|
