記者發現，“冒牌AI”的現象並不少見。2023年，百度“文心一言”上市前夕，網上出現大量打著“文心一言”旗號的社交媒體賬號。隨後百度官方發文辟謠稱“文心一言”尚未註冊社交賬號。
“人工智能大模型開源生態的建立，讓AI發展加速的同時也讓生成式AI更容易被濫用。”中國行政法學研究會常務理事、華東政法大學教授沈福俊認為，考慮到立法的滯後性，監管部門還需更加關注新技術發展對市場端的影響，加大事前監管力度，充分運用現有的法律法規資源實施有效監管，切莫使新問題隱匿在“監管盲區”。
張琦也表示，消費者出於對新興技術的好奇，往往在不知不覺陷入“圈套”。“如果誤用了別有用心的‘套殼AI’，甚至可能被不法分子套取個人信息，埋下安全隱患。”他建議，消費者在選擇AI產品時需仔細甄別，避免被商家誤導。“如果購買到了仿冒產品，要保留好相應的產品購買憑證，主動聯繫監管部門，維護自身合法權益。”
“AI換臉”詐騙 眼見不一定為實
只需一通視頻電話，不法分子就騙走了430萬元。2023年4月，福建省某科技公司法定代表人郭先生接到“好友”的微信視頻通話，對方聲稱自己當下需要430萬元保證金用以項目競標，想借用郭先生公司的賬戶“走個賬”。因為有先前的視頻通話，加之對“好友”的信任，郭先生陸續給對方轉賬共計430萬元。隨後郭先生再次聯繫好友時才發現自己被騙。所幸在警方幫助下，成功止付攔截336.84萬元。
據郭先生回憶，由於在視頻電話中確認了對方的面孔和聲音，所以毫不懷疑對方身份有詐。不僅如此，犯罪分子還精準瞭解郭先生與好友的關係，並成功盜取好友微信賬號實施詐騙，令人不寒而栗。
AI技術的迭代升級讓不法分子借助智能AI換臉和擬聲技術，就可輕鬆實現遠程視頻詐騙。記者調查發現，最近多地出現的AI換臉詐騙案件，均具備定制性、迷惑性等特徵。
|
