中國西藏網(wǎng) > 即時新聞 > 文化

        看似“人工智能”,實則“人為陷阱” 揭開借助AI技術(shù)實施詐騙的新套路

        發(fā)布時間:2024-03-14 15:32:00來源: 新華每日電訊

          號稱可提供ChatGPT服務,實際是冒牌AI;視頻電話中熟悉的“親友”,是不法分子AI換臉模擬而成;為博取流量,用AI技術(shù)編造虛假謠言,流量變“流毒”……

          隨著人工智能的發(fā)展迭代,生成式AI正以前所未有的速度重塑著日常生活,但由此衍生出的新騙局、新套路也在刷新人們對風險防范的認知。這背后不僅關(guān)乎廣大消費者的財產(chǎn)安全,還潛藏著人身安全風險和隱患。記者梳理近期管理部門查處的AI相關(guān)案件,揭開人工智能“圈套”背后的真相。

          9塊9使用ChatGPT?其實是“套殼AI”

          自人工智能產(chǎn)品ChatGPT爆火,一些企業(yè)看到無限“錢景”,強行“關(guān)聯(lián)”。一時間,市場上涌現(xiàn)出不少與ChatGPT“沾親帶故”的服務產(chǎn)品。2023年2月,一個名為“ChatGPT在線”的公眾號引起了上海市徐匯區(qū)市場監(jiān)管部門的注意。

          這個頭像與ChatGPT原開發(fā)公司官方標識高度相似的公眾號,在用戶短暫免費體驗后即需注冊會員付費使用,支付9.9元可以對話20次,隨著對話次數(shù)增加,其收費也逐步提高。該公眾號僅用兩個月就吸納超36萬人的粉絲量,累計注冊付費用戶4231人,經(jīng)營額共計125385.44元。

          執(zhí)法人員調(diào)查發(fā)現(xiàn),該公眾號的運營公司與實際ChatGPT開發(fā)公司并無關(guān)聯(lián)。所謂“ChatGPT在線”也并非“ChatGPT”產(chǎn)品本身?!爱斒氯藶閷崿F(xiàn)銷售目的,使用類似圖像、名稱及服務簡介等多種手段實施復合性混淆行為,利用‘ChatGPT’熱點進行攀附,混淆真實情況,謀取交易機會,獲取不當利益?!鄙虾J行靺R區(qū)市場監(jiān)督管理局執(zhí)法稽查科副科長張琦說,當事人行為違反了《中華人民共和國反不正當競爭法》第六條第(四)項的規(guī)定,市場監(jiān)管部門已責令其停止違法行為,處以罰款,并要求其妥善處置相關(guān)消費糾紛。

          記者發(fā)現(xiàn),“冒牌AI”的現(xiàn)象并不少見。2023年,百度“文心一言”上市前夕,網(wǎng)上出現(xiàn)大量打著“文心一言”旗號的社交媒體賬號。隨后百度官方發(fā)文辟謠稱“文心一言”尚未注冊社交賬號。

          “人工智能大模型開源生態(tài)的建立,讓AI發(fā)展加速的同時也讓生成式AI更容易被濫用?!敝袊姓▽W研究會常務理事、華東政法大學教授沈??≌J為,考慮到立法的滯后性,監(jiān)管部門還需更加關(guān)注新技術(shù)發(fā)展對市場端的影響,加大事前監(jiān)管力度,充分運用現(xiàn)有的法律法規(guī)資源實施有效監(jiān)管,切莫使新問題隱匿在“監(jiān)管盲區(qū)”。

          張琦也表示,消費者出于對新興技術(shù)的好奇,往往在不知不覺陷入“圈套”。“如果誤用了別有用心的‘套殼AI’,甚至可能被不法分子套取個人信息,埋下安全隱患。”他建議,消費者在選擇AI產(chǎn)品時需仔細甄別,避免被商家誤導?!叭绻徺I到了仿冒產(chǎn)品,要保留好相應的產(chǎn)品購買憑證,主動聯(lián)系監(jiān)管部門,維護自身合法權(quán)益?!?/p>

          “AI換臉”詐騙 眼見不一定為實

          只需一通視頻電話,不法分子就騙走了430萬元。2023年4月,福建省某科技公司法定代表人郭先生接到“好友”的微信視頻通話,對方聲稱自己當下需要430萬元保證金用以項目競標,想借用郭先生公司的賬戶“走個賬”。因為有先前的視頻通話,加之對“好友”的信任,郭先生陸續(xù)給對方轉(zhuǎn)賬共計430萬元。隨后郭先生再次聯(lián)系好友時才發(fā)現(xiàn)自己被騙。所幸在警方幫助下,成功止付攔截336.84萬元。

          據(jù)郭先生回憶,由于在視頻電話中確認了對方的面孔和聲音,所以毫不懷疑對方身份有詐。不僅如此,犯罪分子還精準了解郭先生與好友的關(guān)系,并成功盜取好友微信賬號實施詐騙,令人不寒而栗。

          AI技術(shù)的迭代升級讓不法分子借助智能AI換臉和擬聲技術(shù),就可輕松實現(xiàn)遠程視頻詐騙。記者調(diào)查發(fā)現(xiàn),最近多地出現(xiàn)的AI換臉詐騙案件,均具備定制性、迷惑性等特征。

          其中,香港警方近期披露一起涉案金額高達2億港元的多人AI換臉詐騙案尤為典型。據(jù)媒體報道,某公司職員受邀參加公司“多人視頻會議”時,先后將2億港元分別轉(zhuǎn)賬到5個本地銀行賬戶內(nèi)。據(jù)警方調(diào)查,這場視頻會議中除了受害者外,其余均為AI換臉后的詐騙人員。

          不少業(yè)內(nèi)專家表示,隨著文生視頻大模型Sora等多模態(tài)人工智能的探索和出現(xiàn),人們可能陷入“眼見也不一定為實”的困局?!耙恢币詠恚y行等部門將實時視頻用做檢驗身份的手段之一,如今其可靠性將面臨巨大挑戰(zhàn)。”沈??≌f,“隨著人工智能技術(shù)的迭代升級,這類違法行為還可能演變出更多形態(tài)?!?/p>

          沈??√寡?,對此類AI換臉和AI擬聲的惡性詐騙案件,若只依靠傳統(tǒng)監(jiān)管手段已不能防堵,監(jiān)管部門在提升自我科技能力儲備的同時,有必要引入新興技術(shù),探索用AI技術(shù)監(jiān)管AI的可能。

          從消費者角度出發(fā),沈福俊建議提升全民個人信息保護意識,謹防隱私泄露?!安还苁窃诨ヂ?lián)網(wǎng)上還是社交軟件上,盡量避免過多地暴露自己的信息,在涉及轉(zhuǎn)賬交易等行為時,可以多角度詢問身份信息,反復驗證對方是否為本人。”

          警惕“AI造謠” 小心“流量”變“流毒”

          當前AIGC技術(shù)已在文本生成、圖片創(chuàng)作等方面廣泛應用,輸入幾個關(guān)鍵詞即可由AI快速生成一張畫或一篇文章。但一些用戶為博眼球、蹭熱度,卻將人工智能技術(shù)用以編“偽消息”,造“假通報”。

          2023年6月,一條名為《浙江工業(yè)園現(xiàn)大火濃煙滾滾,目擊者稱有爆炸聲!》的視頻在網(wǎng)絡(luò)上流傳,引發(fā)網(wǎng)友關(guān)注。后經(jīng)相關(guān)部門核實為謠言。據(jù)調(diào)查,當事人為給自己賬號漲粉引流,獲取更多利益,通過非法渠道購買了AI視頻生成軟件。該當事人將網(wǎng)絡(luò)熱門話題通過AI自動生成視頻產(chǎn)品,并上傳至多個熱門視頻平臺。

          截至案發(fā),相關(guān)當事人發(fā)布的虛假視頻多達20余條,涉及浙江、湖南、上海、四川等多個省市,累計閱讀觀看量超過167萬次。目前浙江紹興上虞法院已開庭審理并當庭宣判了這起案件,兩名被告均被判處有期徒刑。

          但“AI謠言”仍時有發(fā)生。2024年1月,廣西東興市駱某某為博取流量,將其他地區(qū)的抗洪、救災視頻,經(jīng)AI軟件自動編輯,編造新疆烏什縣發(fā)生地震的虛假視頻信息。同年1月,四川一網(wǎng)民在某平臺發(fā)布“貴州女嬰被棄”的謠言文章。經(jīng)調(diào)查,該涉謠文章由AI系統(tǒng)生成并發(fā)布,相關(guān)言論及照片均為不實信息。

          技術(shù)的普及帶動自媒體產(chǎn)業(yè)的繁榮。但一些網(wǎng)民為獲取流量不惜利用技術(shù)手段編造生成虛假視頻,讓“AI謠言”在網(wǎng)絡(luò)上傳播,不僅給網(wǎng)絡(luò)安全帶來嚴峻挑戰(zhàn),也嚴重擾亂社會秩序。

          2023年,最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導意見》中規(guī)定,對“利用‘深度合成’等生成式人工智能技術(shù)發(fā)布違法信息”的情形,依法從重處罰。

          對此,沈福俊等多位專家表示,一方面,要提高廣大自媒體經(jīng)營者的法律意識,從源頭減少此類“AI謠言”的產(chǎn)生;另一方面,監(jiān)管部門也要加強相關(guān)案件的宣傳推廣,提高網(wǎng)民對“AI謠言”的鑒別力。(記者程思琪參與采寫:陳一飛)

        (責編:常邦麗)

        版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責任。

        亚洲制服丝袜av一区二区三区,亚洲无码视频在线a,成人片无码中文字幕免费,亚洲无码91视频