男女一边摸一边做爽爽的i视频_亚洲欧美在线一区二区_a一级毛片久久久久久精品_美女扒开腿让男人桶爽的图片_欧美性猛交xxxx乱大交蜜桃

中國企業(yè)報集團(tuán)主管主辦

中國企業(yè)信息交流平臺

微博 微信

AI換臉騙局頻現(xiàn) 人工智能使用邊界在哪兒

2023-06-06 11:07 來源:中國青年報 次閱讀
 
AI換臉騙局頻現(xiàn) 人工智能使用邊界在哪兒

對于濫用生成式人工智能技術(shù)的擔(dān)憂在世界范圍內(nèi)都存在。不僅因?yàn)槠涑揭话慵夹g(shù)的“創(chuàng)造能力”和“破壞性”,更因?yàn)槿藗儼l(fā)現(xiàn),生成式人工智能技術(shù)發(fā)展的速度極快。目前,世界各國對其風(fēng)險的預(yù)判與防范均處于探索階段,有賴于法律體系的進(jìn)一步完善。?

  10分鐘內(nèi)被騙走430萬元,近期,用AI技術(shù)興風(fēng)作浪的詐騙案件,引起了社會關(guān)注。

  5月22日,包頭警方發(fā)布的一起利用AI實(shí)施電信詐騙的案例沖上熱搜。福州市某科技公司法人代表郭先生在接到“好友”微信視頻電話后,考慮到關(guān)系好又是真人視頻通話,在10分鐘內(nèi)直接向?qū)Ψ劫~戶匯款430萬元。隨后才意識到自己遭遇了“高端”騙局,“好友”是騙子通過AI換臉技術(shù)佯裝而成的。

  關(guān)于AI技術(shù)的爭論不曾停止過。此前,ChatGPT就曾因編寫假新聞而飽受詬病,而近期大量出現(xiàn)的AI詐騙更是令人不得不開始反思,AI生成的虛假信息或許潛藏著巨大的社會風(fēng)險。

  需警惕生成式人工智能技術(shù)的濫用

  英國媒體《每日郵報》曾報道,2019年3月,英國警方逮捕了一名使用AI語音模仿軟件的詐騙者。他將自己的聲音改變成當(dāng)?shù)匾患夷茉垂纠习宓穆曇?#xff0c;以“幫助公司避免拖欠罰款”為由要求一位高管向其匯款,通過電話騙取了22萬歐元(約合人民幣170萬元)。據(jù)這名高管回憶,當(dāng)時他也產(chǎn)生了疑心,但他的確聽到了老板的德國口音。此案被認(rèn)為是全球首例人工智能詐騙案。

  其實(shí),模仿一個人的聲音乃至外貌,對AI來說并不是新鮮事。此前,“AI孫燕姿”就曾在B站等網(wǎng)絡(luò)平臺走紅,視頻上傳者通過使用AI音色替換技術(shù)(Sovits4.0),生成了高度還原孫燕姿音色的翻唱歌曲,其中原唱為周杰倫的歌曲《發(fā)如雪》播放量已超過200萬次。近期也有媒體報道了一款網(wǎng)絡(luò)上的付費(fèi)AI換臉軟件,其套餐價格從499元到2888元不等,肉眼來看,換臉之后的“數(shù)字人”口型、表情、微小的動作幾乎毫無破綻。

  諸如此類生成式人工智能(Generative Artificial Intelligence,簡稱GAI)的大量出現(xiàn)很大程度上得益于深度合成和機(jī)器學(xué)習(xí)的快速發(fā)展。而AI詐騙者正是通過這些先進(jìn)的技術(shù),訓(xùn)練出能夠模擬人類語言和神態(tài)的AI。

  蘇州大學(xué)競爭政策與反壟斷研究中心研究員方翔指出,近期的AI詐騙案件主要是人工智能技術(shù)在圖像領(lǐng)域的應(yīng)用,其可以將不同人臉圖像中的面部特征相互替換?!皵M聲”則是借助深度學(xué)習(xí)模型,根據(jù)已有的語音樣本(如通話錄音、網(wǎng)絡(luò)視頻等)生成與其近似的聲音,進(jìn)而做到與人交談。

  5月24日,中國互聯(lián)網(wǎng)協(xié)會發(fā)文提醒,伴隨著深度合成技術(shù)的開放開源,深度合成產(chǎn)品和服務(wù)逐漸增多,利用“AI換臉”“AI換聲”等虛假音視頻,進(jìn)行詐騙、誹謗的違法行為屢見不鮮。面對利用AI技術(shù)的新型騙局,廣大公眾需提高警惕,加強(qiáng)防范。業(yè)內(nèi)人士普遍認(rèn)為,“AI換臉”技術(shù)的濫用給人們敲響了警鐘,其復(fù)雜性、隱蔽性也給科技識別及運(yùn)用提出了更高的要求。

  “對于生成式人工智能,正當(dāng)適度使用,可以倍增工作效率,有力推動創(chuàng)意產(chǎn)業(yè)發(fā)展,促進(jìn)消費(fèi)者福祉增長。但同時,虛假使用可引發(fā)謠言泛濫、侵害權(quán)利、壓榨利益,而過度使用可引發(fā)踐踏人性、減少就業(yè)、貧富懸殊,而惡意濫用甚至成為歪曲真相、撕裂社會、政策干擾、禍亂宇內(nèi)的罪惡之源?!敝袊ヂ?lián)網(wǎng)協(xié)會法工委副秘書長胡鋼認(rèn)為,要堅(jiān)持依法崇德治理,使全社會形成法網(wǎng)大于互聯(lián)網(wǎng)、國法高于算法、人工智能不能成為“人工制人”的共識。

  探索構(gòu)建完善的人工智能法律體系

  “我國針對人工智能及數(shù)據(jù)安全、個人信息保護(hù)的立法雖然起步較晚,但日臻成熟。”方翔指出,早在2017年7月,國務(wù)院印發(fā)《新一代人工智能發(fā)展規(guī)劃》,其作為我國AI發(fā)展的綱領(lǐng)性文件,提出了面向2030年我國新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點(diǎn)任務(wù)和保障措施,其中特別提到“到2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系,形成人工智能安全評估和管控能力”。

  2022年12月,國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,強(qiáng)調(diào)不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動,要求深度合成服務(wù)提供者對使用其服務(wù)生成或編輯的信息內(nèi)容,應(yīng)當(dāng)添加不影響使用的標(biāo)識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能服務(wù)的,可能導(dǎo)致公眾混淆或者誤認(rèn)的,應(yīng)當(dāng)進(jìn)行顯著標(biāo)識。

  2023年4月,國家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法(征求意見稿)》并向社會公開征求意見,提出AI內(nèi)容必須真實(shí)準(zhǔn)確,禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

  “總的來看,構(gòu)建完善的人工智能法律體系,我國目前仍在探索階段?!狈较枵f。中國信息通信研究院云計(jì)算與大數(shù)據(jù)研究所所長何寶宏則指出,2022年12月發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確針對在中國境內(nèi)應(yīng)用深度合成技術(shù)提供的互聯(lián)網(wǎng)信息服務(wù)進(jìn)行規(guī)制,其中,深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)?!霸谏鲜龇煞ㄒ?guī)的具體落實(shí)過程中,存在兩方面的挑戰(zhàn)?!?/p>

  “一是防范深度合成技術(shù)應(yīng)用生成錯誤價值導(dǎo)向、虛假信息的能力需要進(jìn)一步提升?!痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求深度合成服務(wù)提供者對輸入數(shù)據(jù)和合成結(jié)果進(jìn)行審核、建立健全識別違法和不良信息的特征庫、依法處置違法和不良信息的生成合成信息內(nèi)容。但是,對于深度合成服務(wù)提供者如何落實(shí)內(nèi)容管理需要進(jìn)一步細(xì)化,提供者需要不斷提升技管結(jié)合的能力;對于內(nèi)容管理落實(shí)的具體效果,也有待進(jìn)行持續(xù)性的跟蹤檢驗(yàn)。”其次,何寶宏指出,對深度合成信息內(nèi)容增加標(biāo)識的具體規(guī)范也需要進(jìn)一步細(xì)化,文件中明確深度合成服務(wù)提供者提供深度合成服務(wù),可能導(dǎo)致公眾混淆或者誤認(rèn)的,應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識?!暗珜τ谌绾卧黾语@著標(biāo)識以及增加標(biāo)識的具體方式需要盡快出臺細(xì)化的要求規(guī)范。”

  超越一般技術(shù)的“破壞性”引發(fā)擔(dān)憂

  對于濫用生成式人工智能技術(shù)的擔(dān)憂在世界范圍內(nèi)都存在。不僅因?yàn)槠涑揭话慵夹g(shù)的“創(chuàng)造能力”和“破壞性”,更因?yàn)槿藗儼l(fā)現(xiàn),生成式人工智能技術(shù)發(fā)展的速度極快。

  從OpenAI去年11月推出ChatGPT,到今年3月其迭代品GPT-4面世,僅用了幾個月的時間。GPT-4不僅知識面更廣、回答問題更流暢,還可以描述并理解圖片,甚至具備一定自我反思的能力。

  OpenAI的首席執(zhí)行官Sam Altman接受采訪時就曾表示,擔(dān)心這些模型可能被用于大規(guī)模的虛假信息,也擔(dān)心人類被控制?!癈hatGPT是一個高度受人類控制的工具。但也許會有人放棄設(shè)置我們目前已有的一些安全限制。”他補(bǔ)充,“我認(rèn)為,社會只有有限的時間來弄清楚如何對此做出反應(yīng),如何監(jiān)管,如何處理它。”

  今年3月,美國特斯拉汽車公司首席執(zhí)行官埃隆·馬斯克曾聯(lián)合1000多名業(yè)界、學(xué)界人士發(fā)表公開信,呼吁所有AI實(shí)驗(yàn)室立即暫停訓(xùn)練比ChatGPT更強(qiáng)大的AI系統(tǒng),暫停至少6個月。其信中提到,在開發(fā)強(qiáng)大的AI系統(tǒng)之前,要確信這些系統(tǒng)的影響是積極的,風(fēng)險是可控的。

  同時公開報道顯示,今年3月31日,意大利個人數(shù)據(jù)保護(hù)局宣布即日起暫時禁止使用ChatGPT,并暫時限制OpenAI處理意大利用戶數(shù)據(jù)。意大利成為首個禁止ChatGPT的西方國家,歐盟的多個國家也開始跟進(jìn),醞釀具體監(jiān)管措施。

  各國政府都在加快出臺人工智能監(jiān)管法律。據(jù)路透社報道,英國競爭和市場管理局正在審查人工智能對消費(fèi)者、企業(yè)和經(jīng)濟(jì)的影響,考慮是否需要新的監(jiān)管措施。法國隱私監(jiān)管機(jī)構(gòu)正在調(diào)查與ChatGPT有關(guān)的幾起投訴。澳大利亞政府正在咨詢科學(xué)咨詢機(jī)構(gòu),來考慮下一步的監(jiān)管行動。歐洲數(shù)據(jù)保護(hù)委員會已成立ChatGPT特別工作組;歐盟消費(fèi)者組織則呼吁歐盟消費(fèi)者保護(hù)機(jī)構(gòu)調(diào)查ChatGPT技術(shù)及對消費(fèi)者的潛在危害。

  “鑒于人工智能的技術(shù)復(fù)雜性,世界各國對其風(fēng)險治理均處于探索階段,對其約束和監(jiān)管仍有賴于法律體系的完善。”方翔介紹,歐盟目前正在推進(jìn)全球首部人工智能法案。2023年4月,歐洲議會成員就《人工智能法(The AI Act)》提案達(dá)成臨時政治協(xié)議,強(qiáng)化對生成式人工智能的監(jiān)管,并將人工智能技術(shù)可能帶來的風(fēng)險細(xì)化為極小風(fēng)險、有限風(fēng)險、高風(fēng)險、不可接受風(fēng)險4個等級?!斑@一立法動向值得我國關(guān)注?!狈较韪嬖V記者。

  中青報·中青網(wǎng)記者 李若一 王林 見習(xí)記者 裴思童 來源:中國青年報


點(diǎn)贊()
上一條:智能化賦能產(chǎn)業(yè)實(shí)現(xiàn)質(zhì)變升級2023-06-06
下一條:短視頻時代,孩子應(yīng)與網(wǎng)絡(luò)保持什么樣的距離2023-06-06

相關(guān)稿件

人工智能數(shù)據(jù)管理:AI商業(yè)化落地的“必修課” 2021-09-13
中國互聯(lián)網(wǎng)協(xié)會:警惕“AI換臉”新騙局 2023-05-25
人工智能訓(xùn)練師:讓機(jī)器更“懂”人 讓產(chǎn)業(yè)更智能 2022-11-22
馬斯克創(chuàng)建新AI公司 2023-04-17
中國在“AI發(fā)展安全”的全球關(guān)注中舉辦世界智能大會 2023-05-19
國務(wù)院國有資產(chǎn)管理委員會 中國企業(yè)聯(lián)合會 中國企業(yè)報 中國社會經(jīng)濟(jì)網(wǎng) 中國國際電子商務(wù)網(wǎng) 新浪財(cái)經(jīng) 鳳凰財(cái)經(jīng) 中國報告基地 企業(yè)社會責(zé)任中國網(wǎng) 杭州網(wǎng) 中國產(chǎn)經(jīng)新聞網(wǎng) 環(huán)球企業(yè)家 華北新聞網(wǎng) 和諧中國網(wǎng) 天機(jī)網(wǎng) 中貿(mào)網(wǎng) 湖南經(jīng)濟(jì)新聞網(wǎng) 翼牛網(wǎng) 東莞二手房 中國經(jīng)濟(jì)網(wǎng) 中國企業(yè)網(wǎng)黃金展位頻道 硅谷網(wǎng) 東方經(jīng)濟(jì)網(wǎng) 華訊財(cái)經(jīng) 網(wǎng)站目錄 全景網(wǎng) 中南網(wǎng) 美通社 大佳網(wǎng) 火爆網(wǎng) 跨考研招網(wǎng) 當(dāng)代金融家雜志 借貸撮合網(wǎng) 大公財(cái)經(jīng) 誠搜網(wǎng) 中國鋼鐵現(xiàn)貨網(wǎng) 證券之星 融易在線 2014世界杯 中華魂網(wǎng) 納稅人俱樂部 慧業(yè)網(wǎng) 商界網(wǎng) 品牌家 中國國資報道 金融界 中國農(nóng)業(yè)新聞網(wǎng) 中國招商聯(lián)盟 和訊股票 經(jīng)濟(jì)網(wǎng) 中國數(shù)據(jù)分析行業(yè)網(wǎng) 中國報道網(wǎng) 九州新聞網(wǎng) 投資界 北京科技創(chuàng)新企業(yè)誠信聯(lián)盟網(wǎng) 中國白銀網(wǎng) 炣燃科技 中企媒資網(wǎng) 中國石油化工集團(tuán) 中國保利集團(tuán)公司 東風(fēng)汽車公司 中國化工集團(tuán)公司 中國電信集團(tuán)公司 華為技術(shù)有限公司 廈門銀鷺食品有限公司 中國恒天集團(tuán)有限公司 濱州東方地毯集團(tuán)有限公司 大唐電信科技股份有限公司 中國誠通控股集團(tuán)有限公司 喜來健醫(yī)療器械有限公司 中國能源建設(shè)股份有限公司 內(nèi)蒙古伊利實(shí)業(yè)集團(tuán)股份有限公司 中國移動通信集團(tuán)公司 中國化工集團(tuán)公司 貴州茅臺酒股份有限公司