男女一边摸一边做爽爽的i视频_亚洲欧美在线一区二区_a一级毛片久久久久久精品_美女扒开腿让男人桶爽的图片_欧美性猛交xxxx乱大交蜜桃

中國企業(yè)報(bào)集團(tuán)主管主辦

中國企業(yè)信息交流平臺

微博 微信

在發(fā)展中治理完善人工智能大模型

2023-05-26 09:58 來源:中國經(jīng)濟(jì)網(wǎng)-《經(jīng)濟(jì)日報(bào)》 次閱讀
 
被ChatGPT"帶飛"的AI大模型如何既便捷又安全

新一輪科技革命和產(chǎn)業(yè)變革迅猛發(fā)展,數(shù)字技術(shù)、智能經(jīng)濟(jì)與數(shù)字化產(chǎn)業(yè)成為催生新產(chǎn)業(yè)、新業(yè)態(tài)、新模式的重點(diǎn)領(lǐng)域。發(fā)布僅6個(gè)月的ChatGPT,已掀起全球人工智能(AI)產(chǎn)業(yè)的大模型熱潮。在日前舉辦的中國人工智能產(chǎn)業(yè)年會(huì)中,AI大模型帶來的安全挑戰(zhàn)和發(fā)展機(jī)遇成為與會(huì)專家熱議話題。

   賦能千行百業(yè)

  ChatGPT在與人類對話、寫作文、寫代碼等方面令人驚艷的表現(xiàn),是AI大模型GPT通過大算力、大規(guī)模訓(xùn)練數(shù)據(jù)突破自然語言處理瓶頸的結(jié)果。但大模型本身并不是新鮮事物,AI大模型也不止GPT這一條路線,很多科技巨頭近幾年都在“煉”大模型,且各有積累。這也是ChatGPT走紅之后,各巨頭短短數(shù)月內(nèi)就紛紛推出競品的原因。

  “以ChatGPT為代表的多模態(tài)通用大模型,將深刻變革各行各業(yè)。”電子科技大學(xué)教授、考拉悠然科技有限公司聯(lián)合創(chuàng)始人沈復(fù)民說,行業(yè)人工智能可有效推動(dòng)技術(shù)與市場供需平衡,將是人工智能產(chǎn)業(yè)化的最大機(jī)遇。人工智能技術(shù)落地行業(yè)時(shí),需要克服開發(fā)效率低、落地成本高、場景復(fù)雜多元等難題。

  沈復(fù)民所在的研發(fā)團(tuán)隊(duì)獲得了2022年度吳文俊人工智能科學(xué)技術(shù)獎(jiǎng)自然科學(xué)一等獎(jiǎng)。據(jù)他介紹,團(tuán)隊(duì)開發(fā)了為垂直行業(yè)賦能的多模態(tài)AI操作系統(tǒng),基于行業(yè)多模態(tài)大模型、多模態(tài)融合分析、機(jī)器視覺等核心AI算法支持,可以讓企業(yè)擺脫繁雜的算法、算力、數(shù)據(jù)整合工作,快速孵化行業(yè)大模型,高效率應(yīng)用到工業(yè)制造、城市治理、消費(fèi)、能源、交通、建材等業(yè)務(wù)場景。

  “通用對話技術(shù)是人工智能領(lǐng)域最具挑戰(zhàn)性的方向之一,也被認(rèn)為是通用人工智能的必備能力。如今備受關(guān)注的對話式人工智能,其背后就有通用對話技術(shù)?!卑俣仁紫夹g(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心主任王海峰說。中國人工智能產(chǎn)業(yè)年會(huì)期間,由他帶領(lǐng)團(tuán)隊(duì)完成的“知識與深度學(xué)習(xí)融合的通用對話技術(shù)及應(yīng)用”成果,獲2022年度吳文俊人工智能科技進(jìn)步獎(jiǎng)特等獎(jiǎng)。

  公開資料顯示,這一研究項(xiàng)目已獲授權(quán)發(fā)明專利82項(xiàng),發(fā)表高水平論文36篇,在國際權(quán)威評測中獲世界冠軍11項(xiàng)。目前項(xiàng)目成果實(shí)現(xiàn)了大規(guī)模產(chǎn)業(yè)應(yīng)用,已支持5億智能設(shè)備,服務(wù)超過10億用戶,覆蓋包括通信、金融、汽車、能源等20多個(gè)行業(yè)。

   爭取“主動(dòng)安全”

  技術(shù)是把雙刃劍。人工智能大模型能力越大,一旦濫用帶來的危害也就越大。當(dāng)前,ChatGPT等工具被用于生成假新聞、假照片、假視頻,甚至實(shí)施詐騙等犯罪行為,引發(fā)人們對大模型安全性的擔(dān)憂。

  西北工業(yè)大學(xué)教授王震是網(wǎng)絡(luò)空間智能對抗應(yīng)用研究領(lǐng)域的專家,他認(rèn)為,要用人工智能驅(qū)動(dòng)網(wǎng)絡(luò)空間智能對抗。比如,用人工智能檢測、識別有害信息,搭建“主動(dòng)安全”的智能防御網(wǎng)。

  “只有在AI發(fā)展過程中,我們才能面對問題、解決問題,并找到機(jī)遇。”螞蟻集團(tuán)AI風(fēng)險(xiǎn)管理負(fù)責(zé)人楊舟表示,在AI管理中,安全事件對日常風(fēng)險(xiǎn)管理至關(guān)重要?!拔覀冃枰匾暫皖A(yù)測相關(guān)事件,分析安全問題,避免發(fā)展帶來的風(fēng)險(xiǎn)?!?/p>

  了解機(jī)理是安全管理的基礎(chǔ)。不過,大模型的“智能涌現(xiàn)”目前還是個(gè)難以解釋的黑箱,沒有人能理解、預(yù)測或可靠地控制這些大模型,甚至模型的創(chuàng)造者也不能。開發(fā)出ChatGPT的公司OpenAI,也為大模型做了大量價(jià)值敏感設(shè)計(jì)和道德嵌入工作,但仍然存在明顯的漏洞和局限。

  “雖然大模型的能力在不斷變強(qiáng),但如果不對其進(jìn)行專門的安全性訓(xùn)練或安全性加固,其脆弱性不會(huì)得到任何改善。”瑞萊智慧公司首席執(zhí)行官田天認(rèn)為,人工智能大模型的安全性面臨很多挑戰(zhàn)。

  “大模型是人工智能發(fā)展的轉(zhuǎn)折點(diǎn),研究人員需要進(jìn)一步了解這些大模型為何具備類人思考的能力?!毕愀劭萍即髮W(xué)教授馮雁表示,ChatGPT最初只作為科研項(xiàng)目發(fā)布,但通過加入人機(jī)交互界面,迅速變成網(wǎng)紅產(chǎn)品。其爆紅帶來的倫理問題始料未及,也給生成式人工智能的管理提出了挑戰(zhàn)?!爸挥姓嬲拈_源,才能共同研究,理解大模型存在的問題和產(chǎn)生的根源,更好地進(jìn)行管理。”

  “商湯一直是開源開放的貢獻(xiàn)者和支持者,但在開源上我們要謹(jǐn)慎一些,特別是目前對于大模型而言,安全防護(hù)體系還未健全?!鄙虦萍既斯ぶ悄軅惱砼c治理研究主任胡正坤說,在智能時(shí)代把底層模型開源,不見得安全,因?yàn)樵陂_放能力的同時(shí),也在開放薄弱點(diǎn),而薄弱點(diǎn)有可能被不法分子利用。

亟需深度治理

  專家們對未來的人工智能長遠(yuǎn)治理做出種種設(shè)想。

  “不能把價(jià)值設(shè)計(jì)看成治理的唯一路徑?!睆?fù)旦大學(xué)應(yīng)用倫理學(xué)研究中心教授王國豫認(rèn)為,針對現(xiàn)階段人工智能治理的局限性,可從三方面采取措施。一是充分評估數(shù)據(jù)和模型的倫理影響和風(fēng)險(xiǎn)點(diǎn);二是從流程方面,不僅要考慮通用模型,還要把通用模型納入到社會(huì)生態(tài)系統(tǒng)、社會(huì)政治經(jīng)濟(jì)系統(tǒng)來考慮;三是探索倫理方法,充分探索“價(jià)值敏感設(shè)計(jì)”“負(fù)責(zé)任創(chuàng)新”等倫理方法在通用模型語境下的可行性。

  中國社會(huì)科學(xué)院哲學(xué)所科技哲學(xué)研究室主任、研究員段偉文表示,需要警惕機(jī)器對人類思維的馴化。比如,有的人不擅社交,可能用人工智能生成對話的方式幫他社交聊天,這樣的對話機(jī)制會(huì)反過來馴化人類。他建議加強(qiáng)人類和人工智能的交互和溝通,不僅要了解人類怎么去修機(jī)器,也要研究機(jī)器如何影響人類。

  中科院自動(dòng)化研究所研究員曾毅期待構(gòu)建人工智能的道德直覺,“為機(jī)器人立心、為人工智能立心”是重要的長遠(yuǎn)工作目標(biāo)。“強(qiáng)化學(xué)習(xí)的獎(jiǎng)懲只是加加減減,它不是真正對道德的理解,除非人工智能實(shí)現(xiàn)基于自我的道德直覺。缺乏自我的人工智能無法擁有真正的道德直覺,做真正的道德決策。我們在做一個(gè)基于類腦的脈沖神經(jīng)網(wǎng)絡(luò)構(gòu)建創(chuàng)生的人工智能引擎,希望讓它像兒童一樣去學(xué)習(xí),獲得自我感知。”曾毅說。

  “從要求人工智能大模型合乎倫理,到真正構(gòu)建有道德的人工智能?!痹惚硎?#xff0c;未來通用人工智能和超級智能的倫理安全問題,要從現(xiàn)在就開始關(guān)注和準(zhǔn)備。 (經(jīng)濟(jì)日報(bào)記者 佘惠敏)

?


點(diǎn)贊()
上一條:中國互聯(lián)網(wǎng)協(xié)會(huì):警惕“AI換臉”新騙局2023-05-25
下一條:多家企業(yè)發(fā)布基于大模型的AI應(yīng)用產(chǎn)品2023-05-26

相關(guān)稿件

ChatGPT來了 AI企業(yè)如何應(yīng)對 2023-02-14
大廠競逐AI大模型 虛火過旺還是星辰大海? 2023-04-14
AI醫(yī)療服務(wù)大模型迎來風(fēng)口 2023-06-08
大模型,冷靜! 2023-07-25
華為發(fā)布大模型時(shí)代AI存儲(chǔ)新品 2023-07-15
國務(wù)院國有資產(chǎn)管理委員會(huì) 中國企業(yè)聯(lián)合會(huì) 中國企業(yè)報(bào) 中國社會(huì)經(jīng)濟(jì)網(wǎng) 中國國際電子商務(wù)網(wǎng) 新浪財(cái)經(jīng) 鳳凰財(cái)經(jīng) 中國報(bào)告基地 企業(yè)社會(huì)責(zé)任中國網(wǎng) 杭州網(wǎng) 中國產(chǎn)經(jīng)新聞網(wǎng) 環(huán)球企業(yè)家 華北新聞網(wǎng) 和諧中國網(wǎng) 天機(jī)網(wǎng) 中貿(mào)網(wǎng) 湖南經(jīng)濟(jì)新聞網(wǎng) 翼牛網(wǎng) 東莞二手房 中國經(jīng)濟(jì)網(wǎng) 中國企業(yè)網(wǎng)黃金展位頻道 硅谷網(wǎng) 東方經(jīng)濟(jì)網(wǎng) 華訊財(cái)經(jīng) 網(wǎng)站目錄 全景網(wǎng) 中南網(wǎng) 美通社 大佳網(wǎng) 火爆網(wǎng) 跨考研招網(wǎng) 當(dāng)代金融家雜志 借貸撮合網(wǎng) 大公財(cái)經(jīng) 誠搜網(wǎng) 中國鋼鐵現(xiàn)貨網(wǎng) 證券之星 融易在線 2014世界杯 中華魂網(wǎng) 納稅人俱樂部 慧業(yè)網(wǎng) 商界網(wǎng) 品牌家 中國國資報(bào)道 金融界 中國農(nóng)業(yè)新聞網(wǎng) 中國招商聯(lián)盟 和訊股票 經(jīng)濟(jì)網(wǎng) 中國數(shù)據(jù)分析行業(yè)網(wǎng) 中國報(bào)道網(wǎng) 九州新聞網(wǎng) 投資界 北京科技創(chuàng)新企業(yè)誠信聯(lián)盟網(wǎng) 中國白銀網(wǎng) 炣燃科技 中企媒資網(wǎng) 中國石油化工集團(tuán) 中國保利集團(tuán)公司 東風(fēng)汽車公司 中國化工集團(tuán)公司 中國電信集團(tuán)公司 華為技術(shù)有限公司 廈門銀鷺食品有限公司 中國恒天集團(tuán)有限公司 濱州東方地毯集團(tuán)有限公司 大唐電信科技股份有限公司 中國誠通控股集團(tuán)有限公司 喜來健醫(yī)療器械有限公司 中國能源建設(shè)股份有限公司 內(nèi)蒙古伊利實(shí)業(yè)集團(tuán)股份有限公司 中國移動(dòng)通信集團(tuán)公司 中國化工集團(tuán)公司 貴州茅臺酒股份有限公司