當(dāng)前,人工智能(AI)正以指數(shù)級速度重塑技術(shù)范式、產(chǎn)業(yè)格局與人類生活方式。當(dāng)未來AI走向千行百業(yè)、千家萬戶,如何兼顧發(fā)展與安全,實現(xiàn)技術(shù)可信、可持續(xù)?2025中關(guān)村論壇年會期間,中外嘉賓聚焦AI,探討其場景化應(yīng)用與普惠化路徑。
隨著科技進(jìn)步和產(chǎn)業(yè)變革的加速演進(jìn),推動AI發(fā)展已成為全球趨勢。世界知識產(chǎn)權(quán)組織總干事鄧鴻森表示,當(dāng)前,以AI、量子計算等為代表的數(shù)字技術(shù)專利申請量約占全球總數(shù)的1/3。在生成式AI領(lǐng)域,2017年以來的專利申請量增長超800%,中國、美國、韓國走在前沿。
今年以來,伴隨DeepSeek等大模型的爆發(fā)應(yīng)用,中國多地正積極發(fā)力AI產(chǎn)業(yè)?!癆I是未來產(chǎn)業(yè)重要賽道之一,通過大模型突破為代表的技術(shù)創(chuàng)新,推動新質(zhì)生產(chǎn)力的提升?!敝袊娮有畔a(chǎn)業(yè)發(fā)展研究院未來產(chǎn)業(yè)研究中心所長蒲松濤提到,當(dāng)前,北京、上海等地持續(xù)支持大模型前沿研究及應(yīng)用發(fā)展,推出更多具有示范性和代表性的應(yīng)用場景。
隨著AI大模型領(lǐng)域的飛速發(fā)展,通用能力不斷提升,各行業(yè)細(xì)分領(lǐng)域的大模型和垂直大模型如雨后春筍般涌現(xiàn)。本屆中關(guān)村論壇年會上,包括“AI+工業(yè)制造”“AI+生活服務(wù)”“AI+醫(yī)藥健康”等9個應(yīng)用場景在內(nèi)的北京人工智能創(chuàng)新應(yīng)用成果正式發(fā)布,系統(tǒng)展示AI賦能材料、醫(yī)藥等領(lǐng)域的前沿創(chuàng)新成果。
西門子中央研究院研發(fā)部總裁諾伯特·高斯(Norbert Gaus)表示,西門子正利用AI技術(shù)解決工業(yè)領(lǐng)域的多項挑戰(zhàn),通過發(fā)揮機(jī)器人與AI深度融合等技術(shù)優(yōu)勢,不僅顯著提升傳統(tǒng)制造業(yè)的創(chuàng)新力與小批量制造的響應(yīng)速度,更通過加速產(chǎn)品從研發(fā)到市場的全過程,帶來更多創(chuàng)新產(chǎn)品。
隨著AI技術(shù)的進(jìn)一步成熟、普及,其在加速賦能的同時,潛在的安全風(fēng)險也在不斷增加?!霸趹?yīng)用層面,大模型面臨信任壁壘等問題?!北本┍狈剿懔χ锹?lián)科技有限責(zé)任公司研究院院長劉秦豫說,隨著AI規(guī)模擴(kuò)大,其決策過程不透明、決策邏輯可解釋性差,可能在高風(fēng)險領(lǐng)域造成嚴(yán)重后果,限制了社會層面對其的信任,也難以滿足業(yè)務(wù)和監(jiān)管的需求,需要建立可解釋、符合道德規(guī)范的大模型,從而更安全、透明地服務(wù)千行百業(yè)。
面對機(jī)遇與挑戰(zhàn)并存的技術(shù)“雙刃劍”,人類已出招積極應(yīng)對。歐盟《人工智能法案》已于2024年8月1日生效,通過法律手段規(guī)范AI技術(shù)的應(yīng)用。在中國,涉網(wǎng)絡(luò)安全、數(shù)據(jù)安全等的法規(guī)陸續(xù)頒布執(zhí)行,《人工智能生成合成內(nèi)容標(biāo)識辦法》也將于今年9月1日起施行,標(biāo)志著中國在生成式AI領(lǐng)域邁出構(gòu)建安全可信生態(tài)的關(guān)鍵一步。
韓國生成式人工智能研究院院長盧圭成表示,從世界范圍來看,中國、美國、歐盟等均聚焦AI技術(shù)研發(fā)與產(chǎn)業(yè)應(yīng)用,但其背后的數(shù)據(jù)安全性、算法偏見與歧視等問題值得重視。一旦AI深度偽造與欺詐等問題被惡性利用,將為各行業(yè)帶來巨大風(fēng)險,增加社會治理成本。因此,世界各國應(yīng)加強(qiáng)國際合作,制定并完善AI安全監(jiān)管制度,從而更好地引領(lǐng)產(chǎn)業(yè)創(chuàng)新,讓AI真正成為推動人類社會進(jìn)步和創(chuàng)新的強(qiáng)大動力。(陳杭 王夢瑤)