□ 新華社“新華視點(diǎn)”記者 宋佳 王存福 劉開雄
從“AI兒科醫(yī)生”參與病情會(huì)診,到“AI數(shù)智員工”輔助提供公共服務(wù),再到人形機(jī)器人進(jìn)廠上班……全球人工智能技術(shù)進(jìn)入爆發(fā)式發(fā)展階段,正以前所未有的速度走入千家萬戶、改變千行百業(yè)。當(dāng)AI重塑我們熟悉的世界,隨之而來的機(jī)遇與挑戰(zhàn)如何應(yīng)對(duì)?應(yīng)用與治理如何平衡推進(jìn)?
正在舉行的博鰲亞洲論壇2025年年會(huì)上,國(guó)內(nèi)外技術(shù)前沿領(lǐng)域?qū)<?、學(xué)者和企業(yè)代表就相關(guān)話題展開熱烈討論。
適應(yīng)AI“新常態(tài)”
當(dāng)下,人工智能加速賦能千行百業(yè),進(jìn)入教育、醫(yī)療、政務(wù)、金融等場(chǎng)景。越來越多人感受到AI帶來的便利。從無人駕駛、機(jī)器人到腦機(jī)接口,大眾對(duì)AI應(yīng)用產(chǎn)生更多期待。
畢馬威中國(guó)首席技術(shù)官及創(chuàng)新主管合伙人劉建剛表示,人工智能已經(jīng)不是一個(gè)未來概念,對(duì)很多企業(yè)而言,利用人工智能加速?zèng)Q策、創(chuàng)新產(chǎn)品、優(yōu)化運(yùn)營(yíng),已不是選擇題,而是必答題。
數(shù)據(jù)顯示,2024年我國(guó)完成備案并上線提供服務(wù)的生成式人工智能大模型接近200個(gè),注冊(cè)用戶超6億;工業(yè)機(jī)器人裝機(jī)量占全球過半。
今年政府工作報(bào)告提出,持續(xù)推進(jìn)“人工智能+”行動(dòng)。國(guó)務(wù)院研究室副主任陳昌盛表示,今年將開展新技術(shù)新產(chǎn)品新場(chǎng)景大規(guī)模應(yīng)用示范行動(dòng),在確保安全前提下,加快人工智能在低空經(jīng)濟(jì)、教育培訓(xùn)、醫(yī)療健康等多場(chǎng)景應(yīng)用。
中興通訊股份有限公司董事長(zhǎng)李自學(xué)表示,當(dāng)前人工智能通用型應(yīng)用加速普及,但在行業(yè)領(lǐng)域還存在不好用、不易用、不會(huì)用等問題。應(yīng)在通用基礎(chǔ)大模型上,結(jié)合不同行業(yè)應(yīng)用場(chǎng)景需求,加強(qiáng)專屬領(lǐng)域定制與深度訓(xùn)練,讓大模型成為懂行業(yè)的“能工巧匠”,促進(jìn)人工智能與產(chǎn)業(yè)真正結(jié)合。
有觀點(diǎn)認(rèn)為,未來可能出現(xiàn)自然人、機(jī)器人、數(shù)字人并存交互的社會(huì)形態(tài)?!恫梺喼拚搲瘉喼藿?jīng)濟(jì)前景及一體化進(jìn)程2025年度報(bào)告》指出,隨著人工智能技術(shù)的廣泛應(yīng)用,部分行業(yè)就業(yè)受到嚴(yán)重影響。
“替代部分工作崗位是技術(shù)變革中的必然過程,有些崗位受影響,也會(huì)有新崗位出現(xiàn)。”vivo高級(jí)副總裁、首席技術(shù)官施玉堅(jiān)說,每個(gè)人都要通過學(xué)習(xí)不斷提升綜合素質(zhì),適應(yīng)AI帶來的變化。
多位與會(huì)嘉賓表示,除了加強(qiáng)人工智能知識(shí)技能教育培訓(xùn),還應(yīng)考慮制定新的社會(huì)保障政策,加強(qiáng)對(duì)受沖擊勞動(dòng)者群體的兜底保障。
加固“安全護(hù)欄”
在博鰲亞洲論壇多場(chǎng)人工智能相關(guān)活動(dòng)上,與會(huì)嘉賓普遍認(rèn)為,隨著AI能力越來越強(qiáng),AI不可控、被濫用等風(fēng)險(xiǎn)會(huì)越來越高,在推廣應(yīng)用中要加固“安全護(hù)欄”。
社交平臺(tái)上,不少人吐槽AI一本正經(jīng)地胡說八道。清華大學(xué)公共管理學(xué)院院長(zhǎng)朱旭峰表示,這是AI幻覺,指大模型有時(shí)混淆事實(shí)和虛構(gòu),在看似是事實(shí)的句子中插入錯(cuò)誤細(xì)節(jié)。AI胡編亂造可能產(chǎn)生誤導(dǎo),甚至?xí)l(fā)嚴(yán)重后果,特別是在醫(yī)療、金融、法律等對(duì)信息真實(shí)性和準(zhǔn)確性要求極高的領(lǐng)域。
“技術(shù)暫時(shí)不成熟,我們不能因噎廢食。”朱旭峰說,要加大對(duì)技術(shù)的開發(fā)和使用,推動(dòng)AI幻覺等問題隨技術(shù)不斷進(jìn)步逐步解決。
AI應(yīng)用過程中需要使用大量數(shù)據(jù),數(shù)據(jù)安全與隱私保護(hù)備受公眾關(guān)注。多位與會(huì)嘉賓表示,現(xiàn)實(shí)中,具體應(yīng)用場(chǎng)景下哪些數(shù)據(jù)必須收集,敏感信息數(shù)據(jù)如何避免泄露等,需要進(jìn)一步明晰相關(guān)制度規(guī)則。
施玉堅(jiān)認(rèn)為,隨著AI技術(shù)的普及,企業(yè)對(duì)數(shù)據(jù)的依賴程度日益加深,如果不采取相應(yīng)的安全措施,就可能造成數(shù)據(jù)泄露的風(fēng)險(xiǎn)。“數(shù)據(jù)要進(jìn)行脫敏或加密處理,增強(qiáng)傳輸和存儲(chǔ)過程中的安全性。”
AI技術(shù)的濫用誤用是顯著風(fēng)險(xiǎn)之一。有統(tǒng)計(jì)顯示,2024年全球發(fā)生的AI風(fēng)險(xiǎn)事件,超過30%與利用AI進(jìn)行深度偽造相關(guān)。深度偽造名人形象、聲音進(jìn)行虛假宣傳甚至詐騙不時(shí)見諸報(bào)端。
多位嘉賓表示,AI深度偽造現(xiàn)象層出不窮,主要在于造假成本低,追查、執(zhí)法成本大,應(yīng)針對(duì)AI誤用濫用完善相關(guān)法律法規(guī),加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德爭(zhēng)議也不容忽視。中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問機(jī)構(gòu)專家曾毅認(rèn)為,倫理安全應(yīng)作為人工智能大模型發(fā)展的“基因”,如何在追求技術(shù)進(jìn)步的同時(shí)堅(jiān)守道德底線,是需要共同面對(duì)的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關(guān)系。”曾毅說,最新研究表明,可以在幾乎不影響人工智能大模型求解能力的同時(shí),通過科學(xué)的方式提升其安全能力。
讓治理跟上技術(shù)步伐
如何讓治理跟上AI技術(shù)步伐?與會(huì)嘉賓表示,AI治理是一個(gè)全球性的復(fù)雜問題,需要達(dá)成世界共識(shí),推動(dòng)各領(lǐng)域相互協(xié)作。目前,主要經(jīng)濟(jì)體都在加速相關(guān)立法進(jìn)程。
在AI治理中,中國(guó)堅(jiān)持統(tǒng)籌發(fā)展和安全,有關(guān)部門已發(fā)布多項(xiàng)AI治理指導(dǎo)文件。其中,前不久發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》重點(diǎn)解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題,推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來,政策制定者、企業(yè)家、科學(xué)家等利益相關(guān)方應(yīng)聚在一起,建立共識(shí),通過制定標(biāo)準(zhǔn)來應(yīng)對(duì)AI帶來的治理挑戰(zhàn)。
“AI醫(yī)生”看病出了問題算誰的責(zé)任?當(dāng)人工智能系統(tǒng)產(chǎn)生不良后果,如何確定責(zé)任歸屬也需進(jìn)一步厘清。“多位嘉賓都提到一個(gè)觀點(diǎn),不要讓人工智能完全代替人的決策,這是人工智能應(yīng)用時(shí)必須注意的問題。”曾毅說。
高質(zhì)量數(shù)據(jù)是AI應(yīng)用大規(guī)模落地的重要支撐,構(gòu)建一個(gè)完善而成熟的數(shù)據(jù)市場(chǎng)也十分重要。以色列民主研究所高級(jí)研究員特希拉·施瓦茨·阿爾特舒勒認(rèn)為,應(yīng)根據(jù)實(shí)際情況,建立符合自身需要的數(shù)據(jù)監(jiān)管方案與路徑。
與會(huì)嘉賓表示,AI時(shí)代到來,要堅(jiān)持應(yīng)用與治理平衡、創(chuàng)新與監(jiān)管并重、全球化與本土化協(xié)同,防止數(shù)字鴻溝變成智能鴻溝,讓AI真正成為推動(dòng)社會(huì)進(jìn)步的普惠力量。
(新華社海南博鰲3月27日電)
編輯: 孫璐瑩
以上文章僅代表作者個(gè)人觀點(diǎn),本網(wǎng)只是轉(zhuǎn)載,如涉及作品內(nèi)容、版權(quán)、稿酬問題,請(qǐng)及時(shí)聯(lián)系我們。電話:029-63903870