新浪科技訊 9月11日下午消息，今日，在2025 Inclusion·外灘大會期間，復旦大學人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長漆遠圍繞人工智能的發(fā)展趨勢，提出了三大核心觀點：開源開放、價值交付、安全可信，并結(jié)合具體案例深入闡述了AI技術(shù)如何真正落地并推動產(chǎn)業(yè)變革。

漆遠指出，2025年人工智能領域最顯著的變化是“開源開放”已從理念變?yōu)楝F(xiàn)實，并正在重塑整個行業(yè)生態(tài)。他特別提到“DeepSeek”的出現(xiàn)，“把整個人工智能生成式AI的游戲給改變了”，其開源架構(gòu)和強大性能實現(xiàn)了“十倍的增長和變化提效”。

這一趨勢甚至影響了原本封閉的巨頭。漆遠提到：“OpenAI時隔六年第一次再次開源”，其創(chuàng)始人Sam Altman坦言“我們有可能站在了歷史錯誤的一邊”。這標志著整個行業(yè)對開源價值的重新認可。

【資料圖】

漆遠認為，AI正在從“賣工具”走向“賣結(jié)果”，從輔助工具演變?yōu)榭山桓秲r值的“Copilot”甚至“Auto Pilot”。這一轉(zhuǎn)變依賴于深入行業(yè)場景、結(jié)合專業(yè)知識的深度整合。

他以醫(yī)療領域的“煥新智能體”為例，該智能體已在中山醫(yī)院上線運行。不同于依賴更多算力或工程師的模型，其優(yōu)勢在于“更深入的場景”和“更高質(zhì)量的數(shù)據(jù)”。該系統(tǒng)實現(xiàn)了多模態(tài)數(shù)據(jù)（如MRI、CT、心電圖、文本）的綜合解讀，并能自動識別心電圖中的異常區(qū)域，輔助醫(yī)生進行規(guī)范診療。

在金融領域，漆遠團隊在恒生指數(shù)創(chuàng)新挑戰(zhàn)賽中奪得第一，其核心技術(shù)是將大語言模型與符號計算結(jié)合，構(gòu)建“神經(jīng)符號系統(tǒng)”，以控制幻覺、確保推理的準確性。他強調(diào)：“我們解決的問題是指數(shù)生成的廣度、深度、速度和顆粒度?！?/p>

在強調(diào)技術(shù)進步的同時，漆遠反復強調(diào)“安全可信”是AI發(fā)展的底線。他指出，大模型存在“造假”“幻覺”等問題，醫(yī)療領域模型的準確率甚至只有55%，這令人“肯定是有擔心的”。

他列舉了多個風險案例：MIT導師發(fā)現(xiàn)博士論文由AI生成；WPP集團CEO遭遇深度偽造詐騙。這些事件凸顯了“真假信息難辨”的嚴峻挑戰(zhàn)。

為此，漆遠和團隊提出了多項關(guān)鍵技術(shù)路徑：包括可解釋AI：在金融、醫(yī)療等關(guān)鍵決策領域，必須能解釋模型的每一個決定。

檢索增強（RAG）與神經(jīng)符號系統(tǒng)：結(jié)合規(guī)則與語義理解，提升推理可靠性。

高質(zhì)量數(shù)據(jù)治理：高質(zhì)量的數(shù)據(jù)才能保證模型的質(zhì)量。

博弈對抗技術(shù)：借鑒強化學習與圍棋對弈的思路，提升模型在復雜環(huán)境中的魯棒性。

自知之明：讓模型知道自己什么時候是不知道，這是實現(xiàn)可信AI的關(guān)鍵一步。

漆遠總結(jié)，開源開放讓技術(shù)更加普惠，讓更多機構(gòu)能夠使用AI；深耕場景才能釋放產(chǎn)業(yè)價值；而安全可信則是AI可持續(xù)發(fā)展的根本保障。（羅寧）

關(guān)鍵詞：