飛速變革的時代，人工智能已成為備受矚目的焦點領(lǐng)域，深刻地影響著我們生活和工作的方方面面，彰顯出巨大的潛力和價值。隨著人工智能應(yīng)用程度的加深，我們不禁要問：人工智能面臨的終極挑戰(zhàn)是什么？未來還有哪些空間可以深入挖掘？人類又該如何理性思考人工智能的相關(guān)問題？《小關(guān)對話》本期對話2007年圖靈獎得主、中國科學(xué)院外籍院士、法國工程院院士、歐洲科學(xué)院院士、法國科學(xué)院院士、美國人文與科學(xué)院院士、美國國家工程院外籍院士約瑟夫·希發(fā)基思。

大語言模型是重要里程碑

AI監(jiān)控器和控制器將進一步發(fā)展

人工智能作為一門科學(xué)學(xué)科，始于1956年，其目標(biāo)是研究和開發(fā)模仿人類認(rèn)知能力的系統(tǒng)。約瑟夫·希發(fā)基思介紹道，人工智能主要有兩種方法，一種是基于邏輯的符號方法，另一種是受大腦神經(jīng)網(wǎng)絡(luò)啟發(fā)的連接主義方法，后者使用人工神經(jīng)網(wǎng)絡(luò)并取得了成功。

在約瑟夫·希發(fā)基思看來，ChatGPT等大語言模型的出現(xiàn)是人工智能發(fā)展的重要里程碑。他表示：“大語言模型已經(jīng)取得了真正的質(zhì)的飛躍，它們能夠回答幾乎所有的自然語言提問，通常都是有相關(guān)性的，進行總結(jié)和文本的翻譯。我們曾經(jīng)試圖通過符號化方法來解決相關(guān)的問題，而大語言模型的連接主義方法使用的是神經(jīng)網(wǎng)絡(luò)?！?/p>

當(dāng)前，人工智能主要集中于智能助手，這些系統(tǒng)通過對話與人類交互。放眼未來，約瑟夫·希發(fā)基思判斷我們將看到人工智能監(jiān)控器和控制器的進一步發(fā)展。他進一步解釋道：“人工智能監(jiān)控器可用于預(yù)測，如銀行系統(tǒng)中的入侵檢測。而端到端的人工智能控制器將具有自主行為。但這需要一些時間，尤其需要將生成式人工智能與傳統(tǒng)ICT系統(tǒng)和工程相結(jié)合。其中要有新的理論基礎(chǔ)和技術(shù)來保障系統(tǒng)的安全性和可靠性?！彼f道。

自主系統(tǒng)可能成為人工智能終極方向

距離“集體智能”仍存距離

約瑟夫·希發(fā)基思作出的另一個對于未來的預(yù)判是：自主系統(tǒng)可能是人工智能的最終發(fā)展方向。這一系統(tǒng)將用機器替代人類，實現(xiàn)現(xiàn)有組織的進一步自動化。他介紹道：“自主系統(tǒng)是由代理組成的關(guān)鍵分布式系統(tǒng)，每個代理都追求特定的目標(biāo)。但是代理也應(yīng)協(xié)調(diào)行動，來實現(xiàn)全局系統(tǒng)目標(biāo)?！?/p>

他結(jié)合自動駕駛汽車的案例來解釋了自主系統(tǒng)的運行邏輯：自動駕駛涉及與環(huán)境互動，通過傳感器獲取外部環(huán)境影像，執(zhí)行器控制車輛行為。實現(xiàn)自主行為需要情境意識、決策能力和有效反應(yīng)。這涉及兩方面的功能——一是感知功能，即分析圖像、建立環(huán)境邊界；二是目標(biāo)管理和規(guī)劃功能，即生成控制命令。

然而，約瑟夫·希發(fā)基思也坦言構(gòu)建可靠的自主系統(tǒng)面臨諸多現(xiàn)實的挑戰(zhàn)：“因為我們面臨著感知、環(huán)境等方面的不確定性和復(fù)雜性等。我們還需整合信息、協(xié)調(diào)物理環(huán)境和機電系統(tǒng)，并使系統(tǒng)與人類操作語言和諧合作，確保代理行為符合系統(tǒng)共生性，展示集體智能和社會行為?！?/p>

重新思考人工智能

期待對“智能概念”達(dá)成共識

長期聚焦于人工智能領(lǐng)域，約瑟夫·希發(fā)基思也有一些深入的、理性的思考。他認(rèn)為，需對智能概念達(dá)成共識?！叭祟愔悄茉谔囟ōh(huán)境中歷史演變，與機器智能具有互補性。人類擅長符號推理和抽象思維，機器則在分析多維數(shù)據(jù)和產(chǎn)生知識方面表現(xiàn)出色。未來，我們要去探索智能的廣闊空間，用機器解決我們無法以抽象方式解決的問題?！?/p>

目前，有一些研究提到了負(fù)責(zé)任的AI，但約瑟夫·希發(fā)基思認(rèn)為這很困難，并認(rèn)為討論AI 系統(tǒng)的道德屬性、道德行為等工作缺乏一定的研究基礎(chǔ)。約瑟夫·希發(fā)基思還認(rèn)為目前人工智能缺乏技術(shù)標(biāo)準(zhǔn)來衡量可信度。他打了一個很生動的比方：“就像人參加考試一樣，也許有一天大語言模型很可能能夠通過醫(yī)學(xué)的期末考試，重要的是我們是否會接受它們當(dāng)醫(yī)生？”此外，人工智能設(shè)計的風(fēng)險也不容忽視。在約瑟夫·希發(fā)基思看來：“未來的社會將面臨自由選擇與性能、人與機器工作分工的困境?！?/p>

盡管人工智能正在發(fā)展的“快車道”，但人類也需時常放慢腳步、慎思慎行。最后，約瑟夫·希發(fā)基思便提出了頗有價值的警醒：“我不相信機器可以超越人類的智能，然而有可能人類會在某種程度上成為機器的奴隸，因為人類會無法接受管理的復(fù)雜性，或者因為懶惰或圖方便，這將是一個非常糟糕的情景。”

約瑟夫·希發(fā)基思在2024中關(guān)村論壇年會平行論壇-互聯(lián)網(wǎng)3.0：未來互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展論壇中分享了他在人工智能領(lǐng)域的相關(guān)見解。

4月28日，2024中關(guān)村論壇年會平行論壇-互聯(lián)網(wǎng)3.0：未來互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展論壇在北京舉行，旨在瞄準(zhǔn)新質(zhì)生產(chǎn)力與高質(zhì)量發(fā)展機遇，促進下一代互聯(lián)網(wǎng)產(chǎn)業(yè)不斷升級。約瑟夫·希發(fā)基思以線上視頻形式作主旨演講并分享上述觀點。

約瑟夫·希發(fā)基思的主要研究領(lǐng)域是模型檢測及嵌入式系統(tǒng)設(shè)計與驗證。模型檢測是分析、驗證并發(fā)系統(tǒng)性質(zhì)的最重要的技術(shù)，被Intel、IBM、微軟等公司用于日常生產(chǎn)實踐中。由于對模型檢測的開創(chuàng)性貢獻(xiàn)，他與Clarke教授、Emerson教授分享了2007年圖靈獎。他也是歐洲嵌入式系統(tǒng)研究的先驅(qū)。嵌入式系統(tǒng)現(xiàn)廣泛存在于航天、航空、汽車、火車、通信、醫(yī)療、武器等安全攸關(guān)的領(lǐng)域。

注：本文來源于2024中關(guān)村論壇年會嘉賓現(xiàn)場演講速記，文中內(nèi)容僅代表專家個人觀點