當?shù)貢r間11月1日，人工智能安全峰會在英國布萊切利園召開，全球科技公司的高管和政府官員等近百名代表出席。就在這場峰會開幕前不久，居于全球人工智能領(lǐng)域領(lǐng)先地位的多個國家，紛紛發(fā)布了有關(guān)推動及監(jiān)管人工智能的相關(guān)聲明或法律法規(guī)。有評論認為，隨著近年來人工智能技術(shù)及其應(yīng)用的快速發(fā)展，對該領(lǐng)域的全球監(jiān)管努力也開啟了“加速度”。

一

據(jù)英國政府表示，此次由該國牽頭的首屆人工智能安全峰會，主要將討論人工智能可能帶來的風險，以及如何通過國際協(xié)調(diào)行動降低風險，同時討論該技術(shù)帶來的變革性機遇。

從具體議題來看，此次峰會將聚焦“人工智能前沿”。討論議題將包括人工智能發(fā)展的未來方向、如何加劇全球不平等、對選舉和教育的影響等。有分析稱，英國政府關(guān)注的首要議題將是人工智能對國家安全的潛在威脅。

在此次峰會開幕前，已有多個國家或國際組織，就人工智能發(fā)展與監(jiān)管問題密集發(fā)聲。

當?shù)貢r間10月30日，七國集團（G7）發(fā)布《開發(fā)先進人工智能系統(tǒng)組織的國際行為準則》。文件顯示，這套行為準則共包含11項內(nèi)容，旨在推廣全球范圍內(nèi)的安全、可靠和值得信賴的人工智能，并將為開發(fā)最先進的人工智能系統(tǒng)的組織提供自愿行動指南。

同一天，美國總統(tǒng)拜登發(fā)布一項關(guān)于“安全、可靠和值得信賴的人工智能”的行政命令，這是白宮有關(guān)生成式人工智能的首套監(jiān)管規(guī)定。根據(jù)該行政命令，美國多個政府機構(gòu)需制定標準，對人工智能產(chǎn)品進行測試，尋求“水印”等內(nèi)容驗證的方法，擬定網(wǎng)絡(luò)安全計劃，吸引技術(shù)人才。

10月18日，中國發(fā)布了《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理三方面系統(tǒng)闡述了人工智能治理中國方案，并強調(diào)愿同各國加強交流和對話，共同促進全球人工智能健康有序安全發(fā)展。

此外，今年5月，歐盟議會批準了首個全面的人工智能法案。外界普遍預計，歐洲議會將在年底前就《歐盟人工智能法案》達成協(xié)議，該法案旨在保護消費者免受人工智能潛在危險應(yīng)用的影響。

二

就在全球多國政府共同發(fā)力監(jiān)管的同時，呼吁警惕人工智能風險的聲音，也在研究界乃至人工智能領(lǐng)域業(yè)界多次響起。

當?shù)貢r間10月24日，包括圖靈獎獲得者杰弗里·辛頓和約書亞·本吉奧在內(nèi)的24名人工智能專家，聯(lián)合發(fā)表文章《在快速進步的時代管理人工智能風險》，呼吁各國政府采取行動管理人工智能帶來的風險。該文章特別關(guān)注最先進系統(tǒng)帶來的極端風險，例如助長大規(guī)模犯罪或恐怖活動。

文章提出了一些具體的政策建議，例如確保主要科技公司和公共資助者將至少三分之一的人工智能研發(fā)預算，用于確保安全和合乎道德的使用。文章呼吁制定人工智能國家和國際標準。

這是人工智能專家今年簽署的關(guān)于該領(lǐng)域風險的第三份重要聲明。3月，包括特斯拉創(chuàng)始人埃隆·馬斯克、本吉奧和羅素在內(nèi)的數(shù)萬人簽署了一封公開信，呼吁人工智能實驗室“立即暫停訓練比GPT-4更強大的人工智能系統(tǒng)至少6個月”。

5月，人工智能安全中心組織的一份聲明稱，“與流行病和核戰(zhàn)爭等其他社會規(guī)模風險一樣，減輕人工智能帶來的滅絕風險應(yīng)該成為全球優(yōu)先事項?！痹撀暶饔?00多名著名學者和行業(yè)領(lǐng)袖簽署，其中同樣包括辛頓、本吉奧和羅素，也包括3家全球主要人工智能公司的首席執(zhí)行官：OpenAI的山姆·奧特曼、DeepMind的德米斯·哈薩比斯和Anthropic的達里奧·阿莫代。

三

事實上，人工智能領(lǐng)域監(jiān)管動作的加速，正是該技術(shù)及其運用近年來迅猛發(fā)展的自然結(jié)果。

據(jù)媒體報道，2023上半年，全球人工智能領(lǐng)域共計發(fā)生融資1387件，籌集融資金額255億美元，平均融資金額達2605萬美元。

從全球范圍來看，對人工智能基礎(chǔ)設(shè)施市場的投資也在增加。有數(shù)據(jù)顯示，到2029年，全球這一市場的支出預計將達到4225.5億美元，未來六年的復合年增長率將高達44%。

據(jù)業(yè)界統(tǒng)計，全球人工智能產(chǎn)業(yè)規(guī)模預計2030年將達到1500億美元，未來幾年復合增速約40%。目前全球人工智能企業(yè)的數(shù)量迅速增長，2022年，全球人工智能市場規(guī)模估計為197.8億美元，預計到2030年將達到1591.03億美元，從2022年到2030年，復合年增長率為38.1%。

同時，人工智能產(chǎn)業(yè)發(fā)展對GDP的拉動作用也有望逐漸顯現(xiàn)。全球知名投資銀行高盛集團近期發(fā)布報告認為，對人工智能領(lǐng)域的投資效應(yīng)最終可能更大程度地反映到GDP上。報告稱，在美國等主要發(fā)達市場經(jīng)濟體，生成式人工智能可以讓約25%的工作任務(wù)實現(xiàn)自動化，在新興市場則可以讓高達20%的工作任務(wù)實現(xiàn)自動化。

在今年7月召開的首屆聯(lián)合國安理會人工智能與安全問題高級別公開會上，聯(lián)合國秘書長古特雷斯說，人工智能同時具有行善與作惡的巨大潛能，如不采取措施防范風險，將是對當代和后代的失職。