對話嘉賓

朱榮生（清華大學(xué)戰(zhàn)略與安全研究中心特約專家、元戰(zhàn)略智庫高級研究員）

劉 偉（北京郵電大學(xué)人機交互與認(rèn)知工程實驗室主任）

半月談記者：在人工智能發(fā)展過程中，您認(rèn)為最難以把控的變量與最突出的風(fēng)險是什么？

劉偉：最難以把控的變量包括不確定性、數(shù)據(jù)質(zhì)量、道德和倫理問題。

人工智能系統(tǒng)的復(fù)雜性使得其行為難以預(yù)測，常常具有不可解釋性，尤其當(dāng)系統(tǒng)面臨新的、未曾遇到的情況時。這種不確定性可能導(dǎo)致系統(tǒng)無法做出可靠的決策或產(chǎn)生意外的結(jié)果。

人工智能系統(tǒng)通常需要大量的數(shù)據(jù)來進(jìn)行訓(xùn)練和學(xué)習(xí)，而數(shù)據(jù)的質(zhì)量對系統(tǒng)性能至關(guān)重要。如果數(shù)據(jù)存在偏見、錯誤或不完整的情況，那么系統(tǒng)的結(jié)果和決策可能也會受到影響。

人工智能系統(tǒng)的決策可能涉及道德和倫理方面的選擇，例如自動駕駛車輛在緊急情況下如何選擇撞擊的對象。如何確保人工智能系統(tǒng)的決策符合社會價值觀成為一個難題。

人工智能面臨的安全風(fēng)險較為突出。人工智能系統(tǒng)可能受到黑客攻擊，導(dǎo)致數(shù)據(jù)泄露、系統(tǒng)癱瘓或被濫用。尤其是在關(guān)鍵基礎(chǔ)設(shè)施、金融系統(tǒng)和醫(yī)療等關(guān)鍵領(lǐng)域，安全風(fēng)險顯得尤為突出。

因涉嫌侵犯隱私，ChatGPT在意大利下線

朱榮生：從全球治理角度看，歷史上的顛覆性科技革新在極大地解放社會生產(chǎn)力的同時，也引發(fā)了全球發(fā)展失衡、財富分配不均、治理機制滯后的社會經(jīng)濟問題。每一輪科技革命帶動的全球化往往會把世界經(jīng)濟推向一個深度調(diào)整期，不可避免地帶來傳統(tǒng)產(chǎn)業(yè)衰退、大量勞動力失業(yè)、社會動蕩加劇的經(jīng)濟負(fù)面效應(yīng)，這對全球經(jīng)濟治理體系改革提出了新要求。

人工智能等先進(jìn)技術(shù)加速滲透融合到人類經(jīng)濟和軍事活動的各個領(lǐng)域，放大了維護國際穩(wěn)定和非傳統(tǒng)安全的挑戰(zhàn)。智能化戰(zhàn)爭初現(xiàn)端倪，人工智能賦能的無人作戰(zhàn)軍事平臺在巴以沖突、納卡沖突、俄烏沖突中被大量應(yīng)用。國外政策界對于軍用人工智能技術(shù)的快速部署、肆意擴散以及不負(fù)責(zé)任地戰(zhàn)場使用，動搖國際戰(zhàn)略穩(wěn)定性的擔(dān)憂日甚，其中最為急迫的關(guān)切是戰(zhàn)爭形態(tài)向智能化方向演進(jìn)將可能強化首攻優(yōu)勢。

從國家間關(guān)系的角度看，AI“強者先行”的發(fā)展特點也將強化國際競爭壓力。盡管每個國家都有維護自身“人工智能主權(quán)”利益的需求，但是大國和小國因?qū)嵙Φ牟痪饷媾R著不同程度的挑戰(zhàn)。大國具有更強的技術(shù)儲備和抗風(fēng)險能力，能夠在國際技術(shù)交流網(wǎng)絡(luò)中處于核心地位。相比之下，小國恐怕會因缺少足夠的資源而越發(fā)依賴于大國的技術(shù)供給，從而在全球AI生態(tài)體系發(fā)展中處于邊緣位置。這將進(jìn)一步提高數(shù)字地緣政治競爭的烈度，壓縮大國之間本已有限的關(guān)系緩和空間。

半月談記者：如何在控制風(fēng)險的同時，讓AI成為對人類、對社會進(jìn)步普惠而有益的工具？

劉偉：確保AI系統(tǒng)的決策過程是透明的，并能提供解釋，以便人們理解其工作原理，如此一來，可增強人們對AI系統(tǒng)的信任感，并幫助預(yù)防潛在的不良影響。同時，需要及時制定明確的倫理準(zhǔn)則，確保AI系統(tǒng)的設(shè)計和使用符合道德原則和社會價值，包括確保AI系統(tǒng)不歧視、不侵犯隱私和個人權(quán)利，并遵守相關(guān)法律法規(guī)。在源頭上確保AI系統(tǒng)所使用的數(shù)據(jù)具有高質(zhì)量的特點，并嚴(yán)格保護個人隱私。數(shù)據(jù)的來源、使用和存儲都應(yīng)符合相關(guān)法規(guī)，并通過安全措施保護數(shù)據(jù)不被濫用或泄露。

建立有效的監(jiān)管機制，確保AI系統(tǒng)的開發(fā)和使用符合政府制定的規(guī)定和標(biāo)準(zhǔn)，加強對AI技術(shù)和應(yīng)用的審查和監(jiān)督，以避免濫用和不良影響。鼓勵公眾參與AI技術(shù)的發(fā)展和決策過程，并確保各利益相關(guān)方的利益得到平衡，這可以通過開展公開磋商、征求意見和建立多方合作來實現(xiàn)。建立監(jiān)測和評估機制，及時發(fā)現(xiàn)和解決AI系統(tǒng)可能出現(xiàn)的風(fēng)險和問題，不斷改進(jìn)和優(yōu)化AI系統(tǒng)的性能和安全性。

朱榮生：從規(guī)制人工智能潛在風(fēng)險的角度出發(fā)，各國在維護利益的同時，應(yīng)推動AI全球治理合作。AI領(lǐng)域的相關(guān)治理攸關(guān)人類命運，是全球治理面臨的嚴(yán)峻課題。國際社會需要重視廣大發(fā)展中國家在新興技術(shù)浪潮中的脆弱性，技術(shù)強國不應(yīng)一味只顧本國利益而采取“脫鉤斷鏈”手段。AI是一項軍民兩用技術(shù)，就其民用領(lǐng)域來說，引導(dǎo)全球AI行業(yè)健康發(fā)展，實現(xiàn)“人工智能向善”的目標(biāo)，進(jìn)而促進(jìn)AI技術(shù)造福于全人類，是世界各國的共同利益。

  在更為敏感的軍事安全方面，AI的軍事化應(yīng)用越發(fā)引起國際輿論的關(guān)注。據(jù)國際媒體報道，AI技術(shù)已在新一輪巴以沖突中被運用，造成平民傷亡。從建構(gòu)人工智能全球安全治理規(guī)則的角度出發(fā)，國際社會恐怕需要審視美西方提出的“負(fù)責(zé)任的人工智能”理念是否過于理想，是否應(yīng)該探索建立某種“有人道的AI”的共同主張，以避免算法定生死釀成的人道主義災(zāi)難。總之，要推動實現(xiàn)“AI為了人類”的目標(biāo)，恐怕不僅僅需要確保每個國家僅基于本國基本安全和發(fā)展利益的“主權(quán)人工智能”，更需要具有推動構(gòu)建基于人類命運共同體的“全球人工智能”的意識與行動。

半月談記者：您覺得普通人應(yīng)如何迎接人工智能時代？

劉偉：隨著人工智能的發(fā)展，某些工作崗位可能會被自動化取代，所以不斷學(xué)習(xí)和提升自己的技能變得尤為重要，AI在大量重復(fù)性、機械化的工作中表現(xiàn)出色，但在涉及創(chuàng)造性思維、情感交流和問題解決方面仍有限制，因此，重要的是培養(yǎng)自己的合作能力和創(chuàng)造力，發(fā)展與人工智能協(xié)作的能力。

人工智能的應(yīng)用需要運用各種科技工具和數(shù)據(jù)分析技能，人們可以學(xué)習(xí)如何使用各種科技工具，以及如何進(jìn)行數(shù)據(jù)處理和分析，從而更好地與人工智能共同工作。同時，隨著人工智能的不斷發(fā)展，工作環(huán)境和需求也會發(fā)生變化。因此，普通人需要保持靈活性和適應(yīng)性，積極適應(yīng)新的工作方式和技術(shù)變革。

雖然人工智能在某些方面表現(xiàn)出色，但在涉及情感交流、人文關(guān)懷和倫理決策等領(lǐng)域仍有不少局限性，因此，我們可以培養(yǎng)一些情感技能和人文關(guān)懷，發(fā)展與人工智能進(jìn)行人性化交互的能力。

朱榮生：大家應(yīng)當(dāng)理性看待人工智能技術(shù)應(yīng)用對社會發(fā)展產(chǎn)生的影響。盡管科技界和產(chǎn)業(yè)界對能夠睥睨人類智能水平的人工智能最終走入大眾視野存在樂觀預(yù)期，但是當(dāng)前的人工智能技術(shù)還沒有表現(xiàn)出引發(fā)社會結(jié)構(gòu)顛覆性變化的效果。從ChatGPT到Sora，人工智能所發(fā)揮的主要賦能作用是提高用戶的工作效率，而沒有達(dá)到“大量機器取代人類就業(yè)”的變革程度。與其對不確定性的未來抱有焦慮情緒，不如理性看待AI的發(fā)展及其影響。

當(dāng)然，忽視AI技術(shù)失序發(fā)展可能產(chǎn)生的風(fēng)險是不負(fù)責(zé)任的。如果人工智能技術(shù)依然延續(xù)當(dāng)前通過不斷疊加算力的“暴力計算”方式來提高能力，并且最終實現(xiàn)超越人類的“智能外溢”，那么放縱人工智能技術(shù)無限度發(fā)展的潛在風(fēng)險將會加大。（半月談記者 宋晨 梁姊）