確保生成式人工智能向善而行（新知）

——在新的起點上不斷推進創(chuàng)新⑤

緊隨科技進步和行業(yè)發(fā)展的步伐，全面提升治理水平，促進生成式人工智能健康發(fā)展

【現(xiàn)象】從一個靈感起步，設置主題、類型、人物、情節(jié)等各種參數，引導編劇填入自己的想法，大模型可以在極短時間內生成類型片劇本初稿。不久前，西部電影集團有限公司發(fā)布國內首個擁有自主知識產權的電影創(chuàng)作類生成式人工智能系統(tǒng)。近年來，生成式人工智能技術取得突破性進展，開始完成繪畫、譜曲、咨詢互動等原本被認為只能由人來完成的工作，正在并將繼續(xù)對生產生活產生深遠影響。

【點評】

人工智能是引領未來的戰(zhàn)略性技術，是新一輪科技革命和產業(yè)變革的重要驅動力量，是必須搶占的科技制高點。生成式人工智能可以依托事先訓練好的多模態(tài)基礎大模型等，利用用戶輸入的相關資料，生成具有一定邏輯性和連貫性的內容，是目前最具革命性、引領性的科學技術之一。

從進行數據處理，到學習和模擬事物內在規(guī)律，這一跳躍讓人工智能更加接近人類的創(chuàng)造力，可以完成更多復雜場景任務。與此同時，解決相關安全風險和倫理問題也變得更加緊迫。

黨的二十屆三中全會《決定》提出：“完善生成式人工智能發(fā)展和管理機制?！本o隨科技進步和行業(yè)發(fā)展的步伐，全面提升治理水平，促進生成式人工智能健康發(fā)展，是形勢所需，也是更好保障公眾利益的內在要求。

盡管技術路徑已經明確，但生成式人工智能產品和服務的商業(yè)化、大眾化、普及化，仍處于起步階段。2023年，我國生成式人工智能的企業(yè)采用率已達15%，市場規(guī)模約為14.4萬億元。目前，我國現(xiàn)有完成備案并上線為公眾提供服務的生成式人工智能服務大模型近200個，注冊用戶超6億。我們已占據有利身位，且有豐富的數據資源、廣闊的市場需求、穩(wěn)定的技術基礎和多樣化的應用場景，要充分發(fā)揮這些優(yōu)勢，力爭在新一代人工智能技術的發(fā)展上搶占先機，為更多行業(yè)向價值鏈中高端攀升提供更強推動力。

著力推動技術進步、產業(yè)發(fā)展的同時，也要看到，生成式人工智能會帶來一些治理難題。比如，利用他人作品生成新的“作品”，可能涉嫌侵權；利用人工智能生成虛假信息進行詐騙，增加防范難度；隨著技術應用的拓展，一些就業(yè)崗位可能會受到較大沖擊；等等。

針對各種可能發(fā)生的風險，相關部門和地方已經出臺了一些技術應對、綜合防治措施及安全開發(fā)應用指引，促進人工智能向善而行。比如，北京市編制大模型分級分類管理和安全評測標準，圍繞真實場景開展應用質量評估、倫理對齊等方面評測；上海交通大學發(fā)布“生成式人工智能教師使用指南”，對版權與學術誠信、倫理與公平等問題作出規(guī)定……堅持未雨綢繆，堅持倫理先行，進一步加強人工智能規(guī)則治理，完善相關法律體系建設，才能做到趨利避害、安全使用。

發(fā)展人工智能，根本目的是造福人類、增進人民福祉、促進人的全面發(fā)展。在技術加速演進的關鍵階段，堅持發(fā)展與治理、創(chuàng)新與安全并重，著力培育安全、可靠、公平、透明的技術研發(fā)和應用生態(tài)，定能不斷促進人工智能健康發(fā)展，更好抓住新一輪技術變革帶來的新機遇。