“清朗·整治AI技術(shù)濫用”專項行動自2025年4月啟動以來，中央網(wǎng)信辦聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象，深入推進(jìn)第一階段重點(diǎn)整治任務(wù)，部署各地網(wǎng)信部門加大違規(guī)AI產(chǎn)品處置力度，切斷違規(guī)產(chǎn)品營銷引流渠道，督促重點(diǎn)網(wǎng)站平臺健全技術(shù)安全保障措施，推動生成合成內(nèi)容標(biāo)識加速落地。（6月23日 《廣州日報》）

《三體》作者劉慈欣曾這樣形容科技高速發(fā)展給生活帶來的巨變：“未來像盛夏的大雨，在我們還來不及撐開傘時，就撲面而來?！比斯ぶ悄芗铀俚?、浪潮奔涌向前，帶來前所未有的發(fā)展機(jī)遇，也帶來不容忽視的風(fēng)險挑戰(zhàn)?！奥曇艨寺　睂?dǎo)致電信詐騙防不勝防，AI炮制虛假新聞撩撥網(wǎng)民情緒，“換臉視頻”引發(fā)的造謠誹謗時有出現(xiàn)，“AI幻覺”讓生成內(nèi)容真假難辨……今天，AI技術(shù)濫用逐漸打開“潘多拉魔盒”，技術(shù)的“雙刃劍”效應(yīng)愈發(fā)具象化。

第一階段累計處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬余條，處置賬號3700余個，各項工作取得積極進(jìn)展……此次專項行動的階段性成果，向AI技術(shù)濫用亂象打出了一記雷霆重拳，彰顯我國在AI治理上的決心與執(zhí)行力。但正如有報道所指出的，當(dāng)前投入在AI安全研究與價值對齊方面的精力、時間、金錢和資源還遠(yuǎn)遠(yuǎn)不足，這也成為大模型落地行業(yè)的難題之一。如何確保安全、規(guī)范、合理地使用人工智能，這是擺在我們面前的深刻時代命題。

技術(shù)每前進(jìn)一步，治理就要跟進(jìn)一步。近年來，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法律法規(guī)密集出臺，推動人工智能治理沿著法治軌道向前邁進(jìn)。針對人工智能技術(shù)新特點(diǎn)，要始終堅持包容審慎態(tài)度，完善相關(guān)法律體系建設(shè)，不斷創(chuàng)新、完善與之相適應(yīng)的監(jiān)管方式，讓治理始終跟隨技術(shù)發(fā)展的腳步前行。

從現(xiàn)實來看，人工智能算法具有“黑箱”特性，表現(xiàn)為行為不可控、決策機(jī)制難解釋等，這也要求平臺必須擔(dān)負(fù)起主體責(zé)任，積極完善管理細(xì)節(jié)。比如，要健全完善審核識別機(jī)制，對AI生成內(nèi)容第一時間添加明確標(biāo)識，加大對涉及重大事件、敏感話題中圖片、視頻的真?zhèn)魏瞬椋皶r甄別、攔截、處置不實信息和賬號。同時，要建立便捷的舉報和投訴渠道，對于網(wǎng)民反映的問題及時予以查證、處理。

發(fā)展的問題終歸要靠發(fā)展來解決。以技術(shù)對技術(shù)，以技術(shù)管技術(shù)，才能真正筑牢安全的底線。抖音建立“紅藍(lán)對抗”機(jī)制，優(yōu)化模型對虛假信息的識別能力；小紅書在模型后置訓(xùn)練階段輸入專業(yè)領(lǐng)域數(shù)據(jù)，提升模型對醫(yī)療、金融、未成年人等重點(diǎn)領(lǐng)域問題的理解能力。這些都是切實可行的辦法。善用“技防”手段，“以子之矛，攻子之盾”，安全防護(hù)才會更及時、更智能、更高效。

人工智能的未來將往何處去？答案只有一個，那便是“以人為本、智能向善”。在規(guī)范中筑牢防線，在創(chuàng)新中釋放活力，這是技術(shù)服務(wù)于人、造福社會的必需，也是抓住產(chǎn)業(yè)變革新機(jī)遇、推動人工智能健康有序發(fā)展的必然。（付迎紅）