從奧運冠軍全紅嬋家人聲音被AI合成冒用帶貨，到明星劉曉慶、張馨予的聲音、視頻被AI合成用于代言，再到張伯禮院士為某美白護膚品進行宣傳……AI技術(shù)的濫用已經(jīng)嚴(yán)重侵犯個人權(quán)益，擾亂社會秩序，甚至成為詐騙、虛假宣傳的工具。近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期3個月的“清朗·整治AI技術(shù)濫用”專項行動。讓AI技術(shù)行正道、出正果，真正利人、利企、利社會，此次專項行動可謂正當(dāng)其時，意義深遠。
AI技術(shù)濫用問題可能加劇虛假信息的傳播，甚至對社會穩(wěn)定造成威脅。隨著人工智能技術(shù)的突破，特別是DeepSeek等智能大模型的崛起，AI已逐步融入人們的日常生活與工作。然而，AI技術(shù)在帶來便利的同時，也催生了一系列社會問題，例如論文造假、換臉欺詐等違規(guī)行為。從AI通過數(shù)據(jù)增強重構(gòu)信息環(huán)境，影響公眾對事實的認知基礎(chǔ)；到生成式人工智能技術(shù)能以低成本批量制造文本及高仿真音視頻，消解真實敘事權(quán)威；再到個性化推薦算法則構(gòu)建起“信息繭房”，在潛移默化中分化社會共識，讓輿論場中的信息內(nèi)容真假更難分辨……AI正淪為惡意營銷、網(wǎng)絡(luò)犯罪、意識形態(tài)滲透的“幫兇”。更值得警惕的是，AI生成內(nèi)容的“深度偽造”特性，正在消解信息社會的信任根基，使傳統(tǒng)認知博弈方式發(fā)生改變。
人們被AI技術(shù)亂象困擾已久，此次整治專項行動是應(yīng)時之舉，也是打造“清朗”網(wǎng)絡(luò)空間的必由之路。此次“清朗·整治AI技術(shù)濫用”專項行動分兩個階段開展。第一階段強化AI技術(shù)源頭治理，清理整治違規(guī)AI應(yīng)用程序，加強AI生成合成技術(shù)和內(nèi)容標(biāo)識管理，推動網(wǎng)站平臺提升檢測鑒偽能力。第二階段聚焦利用AI技術(shù)制作發(fā)布謠言、不實信息、色情低俗內(nèi)容，假冒他人、從事網(wǎng)絡(luò)水軍活動等突出問題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號、MCN機構(gòu)和網(wǎng)站平臺。AI時代，技術(shù)本身并無善惡，但技術(shù)的發(fā)展與應(yīng)用必須合乎人類主流價值規(guī)則體系，如此方能行穩(wěn)致遠。發(fā)展負責(zé)任的人工智能，建設(shè)合乎倫理、安全可靠、尊重知識產(chǎn)權(quán)的人工智能，我們才能讓數(shù)字紅利、智能紅利充分釋放，共同邁進更加美好的“數(shù)字未來”。
整治AI技術(shù)濫用亂象，需要全社會的共同努力。目前，我國已經(jīng)出臺了一系列與人工智能相關(guān)的法律法規(guī)，如《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國個人信息保護法》《網(wǎng)絡(luò)數(shù)據(jù)安全管理條例》《App違法違規(guī)收集使用個人信息行為認定方法》等。同時，各地網(wǎng)信部門要充分認識專項行動對于防范AI技術(shù)濫用風(fēng)險、維護網(wǎng)民合法權(quán)益的重要意義，切實履行屬地管理責(zé)任，督導(dǎo)網(wǎng)站平臺對照專項行動有關(guān)要求，健全AI生成合成內(nèi)容審核機制，提升技術(shù)檢測能力，做好整改落實；網(wǎng)絡(luò)平臺要完善審核機制，提升技術(shù)檢測能力，及時發(fā)現(xiàn)和攔截侵權(quán)、虛假、違法等不良內(nèi)容；企業(yè)和從業(yè)者要增強自律意識，遵守法律法規(guī)和道德規(guī)范，將社會責(zé)任放在首位；廣大網(wǎng)民要提高AI素養(yǎng)，強化學(xué)習(xí)和更新AI有關(guān)知識，增強防范意識，謹防AI換臉、換聲等詐騙，自覺抵制AI技術(shù)濫用行為。多方攜手，向AI技術(shù)濫用亂象“亮劍”，確保AI技術(shù)始終沿著正確的軌道向前發(fā)展。
AI技術(shù)是人類智慧的結(jié)晶，它的發(fā)展應(yīng)當(dāng)造福人類，而不是成為危害社會的工具。此次專項行動，為AI技術(shù)的健康發(fā)展吹響了號角。我們相信，在全社會的共同努力下，一定能夠有效遏制AI技術(shù)濫用亂象，讓AI技術(shù)在清朗的網(wǎng)絡(luò)空間中綻放出更加耀眼的光芒，為人類社會的發(fā)展注入強大的正能量。（于梅）
