翻開流淌中國文明的書卷，我們驚訝的發現，在兩千多年前，智者們便以古老的筆觸勾勒出驚心動魄的機械化生命，喚醒了人們對機器智慧與生命的原始的遐思。《史記》描繪了機械獸、精巧器械的神奇故事；《莊子》中思辨了人與機器的辨析；《列子》中討論了制造人造人的可能。《山海經》中描繪了機關獸、神奇造物的奇幻場景。
隨著科技的進步和現代文明的發展，中國當代科幻文學也涌現出一批富有想象力和啟迪性的作品。在劉慈欣的科幻小說《三體》系列中，虛擬現實游戲“三體”為讀者展現了一個充滿智能生命和宇宙文明的廣袤宇宙。而在王晉康的小說《人工智能時代的公民》中，作者設想了一個未來社會，人工智能已經成為社會的一部分，引發了對于人工智能與人類關系、權益道德和相關風險的討論和思考。
真實案例，利弊相依
4月20日中午，好友通過微信視頻聯系郭先生，聲稱需要430萬保證金并請求借用郭先生公司賬戶進行轉賬。未核實款項到賬，郭先生不加懷疑地轉了430萬給好友。后來才發現被智能AI換臉和擬聲技術詐騙。
10分鐘被騙430萬，人工智能深度內容合成模糊了真實與虛假的邊界。然而，在內容產業上，AI換臉有它的優勢和價值，比如在《三千鴉殺》《了不起的兒科醫生》《長安十二時辰》等影視作品中，都因為原演員問題，部分角色用到了AI換臉技術，極大地降低了拍攝成本。
首先，從國家層面來說，其算法和數據驅動性質可能導致暴力沖突和意識形態滲透的風險。虛假內容的生成可能誤導公眾輿論，而惡意使用該技術可能加劇國際關系的緊張和誤判。此外，濫用生成式人工智能可能對國家安全造成直接威脅，包括攻擊基礎設施和進行網絡犯罪。
其次，從社會層面來說，數據壟斷和道德操縱的風險最大，可能導致創新受阻、市場失衡和社會分裂。在私權利方面，增加犯罪可能性和侵犯用戶隱私也是潛在的風險。舉例來說，虛假信息生成和個人數據泄露可能導致誤導公眾、身份盜用和信任破裂。人工智能技術的進步可能引發一場前所未見的錯誤信息海嘯，因為這類工具非常擅長對任何事情做出令人信服的敘述，其標準的語法和完美的邏輯足夠迷惑大多事外群體。例如，ChatGPT編造了一個真實教授的性騷擾丑聞，然后以一篇假的《華盛頓郵報》文章的形式為其說法提供證據，并為其創建了引用。
但不可置否的是，人工智能技術的進步產生了革命性意義，其具有跨界、橫向、打通的能力。這種能力使得人工智能技術在醫療、金融、制造等領域的應用得到了前所未有的提升。
抽絲剝繭：剖析潛在動因
正如上文所述，目前生成式人工智能損害隱蔽、破壞性大，只有先思考風險背后的動因才能更好的提出相關治理性意見。
（一）現行法律制度不足
法律制度不成熟是導致人工智能風險的一個重要原因。在行政責任方面，政府雖然能對生成式人工智能進行監管，但僅仰賴行政監管無法充分規制。生成式人工智能的算法運作機制難以解釋，增加了政府監管的成本。此外，數據流動涉及多個主體，現有機制無法聯動不同部門展開數據監管協作，也無法在數據跨境中與其他國家機構進行協作，缺乏協同治理的可能性。在民事責任方面，相關實踐和理論研究都還不充分。現有的數據治理范式主要側重于采用著作權和反不正當競爭等途徑保護數據權益，但無法規制生成內容。同時，生成式人工智能的侵權行為隱蔽且后果嚴重，采用人格權利保護路徑也無法消除已產生的影響。此外，生成式人工智能涉及知識產權、反壟斷和生成內容歸屬等新問題，還涉及底層數據和算法問題，且涉及公平公正等價值判斷問題。算法黑箱下的舉證困難也是現有民法體系難以規制生成式人工智能的原因。在刑事法律方面，雖然存在一些具體條款能夠規制，但存在著缺陷。例如，現有的虛假信息罪僅局限于特定情況，無法適用于生成式人工智能的內容生成方式。同時，煽動顛覆國家政權罪的構成要件與生成式人工智能的互動形式不完全吻合。
（二）準入門檻低且統一治理原則缺失
由于其低準入門檻，許多人都可以輕松獲取和使用相關工具和算法，而無需深入了解其潛在風險。比如，在日常生活中，不少網友體驗過娛樂性的AI換臉。早在2019年，一款名為“ZAO”的AI換臉軟件就曾風靡網絡，只需上傳一張照片就能讓普通人成為影視劇的男女主角，出演經典電影片段、甚至跟偶像飆戲，受到眾多網友的體驗追捧。
另一方面，由于人工智能領域缺乏統一治理原則，相關法律、道德和倫理問題得不到一致解決，增加了風險的復雜性。舉例來說，數據隱私和安全問題是人工智能應用中的重要考慮因素。如果缺乏統一的治理原則，個人數據可能被濫用、泄露或未經授權的訪問，給用戶帶來損害。此外，面部識別技術在安全監控、身份驗證等領域有廣泛應用，但缺乏統一的原則和限制，可能導致濫用和侵犯隱私的行為。
（三）公眾對新技術的新鮮感與知識空白
公眾常常對人工智能技術的新穎性產生興奮和好奇，而更關注其帶來的創新和便利。然而，這種新鮮感往往使人們忽視了其中潛在的風險和負面影響。例如，人工智能換臉技術能制作逼真的虛擬視頻，但也帶來了身份偽造、隱私侵犯等潛在風險。公眾往往更傾向于關注其在娛樂、社交網絡等方面的趣味性，而對其中的倫理和社會問題關注不夠。
此外，公眾對人工智能技術的知識相對匱乏也是導致風險的因素之一。雖然人工智能技術受到廣泛關注，但社會群體對于其具體的工作原理、算法和數據處理過程等方面的了解仍有限，難以準確評估其潛在風險和局限性。
賦技于治：相關保障措施
盡管人工智能的潛力存在很大的不確定性，但它可以降低勞動成本和提高生產率，甚至生成與人類創造成果無法區分的內容，并能打破人機溝通障礙，反映出具有潛在巨大宏觀經濟影響的重大進步，如何利用人工智能將社會推向新的繁榮是值得每個人思考的問題。
從國際角度來說，國外科學家呼吁暫停對更強大的AI系統的開發，中國出臺生成式人工智能服務管理新規，都是在人工智能獲得關鍵突破的關鍵時點，針對人工智能可能的風險隱患，采取理智的防范措施。人工智能的監管需要國際社會經過評估，劃出統一的、清晰的安全底線，供各國共同遵守。
從本國的視角來看，各部門應信息共享，加強監管。去年12月，國家網信辦、工信部、公安部聯合發布《互聯網信息服務深度合成管理規定》，對人臉生成、人臉替換等都有明確約束。國家相關部門應繼續聯合對各種出現的新情況進行規制。同時，相關部門應去思考如何構建一個既能占領全球技術高地、又能避免壟斷的國家級算力基礎設施；如何構建一個資源可共享、商業可持續、監管可包容、金融機構和科技公司可受益的金融算力生態圈。
提高準入門檻可以通過完善平臺審核機制和加強機制認證這兩個角度考慮。平臺審核包括對開發者和供應商的背景調查，對算法和數據集的評估，以及對潛在風險和漏洞的審查。而建立人工智能技術的資質認證和許可制度可以確保只有具備必要資質和能力的實體才能開展相關業務。
明確懲治的相關群體是減少相關違法事件的重要一環。首先應責令發布者更改刪除相關不當內容；其次應責令MCN機構承擔作為內容創作和管理的中介平臺的責任，引導其加強對創作者和內容的審核與監督；再次平臺方也需要承擔部分責任，因為作為提供人工智能技術服務的平臺，他們有義務嚴格管理平臺內容，加強違法內容的監測和處理，以保護用戶權益和社會公共利益；同時數據提供者和數據供應商也應敲響警鐘，確保提供的數據合法可靠，避免違法數據和技術被濫用，以維護其安全和合規性。
如何通過全平臺矩陣的方式提升公眾的數字素養、自我保護意識和法制意識對于降低人工智能風險至關重要。這需要相關宣傳部門在日常生活中加強對于數字知識和安全意識的宣傳，同時引導公眾群體掌握自己的權益和維權途徑，提升維權能力，遇到問題及時向相關執法機構報案。
深度合成的驚艷表現昭示了生成式人工智能帶來的技術革新，市場為之沸騰的同時，人工智能的相關風險逐漸顯現，人類可以享受人工智能帶來的繁榮未來，但不能沉醉于“AI之夏”，毫無準備地陷入秋天。思考如何引導變革性技術遠離極端、大規模且各種新型的風險，轉向造福生活是我們的必由之路。
?
