21世紀經濟報道記者 馮戀閣 實習生湯雨昕 廣州報道

(資料圖片)

8月15日，由中國社會科學院法學研究所主辦，中國社會科學院法學研究所網絡與信息法研究室、南財合規(guī)科技研究院等共同承辦的“全球治理話語競賽下人工智能立法的中國方案”研討會在北京舉行。

研討會上，商湯科技合規(guī)高級經理蘇萱從AIGC三大主流領域出發(fā)，結合人工智能行業(yè)的三駕馬車（包括算力、數據和算法）發(fā)展，分享了自己對于AIGC行業(yè)如何發(fā)展與監(jiān)管的看法并對未來監(jiān)管給出建議。

“要談人工智能監(jiān)管治理，首先要明確治理的對象。”蘇萱介紹道，AIGC（AI Generated Content）是人工智能領域一個重要的分支，這一領域的應用通過機器學習算法，使用大規(guī)模的訓練數據，通過強大的計算模型在基礎設施上實現文本、圖像和視頻的生成。

而計算機科學領域的計算機視覺、自然語言處理和語音識別這三大方向與AIGC交匯，共同構成了當前展現在人們面前的各類產品。

具體來看，計算機視覺是使計算機或機器能夠“看”和理解圖像或視頻中的內容的技術。這種技術涵蓋了從圖像采集和處理到圖像分析和理解的各個方面；自然語言處理是使計算機能夠理解和生成人類語言（如英語、中文等）的技術。在AIGC中，自然語言處理主要用于生成文本內容；語音識別是一種允許機器或計算機聽到并理解人類的語音的技術。這種技術的典型應用是將人類的語音轉化為文本，或者使計算機能夠對語音命令做出反應。

“計算機視覺、自然語言處理和語音識別都是AIGC的重要組成部分，它們使得AI不僅能夠生成各種類型的內容，而且還能理解和分析這些內容。”蘇萱介紹道。

大模型（例如GPT-4、BERT等）則是使用大量的數據進行訓練，理解和模擬人類的語言、視覺、聽覺等多種模式，從而生成各種類型的內容的工具。在文本生成方面，大模型（如GPT-4）可以生成連貫、有深度的文章或對話；圖像生成方面，大模型（如DALL-E）可以生成具有特定屬性和特點的新圖像，應用于產品設計等場景；音頻生成方面，大模型可以生成逼真的人聲、音樂等，用于語音合成、音樂創(chuàng)作等場景。

“大模型通過理解和生成復雜的內容，推動了AIGC的發(fā)展，使得AI生成的內容更豐富、更多樣，也更接近人類的表達和創(chuàng)造水平，進一步拓寬了AIGC的應用范圍和可能性?！彼毖?。

不過，AIGC潮起的另一面，是不可忽視的伴生風險。在新一輪AI變革下，我國的治理體系有怎樣的新變化？

8月15日，由網信辦等七部門發(fā)布的《生成式人工智能服務管理暫行辦法》（下文簡稱“《辦法》”）正式施行，為生成式人工智能服務的實踐落地指明了方向。蘇萱認為，《辦法》提供了覆蓋人工智能“三駕馬車”——算法、算力和數據的法律監(jiān)管框架。

針對算法，《辦法》強調非歧視的原則，在算法設計、訓練數據選擇、模型生成和優(yōu)化、提供服務等過程中，需要采取有效措施防止產生民族、信仰、國別、地域等歧視；要求不得利用算法優(yōu)勢，實施壟斷和不正當競爭行為。

對于數據，《辦法》要求生成式人工智能服務提供者依法開展預訓練、優(yōu)化訓練等訓練數據處理活動；使用具有合法來源的數據；涉及個人信息的，服務提供者應依法承擔相關責任并履行義務。

而對于算力，《辦法》鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，推動生成式人工智能基礎設施和公共訓練數據資源平臺建設，提升算力資源利用效能。

“《辦法》旨在保護個人和社會的權益，促進生成式人工智能的健康發(fā)展，同時防止濫用和歧視行為，確保公平和公正?！碧K萱指出。

不過，在蘇萱看來，由于人工智能技術的復雜性和快速發(fā)展，目前的監(jiān)管治理體系可能存在一定局限性。

他認為，人工智能的發(fā)展速度極快，新的技術、應用和問題不斷出現。而法律法規(guī)的制定和修改過程通常較慢，可能難以及時適應技術的快速變化。

在應用落地后的監(jiān)管實踐中，他指出，人工智能算法的復雜性和不透明性可能使監(jiān)管變得困難。算法在設計、訓練和應用過程中可能產生的歧視、數據來源的合法性和數據使用的合規(guī)性等問題都亟待解決。

總體來看，作為顛覆性的新技術人工智能可能引發(fā)倫理和社會問題，就業(yè)問題、隱私問題、社會公正問題等。這類問題看法和觀點正不斷受到挑戰(zhàn)、發(fā)生變化，需要通過法律法規(guī)和社會廣泛討論形成一個共識?！拔磥淼娜斯ぶ悄馨l(fā)展中，我們面臨挑戰(zhàn)遠不止提到的這三類問題，但同時也充滿了無限的機遇。只有各方共同努力，才能推動人工智能行業(yè)的健康發(fā)展?！碧K萱表示。

關鍵詞：