21世紀經濟報道記者 馮戀閣 實習生湯雨昕 廣州報道

(資料圖片)

8月15日，由中國社會科學院法學研究所主辦，中國社會科學院法學研究所網絡與信息法研究室、南財合規科技研究院等共同承辦的“全球治理話語競賽下人工智能立法的中國方案”研討會在北京舉行。

研討會上，商湯科技合規高級經理蘇萱從AIGC三大主流領域出發，結合人工智能行業的三駕馬車（包括算力、數據和算法）發展，分享了自己對于AIGC行業如何發展與監管的看法并對未來監管給出建議。

“要談人工智能監管治理，首先要明確治理的對象。”蘇萱介紹道，AIGC（AI Generated Content）是人工智能領域一個重要的分支，這一領域的應用通過機器學習算法，使用大規模的訓練數據，通過強大的計算模型在基礎設施上實現文本、圖像和視頻的生成。

而計算機科學領域的計算機視覺、自然語言處理和語音識別這三大方向與AIGC交匯，共同構成了當前展現在人們面前的各類產品。

具體來看，計算機視覺是使計算機或機器能夠“看”和理解圖像或視頻中的內容的技術。這種技術涵蓋了從圖像采集和處理到圖像分析和理解的各個方面；自然語言處理是使計算機能夠理解和生成人類語言（如英語、中文等）的技術。在AIGC中，自然語言處理主要用于生成文本內容；語音識別是一種允許機器或計算機聽到并理解人類的語音的技術。這種技術的典型應用是將人類的語音轉化為文本，或者使計算機能夠對語音命令做出反應。

“計算機視覺、自然語言處理和語音識別都是AIGC的重要組成部分，它們使得AI不僅能夠生成各種類型的內容，而且還能理解和分析這些內容。”蘇萱介紹道。

大模型（例如GPT-4、BERT等）則是使用大量的數據進行訓練，理解和模擬人類的語言、視覺、聽覺等多種模式，從而生成各種類型的內容的工具。在文本生成方面，大模型（如GPT-4）可以生成連貫、有深度的文章或對話；圖像生成方面，大模型（如DALL-E）可以生成具有特定屬性和特點的新圖像，應用于產品設計等場景；音頻生成方面，大模型可以生成逼真的人聲、音樂等，用于語音合成、音樂創作等場景。

“大模型通過理解和生成復雜的內容，推動了AIGC的發展，使得AI生成的內容更豐富、更多樣，也更接近人類的表達和創造水平，進一步拓寬了AIGC的應用范圍和可能性。”他直言。

不過，AIGC潮起的另一面，是不可忽視的伴生風險。在新一輪AI變革下，我國的治理體系有怎樣的新變化？

8月15日，由網信辦等七部門發布的《生成式人工智能服務管理暫行辦法》（下文簡稱“《辦法》”）正式施行，為生成式人工智能服務的實踐落地指明了方向。蘇萱認為，《辦法》提供了覆蓋人工智能“三駕馬車”——算法、算力和數據的法律監管框架。

針對算法，《辦法》強調非歧視的原則，在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，需要采取有效措施防止產生民族、信仰、國別、地域等歧視；要求不得利用算法優勢，實施壟斷和不正當競爭行為。

對于數據，《辦法》要求生成式人工智能服務提供者依法開展預訓練、優化訓練等訓練數據處理活動；使用具有合法來源的數據；涉及個人信息的，服務提供者應依法承擔相關責任并履行義務。

而對于算力，《辦法》鼓勵生成式人工智能技術在各行業、各領域的創新應用，推動生成式人工智能基礎設施和公共訓練數據資源平臺建設，提升算力資源利用效能。

“《辦法》旨在保護個人和社會的權益，促進生成式人工智能的健康發展，同時防止濫用和歧視行為，確保公平和公正。”蘇萱指出。

不過，在蘇萱看來，由于人工智能技術的復雜性和快速發展，目前的監管治理體系可能存在一定局限性。

他認為，人工智能的發展速度極快，新的技術、應用和問題不斷出現。而法律法規的制定和修改過程通常較慢，可能難以及時適應技術的快速變化。

在應用落地后的監管實踐中，他指出，人工智能算法的復雜性和不透明性可能使監管變得困難。算法在設計、訓練和應用過程中可能產生的歧視、數據來源的合法性和數據使用的合規性等問題都亟待解決。

總體來看，作為顛覆性的新技術人工智能可能引發倫理和社會問題，就業問題、隱私問題、社會公正問題等。這類問題看法和觀點正不斷受到挑戰、發生變化，需要通過法律法規和社會廣泛討論形成一個共識。“未來的人工智能發展中，我們面臨挑戰遠不止提到的這三類問題，但同時也充滿了無限的機遇。只有各方共同努力，才能推動人工智能行業的健康發展。”蘇萱表示。

關鍵詞：