生成式人工智能(以下簡稱AIGC,Artificial Intelligence Generated Content)作為人工智能領域的重要分支,在文本生成、圖像設計、音樂創(chuàng)作等領域都取得了突破性進展,國內大模型項目的數量呈井噴式增長的態(tài)勢,引發(fā)了各行各業(yè)的廣泛關注。技術的迅猛發(fā)展,也伴隨著安全和挑戰(zhàn)。

10月18日,由北京市科學技術協會指導,北京軟件和信息服務業(yè)協會主辦,北京人工智能產業(yè)聯盟人工智能安全專委會協辦的2023年首都學術資源開放共享沙龍“生成式人工智能應用及安全”專場活動于中關村知識產權大廈成功舉辦。活動邀請了人工智能領域的專家學者、產業(yè)和技術大咖分享其在AIGC研究和實踐中的經驗,探討AIGC應用的安全與合規(guī)、發(fā)展與治理、知識產權保護等話題,助力AIGC行業(yè)的健康與規(guī)范發(fā)展?；顒佑杀本┸浖托畔⒎諛I(yè)協會首席研究員倉劍主持。

北京軟件和信息服務業(yè)協會首席研究員倉劍

嘉賓演講

今年以來,圍繞AIGC的競賽愈加激烈,國內科技企業(yè)爭相進入了大模型賽道,據悉,北京市已有百余款大模型產品,占全國總量的一半左右。自8月15日起,《生成式人工智能服務管理暫行辦法》(以下簡稱“《暫行辦法》”)施行,對生成式人工智能進行專項監(jiān)管。8月底,北京首批五個大型模型備案,并陸續(xù)向公眾提供服務?！稌盒修k法》對于AIGC的提供者和使用者的影響和作用是什么?在主旨演講環(huán)節(jié),中國信通院產業(yè)與規(guī)劃所主任工程師王強對其重點內容進行了分享,他表示,促進AIGC健康發(fā)展和規(guī)范應用,是《生成式人工智能服務管理暫行辦法》的核心主旨,為此,《辦法》通過“劃定合規(guī)底線”、“采取有效措施鼓勵發(fā)展”、“采取更精細化監(jiān)管舉措”這三個層面推進落實。

中國信通院產業(yè)與規(guī)劃所主任工程師 王強

AIGC飛速發(fā)展,與此同時,虛假信息、學術倫理等安全合規(guī)的問題也引發(fā)了關注和熱議,中國政法大學教授、博士生導師、中國政法大學互聯網金融法律研究院院長李愛君以法學的視角圍繞“生成式人工智能安全合規(guī)”的主題進行了發(fā)言。她表示,生成式人工智能的安全合規(guī)的核心是數據安全合規(guī)和生成內容的合規(guī)。AIGC的發(fā)展過程中應充分發(fā)揮《數據二十條》中的原則和指導思想進而促進AIGC的健康發(fā)展。

中國政法大學教授、博士生導師、　中國政法大學互聯網金融法律研究院院長 李愛君

伴隨著大模型演進發(fā)展,AIGC內容的合規(guī)性要求也越發(fā)清晰,百度安全副總經理馮景輝圍繞大模型在訓練,部署,推理和運營的全生命周期內遇到的安全挑戰(zhàn),分別從數據清洗,敏感數據保護、業(yè)務風險控制和內容合規(guī)等多個角度介紹目前主要的風險類型,并貼合《生成式人工智能服務管理暫行辦法》及“生成式人工智能上線備案要求”等合規(guī)性規(guī)范,闡述了百度在構建大模型安全防線的最佳實踐。

百度安全副總經理 馮景輝

分享交流

在分享交流環(huán)節(jié),北京師范大學新聞傳播學院副教授劉茜、北京郵電大學計算機學院副教授張成文、國家工業(yè)信息安全發(fā)展研究中心人工智能所工程師王淼、中國科學院自動化研究所研究員趙曉光、華為戰(zhàn)略研究院AI治理產業(yè)發(fā)展首席專家柳嘉琪、騰訊安全內容安全總經理王翔、智譜AI安全負責人王笑塵、中科聞歌副總經理王璋盛、智源研究院數據智能研究中心趙波博士等十余位專家、學者、企業(yè)代表暢所欲言,碰撞思維的火花。圍繞AIGC在快速發(fā)展和不同場景應用落地的過程中所面臨的安全風險問題和應對措施進行了深入的交流和熱烈的討論。

活動尾聲

當前,AIGC的迅猛發(fā)展持續(xù)為各行各業(yè)帶來新變化,并不斷催生著新產業(yè)、新業(yè)態(tài)和新商業(yè)模式,培育了經濟發(fā)展的新動能。北京是我國人工智能行業(yè)發(fā)展的開拓先驅和創(chuàng)新高地,北京軟件與信息服務業(yè)協會基于數字驅動創(chuàng)新的發(fā)展模式,秉承“提供價值服務 促進產業(yè)發(fā)展”的宗旨,將為產、學、研、用各方搭建交流、場景開放、需求對接平臺,以推動人工智能產業(yè)的深度融合發(fā)展。

免責聲明：市場有風險，選擇需謹慎！此文僅供參考，不作買賣依據。

關鍵詞：