數(shù)字化轉(zhuǎn)型的大浪潮之下，人工智能、云計(jì)算、區(qū)塊鏈等新興技術(shù)發(fā)揮著重要作用。日新月異的發(fā)展背后，離不開(kāi)海量用戶(hù)數(shù)據(jù)，而這也引發(fā)了業(yè)內(nèi)對(duì)該類(lèi)技術(shù)安全性的新?lián)鷶_。6月7日，北京商報(bào)記者注意到，在人工智能領(lǐng)域，可信賴(lài)的人工智能(即“可信AI“)概念開(kāi)始興起?？尚臕I又將如何打破現(xiàn)階段技術(shù)的限制、兼顧用戶(hù)對(duì)數(shù)據(jù)安全保護(hù)的訴求，如何補(bǔ)齊算法短板突破安全難題?

可信AI打破數(shù)據(jù)孤島

北京商報(bào)記者多方了解到，可信AI實(shí)際上是通過(guò)底層技術(shù)框架解決人工智能應(yīng)用過(guò)程中可能存在的多類(lèi)問(wèn)題，由此建立可靠的人工智能生態(tài)。事實(shí)上，近年來(lái)，AI換臉被黑產(chǎn)盯上、買(mǎi)賣(mài)隱私信息等各類(lèi)圍繞用戶(hù)個(gè)人隱私數(shù)據(jù)產(chǎn)生的安全問(wèn)題屢見(jiàn)報(bào)端，公眾對(duì)于隱私保護(hù)、數(shù)據(jù)安全等問(wèn)題關(guān)注程度也在不斷提高。

在6月7日舉辦的2021全球人工智能技術(shù)大會(huì)可信AI專(zhuān)題論壇上，科技部高技術(shù)研究發(fā)展中心研究員、ACM中國(guó)理事會(huì)常務(wù)理事嵇智源指出，可信AI就是確保人工智能的公平性、可解釋性、健壯性和透明性，確保算法可被人信任。

針對(duì)這些亂象，一方面監(jiān)管頻頻出手，在用戶(hù)數(shù)據(jù)收集、使用方面做出明確要求，從法律層面為數(shù)據(jù)安全提供保障;另一方面，北京商報(bào)記者注意到，多家從事人工智能相關(guān)業(yè)務(wù)的科技公司針對(duì)構(gòu)建可信AI也在不斷推陳出新。

以同盾科技提出的“知識(shí)聯(lián)邦”為例，“知識(shí)聯(lián)邦”通過(guò)將數(shù)據(jù)轉(zhuǎn)化成為模型策略知識(shí)，再對(duì)分散的知識(shí)聚合，最終實(shí)現(xiàn)智能決策。同時(shí)，圍繞可信AI，同盾科技開(kāi)發(fā)了天啟智能開(kāi)放操作系統(tǒng)，并進(jìn)一步開(kāi)放了聯(lián)邦市場(chǎng)，提供數(shù)據(jù)商店、模型商店和應(yīng)用商店，方便數(shù)據(jù)生產(chǎn)要素的充分流通和使用。

同盾人工智能研究院院長(zhǎng)李曉林告訴北京商報(bào)記者，數(shù)據(jù)孤島是制約人工智能發(fā)展的重要阻礙，知識(shí)聯(lián)邦以更合規(guī)的方式來(lái)打破數(shù)據(jù)孤島，在利用數(shù)據(jù)的同時(shí)，做到保護(hù)數(shù)據(jù)隱私。“通過(guò)數(shù)據(jù)安全交換協(xié)議來(lái)有效利用多方的數(shù)據(jù)，進(jìn)行知識(shí)共創(chuàng)、共享和推理，實(shí)現(xiàn)數(shù)據(jù)可用不可見(jiàn)。”

隱私計(jì)算作為人工智能的底層支撐技術(shù)之一，其對(duì)于構(gòu)建可信AI也有貢獻(xiàn)。隱私計(jì)算全棧技術(shù)與基礎(chǔ)設(shè)施提供商星云Clustar于2021年4月發(fā)布了“星云隱私計(jì)算全棧解決方案”，進(jìn)一步幫助合作機(jī)構(gòu)實(shí)現(xiàn)數(shù)據(jù)安全共享與流通。

星云Clustar創(chuàng)始人陳凱指出，星云隱私計(jì)算平臺(tái)集成了主流隱私計(jì)算技術(shù)，包括聯(lián)邦學(xué)習(xí)、多方安全計(jì)算等，重點(diǎn)關(guān)注安全和效率問(wèn)題。以目前星云Clustar為某國(guó)有大型銀行構(gòu)建的全行級(jí)隱私計(jì)算平臺(tái)為例，星云Clustar結(jié)合該銀行需求進(jìn)行了定制化開(kāi)發(fā)，為其提供基于聯(lián)邦學(xué)習(xí)的多方安全建模平臺(tái)，幫助該銀行以“可用不可見(jiàn)”的方式打通全行內(nèi)外部的數(shù)據(jù)共享，優(yōu)化流程標(biāo)準(zhǔn)與降低管理成本，充分盤(pán)活了不同業(yè)務(wù)板塊的數(shù)據(jù)價(jià)值，也為該銀行未來(lái)進(jìn)行數(shù)據(jù)開(kāi)放提供了技術(shù)基礎(chǔ)。

在冰鑒科技研究院高級(jí)研究員王詩(shī)強(qiáng)看來(lái)，人工智能是基于“大數(shù)據(jù)+算法”得出的技術(shù)結(jié)論，這一結(jié)論在落地過(guò)程中是否值得相信、是否能產(chǎn)生長(zhǎng)期的正面影響有待考量，可信AI實(shí)際上是為規(guī)范人工智能發(fā)展提出的自律性要求。

蘇寧金融研究院金融科技研究中心主任孫揚(yáng)則進(jìn)一步表示，從當(dāng)前行業(yè)現(xiàn)狀來(lái)看，違規(guī)采集、使用用戶(hù)數(shù)據(jù)等問(wèn)題依舊頻發(fā)，人工智能的安全性、可靠性與可信性都需要增強(qiáng)，打破數(shù)據(jù)孤島過(guò)程中如何防止技術(shù)公司濫用數(shù)據(jù)優(yōu)勢(shì)，也向技術(shù)公司提出了更高的數(shù)據(jù)使用要求。

金融領(lǐng)域仍是主戰(zhàn)場(chǎng)

隨著技術(shù)的不斷發(fā)展，人工智能技術(shù)在金融、醫(yī)療、教育等眾多行業(yè)中找到落地場(chǎng)景。北京商報(bào)記者了解到，由于涉及到多類(lèi)用戶(hù)信息，金融領(lǐng)域場(chǎng)景尤為火熱。多位人工智能行業(yè)從業(yè)者也向北京商報(bào)記者坦言，金融領(lǐng)域當(dāng)前仍是最主要的“戰(zhàn)場(chǎng)”，人工智能在風(fēng)控、投顧、營(yíng)銷(xiāo)、理賠等方面發(fā)揮了突出作用。

對(duì)于傳統(tǒng)信貸業(yè)務(wù)投入產(chǎn)出不對(duì)等或者無(wú)法進(jìn)行風(fēng)險(xiǎn)評(píng)估等情況，人工智能技術(shù)可以幫助銀行等金融機(jī)構(gòu)識(shí)別風(fēng)險(xiǎn)客戶(hù)，降低逾期率，線上化的金融業(yè)務(wù)也更為便利。“在風(fēng)險(xiǎn)可控的情況下，更多長(zhǎng)尾客戶(hù)獲得金融服務(wù)，對(duì)于普通用戶(hù)來(lái)說(shuō)，這也是可信AI的體現(xiàn)方式之一。”王詩(shī)強(qiáng)表示。

除了助力傳統(tǒng)金融機(jī)構(gòu)轉(zhuǎn)型外，人工智能在防控金融風(fēng)險(xiǎn)方面發(fā)揮著重要作用，并進(jìn)一步開(kāi)始向監(jiān)管科技領(lǐng)域拓展。北京商報(bào)記者梳理發(fā)現(xiàn)，在多個(gè)試點(diǎn)城市披露的金融科技創(chuàng)新監(jiān)管應(yīng)用中，也大量出現(xiàn)了人工智能的身影。

廣州于6月4日公示的第二批4個(gè)創(chuàng)新應(yīng)用中，便包括“基于知識(shí)圖譜技術(shù)的風(fēng)險(xiǎn)交易預(yù)警服務(wù)”“基于知識(shí)圖譜的外匯違法違規(guī)風(fēng)險(xiǎn)行為識(shí)別應(yīng)用”等產(chǎn)品。通過(guò)聚焦大數(shù)據(jù)、人工智能、區(qū)塊鏈等前沿技術(shù)，進(jìn)一步增強(qiáng)金融監(jiān)管的專(zhuān)業(yè)性與傳統(tǒng)性。

孫揚(yáng)指出，在金融領(lǐng)域的相關(guān)活動(dòng)中，金融機(jī)構(gòu)應(yīng)用科技分析數(shù)據(jù)、科技公司通過(guò)技術(shù)獲取數(shù)據(jù)，都要保持穿透式的監(jiān)管。在監(jiān)管科技方面，可以利用聯(lián)邦學(xué)習(xí)、知識(shí)圖譜、區(qū)塊鏈、物聯(lián)網(wǎng)金融等技術(shù)來(lái)實(shí)現(xiàn)金融活動(dòng)監(jiān)管。比如物聯(lián)網(wǎng)金融用于供應(yīng)鏈金融，區(qū)塊鏈用于反洗錢(qián)，知識(shí)圖譜用于貸款中介識(shí)別等。

此外，有從業(yè)機(jī)構(gòu)負(fù)責(zé)人向北京商報(bào)記者透露，在通過(guò)可信AI強(qiáng)化監(jiān)管科技方面也在發(fā)力，例如在自主研發(fā)的系統(tǒng)中嵌入監(jiān)管中心使用板塊，便于監(jiān)管層對(duì)體系內(nèi)金融機(jī)構(gòu)處理用戶(hù)數(shù)據(jù)是否違規(guī)等行為進(jìn)行管控，但目前相關(guān)板塊業(yè)務(wù)仍處于完善調(diào)整階段。

防止矯枉過(guò)正

值得一提的是，可信AI發(fā)展的過(guò)程同樣面臨難題。李曉林直言，在同盾知識(shí)聯(lián)邦體系中，如何確立一個(gè)可信的第三方充當(dāng)合格的協(xié)調(diào)者和監(jiān)管者，如何完善各參與方的激勵(lì)方式，激發(fā)各方的積極性和配合度等問(wèn)題，仍需要進(jìn)一步克服。

“人工智能技術(shù)不斷更新?lián)Q代，可信AI是針對(duì)可能出現(xiàn)的安全問(wèn)題構(gòu)建的新防線，”王詩(shī)強(qiáng)認(rèn)為，除了發(fā)展可信AI所面臨的問(wèn)題外，可信AI越成熟，也意味著技術(shù)對(duì)數(shù)據(jù)分析等各方面能力越高，也越可能出現(xiàn)更為精準(zhǔn)的大數(shù)據(jù)殺熟、價(jià)格歧視等矯枉過(guò)正的情況。部分企業(yè)甚至可能出現(xiàn)過(guò)分追求先進(jìn)技術(shù)，在實(shí)際落地過(guò)程中忽略了安全、隱私等問(wèn)題。

王詩(shī)強(qiáng)表示，人工智能技術(shù)是一把雙刃劍，需要小心對(duì)待，規(guī)范其發(fā)展進(jìn)步需要企業(yè)與監(jiān)管等多方合力。監(jiān)管部門(mén)要制定合適的政策標(biāo)準(zhǔn)，及時(shí)處理負(fù)面的技術(shù)創(chuàng)新，以良幣驅(qū)逐劣幣，要加強(qiáng)違法處置力度，對(duì)于違法行為進(jìn)行懲罰、震懾;企業(yè)則要守住道德底線，加強(qiáng)自律，將數(shù)據(jù)安全放在首位，最終保證技術(shù)服務(wù)社會(huì)并創(chuàng)造價(jià)值。

“相關(guān)機(jī)構(gòu)都應(yīng)該嚴(yán)格遵守監(jiān)管框架，確保不侵犯消費(fèi)者的權(quán)益，確保提供給消費(fèi)者的業(yè)務(wù)是可信的、安全的、符合倫理的。切忌以科技之名，侵犯用戶(hù)的數(shù)據(jù)和隱私權(quán)力。”孫揚(yáng)補(bǔ)充道。

(北京商報(bào)記者 岳品瑜 廖蒙)

關(guān)鍵詞： 可信AI 算法短板 隱私泄露 安全難題