日前，全國政協(xié)雙周協(xié)商座談會召開，關(guān)注人工智能發(fā)展中的科技倫理與法律規(guī)制——

引技術(shù)向善，馭智能之“火”

受新冠肺炎疫情影響，英國取消了A-levels考試(類似中國的高考)。英國教育部門同英國資格與考試監(jiān)督辦公室合作，決定使用算法自動生成學生的A-levels成績。算法估分方案出臺之后，由于考生認為所得分數(shù)不公，最終英國政府不得不叫停了這一方案，回到由各校教師提供預估成績來評定的方案。

英國算法估分方案被叫停，可以說是一次影響廣泛的對“算法”的對抗，從一定程度上說明人工智能并非萬能，算法也會“失算”。

注重技術(shù)與倫理的平衡，通過多元協(xié)同治理確保“人工智能向善”，逐漸成為社會關(guān)注的焦點和人工智能產(chǎn)業(yè)健康可持續(xù)發(fā)展的關(guān)鍵。

人工智能向善需要邁過幾道坎？

據(jù)報道，有上班族反映，公司給員工發(fā)了一批智能坐墊，結(jié)果沒幾天自己就被公司的人事部門“盯”上了，被質(zhì)問為什么某個時間段不在工位上。沒想到坐墊上的數(shù)據(jù)不只員工自己手機可看，人事部門也看得一清二楚。有網(wǎng)友評論，“代入感太強，已經(jīng)感到不適了”。

從公司智能坐墊、社區(qū)“刷臉”，到各類網(wǎng)站、手機App，個人信息泄露已經(jīng)成為普遍現(xiàn)象。雖然對此深惡痛絕，但個人想要切斷數(shù)據(jù)流，并沒那么容易。有人形容大數(shù)據(jù)時代的人為“有用的透明人”。人們每天有意無意地在互聯(lián)網(wǎng)上留下大量個人信息，人工智能技術(shù)將這些碎片化信息進行整合，并在不同算法模型中調(diào)用這些信息，從而創(chuàng)造出價值。

“加強隱私保護，應當是人工智能開發(fā)、應用中的倫理道德底線。”重慶醫(yī)科大學校長黃愛龍說。上海眾人智能科技有限公司董事長談劍鋒提到，尤其需要保護的是不可再生性數(shù)據(jù)，比如人臉、指紋、DNA等生物特征數(shù)據(jù)，以及個人醫(yī)療檔案數(shù)據(jù)等。這些數(shù)據(jù)具有唯一性，是無法更改的，一旦被采集到不安全的網(wǎng)絡(luò)上，極有可能帶來災難性后果。“必須提前設(shè)防，在使用規(guī)范上有更加嚴格的要求，防范各類風險。”

基于人工智能的發(fā)展特性，過于嚴苛的數(shù)據(jù)保護可能會阻礙其發(fā)展。如何兼顧數(shù)據(jù)保護和科技發(fā)展，是實現(xiàn)人工智能向善的第一道關(guān)卡。

人工智能的核心是數(shù)據(jù)與算法。眾所周知，算法正在以前所未有的速度滲透到我們的工作生活中，算法偏見、算法歧視也越來越被人們感受到。

算法偏見有其客觀原因，比如原始數(shù)據(jù)不完整或被污染;算法本身的局限性，有時算法過于復雜，難以及時發(fā)現(xiàn)其漏洞;設(shè)計者無意識的偏見或價值觀的偏差等。但算法的有意“歧視”更值得高度關(guān)注，比如那些進行大數(shù)據(jù)“殺熟”的商家、傾向于給男性推薦高薪崗位的招聘網(wǎng)站等。由于算法的不透明和難以理解，有時候人們很難看出其中的歧視屬性。因此很多人在毫不知情的情況下，承受著各種微妙的歧視和精準的不公。

如何通過技術(shù)升級和規(guī)范治理，最大程度消除算法偏見和歧視，是人工智能向善的又一道關(guān)卡。

除了數(shù)據(jù)保護和算法倫理，人工智能向善還應考慮人工智能發(fā)展可能帶來或已帶來的社會問題，比如如何緩解人工智能可能加劇的不平等現(xiàn)象、如何平衡人工智能的發(fā)展與失業(yè)問題、如何防范人工智能犯罪、如何應對人機交互式產(chǎn)品廣泛應用對人類情感體驗和家庭關(guān)系的沖擊等。

在中國社科院哲學所科學技術(shù)哲學研究室主任、研究員段偉文看來，對技術(shù)的倫理追問不應僅關(guān)注已存在的價值沖突或被動地等待倫理難題的出現(xiàn)，而應該積極地對其進行前瞻性評估，全面權(quán)衡可能的倫理影響。技術(shù)倫理審度的關(guān)鍵在于揭示技術(shù)對世界、社會和未來的建構(gòu)中固有的不透明性，不斷提高洞察新技術(shù)及其運作機制的能力，使其中可能存在的不確定性風險、不公正的情況乃至失控的危險得以及時納入倫理辨析與考量之中。

“以技制技”成為共識

2020年，針對用戶反映強烈的App違規(guī)收集與使用用戶個人信息等突出問題，工信部累計巡查了4.8萬余款App，專項檢查了200余款App。目前巡查App采用的還是人工和技術(shù)結(jié)合的方式，巡查數(shù)量有限，且存在漏洞。App監(jiān)管需要創(chuàng)新治理方式，加強技管結(jié)合，持續(xù)提升App技術(shù)檢測能力。

據(jù)悉，工信部正加快推進全國App技術(shù)檢測平臺建設(shè)，通過線上線下、聯(lián)防聯(lián)控體系建設(shè)，提升App自動化檢測和處理能力。同時，牽頭制定《App收集使用個人信息最小必要評估規(guī)范》等一系列標準，為規(guī)范信息采集行為提供技術(shù)準則。

在人工智能的治理與風險防范方面，法律規(guī)制必不可少，但實踐證明，光有法律不一定能起到應有的效果。就個人信息保護來說，立法正在逐步推進，但由于違法成本低、監(jiān)管難度大、個人維權(quán)難等，個人信息泄露的問題并沒有得到有效的解決。

為此，黃愛龍?zhí)岢鰳?gòu)建“制度+科技”的治理機制。“以技制技”，以科技的力量助推人工智能治理，是專家學者和業(yè)界人士的共識。

新興技術(shù)一般具有高度專業(yè)化的特點，人工智能更是如此。比如算法歧視的治理，最大的挑戰(zhàn)在于要搞懂算法并發(fā)現(xiàn)其潛在的歧視屬性。這就意味著，監(jiān)管部門需要提升理解、評估和治理算法歧視的能力，這對人才和技術(shù)都提出了很高的要求。

當前我國人工智能技術(shù)的應用已經(jīng)走在世界前列，傳統(tǒng)的事前監(jiān)管、行政命令等治理理念和方式已難以適應技術(shù)的快速迭代，各類應用場景快速涌現(xiàn)，也增加了發(fā)展的不確定性。人工智能發(fā)展如何公平地服務于人類的公共利益，不侵害人類社會的公平與正義，需要不斷創(chuàng)新治理方式。業(yè)界呼吁敏捷靈活的治理措施，立法和監(jiān)管都應把握合理的限度，要避免因矯枉過正而阻礙人工智能的創(chuàng)新發(fā)展。

不同國家之間人工智能相關(guān)標準的制定、開放平臺的搭建、合作共享框架的形成，對創(chuàng)新全球治理機制也提出了全新挑戰(zhàn)。全國政協(xié)社會和法制委員會副主任、公安部原副部長陳智敏認為，我國應立足先發(fā)優(yōu)勢，積極參與和引領(lǐng)人工智能治理國際規(guī)則制定，為構(gòu)建適應人類命運共同體安全發(fā)展需要的人工智能全球治理新規(guī)則新秩序新格局，貢獻中國智慧和中國方案。

用科技倫理確保人工智能正向應用

科幻作家阿瑟·克拉克曾在小說中寫道：“任何足夠先進的科技，都與魔法無異。”在人工智能技術(shù)高速發(fā)展的今天，我們的生活確實像被施了魔法一樣。但科技不是獨立于現(xiàn)實的烏托邦，科技能向善也能為惡。在全面增強人工智能技術(shù)創(chuàng)新能力的同時，構(gòu)建多部門協(xié)同、多學科融合、多元主體參與的治理框架和工作體系，已經(jīng)是十分緊迫的問題。

深度合成技術(shù)可能引發(fā)政治風險、個人信息可能被竊取倒賣引發(fā)刑事犯罪、“數(shù)據(jù)投毒”會導致人工智能系統(tǒng)誤判……陳智敏指出，應盡快建立數(shù)據(jù)安全保障、算法安全審查等制度，為人工智能發(fā)展形成正確價值導向和穩(wěn)定社會預期提供有力保障。

因人工智能的高度專業(yè)化、知識化和技術(shù)化，圈外人很難對其中的風險和不確定性進行準確判斷。為此，在科研人員中弘揚“科技向善”理念顯得尤為重要。在諸多專家學者和業(yè)界人士看來，人工智能治理離不開科技共同體內(nèi)部的風險預警和自我反思。

我國人工智能治理目前已得到高度重視，取得可喜進展。比如，成立由15個部門構(gòu)成的人工智能規(guī)劃推進辦公室，統(tǒng)籌推進包括人工智能治理在內(nèi)的任務落實;在科技創(chuàng)新2030—“新一代人工智能”重大項目中，組織開展人工智能倫理和立法問題研究等。上海正積極建設(shè)人工智能綜合性研究機構(gòu)，建設(shè)面向人工智能主流技術(shù)的算法評測標準體系和通用算法庫。同時，加快制定醫(yī)療重點領(lǐng)域人工智能產(chǎn)品和服務責任認定條例，開展人工智能產(chǎn)業(yè)發(fā)展監(jiān)管、人工智能數(shù)據(jù)安全等立法調(diào)研。

正如有網(wǎng)友寫道：“從鉆木取火的原始時代到計算機時代，人類一直走在學習科技、利用科技、掌控科技的路上，其間雖然走了一些彎路，但終究作出了一次次善的選擇，找到了正確的馭‘火’之術(shù)。”我們有理由相信，當人工智能科技倫理得到越來越多的關(guān)注和討論，構(gòu)建出一套行之有效的人工智能治理規(guī)則將不再遙遠。

關(guān)鍵詞： 人工智能 科技倫理