我國首部人工智能產(chǎn)業(yè)專項(xiàng)立法——《深圳經(jīng)濟(jì)特區(qū)人工智能產(chǎn)業(yè)促進(jìn)條例》(下稱《條例》)于近日發(fā)布。9月5日，深圳市人大常委會(huì)官網(wǎng)公布了《條例》全文，這部法規(guī)將于11月起施行。

南都記者注意到，《條例》不但首次從法律層面明確人工智能及人工智能產(chǎn)業(yè)的界定，還創(chuàng)新性地規(guī)定市政府應(yīng)當(dāng)設(shè)立人工智能倫理委員會(huì)。目前國內(nèi)外人工智能倫理委員會(huì)主要由企業(yè)在內(nèi)部設(shè)立，由政府主導(dǎo)的十分罕見。

多位專家對(duì)南都記者表示，《條例》一方面對(duì)國內(nèi)其他地區(qū)乃至中央層面的人工智能立法有示范意義，另一方面跟國際上相關(guān)的法律政策框架接軌。其中探索由政府設(shè)立人工智能倫理委員會(huì)，將對(duì)產(chǎn)業(yè)起到示范、主導(dǎo)的作用，對(duì)于人工智能技術(shù)的社會(huì)影響和倫理問題可能會(huì)有更周全的考慮和更系統(tǒng)的調(diào)節(jié)機(jī)制。

*1*

首次從法律層面定義人工智能

當(dāng)下，人工智能已經(jīng)成為新一輪產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，是經(jīng)濟(jì)發(fā)展的新引擎，催生了許多新技術(shù)、新產(chǎn)品、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式，對(duì)加速傳統(tǒng)產(chǎn)業(yè)升級(jí)換代、重塑經(jīng)濟(jì)結(jié)構(gòu)、實(shí)現(xiàn)社會(huì)生產(chǎn)力整體躍升有著重要推動(dòng)作用。但截至目前，我國在國家層面尚無專項(xiàng)的人工智能產(chǎn)業(yè)立法。

2020年，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《深圳建設(shè)中國特色社會(huì)主義先行示范區(qū)綜合改革試點(diǎn)實(shí)施方案(2020-2025年)》，要求深圳在人工智能、無人駕駛、大數(shù)據(jù)、生物醫(yī)藥、醫(yī)療健康、信息服務(wù)等新興領(lǐng)域先行探索。通過經(jīng)濟(jì)特區(qū)立法方式在人工智能領(lǐng)域先行先試，正是深圳為落實(shí)上述方案走出的一大步。

為什么選中深圳?

中國社科院科技和社會(huì)研究中心主任段偉文認(rèn)為，深圳在探索經(jīng)濟(jì)發(fā)展和管理模式的過程中積累了本土化的經(jīng)驗(yàn)，涌現(xiàn)了一些本土的標(biāo)桿企業(yè)。“就科創(chuàng)方面而言，目前深圳在大灣區(qū)已經(jīng)有了龍頭作用。”他說，“如何利用好輻射至整個(gè)大灣區(qū)的影響力，對(duì)于深圳既是挑戰(zhàn)也是機(jī)遇。”

西南政法大學(xué)人工智能法教研室主任馮子軒則認(rèn)為深圳具備產(chǎn)業(yè)和立法兩方面的優(yōu)勢(shì)。“深圳產(chǎn)業(yè)優(yōu)勢(shì)非常突出的。它是經(jīng)濟(jì)特區(qū)，有產(chǎn)業(yè)集群，還有大量的應(yīng)用場(chǎng)景”，另一方面，廣東在相關(guān)領(lǐng)域政策制定和立法上積累深厚，尤其是近年來在大數(shù)據(jù)、數(shù)字政府等相關(guān)領(lǐng)域立法表現(xiàn)亮眼，走在全國前列。

《條例》共設(shè)七章七十三條，包括總則、基礎(chǔ)研究與技術(shù)開發(fā)、產(chǎn)業(yè)基礎(chǔ)設(shè)施建設(shè)、應(yīng)用場(chǎng)景拓展、促進(jìn)與保障、治理原則與措施、附則等七個(gè)方面。值得注意的是，《條例》首次從法律層面明確了人工智能及人工智能產(chǎn)業(yè)的界定。

其中人工智能是“利用計(jì)算機(jī)或者其控制的設(shè)備，通過感知環(huán)境、獲取知識(shí)、推導(dǎo)演繹等方法，對(duì)人類智能的模擬、延伸或擴(kuò)展”。

人工智能產(chǎn)業(yè)則指“與人工智能相關(guān)的軟硬件產(chǎn)品研究、開發(fā)和生產(chǎn)、系統(tǒng)應(yīng)用、集成服務(wù)等核心產(chǎn)業(yè)，以及人工智能在民生服務(wù)、社會(huì)治理、經(jīng)濟(jì)發(fā)展等領(lǐng)域融合應(yīng)用帶動(dòng)的相關(guān)產(chǎn)業(yè)”。

值得注意的是，《條例》規(guī)定深圳市工業(yè)和信息化部門為人工智能產(chǎn)業(yè)主管部門，負(fù)責(zé)實(shí)施、協(xié)調(diào)、督促本行政區(qū)域內(nèi)人工智能產(chǎn)業(yè)發(fā)展工作;市教育、財(cái)政、住建等十余個(gè)部門在各自職責(zé)范圍內(nèi)，負(fù)責(zé)人工智能產(chǎn)業(yè)發(fā)展相關(guān)工作。

中科院人工智能聯(lián)盟標(biāo)準(zhǔn)組成員吳焦蘇指出，人工智能作為計(jì)算機(jī)的高級(jí)階段，對(duì)社會(huì)的改造面“相當(dāng)寬”，漏了哪一個(gè)部門都可能使人工智能發(fā)展不順暢——“作為地方立法，這個(gè)做法是非常有意義的。”

“現(xiàn)在主流的想法是要加快人工智能技術(shù)在城市治理的方面的應(yīng)用”，但段偉文也提醒，如果要更廣泛地應(yīng)用人工智能技術(shù)，就要更加審慎地考慮到它可能造成的傷害，并且要有預(yù)防措施。

對(duì)于這部全國首個(gè)人工智能產(chǎn)業(yè)專項(xiàng)立法，馮子軒注意到，《條例》對(duì)一些涉人工智能的核心概念進(jìn)行了厘定，就人工智能應(yīng)用場(chǎng)景及產(chǎn)業(yè)發(fā)展經(jīng)驗(yàn)進(jìn)行了歸納，對(duì)于數(shù)據(jù)開放共享、算力算法和產(chǎn)業(yè)發(fā)展瓶頸等關(guān)鍵性問題都有破題。

因此，她認(rèn)為《條例》“對(duì)于兄弟省市的相關(guān)立法有一定啟發(fā)意義，也對(duì)將來中央層面的人工智能政策法律制定有所供給……該條例部分內(nèi)容還能跟國際法律政策框架接軌”。

在段偉文看來，除了目前在消費(fèi)端的應(yīng)用以外，人工智能技術(shù)在科技領(lǐng)域、城市治理等方面也有很廣泛的應(yīng)用前景。因此，《條例》有利于人工智能發(fā)揮其普遍的、泛在的賦能作用，不僅會(huì)推動(dòng)人工智能產(chǎn)業(yè)的發(fā)展，也會(huì)對(duì)城市管理等各個(gè)方面產(chǎn)生推動(dòng)作用。

*2*

公共事務(wù)部門應(yīng)率先使用人工智能產(chǎn)品和服務(wù)

上個(gè)月，科技部等六部門聯(lián)合印發(fā)《關(guān)于加快場(chǎng)景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見》，提出鼓勵(lì)算力平臺(tái)、共性技術(shù)平臺(tái)、行業(yè)訓(xùn)練數(shù)據(jù)集、仿真訓(xùn)練平臺(tái)等人工智能基礎(chǔ)設(shè)施資源開放共享，以及在確保數(shù)據(jù)安全的前提下，為人工智能典型應(yīng)用場(chǎng)景提供數(shù)據(jù)開放服務(wù)。

南都記者注意到，《條例》也有類似規(guī)定。具體來說，市政府應(yīng)建設(shè)公共數(shù)據(jù)開放平臺(tái)、建立人工智能應(yīng)用領(lǐng)域的公共數(shù)據(jù)共享目錄和共享規(guī)則，推動(dòng)公共數(shù)據(jù)分類分級(jí)有序開放;推動(dòng)人工智能領(lǐng)域數(shù)據(jù)的流通利用，促進(jìn)數(shù)據(jù)要素資源化、資產(chǎn)化、資本化發(fā)展;建立面向產(chǎn)業(yè)的算力算法開放平臺(tái)，推動(dòng)數(shù)據(jù)共享、算法匯聚及算力開放，培育共享協(xié)作的開源治理生態(tài)。

針對(duì)中央和地方均致力于推動(dòng)人工智能產(chǎn)業(yè)的數(shù)據(jù)開放共享，段偉文表示，當(dāng)前的人工智能主要是基于數(shù)據(jù)驅(qū)動(dòng)的智能，數(shù)據(jù)就意味著精度和競(jìng)爭優(yōu)勢(shì)，通過使用大量的數(shù)據(jù)來完善模型，就可以更好地做城市治理、預(yù)測(cè)產(chǎn)業(yè)發(fā)展趨勢(shì)，或者通過計(jì)算找到一些問題的最優(yōu)解。

不過，他也提到，以往在數(shù)據(jù)應(yīng)用中存在著“數(shù)據(jù)孤島”的現(xiàn)象，很多數(shù)據(jù)分屬于不同的部門、領(lǐng)域，在城市治理中無法做到數(shù)據(jù)互通。而在產(chǎn)業(yè)創(chuàng)新方面，現(xiàn)在的數(shù)據(jù)共享和開放程度還不夠，不能適應(yīng)推動(dòng)人工智能產(chǎn)業(yè)創(chuàng)新的需求。

《條例》還規(guī)定，本市國家機(jī)關(guān)、法律法規(guī)授權(quán)的具有管理公共事務(wù)職能的組織以及公共企事業(yè)單位應(yīng)當(dāng)率先使用人工智能產(chǎn)品和服務(wù)，推動(dòng)社會(huì)管理數(shù)字化、智能化。

“經(jīng)濟(jì)學(xué)里面一個(gè)概念叫公共品(public goods)。政府部門率先采用人工智能產(chǎn)品或服務(wù)，就會(huì)形成人工智能的公共品。”吳焦蘇說，在其他地方?jīng)]有人工智能公共品的前提下，深圳可能會(huì)有一個(gè)巨大的先發(fā)優(yōu)勢(shì)，使得這個(gè)公共品更容易被公眾所接受。

段偉文則提醒，政府部門采購人工智能產(chǎn)品和服務(wù)可以在很大程度上推動(dòng)相關(guān)產(chǎn)業(yè)的創(chuàng)新和發(fā)展，但同時(shí)也對(duì)這個(gè)產(chǎn)業(yè)提出了更高的要求——如果這個(gè)產(chǎn)品和服務(wù)的質(zhì)量不好，它的負(fù)面影響也會(huì)更為深遠(yuǎn)。

為了促進(jìn)人工智能產(chǎn)業(yè)發(fā)展，《條例》提出在資金、產(chǎn)業(yè)用地、人才等方面對(duì)人工智能產(chǎn)業(yè)予以支持。針對(duì)企業(yè)，推動(dòng)建設(shè)人工智能產(chǎn)業(yè)園區(qū)，探索建立寬松靈活的產(chǎn)業(yè)空間管理機(jī)制，對(duì)于符合條件的企業(yè)，合理確定開發(fā)強(qiáng)度和配套功能;針對(duì)高校，支持開設(shè)人工智能相關(guān)學(xué)科和交叉學(xué)科，鼓勵(lì)企業(yè)創(chuàng)辦研究機(jī)構(gòu)、與學(xué)校聯(lián)合建設(shè)實(shí)驗(yàn)室;針對(duì)引進(jìn)人才，在企業(yè)設(shè)立、項(xiàng)目申報(bào)和出入境、住房、外匯管理、醫(yī)療保障、子女就學(xué)等方面，按照有關(guān)規(guī)定享受深圳人才政策待遇。

另外，還要探索完善適應(yīng)人工智能產(chǎn)品和服務(wù)的專門性保險(xiǎn)賠償體系，為人工智能產(chǎn)品和服務(wù)提供全鏈條的保險(xiǎn)保障。對(duì)在人工智能基礎(chǔ)研究、關(guān)鍵核心技術(shù)攻關(guān)、科技成果推廣應(yīng)用等方面取得成果或者做出貢獻(xiàn)的個(gè)人、組織給予獎(jiǎng)勵(lì)。

*3*

由政府設(shè)立人工智能倫理委員會(huì)

作為有望引領(lǐng)未來變革的戰(zhàn)略性信息技術(shù)，人工智能在實(shí)現(xiàn)快速發(fā)展、廣泛應(yīng)用的同時(shí)，也帶來了安全、隱私、公平等諸多新問題、新挑戰(zhàn)。據(jù)悉，《條例》旨在通過特區(qū)立法有序規(guī)范深圳人工智能產(chǎn)業(yè)，先行探索人工智能社會(huì)治理的中國方案。

《條例》確立了人工智能治理國際公認(rèn)的和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開放協(xié)作、敏捷治理等八大治理原則，還提出建立和完善政府規(guī)范、行業(yè)自律、企業(yè)自治、社會(huì)監(jiān)督的人工智能治理機(jī)制，推動(dòng)形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，促進(jìn)產(chǎn)業(yè)多元主體協(xié)同共治。

南都記者注意到，《條例》首次從立法層面規(guī)定市政府應(yīng)設(shè)立人工智能倫理委員會(huì)，履行研究制定人工智能領(lǐng)域的倫理安全規(guī)范、發(fā)布人工智能倫理安全實(shí)踐指南等多項(xiàng)職責(zé)。公開資料顯示，目前設(shè)立人工智能倫理委員會(huì)的基本都是企業(yè)，比如國外的谷歌、微軟等大型科技企業(yè)，國內(nèi)的曠視也于2019年設(shè)立了人工智能道德委員會(huì)，但由政府設(shè)立的十分罕見。

在馮子軒看來，政府代表公共利益，倫理問題涉及一個(gè)社會(huì)的基本價(jià)值觀和底線問題，本身具備公共利益取向。“政府介入的方式多種多樣，深圳是創(chuàng)新性模式之一，”她說，“未來該機(jī)構(gòu)運(yùn)轉(zhuǎn)的過程當(dāng)中，我們要注意組織機(jī)構(gòu)設(shè)置、議事規(guī)則、專家構(gòu)成、公眾參與等關(guān)鍵問題，這是一個(gè)系統(tǒng)性的工作。”

“現(xiàn)在很多企業(yè)的人工智能倫理委員會(huì)其實(shí)很大程度上只是在展現(xiàn)一個(gè)姿態(tài)、一種承諾，在企業(yè)進(jìn)行技術(shù)研究、產(chǎn)品開發(fā)的過程中能否發(fā)揮實(shí)質(zhì)性作用還取決于具體的落實(shí)情況。但如果由政府來設(shè)立，就會(huì)有示范甚至主導(dǎo)的作用……對(duì)于人工智能技術(shù)的社會(huì)影響和倫理問題可能會(huì)有更周全的考慮和更系統(tǒng)的調(diào)節(jié)機(jī)制。”段偉文表示。

另一方面，他認(rèn)為由政府設(shè)立人工智能倫理委員會(huì)是政府承擔(dān)法律和倫理責(zé)任的體現(xiàn)。此外，人工智能是直接涉及人的技術(shù)，它的應(yīng)用過程中很重要的一點(diǎn)就是協(xié)調(diào)不同主體之間的利益關(guān)系，讓大家覺得這項(xiàng)技術(shù)可以被接受。“政府作為一個(gè)具有行政權(quán)力的主體，在這方面具備一定優(yōu)勢(shì)，也擔(dān)負(fù)著更大的責(zé)任。”

吳焦蘇也認(rèn)為，人工智能領(lǐng)域中，人工智能倫理作為推薦性社會(huì)標(biāo)準(zhǔn)，對(duì)于強(qiáng)制性社會(huì)標(biāo)準(zhǔn)——人工智能法律來說具有基礎(chǔ)性地位，是不能缺失的。他表示，人工智能倫理將來會(huì)形成全世界通用的國際標(biāo)準(zhǔn)。

《條例》還對(duì)公眾感知較深的算法、深度偽造等人工智能應(yīng)用提出了具體要求。比如對(duì)于公共決策領(lǐng)域以及涉及公共利益的商業(yè)領(lǐng)域的算法，提供人工智能產(chǎn)品和服務(wù)的組織或者個(gè)人應(yīng)當(dāng)采取利于公眾理解的方式進(jìn)行算法說明。開展人工智能研究和應(yīng)用活動(dòng)，不得利用算法技術(shù)根據(jù)用戶的習(xí)慣、偏好、支付能力實(shí)施價(jià)格歧視或者消費(fèi)欺詐等侵害消費(fèi)者權(quán)益的行為，也不得利用深度合成技術(shù)從事禁止行為。

《條例》還提到，深圳市政府及有關(guān)部門需根據(jù)人工智能應(yīng)用的風(fēng)險(xiǎn)等級(jí)、應(yīng)用場(chǎng)景、影響范圍等具體情境，實(shí)施分級(jí)、分類差異化監(jiān)管，完善人工智能領(lǐng)域監(jiān)管機(jī)制。據(jù)南都記者了解，深圳市政府將制定人工智能應(yīng)用分級(jí)分類監(jiān)管辦法。

關(guān)鍵詞： 人工智能產(chǎn)業(yè)專項(xiàng)立法 深圳人工智能產(chǎn)業(yè)立法 什么是人工智能 人工智能定義和范圍