行(xíng)業新(xīn)聞

疫情下AI應用(yòng)落地(dì)加速 避免“算法獨裁”需要中國方案

疫情下AI應用(yòng)落地(dì)加速 避免“算法獨裁”需要中國方案

立法機構的(de)決定、司(sī)法機構的(de)判斷、行(xíng)政機構的(de)具體處分行(xíng)為(wèi)都需要給出明确的(de)理(lǐ)由，以便據此防止主觀任意性。如果人工智能進行(xíng)的(de)預測、提供的(de)結論無法說(shuō)明其理(lǐ)由，就無異于用(yòng)“莫須有”的(de)名義來做(zuò)出決定。] 全球疫情之下，大數(shù)據和人工智能技術在(zài)實際場景中加速落地(dì)。不(bù)可否認，人工智能在(zài)抗擊疫情和複工複産等多個(gè)領域都發揮了關鍵作用(yòng)，但(dàn)技術蓬勃發展帶來的(de)法治挑戰也在(zài)相應增加。 上海交通大學(xué)文科(kē)資(zī)深教授、中國法與社會(huì)研究院院長(cháng)季衛東對第一财經記者表示，疫情防控加快了數(shù)字經濟的(de)發展和社會(huì)治理(lǐ)方式的(de)轉型。然而，人工智能對海量數(shù)據的(de)渴望和吞吐，正在(zài)沖擊個(gè)人隐私和信息處分權，在(zài)一定程度上給現代法治體制帶來挑戰。 “特别是電腦的(de)網絡化(huà)(huà)和算法的(de)黑(hēi)箱化(huà)(huà)，導緻因果關系難以确認和說(shuō)明，勢必動搖責任政府和問責原則的(de)基礎，助長(cháng)某種‘機器(qì)官僚主義’的(de)傾向。”他(tā)提出，必須及時對人工智能治理(lǐ)以及相關的(de)法律問題進行(xíng)深入分析，從理(lǐ)論和實踐兩個(gè)方面提出中國方案。 便利性的(de)代價 一方面是人工智能應用(yòng)落地(dì)加速，帶來生産效率和生活品質提升；另一方面是這(zhè)些便利性帶來犧牲隐私、冒犯人格等代價，引起了越來越多個(gè)人和企業的(de)重視(shì)。 6月8日，IBM公司(sī)CEO克裡(lǐ)什納宣布IBM退出人臉識别業務(wù)；6月10日，亞馬遜暫時禁止向美國警察提供人臉識别技術，禁令将持續一年；6月11日，微軟禁止将人臉識别技術銷售給警方；而早在(zài)今年初，ClearviewAI公司(sī)就遭遇重大數(shù)據洩露，30億張人臉數(shù)據被洩露，引發美國社會(huì)的(de)巨大擔憂。 季衛東表示，我(wǒ)國根據海量圖像數(shù)據進行(xíng)人工智能研究的(de)績效的(de)确非常突出，已經達到世界頂級水(shuǐ)平。 “這(zhè)使得人工智能系統的(de)深度學(xué)習能力超強，并能把有關成果迅速應用(yòng)于經濟和社會(huì)治理(lǐ)的(de)各個(gè)方面。”在(zài)季衛東看來，不(bù)斷進化(huà)(huà)的(de)電子(zi)計(jì)算機也有可能在(zài)相當程度上以算法獨裁（Algocracy）的(de)方式限制甚至剝奪個(gè)人的(de)自由，以效率、便利、娛樂等不(bù)同誘因促使人們不(bù)斷放棄既有的(de)基本權利。 季衛東解釋，在(zài)無法理(lǐ)解和無法說(shuō)明的(de)場合，算法就是黑(hēi)箱化(huà)(huà)的(de)。 “要求人類介入和監控人工智能的(de)運作，當然是要确保人工智能的(de)可控性，但(dàn)信息處理(lǐ)系統越複雜就越容易出現操作的(de)失誤，當系統運作速度極快時，人也很難對情況進行(xíng)認識、預測以及掌握。”他(tā)表示，系統與系統之間還會(huì)産生目的(de)沖突和互動，在(zài)機器(qì)學(xué)習甚至深度學(xué)習的(de)情況下，不(bù)同人工智能系統之間的(de)互動關系将變得複雜且變幻莫測。 可以說(shuō)，機器(qì)學(xué)習的(de)效果越精準、深度學(xué)習的(de)功能越強大，算法的(de)涵義就會(huì)變得越來越難以理(lǐ)解和說(shuō)明。中國圍棋棋手柯潔與AlphaGo對弈失利，就是例證之一。 季衛東認為(wèi)，這(zhè)樣的(de)算法黑(hēi)箱化(huà)(huà)，讓人工智能具備了近(jìn)乎不(bù)受約束的(de)權力性。立法機構的(de)決定、司(sī)法機構的(de)判斷、行(xíng)政機構的(de)具體處分行(xíng)為(wèi)都需要給出明确的(de)理(lǐ)由，以便據此防止主觀任意性，給相對人申訴和複議(yì)的(de)機會(huì)。如果人工智能進行(xíng)的(de)預測、提供的(de)結論無法說(shuō)明其理(lǐ)由，就無異于用(yòng)“莫須有”的(de)名義來做(zuò)出決定。 一方面，在(zài)很多應用(yòng)場景下，人工智能很難被人類有效監控，反而容易成為(wèi)人類轉嫁決策風險、逃避問責的(de)重要手段；一方面，應用(yòng)人工智能對大數(shù)據進行(xíng)分析和學(xué)習，可以充分掌握社會(huì)心理(lǐ)和輿情的(de)變化(huà)(huà)，對不(bù)同群體以及個(gè)人的(de)行(xíng)為(wèi)進行(xíng)精準的(de)預測。那麼，一旦不(bù)能相應提高(gāo)民主問責的(de)水(shuǐ)準，權力濫用(yòng)的(de)風險将加劇。 中國社科(kē)院知識産權中心研究員楊延超告訴第一财經記者，未來的(de)社會(huì)必須設立一個(gè)裁判機構，即算法裁判。“當算法決定人自由的(de)時候，算法本身(shēn)要接受制約。”他(tā)提出，對于算法的(de)審查，需要一個(gè)由專業且綜合型人才組成的(de)機構來完成，但(dàn)這(zhè)樣的(de)人才，目前是相當缺乏的(de)。 需要中國方案 楊延超表示，人工智能帶給傳統法律體系的(de)挑戰是颠覆性的(de)，比如交通法，“從智能駕駛過渡到無人駕駛，現有交通法可能一條都用(yòng)不(bù)了”。因為(wèi)現有交通法遵循的(de)是過錯責任原則，但(dàn)在(zài)無人駕駛時代，沒有駕照(zhào)的(de)人也能“開車”，這(zhè)就進入了從人的(de)過錯到産品質量的(de)叠代時期，整個(gè)交通法都要重新(xīn)制定。 同樣的(de)，随著(zhe)越來越多機器(qì)人開始參與文學(xué)作品的(de)創作，現有的(de)知識産權法也不(bù)再适用(yòng)。“現在(zài)的(de)法律總體處于觀望和個(gè)案解決的(de)階段。人類意識到了人工智能技術帶來的(de)颠覆性，但(dàn)颠覆的(de)程度和速度還不(bù)得而知，因為(wèi)技術本身(shēn)尚處于發展階段。隻能遇到問題逐個(gè)解決，不(bù)斷總結後形成規則。”楊延超說(shuō)。 針對人工智能帶來的(de)挑戰，我(wǒ)國剛通過的(de)《民法典》特别設立人格權編，加強對個(gè)人信息安全和隐私的(de)保護。個(gè)人信息保護法、數(shù)據安全法草案也在(zài)全國人大常委會(huì)第二十次會(huì)議(yì)上進行(xíng)了初審。 楊延超認為(wèi)，目前的(de)這(zhè)些立法，技術和可操作性還有待加強，很難解決新(xīn)興的(de)具體問題。因此，做(zuò)好(hǎo)(hǎo)立法準備的(de)同時，需要加強對于人工智能的(de)管理(lǐ)，在(zài)政府管理(lǐ)層逐步形成專業的(de)管理(lǐ)機構，不(bù)斷細化(huà)(huà)和完善現有規則。 季衛東也表示，這(zhè)些規定在(zài)實施中勢必會(huì)遇到包括上述難題在(zài)內(nèi)的(de)考驗。這(zhè)讓中國方案的(de)出台尤為(wèi)重要。 在(zài)将于7月9日開幕的(de)2020世界人工智能大會(huì)上，季衛東将正式新(xīn)增一個(gè)身(shēn)份——上海交通大學(xué)人工智能治理(lǐ)與法律研究中心（下稱“研究中心”）主任。作為(wèi)全國首家側重研究人工智能治理(lǐ)以及相關法律問題的(de)機構，該研究中心将在(zài)這(zhè)場雲端峰會(huì)的(de)法治論壇上揭牌成立。在(zài)世界人工智能大會(huì)上，關于法治的(de)讨論從未停止。2018年的(de)人工智能與法治高(gāo)端研讨會(huì)、2019年的(de)世界人工智能大會(huì)法治論壇，均在(zài)大會(huì)期間取得了一定的(de)學(xué)術成果。今年，法治論壇将升級成為(wèi)大會(huì)的(de)“主題論壇”之一，以“人工智能的(de)權利義務(wù)與法治實踐”，就構建AI法治、推動人工智能與法治深度融合等問題進行(xíng)探讨。 繼去年發布《世界人工智能法治藍皮書(shū)2019》後，今年的(de)論壇還将發布“人工智能法治發展指數(shù)”和《世界人工智能法治藍皮書(shū)2020》。 楊延超提出，人工智能的(de)挑戰是世界性的(de)，尤其在(zài)算法和數(shù)據共享等方面，是整個(gè)人類社會(huì)面臨的(de)共性問題。我(wǒ)們需要根據國情來提出思路(lù)，同時也可以借鑒國外已有的(de)相對成熟的(de)法案，做(zuò)好(hǎo)(hǎo)立法準備。 “我(wǒ)國人工智能領域綜合型人才儲備不(bù)足，導緻了人工智能領域發展速度快，但(dàn)立法準備速度慢的(de)現狀。”他(tā)補充說(shuō)，目前國內(nèi)高(gāo)校已逐步開始推進人才培養轉型，未來将更加重視(shì)新(xīn)型人才的(de)培養。

2020-07-23

< 1 >