AI解鎖無(wú)人時(shí)代 仍需數據安全保駕護航

  ICC訊 近幾年，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數據安全、數據隱私等問(wèn)題廣受詬病。數據作為驅動(dòng)人工智能快速發(fā)展的重要基礎，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數據的安全治理帶來(lái)了新的機遇和挑戰。

  驗證碼登陸、移動(dòng)在線(xiàn)支付、人臉識別門(mén)禁……

  隨著(zhù)新一代信息技術(shù)的發(fā)展，互聯(lián)網(wǎng)和人工智能技術(shù)應用蓬勃發(fā)展，數據也被視為一種無(wú)形的資產(chǎn)。然而，技術(shù)是一把雙刃劍，在給我們生產(chǎn)生活帶來(lái)效率提升的同時(shí)，伴隨的安全問(wèn)題也不可忽視。

  近幾年，科技企業(yè)在推廣新一代信息技術(shù)產(chǎn)品時(shí)，數據安全、數據隱私等問(wèn)題廣受詬病。數據安全成為當今數字化轉型時(shí)代的關(guān)鍵緊迫議題。

  在7月8日至10日舉行的2021世界人工智能大會(huì )上，數據安全、數據治理、網(wǎng)絡(luò )安全等問(wèn)題備受關(guān)注。業(yè)界認為，在人工智能深入推進(jìn)城市數字化轉型過(guò)程中，企業(yè)應積極主動(dòng)接受監管，推動(dòng)產(chǎn)業(yè)健康持續發(fā)展。

  數據安全治理面臨新的機遇和挑戰

  近日，桔視記錄儀等25款App因存在嚴重違法違規收集使用個(gè)人信息問(wèn)題，被國家互聯(lián)網(wǎng)信息辦公室依據《中華人民共和國網(wǎng)絡(luò )安全法》相關(guān)規定，通知應用商店下架。

  此前，在上海車(chē)展特斯拉車(chē)主維權事件中，特斯拉公布了維權車(chē)主車(chē)輛事發(fā)前半小時(shí)的行車(chē)數據。該行為引發(fā)了眾多爭議：車(chē)企該不該將行車(chē)數據公開(kāi)？人們如何確定數據的可靠性？

  沒(méi)有大數據的收集和基礎，人工智能是無(wú)本之木。數據作為驅動(dòng)人工智能快速發(fā)展的重要基礎，其安全也決定了人工智能的安全。人工智能的加速發(fā)展給數據的安全治理帶來(lái)了新的機遇和挑戰。

  “大數據驅動(dòng)業(yè)務(wù)的開(kāi)展，讓數據安全對城市運轉變得前所未有的重要，數據一旦遭到攻擊，就意味著(zhù)業(yè)務(wù)會(huì )停轉，將造成嚴重的經(jīng)濟損失和社會(huì )后果?！?60公司創(chuàng )始人、董事長(cháng)兼CEO周鴻祎表示，最近幾年，360公司接到大量醫院的報警，稱(chēng)醫院網(wǎng)站被勒索軟件攻擊之后不能進(jìn)行手術(shù)，不能給病人掛號看病。

  近年來(lái)，城市也成為了網(wǎng)絡(luò )勒索的重要目標，而且網(wǎng)絡(luò )攻擊的對象不僅限于電腦、手機、設備、系統，還逐漸擴展到數據。人工智能數據的獲取、處理和應用具有極強的隱私性與領(lǐng)域擴展性，關(guān)乎個(gè)人信息安全甚至國家信息安全。對政府、城市公共事業(yè)單位的數據勒索，會(huì )造成城市運轉和服務(wù)陷入停擺。今年5月，美國最大的燃油輸送管線(xiàn)遭遇網(wǎng)絡(luò )攻擊被迫關(guān)停，導致美國東海岸45%的汽油、柴油等燃料供應受到影響。

  業(yè)界認為，針對上述情況，要讓人工智能技術(shù)的頭頂上高懸一把達摩克里斯之劍。

  數據輸入、分析等過(guò)程都存在相應風(fēng)險

  數據非法跨境流通可能危害國家主權和國家安全；數字信息的過(guò)度采集和非法使用，可能侵犯公民的權利和隱私；算法的偏好可能加劇社會(huì )的偏見(jiàn)或歧視，威脅公平正義；無(wú)人駕駛汽車(chē)緊急避險等智能決策可能威脅特定人群的生命……

  全國政協(xié)社會(huì )和法制委員會(huì )副主任陳智敏在人工智能大會(huì )安全高端對話(huà)上指出，人工智能發(fā)展與安全發(fā)展風(fēng)險同時(shí)并存，這不僅是一個(gè)技術(shù)問(wèn)題，也是一個(gè)安全問(wèn)題，同時(shí)還涉及倫理、法律和國際規則等相關(guān)問(wèn)題。

  國家工業(yè)信息安全發(fā)展研究中心副主任何小龍在人工智能大會(huì )上表示，人工智能帶來(lái)的數據安全問(wèn)題一方面加速了傳統數據安全問(wèn)題。

  人工智能大規模的運用使得過(guò)度采集數據安全問(wèn)題進(jìn)一步加劇。另一方面，也帶來(lái)了新型數據安全的問(wèn)題。人工智能的算法對數據具有較強的依賴(lài)性，可能會(huì )帶來(lái)數據投毒等新型數據安全挑戰。

  算法、模型和數據構成機器學(xué)習三大基石。騰訊朱雀實(shí)驗室首席AI安全專(zhuān)家朱季峰在人工智能大會(huì )主題論壇上表示，以算法構建過(guò)程中上下游的產(chǎn)業(yè)鏈來(lái)看，數據的輸入、數據的分析、模型的訓練、模型的決策、模型的上線(xiàn)部署應用以及模型的改造過(guò)程當中都存在相應的風(fēng)險。

  例如，在數據輸入環(huán)節，如果攻擊者控制了數據來(lái)源，或者攻擊者能夠對收集數據的設備本身產(chǎn)生安全攻擊，最終將通過(guò)這個(gè)鏈條影響到算法模型。如通過(guò)超聲波影響陀螺儀，最終可以使無(wú)人機墜落?；蛘咴谀Ｐ蜎Q策階段，可以通過(guò)物理攻擊，使得自動(dòng)駕駛車(chē)輛最終視覺(jué)識別系統出問(wèn)題，這樣可能影響車(chē)輛自動(dòng)行駛或者對行人的判斷。

  隨著(zhù)人工智能的應用，技術(shù)的濫用帶來(lái)失控風(fēng)險。驗證碼驗證機制首當其沖。朱季峰介紹，早在2017年，地下的黑產(chǎn)就已經(jīng)開(kāi)始用機器學(xué)習的方法做二維碼識別訓練。資料表明，80%以上驗證的準確性都可以通過(guò)機器學(xué)習算法自動(dòng)完成線(xiàn)上的注冊，這就產(chǎn)生了一系列的安全問(wèn)題。

  3大系統共筑數據安全防火墻

  人臉識別技術(shù)依托于對海量視圖數據的分析，因而數據安全直接影響著(zhù)人臉識別技術(shù)的實(shí)戰應用。人工智能技術(shù)在安防領(lǐng)域的應用是技術(shù)尋求落地進(jìn)程最快、應用最早的訓練場(chǎng)。

  達闥創(chuàng )始人、董事長(cháng)兼CEO黃曉慶表示，從數據采集到數據處理到數據傳輸，解決數據網(wǎng)絡(luò )安全問(wèn)題有很多手段。從網(wǎng)絡(luò )和數據角度要完成三個(gè)重要的任務(wù)——物理隔離、網(wǎng)絡(luò )隔離、應用端到端的保護。

  除了技術(shù)，我國利用法律武器在數據立法上也做出了探索。

  今年6月，我國頒布了《數據安全法》，9月1日將開(kāi)始正式實(shí)施?！?A href="http://joq5k4q.cn/site/CN/Search.aspx?page=1&keywords=%e6%95%b0%e6%8d%ae&column_id=ALL&station=%E5%85%A8%E9%83%A8" target="_blank">數據安全法》提出以數據分級分類(lèi)為核心，搭建數據安全的監管制度，要求強化落實(shí)各級數據處理活動(dòng)主體數據安全保護的義務(wù)與責任，為規范數據處理活動(dòng)，保障數據安全提供法律依據。另外，《個(gè)人信息保護法（草案）》也即將進(jìn)入三審階段，兩項法案相輔相成，推動(dòng)我國個(gè)人信息保護和數據安全治理進(jìn)入全新階段。

  在人工智能大會(huì )“大愛(ài)無(wú)疆·共生”論壇上，清華大學(xué)蘇世民書(shū)院院長(cháng)薛瀾回顧人工智能治理模式歷經(jīng)回應式治理、集中治理和敏捷治理三個(gè)階段?！艾F在我們進(jìn)入了相對比較集中的治理模式。該模式明確了國家加強行業(yè)監管，促進(jìn)制度落地的決心，對暴露出來(lái)的各種問(wèn)題采取比較堅決的措施落實(shí)監管規則，同時(shí)觸及到需要進(jìn)一步研究的問(wèn)題?！毖懻f(shuō)。

  目前，上海正研究立項公共場(chǎng)所人臉識別分級分類(lèi)應用規范的地方標準，將成為全國首個(gè)立項的人臉識別的地方性標準；開(kāi)展全市人工智能數據立法調研，規范數據確權，數據共享等重要內容，推動(dòng)可信人工智能的研究。上海市人大也正在起草《上海市數據條例》。

  此外，上海市數字證書(shū)認證中心、復旦大學(xué)計算機學(xué)院、上海交通大學(xué)電子信息與電氣工程學(xué)院、移動(dòng)互聯(lián)網(wǎng)系統與應用安全國家工程實(shí)驗室、上海賽博網(wǎng)絡(luò )安全產(chǎn)業(yè)創(chuàng )新研究院共同發(fā)起籌建數字身份與數據流通信任技術(shù)實(shí)驗室，該實(shí)驗室將基于數字信任技術(shù)的產(chǎn)學(xué)研生態(tài)合作，開(kāi)展隱私計算、區塊鏈、前沿密碼等數字信任技術(shù)攻關(guān)和產(chǎn)業(yè)應用，支撐城市數字化轉型、數據要素市場(chǎng)構建和網(wǎng)絡(luò )安全體系建設。

  記者獲悉，上海浦東新區將在數據資源共享、數據交易、數據開(kāi)發(fā)利用等方面進(jìn)行立法探索；臨港新片區將試點(diǎn)開(kāi)展企業(yè)法人數據的跨境流通的安全評估和服務(wù)監管，加強個(gè)人數據的全生命周期安全監控和防護。