[ 華夏時報網 ]
華夏時報（公眾號：chinatimes）記者公培佳 上海報道
在 AlphaGo 一步步打敗世界圍棋冠軍、越來越多的機器人成為同事之後，人們不禁猜想，人工智能的超強大腦會不會最終在全領域戰勝人類？面對機器人中的 " 壞人 "，誰才是網絡安全的終極守護者？
並非危言聳聽，近年來，來勢洶洶的網絡勒索病毒再一次把 " 網絡安全 " 這個詞拉回到公眾視線中。2016 年初發現的 Petya 勒索病毒，最初隻是利用電子郵件傳播，其後不斷增強攻擊能力，2017 年已波及 60 個國傢和地區的約 30 萬用戶，令數傢企業被迫中斷業務或停止生產。網絡的飛速發展讓全世界聯系得更緊密，也讓每個終端的安全變得更脆弱。
" 在 AI 領域，我們有很大的風險，越來越多的系統是人工智能，受到更多攻擊的可能也在增大。"7 月 8 日在上海舉行的一期 " 理解未來 " 講座上，美國加州大學伯克利分校計算機系教授 Dawn Song 分享她在計算機深度學習和安全領域的研究成果時稱，人工智能與網絡安全的結合還是一個新興產業，計算安全領域還有很多尚未解決且具有挑戰性的問題需要人們不斷去探索和追尋答案。
作為當今全球頂尖的人工智能研究專傢，Dawn Song 在美國生活瞭 20 多年，盡管中文可順利交流，在分享學術成果時還是習慣用英文，她說為瞭表達一些科學術語用詞時 " 更清楚 "。
Dawn Song 對人工智能今天巨大的發展感嘆不已，她稱，"AlphaGo 最近打敗瞭人類，ImageNet 現在也是非常領先，這是一個計算機識別系統；另外還有深度學習，它已經是促進瞭我們生活的方方面面的發展，包括產品的研究、醫學研究等，比如深度學習可以用來識別乳腺癌細胞中的遊絲分裂，同時可以研究基因突變預防疾病，還可以用來改善安全方面的能力，包括人臉識別、欺詐檢測以及惡意軟件的檢測等。"
這次講座，Dawn Song 教授顯然不是要詳細闡述人 " 工智能的發展 "，此時此刻，她最擔憂的是深度學習和 AI 的另外一面——人工智能與安全。
人工智能遇到黑客襲擊的時候是怎樣的？之所以討論這一點，是因為 Dawn Song 研究發現，每一次互聯網技術的提升，都伴隨網絡攻擊的增加。如在互聯網開始之初，那個時候總共隻有 6 萬臺計算機，有一個學生當時制造的第一個病毒叫蠕蟲病毒，一下子感染瞭 6 萬臺計算機的 1/10；13 年後有瞭另外的一個病毒叫做 Code Red，感染瞭 2000 臺主機，使得全世界的很多電腦受到瞭攻擊；後來又出現瞭一個病毒叫做 Stuxnet，這個蠕蟲病毒也叫做超級工廠病毒，是針對工業控制系統編寫的破壞性病毒，它相應的攻擊性非常強，造成瞭大量的損害；今年一種叫 WannaCry 的病毒，則導致瞭 20 萬臺計算機中毒，影響瞭 150 個國傢。
" 互聯網還在不斷發展，它已經成為我們日常生活中很重要的一部分；同時，互聯網的攻擊也在不斷增加，可以看到，有許多病毒的攻擊變得越來越多樣化，也越來越嚴重。"Dawn Song 教授稱。
除此之外，Dawn Song 研究發現，網絡上的攻擊者也是不斷追隨新技術的發展腳步，甚至有時候是快於我們技術的發展，AI 領域不可避免地存在著很大的風險；加上 AI 系統越來越強，這也意味著有可能會被我們的攻擊者所濫用，結果也會越來越嚴重。
Dawn Song 以眼下風靡全球的無人駕駛汽車為例分析稱，無人駕駛汽車在路上行駛，就要去識別路邊的路牌才能夠決定以什麼速度、方向行駛，如果在 AI 系統世界裡，作瞭一個小小的修改，那麼識別出來的結果就會完全不一樣。" 作為人眼我們能夠識別一些區別，但如果是深度學習系統，可能就會犯一些錯誤，會進行一些錯誤的分類。"
人工智能目前仍存在著無法預知的漏洞，而微小對抗性的攻擊卻會把漏洞放大到無限。不過，正如互聯網的進步很多都是在打補丁時才躍升的一樣，Dawn Song 認為，隨著人工智能的進步，目前已發現的問題都會得到解決，而 AI 系統裡則會有新的漏洞不斷出現，相克相伴。
責任編輯：李明徽；主編：公培佳
查看更多華夏時報文章，參與華夏時報微信互動，公眾號：chinatimes
