機器學習算法能改進安全解決方案，幫助人類分析師更快地分類威脅和修補漏洞。但同時，黑客也能利用機器學習發(fā)起更大更復雜的攻擊。

機器學習被定義為“計算機未經(jīng)顯式編程情況下的學習能力”，是信息安全行業(yè)的一大福音。從惡意軟件到日志分析，再到早期漏洞發(fā)現(xiàn)與修復，安全分析師可從機器學習中獲益良多?；蛟S，該技術也能提升終端安全，自動化重復性任務，甚至降低數(shù)據(jù)泄露的發(fā)生率。

于是，人們很自然地認為，這些智能安全解決方案會比傳統(tǒng)遺留工具更快地發(fā)現(xiàn)并阻止下一波WannaCry攻擊。人工智能和機器學習尚屬新生領域，但無疑指明了未來的方向，將極大地改變安全運營方式。

現(xiàn)下數(shù)據(jù)和App爆炸式增長，除非運用建立在AI基礎上的自動化系統(tǒng)，否則我們將無法分析這海量的網(wǎng)絡流量和用戶交互活動，安全也就淪為空談了。

然而問題在于，黑客也知道這些技術，也想打造自己的AI和機器學習工具來發(fā)起攻擊。

網(wǎng)絡罪犯是怎么利用機器學習的？

有組織犯罪越來越多，暗網(wǎng)上也出現(xiàn)了各種各樣的黑客服務，網(wǎng)絡罪犯們的創(chuàng)新速度令安全防御追趕不及。于是，像機器學習和深度學習這樣的新興技術就頗為令人擔憂了，畢竟，技術就在那里，誰都能用。

盡管機器學習、深度學習和AI之類技術可能是未來網(wǎng)絡防御的基石，但網(wǎng)絡罪犯們圍繞這些技術的實現(xiàn)和創(chuàng)新可謂勁頭十足，絲毫不比安全界差。網(wǎng)絡安全領域中，經(jīng)技術放大的人類智慧，將成為攻防競賽中的制勝因素。

或許，未來真的會出現(xiàn) AI vs AI 的景象——《終結者》風格的。在攻擊者越來越能有效探索被攻破網(wǎng)絡的大背景下，今年可能就是我們在網(wǎng)絡安全領域見證 AI vs AI 的第一年。安全提供商肩上的擔子更重了，他們必須要能打造出更自動化更智能的解決方案。

自治響應是網(wǎng)絡安全的未來。算法應能采取明智且有針對性的緩解動作，減緩甚或阻止正在進行中的攻擊，同時又不影響正常業(yè)務活動的開展。

當前，野生的機器學習攻擊尚未見諸報端，但犯罪團伙已經(jīng)開始利用某些技術了。

1. 殺軟規(guī)避功能更強的惡意軟件

網(wǎng)絡罪犯們的惡意軟件創(chuàng)建工作很大程度上是手工作坊式的。他們編寫腳本制作計算機病毒和木馬，利用Rootkit、口令刮取器、鍵盤記錄器等工具輔助病毒和木馬的傳播與執(zhí)行。

如果他們能加速這一過程會有什么后果呢？機器學習可以用來輔助創(chuàng)建惡意軟件嗎？

用機器學習創(chuàng)建惡意軟件的首個例子出現(xiàn)在2017年，是在一篇題為《為基于GAN的黑盒測試產生敵對惡意軟件樣本》的報告中提出的。報告作者編寫了一個基于生成性敵對網(wǎng)絡(GAN)的算法來產生敵對惡意軟件樣本，這些樣本甚至能繞過基于機器學習的檢測系統(tǒng)。

同樣是在2017年，DEFCON大會上，安全公司Endgame利用馬斯克的OpenAI框架創(chuàng)建出定制惡意軟件，安全引擎對這些AI惡意軟件視而不見。Endgame是通過修改惡意二進制文件的某些部分來騙過殺毒引擎的，修改后的代碼看起來無害而可信。

其他研究人員則預測，機器學習最終將能基于實驗室檢測的方法和結果來實時修改代碼。這基本算是多態(tài)惡意軟件的擴展。

2. 智能僵尸網(wǎng)絡用于可擴展的攻擊

安全公司飛塔認為，2018年將是“蜂巢網(wǎng)絡”(hivenets)和“機器人集群”(swarmbots)之類自學習系統(tǒng)年，“智能”IoT設備可被用于發(fā)起大規(guī)模網(wǎng)絡攻擊。這些設備將能相互通信，并基于共享的本地情報采取行動。另外，僵尸主機也會變得更聰明，不用其控制者顯式干預即可自行執(zhí)行命令。因此，蜂巢網(wǎng)絡將會像蜂群一樣呈指數(shù)級增長，極大增強其同時攻擊多個受害者的能力，并大幅阻礙緩解及響應措施。

有趣的是，這些攻擊并沒有利用集群技術，蜂巢網(wǎng)絡并沒有能夠從其以往行為中自行學習。作為AI的分支，集群技術被定義為“去中心化自組織系統(tǒng)的自然或人工的群體行為”，如今已經(jīng)應用在無人機和新興機器人設備中。

3. 高級魚叉式網(wǎng)絡釣魚變得更聰明

機器學習的惡意用途中一個較為明顯的方面，是用語音朗讀、語音識別和自然語言處理(NLP)之類的算法進行更智能化的社會工程攻擊。畢竟，通過遞歸神經(jīng)網(wǎng)絡，人類已經(jīng)能教此類軟件寫文章了，所以在理論上，網(wǎng)絡釣魚郵件也是可以變得更復雜巧妙而可信的。

尤其是，機器學習能令高級魚叉式網(wǎng)絡釣魚郵件更針對那些位高權重的人士，而且能自動化整個釣魚過程?？梢杂谜鎸嵿]件來訓練這些系統(tǒng)，讓它們學會產生看起來令人信服的郵件。

邁克菲實驗室的2017預測中曾說，網(wǎng)絡罪犯將會更多地利用機器學習來分析大量被盜數(shù)據(jù)記錄，識別出潛在受害者，編寫出語境豐富、說服力強的釣魚郵件。

另外，2016年的美國黑帽大會上，研究人員提交了一篇題為《武器化數(shù)據(jù)科學的社會工程應用：在推特上自動化E2E魚叉式網(wǎng)絡釣魚》的論文，其中展示了一個可以學習向目標用戶發(fā)送釣魚推文的回歸神經(jīng)網(wǎng)絡。論文中名為SNAP_R的神經(jīng)網(wǎng)絡經(jīng)魚叉式網(wǎng)絡釣魚滲透測試數(shù)據(jù)訓練后，可動態(tài)運用從目標用戶及其關注用戶處按時間軸抽取的推文主題，來構造出更加可信的社會工程攻擊，增加惡意鏈接的被點擊率。

該系統(tǒng)相當有效。在涉及90名用戶的測試中，此框架成功率在30%到60%之間，相比人工魚叉式網(wǎng)絡釣魚和群發(fā)網(wǎng)絡釣魚郵件可謂有了長足進步。

4. 威脅情報失去控制

涉及機器學習，威脅情報也算是禍福兼有的事物吧。一方面，在誤報橫行的時代，機器學習系統(tǒng)可幫助分析師識別出多個系統(tǒng)中的真正威脅。

機器學習帶給威脅情報的主要好處有二：

? 第一，海量數(shù)據(jù)的處理和結構化，包括其間復雜關系的分析，是僅靠人力幾乎無法解決的問題，而給人輔以機器的處理能力，意味著分析師可以更有效地識別并響應新興威脅；

? 第二，自動化可以將沒什么技術含量的瑣碎工作批量完成，極大增加分析師能處理的事務數(shù)量。

但是，網(wǎng)絡罪犯也會快速適應，簡單地再次過載警報即可。邁克菲CTO格羅布曼曾指出過一種被稱為“提升噪音地板”的技術。黑客將使用該技術通過產生大量誤報來讓機器學習模型習以為常。而一旦目標將自身系統(tǒng)重新調整到略過這些誤報，攻擊者就可發(fā)起能逃過該機器學習系統(tǒng)的真正攻擊。

5. 未授權訪問

早在2012年，就出現(xiàn)了在安全攻擊中應用機器學習的案例。3名研究人員使用支持向量機(SVM)攻破了reCAPTCHA驗證碼系統(tǒng)，準確率高達82%。此后，所有驗證碼機制都經(jīng)過了改進，直到2016年，研究人員才用深度學習再次攻破此類系統(tǒng)。此時，用深度學習對簡單驗證碼取得的準確率升到了92%。

去年的黑帽大會上，“我是機器人”的研究項目揭示了研究人員如何攻破最新的語義圖像驗證碼，并比較了多種機器學習算法。該研究中的方法對谷歌的reCAPTCHA驗證碼取得了98%的準確率。

6. 機器學習引擎中毒

用于檢測惡意軟件的機器學習引擎也是可以被下毒致癱的，這種方法雖然簡單粗暴，但依然有效，就好像網(wǎng)絡罪犯以前對殺軟引擎所做的那樣。機器學習模型從輸入數(shù)據(jù)中學習，如果該數(shù)據(jù)池就是帶毒的，那么其輸出自然也免不了有毒。紐約大學的研究人員展示了卷積神經(jīng)網(wǎng)絡(CNNs)是怎么被安插后門以產出錯誤結果的，谷歌、微軟和AWS之類CNNs都沒逃過機器學習中毒的毒手。