上圖：美國國防先進研究專案局（DARPA）主辦的網路大挑戰（Cyber Grand Challenge）在拉斯維加斯的巴黎大酒店的宴會廳中舉行——實際上比賽的主戰場在位於宴會廳舞臺上的七臺超級計算機中
週四晚上，美國國防先進研究專案局（DARPA）在拉斯維加斯的巴黎大酒店舉行了獎金高達550萬美元的駭客比賽，比賽僅向機器人開放。比賽開始後，參與比賽的機器人開始尋找舞臺上七臺超級計算機中預設好的安全漏洞，主辦方披露說這些安全漏洞主要借鑑那些網際網路發展史上實際出現的漏洞。這些漏洞中模仿的是2014年出現的Heartbleed漏洞、2003年出現的SQL監獄蠕蟲所利用的漏洞、還有同在2003年發現的、隱蔽而複雜的 Crackaddr漏洞。
Yan Shoshitaishvili說他本應預料到這個比賽的設定，但實際上他沒有。在聖巴巴拉的加利福尼亞大學，他與共事的研究員創造了參與駭客比賽的其中一個機器人。這個機器人被命名為 Mechaphish，但他們沒有讓它做好準備去解決網路中曾經出現過的著名漏洞。Shoshitaishvili說其他的駭客比賽也會包含歷史中出現過的漏洞，他們對機器人的設計應該能讓它立即識別出像 Heartbleed這樣的著名漏洞。在比賽開始不久後的一次現場採訪中，他在數千觀眾面前自責道沒有做出最聰明的設計。
但這個十分費勁的比賽繼續進行，帶有偏見的評論員們——他們確實帶有偏見——發現了 Mechaphish發現並利用了幾個著名的漏洞，包括那個極度複雜的 Crackaddr漏洞。這個發現讓比賽主辦人員和參賽團隊大吃一驚。要利用這一類的漏洞“極度困難”，據卡內基·梅隆大學的計算機科學家David Brumley說，正是他帶領團隊最終贏得了這次比賽。
這是網路大挑戰的關鍵時刻，這個比賽是史上第一次讓機器人與機器人對抗，而不是人類之間的對抗。 Mechaphish透過利用 Crackaddr漏洞向人們展示了機器人在沒有人類給予提示的情況下也可以做得很好。 Shoshitaishvili和他的團隊賽前無法得知DARPA將在超級計算機中安裝什麼樣的軟體，他們也沒有預料到系統中會出現歷史上出現過的著名漏洞。即使這樣， Mechaphish還是發現並利用了 CrackAddr漏洞。
上圖：DARPA領導人 Arati Prabhakar和資訊創新主管 John Launchbury
Mechaphish和他們創造的漏洞搜尋機器人並不能做人類駭客做的所有事情，遠遠不能。“在創造力方面人類還是更擅長的，” Brumley說，“就是說，跳出原有思維的侷限。”但這些機器人能夠幫助人類查漏補缺。在網路大挑戰之後， Shoshitaishvili和團隊還參加了面向人類的駭客比賽“奪取旗幟”，當然他們也帶上了 Mechaphish，作為他們手頭的新工具之一。在小事情上它能夠完成得比人更快，甚至還能處理一些他們忘記的事情。
這就是自動化自治系統。這些系統可以自己進行操作，還能完成一些人類做的事。它們可以與製造他們的人一起共事，還能給我們前所未有的靈感刺激。在Google的人工智慧系統AlphaGo參與人類歷史上最複雜的遊戲之一的過程中我們可以看到這一點。在古老的圍棋遊戲中它打敗了人類高手，還給人類提供了下圍棋的新方法。
DARPA的觀點
在國防部具有前瞻性的研究機構DARPA眼中，網路大挑戰最終帶來的影響是這樣的：應大挑戰產生的這些具有自主性的機器人雖然短期內是不可能替代人類的，但可以作為人類的新工具而產生作用。“我們不會孤注一擲地把整個網路安全交給這些自動化的機器人，”DARPA的領導人 Arati Prabhakar說，“但當人類能夠做一些之前沒有人想過的事情，這不是非常有趣嗎？”
在某種程度上，這些變革已經開始發生。卡內基·梅隆大學名為Mayhem的機器人贏得了網路大挑戰之後，繼續參加“奪取旗幟”的比賽，在接下來的比賽中它將獨自挑戰人類的團隊。雖然在第一天的比賽之後它的排名在最末位，但在比賽過程中它曾超過了一兩個人類團隊。卡內基·梅隆大學的一個研究團隊也單獨參加了這個比賽，比賽中他們使用了Mayhem系統作為輔助，最後贏得了比賽。
我們看到這種型別機器人的能力在於，它們能以比人快得多的速度找到並修復簡單的漏洞。人類能夠處理困難的問題，但它們可以處理大量的簡單問題。在當今的時代，計算機裝置和現實服務數量激增並貫穿我們的日常生活，大批次處理問題的能力是很重要的。“我們能否建立能夠處理大量安全問題的技術？” Prabhakar說，“如果你想讓增長的速度超過安全威脅增長的速度，這是必要的。”
AI的未來
但未來可能會遇到的問題不止於此。我們生活在一個人工智慧崛起的時代。新的安全漏洞會不斷出現，最終會出現針對這些漏洞的攻擊。這意味著我們需要找到和修補這些漏洞的新方法。
這些參加比網路大挑戰的機器人沒有過多地使用機器學習技術，而這種AI技術正在迅速重塑數碼世界的方方面面。但DARPA相信安全機器人的發展必然會藉助於這種技術。“甚至有別的型別的AI需要在資料學習的基礎上發展，”DARPA資訊創新主管 John Launchbury說，“我們還有很長的路要走。”
這個說法很有道理。就像網路大挑戰開賽前的Yan Shoshitaishvili一樣，我們也不知道將要到來的是什麼。等它真的到來時，我們可能還需要一些幫助。