想象一下，有一天你接到你年邁的母親打來的求助電話，她說她忘記了銀行卡密碼。

電話另一端的聲音非常像她，但實際上那不是你的母親。

這是一個計算機合成的聲音，這一項人工智慧技術的傑作使得人們透過電話偽裝成為可能。

這種情況雖然目前聽起來像是科幻小說，但未來這種犯罪方法可能真的會成為現實。

推進這種偽裝技術廣泛應用的軟體正在迅速發展。例如DeepMind，作為Alphabetd子公司，他們已經開發出能夠在棋類遊戲中打敗人類頂級選手的程式。最近，DeepMind宣佈，他們設計了一個程式，可以模仿任何人類的聲音，並且比現有的最好的語音合成系統合成的聲音聽起來更自然，這將合成的語音與人類語音之間的差距縮小了50%以上。

但諷刺的是，擁有750億美元年收入的計算機安全行業，今年開始討論機器學習和模式識別技術將如何改善計算機安全的惡劣狀況。

但是另一方面，執法機構顧問兼《未來犯罪》的作者Marc Goodman說：“人類沒有意識到網路犯罪正在變得自動化，並且正在按指數規模擴大。”他補充說，“這已經不是Matthew Broderick從他的地下室發起的駭客攻擊。”參考1983電影《戰爭遊戲》。

國家情報局局長James R。 Clapper，今年早些時候發出了防止先進人工智慧技術被惡意使用的報警。在年度安全審查中，Clapper先生強調指出，A。I。確實會使一些事情變得容易，但也會增加網際網路世界的脆弱性。

Goodman先生認為，從攻擊工具的演變中可以看到計算機犯罪正變得越來越複雜，例如被廣泛使用的名為Blackshades的惡意程式就是其中一個。這個惡意程式的作者是一個瑞典公民，去年在美國被定罪。

Goodman說：“這個擁有‘刑事特許經營’功能的系統在計算機地下市場中廣泛銷售”。它可以使沒有技術技能的使用者部署計算機勒索軟體或透過點選滑鼠進行影片或音訊的竊聽。

這些工具的下一代產品將增加機器學習能力，這些能力是人工智慧研究人員開發的，旨在提高機器視覺，語音理解，語音合成和自然語言理解的質量。一些計算機安全研究人員認為，在已經過去的超過五十年裡，數字罪犯一直在嘗試使用AI技術。

從顛覆了網際網路領域並無所不在的驗證碼中可以看出這一點。2003年卡內基梅隆大學研究人員發明了challenge-and-response puzzle，這是一個完全自動的分辨計算機和人類的公共圖靈測試，目的是阻止自動化程式竊取線上帳戶。

加州大學聖地亞哥分校計算機安全研究員Stefan Savage表示，“白帽”人工智慧研究人員和“黑帽”犯罪分子在超過10年的時間裡，一直在部署機器視覺軟體來摧毀驗證碼。

他表示，“如果兩年內你不改變驗證碼，就會被一些機器視覺演算法所掌握。”

令人驚訝的是，那些減緩了惡意AI的發展的事情，可以降低成本，解放人類勞動力。例如，一些網路犯罪分子已經為剝削勞力的工廠制定了驗證碼破解的解決方案，這樣人們可以用很小的費用來解決這些難題。

Goodman先生說，更有創造力的電腦騙子使用線上色情作為對打破驗證碼的網路衝浪者的獎勵。人工智慧軟體永遠也比不上免費勞動力這種商品。

那麼接下來會如何呢？

首先，犯罪分子可以帶來新的技術發展。語音識別技術像蘋果的Siri和微軟的Cortana現正廣泛地用於電腦互動。亞馬遜的Echo語音控制揚聲器和Facebook的Messenger 聊天機器人平臺正迅速成為線上商務和客戶支援的渠道。通常情況下，一旦像語音識別這樣的交流技術開始流行，那麼罪犯也很快會利用上它們。

“我在想，用聊天機器人提供客戶支援的公司是不是正在默默承擔著一項社會工程。”krebsonsecurity。com的調查記者Brian Krebs說。

社會工程，指的是操縱人們執行行動或洩露資訊的做法，被廣泛認為是計算機安全鏈中最薄弱的環節。網路犯罪分子會利用人們的信任或樂於助人的品質進行盜竊或偷窺，而創造出能騙人的高階人工智慧只會使計算機等裝置變得更不安全。

在州政府和政治運動的宣傳中可以看到，他們廣泛地使用聊天機器人技術帶來的負面影響。

研究人員創造了術語“計算機宣傳活動”來描述在Facebook和Twitter等服務上爆炸式增長的欺騙行為。

在最近的一份研究論文中，牛津網際網路學院的社會學家Philip N。 Howard和布達佩斯考文紐斯大學的研究員Bence Kollanyi描述了“英國退歐”全民投票的預備階段，政治聊天機器人在線上交流扮演的“小而重要的角色”。

罪犯遲早也會使用這些軟體。

“在設計社會工程攻擊方面有很多技巧，但據我所知，還沒人用機器學習來找什麼人最容易上當受騙。”計算機安全專家Mark Seiden說，他停頓了一下又補充道：“我應該回答：‘對不起，Dave，我現在不能回答這個問題。’”