Site Loader

 

AI人工智慧竟也會被駭客誤導!?那怎麼辦呢?

AI人工智慧竟也會被駭客誤導!?那怎麼辦呢?

AI人工智慧竟也會被駭客誤導!?那怎麼辦呢?
▲ Fintech 金融科技市場中的 AI 人工智慧品牌(圖片來源:cbinsights,如有侵權請告知)
 
隨著科技浪潮來襲,金融產業跟著積極佈局,除了像區塊鏈、虛擬貨幣和 P2P 等新型交易模式越來越發興盛之外,傳統銀行的許多交易手續、分析工作也全都交給人工智慧運籌帷幄。

但是,導入 AI 不僅影響金融機構本身,虎視眈眈的駭客也馬上跟進,開發出特別針對人工智慧的攻擊手法。

而一家捷克新創公司 Resistant AI 找到了解決辦法──用 AI 反擊欺騙 AI 的網攻!

金融業 AI 應用夯 8 成以上交易由程式自動執行

金融業是幾個快速導入 AI 的產業之一,並且因長期的監理要求,金融業的數據資料保存完整有序,AI 導入較為容易;一方面也是為了因應快速成長的數位通路需求。

玉山銀行科技長陳昇瑋表示,目前全球股市觀察,已經約有 8 至 9 成的交易都是程式執行的,而全球十大對沖基金中,有 6 個已導入 AI 協助交易,代表人工智慧 已在證券交易占有一定的份量。除了證券交易,AI 也被用在產業分析,用來預測股價。

推薦閱讀:痛失英才!台灣人工智慧學校執行長陳昇瑋辭世

但是,駭客也與時俱進,瞄準 AI 和機器學習的弱點,展開新型態的網路攻擊,導致金融組織或企業面臨巨額損失、機密資料或客戶資料外洩的風險。

駭客故意餵錯誤資料 誤導 AI 並非難事

AI 固然好用,但也不是萬靈丹,並且很可能變成攻擊目標。駭客若部署對抗式機器學習(Adversarial Machine Learning)找出機器學習模型的弱點,在訓練資料中參雜惡意樣本與駭入後台干擾參數,就能有迅速破壞 AI 運作。

推薦閱讀:美國將 AI 納入軍用!到底人工智慧會成為人類救星還是殺人機器?

趨勢科技全球安全研究副總 William Malik 也曾談過:「其實演算法是很粹弱的,很容易因為訓練資料被動手腳,導致要辨識動物的影像 AI 將長頸鹿辨識為單車。」因為 AI 不像人類,不是看整體而是「盯著」細節的部分,這些重要的細節被更動,AI 就會出狀況。

假若不幸遭到入侵,訓練資料被惡意加料,辨識模式被蓄意誤導,然後最後演算法在市面上佈署,就算是資安公司也可能會中招,讓 AI 反而成為欺騙防毒軟體的利刃。

本篇為上篇,下篇請點此連結

相關文章:

AI 產業革命開始!為何 Python 成人工智慧必備語言?

連 IBM 都推!入行 AI 人工智慧必學 Python 的8大理由

AI 重機車手 MOTOBOT – 專為超越 MotoGP 冠軍 Rossi 而生

AI 人工智慧來了!你的未來何去何從?

學好 Python 是正解

連人工智慧都要向牠學習?(上)

人工智慧棒球隊將產生?(上)

還不知道Python是什麼?你落伍啦!