據美國政府計算機網站(GCN)2018年12月3日報道,黑客正在使用對抗技術來篡改人們的訓練數據從而破壞人工智能和機器學習模型。為了確保人工智能和機器學習系統的安全,美國情報高級研究計劃局(IARPA)發布項目資助信息,旨在防御隱私攻擊,避免泄漏訓練數據集中的個人信息。
IARPA安全、保證、智能學習系統(SAILS)項目的目標是開發一種即使受到如下兩種攻擊也不會泄露敏感信息的模型:(1)模型反轉攻擊——可從模型預測中重建訓練數據;(2)成員推理攻擊——可確定訓練數據集中的成員。SAILS將專注于文本應用程序以及面部和語音識別系統模型的隱私攻擊,以防黑客擁有白盒訪問權限,或充分了解到目標人工智能和機器學習模型。
來源:美國政府計算機網站(GCN)
如需了解詳細內容,請聯系:xxhkb@cashq.ac.cn