應管理與經濟學院的邀請，合肥工業(yè)大學偉德國際1946bv官網柴一棟研究員于2023年3月18日上午11點在主樓317會議室做了題為《考慮對抗攻擊威脅的魯棒人工智能方法研究》的學術報告。報告會由顏志軍書記主持，學院眾多師生參加了本次報告會。
報告開始，柴一棟首先通過圖片識別和文本識別等案例揭示了目前智能模型方法在安全性方面的漏洞。其中，對抗攻擊（Adversarial Attack）通過對原始樣本進行輕微擾動生成對抗樣本（Adversarial Samples），實現(xiàn)對智能模型的欺騙，從而對智能模型的安全造成嚴重威脅。為此，柴一棟基于技術威脅規(guī)避理論(TTAT)，從如何評估智能模型抵御對抗攻擊的能力（對抗魯棒性）以及如何提升智能模型的對抗魯棒性兩個方面展開了闡述。
柴一棟指出，評估智能模型抵御對抗攻擊的能力（對抗魯棒性）可以從指標的設計以及樣本的選擇入手，通過相對魯棒性(PerformanceRatio)以及曲線下面積(Area Under the Performance-perturbation Curve)對指標進行設計，并提出了一種新型的可解釋的對抗樣本生成框架(XATA)來進行樣本選擇。在提升智能模型的對抗魯棒性方面，柴一棟通過將多種模型進行融合，設計出了一種基于貝葉斯的集成模型，能夠抵御大多數(shù)的對抗攻擊。
最后，柴一棟對智能模型抵御對抗攻擊在管理方面的應用進行了總結，并指出管理組織應提高智能模型的模型設計信息和訓練數(shù)據(jù)集的保密性，并通過限制訪問次數(shù)來提高智能模型抵御對抗攻擊的能力。
報告結束后，與會師生與柴一棟展開了積極的討論，受到了很多啟發(fā)。報告反響熱烈，得到了師生們的一致好評。
柴一棟簡介：
柴一棟，合肥工業(yè)大學研究員，博士生導師。博士畢業(yè)于清華大學經管學院管理科學與工程系，本科畢業(yè)于偉德國際1946bv官網信息管理與信息系統(tǒng)專業(yè)，主要關注如何設計創(chuàng)新性的人工智能方法，更好地服務于個人、組織和社會的現(xiàn)代科學化管理，研究領域包括信息系統(tǒng)安全與網絡空間管理（醫(yī)聯(lián)網安全等）、智慧醫(yī)療管理、商務智能管理等。以第一作者或通訊作者發(fā)表研究成果于MISQ、ISR、JMIS、IEEE TDSC、IEEE TPAMI等國際管理學/計算機科學頂刊。榮獲國際信息系統(tǒng)權威會議WITS 2021 best paper award、清華大學優(yōu)秀博士論文等榮譽。
