數據科學學院吳保元教授的四篇論文被三大頂尖會議收錄
? ? ? ? 近日，香港中文大學（深圳）吳保元教授的四篇論文分別被國際頂級會議收錄。其中兩篇被計算機視覺領域頂級會議ECCV 2020收錄，其余兩篇分別被多媒體領域頂級會議ACM Multimedia 2020以及計算機圖形學及應用會議Pacific Graphics 2020收錄。
? ? ? ? 吳保元教授是數據科學學院副教授、深圳市大數據研究院大數據安全計算實驗室主任，他還是人工智能頂級會議AAAI 2021、IJCAI 2021高級程序委員和中國計算機學會、中國自動化學會多個專業委員會委員。他曾提出多項原創算法，是國內較早從事該研究的資深專家之一。
? ? ? ?此次被ECCV 2020收錄的四篇論文分別是《利用隨機符號翻轉提升基于決策的黑盒攻擊算法》《SPL-MLL: 選擇可預測標記的多標簽學習》《3D點云分類基于聯合梯度對SOR防御的高效攻擊》《用于圖像修復的像素級密集檢測器》。論文詳細信息如下：
?
Boosting Decision-based Black-box Adversarial Attacks with Random Sign Flip
利用隨機符號翻轉提升基于決策的黑盒攻擊算法
【摘要】
? ? ? ? 基于決策的黑盒攻擊算法只需要目標模型的預測標簽就能構造對抗樣本，這給當前的深度神經網絡帶來了極大的威脅。然而，現有基于決策的黑盒攻擊算法在無窮范數約束下的性能較差，往往需要大量的查詢才能取得滿意的攻擊效果，這給實際使用蒙上了陰影。本文發現，在攻擊過程中，隨機翻轉一小部分對抗噪聲的符號可以顯著提升攻擊性能，我們將這種簡單高效的攻擊方法稱為符號翻轉攻擊。我們在CIFAR-10和ImageNet兩個基準數據集上進行了充分的實驗，實驗結果表明符號翻轉攻擊的性能遠超其他同類方法。我們還成功利用該方法對實際系統實現了黑盒攻擊。
圖1. 如上圖所示，僅需數百次查詢，本文提出的方法便可在基于決策的黑盒條件下成功攻擊實際人臉識別API。
?
SPL-MLL: Selecting Predictable Landmarks for Multi-Label Learning
SPL-MLL: 選擇可預測標記的多標簽學習
【摘要】
? ? ? ? 盡管多標簽分類研究已經取得了很重要的進展，但它依然是一個非常具有挑戰性的問題，原因在于不同標簽之間的復雜關系。另外，對輸入和部分標簽之間關系的建模則進一步增加了準確預測所有標簽的難度。本文提出選擇少部分標簽作為標記，選擇標準是既容易根據輸入進行預測（即可預測性），又能很好地幫助恢復其他可能的標簽（即具有代表性）。現有一些方法將標記選擇和標記預測分離為兩步。而在本文中，我們提出的SPL-MLL方法將標記選擇、標記預測和標簽恢復三個任務進行了統一的建模，確保了標記同時具備可預測性和代表性。我們利用了交替方向法來解決這個聯合優化問題。實驗表明：對比現有主流多標記方法，所提算法取得了優越的性能。
圖2. 如上圖所示，本文所提方法展現出了優異的圖像標注能力
?
Efficient Joint Gradient Based Attack Against SOR Defense for 3D Point Cloud Classification
3D點云分類基于聯合梯度對SOR防御的高效攻擊
【摘要】
? ? ? ? 基于深度學習的三維點云分類模型容易受到對抗樣本的攻擊。目前一種去除點云中離群點的防守方法（Statistical Outlier Removal，簡稱SOR）可以有效防守對抗樣本，并被廣泛使用。本文我們提出一種基于聯合梯度的白盒攻擊方法（JGBA），可以成功攻破SOR防守。具體地，通過優化一個同時包含原始點云和經過SOR方法處理的點云的目標函數，我們將二者同時推向分類模型的決策邊界，從而實現對抗攻擊。難點在于SOR的不可導性使得我們無法直接優化目標函數，對此我們采用矩陣乘法對SOR防守進行線性近似，進而成功計算梯度實現目標函數優化。此外，我們對點云中每個點的擾動幅度加以限制，從而避免離群點的產生。實驗證明，針對PointNet, PointNet++和DGCNN三種點云分類模型，所提算法取得了SOTA的攻擊成功率。
?
表1. 如上表所示，針對不同模型和不同防守策略，本文所提方法都展現了取得了優越的攻擊性能。
?
Pixel-wise Dense Detector for Image Inpainting
用于圖像修復的像素級密集檢測器
【摘要】
? ? ? ? ?近來，以GAN為基礎的圖像修復方法采用了平均策略來識別生成圖像并輸出一個標量。這種方法不可避免地會丟失生成元素的位置信息。除此以外，對抗損失和重建損失（如l1損失）之間會更加難以調節。本文中，我們提出一種新的以檢測為基礎的生成模型框架。該框架在對抗過程中采用min-max策略并用于圖像修復。生成器采用編碼器-解碼器結構來填補缺失區域；探測器則在弱監督學習下用像素級的方法定位視覺元素。這種位置信息能讓生成器更好地注意到生成元素并對其一步強化。更重要的是，我們將檢測器輸出的加權結果帶入重建損失函數。這種方法能夠自動平衡對抗損失和重建損失的權重而不依靠人工調整。此框架在多個公開數據集上都有極佳的表現。
源碼見：https://github.com/Evergrow/GDN_Inpainting
圖3. 如上圖所示，本文所提出方法展現出優異的圖像修復效果
會議簡介
? ? ? ?ECCV，全稱：European Conference on Computer Vision，中文全稱：歐洲計算機視覺國際會議。ECCV每年的論文接受率為25-30%左右，收錄論文的主要來源是來自于美國、歐洲等頂級實驗室及研究所。2020歐洲計算機視覺大會（ECCV 2020）因疫情改為線上會議，ECCV兩年舉辦一次，與CVPR、ICCV共稱為計算機視覺領域三大頂級學術會議。
? ? ? ?ACM MM（全稱：ACM Multimedia）是國際多媒體領域學術和產業界交流的最頂級盛會，也是中國計算機學會推薦的多媒體領域唯一的A類國際學術會議。熱門方向有大規模跨媒體分析、理解與搜索、多模態人機交互、多媒體系統與推薦、計算視覺、計算圖像、多媒體藝術、社會媒體研究等。ACM Multimedia每年在歐洲、美洲和亞太地區輪流舉辦。本屆會議共接收1698篇有效投稿，最終錄用472篇，錄用率為27.8%。
? ? ? ?Pacific Graphics（全稱：Pacific Conference on Computer Graphics and Applications環太平洋計算機圖形學及應用會議）是一年一度的國際性的圖形學及其應用方面的盛會，是泛太平洋地區最重要的計算機圖形學國際會議，也是全球三大計算機圖形學國際會議之一，此會議是與國際重要圖形學組織Eurographics合辦。
教授簡介
吳保元
中國科學院自動化研究所博士
香港中文大學（深圳）數據科學學院副教授
深圳市大數據研究院大數據安全計算實驗室主任
研究領域：機器學習，計算機視覺與優化
? ? ? ?吳保元教授是香港中文大學（深圳）數據科學學院副教授，并擔任深圳市大數據研究院大數據安全計算實驗室主任。吳教授于2014年獲得中國科學院自動化研究所模式識別國家重點實驗室模式識別與智能系統博士學位。2016年11月至2018年12月擔任騰訊AI Lab高級研究員，并于2019年1月升任T4專家研究員。
? ? ? ?他在機器學習、計算機視覺、優化等方向上做出了多項出色工作，在人工智能的頂級期刊和會議上發表論文30多篇，曾入選人工智能頂級會議CVPR 2019最佳論文候選名單，并擔任人工智能頂級會議AAAI 2021、IJCAI 2021高級程序委員和中國計算機學會、中國自動化學會多個專業委員會委員。他在人工智能安全的研究上有深厚的造詣，提出過多項原創算法，是國內較早從事該研究的資深專家之一，并與騰訊安全團隊開展了深入的合作。在騰訊工作期間，他領銜發布了業內第一個AI安全風險矩陣，得到業內和媒體的廣泛關注。
