close
今年，GeekPwn特別增設 “人工智能安全挑戰專項”，鼓勵極客從對抗的思路出發，協助AI進行安全性的預演分析，從而尋找AI潛藏的風險並不斷幫助其完善，幫助人工智能安全健康成長。也許有朝一日，黑客可以成為保護人類的那群人。
不斷突破創新 黑客與AI打響欺騙與反欺騙之戰
2014年，“沒有規則”的極棒大賽橫空出世，2015年設置瞭指紋專場、 SSL/TLS 協議安全專場，2016年更是首創機器特工挑戰賽和跨次元CTF賽。2017年，GeekPwn 將重點放在瞭備受關註的“人工智能安全挑戰賽”。同時，主辦方還將與項目聯合發起方Next Idea(騰訊創新大賽)、獨傢AI協辦機構機器之心等合作夥伴，就AI安全的社會及專業議題展開前所未有的前沿探討。
當AI可以被誤導，人類的未來將會怎樣？如今，人工智能已經廣泛應用於生活的諸多場景中，包括實時語音翻譯、目標識別、自動駕駛等等。率先關註到人工智能可能暴露出的諸多風險，極棒實驗室在2015年底開始瞭AI對抗的研究，並廣泛接觸和招募AI領域的頂尖人才，很快，在2016年的GeekPwn美國站上，生成對抗網絡(GANs)之父Ian Goodfellow就展示瞭“對抗性圖像”在現實物理世界欺騙機器學習的效果。人工智能在圖像領域可能被蒙騙的證實，引發瞭極棒實驗室的思考，這些看似AI的錯誤和不完善，在黑客眼裡就成瞭可以被利用的漏洞。
根據功能區分，人工智能安全挑戰賽將分為 PWN AI 與 AI PWN 兩部分。PWN AI簡單來說就是利用AI中存在的漏洞或錯誤，“黑掉”它，使它做出錯誤判斷或讓程序崩潰。舉例來說，比如突破人臉識別手機解鎖，以任意人臉解鎖手機;在自動駕駛系統中找到安全問題，使其不能夠正確識別障礙物的存在。
而AI PWN則是讓AI成為你攻擊其他目標的工具。舉例來說，用人工智能的方法進行語音合成，生成目標模擬對象的語音並以高的概率通過語音身份驗證系統;用人工智能的方法進行動作的判別，從視頻中識別出門禁密碼輸入並達到較高的正確識別概率;用人工智能的方法識別復雜的機器驗證碼，正確識別率較高，使得目標驗證碼機制失去作用。
是上演“科幻大片”誤導似乎已具備超強能力的AI？還是演繹現實版的“AI特工入侵人類”？不懼一切未知，黑客會把一切不可能變為可能。
無所不PWN挑戰一切 白帽黑客保護世界
除瞭AI挑戰專項，GeekPwn將延續“無所不PWN”的傳統，鼓勵選手將市場在售的所有智能設備、物聯網(IoT)產品或產品中的安全模塊作為目標。在合理的攻擊條件下，實現越權控制、越權訪問數據或者突破原有安全機制。
用鼻尖解鎖手機、任意孕婦滴雞精遠程劫持世界任一用戶的通訊、發現影響全球數億網民的骨幹網絡設備漏洞……在GeekPwn上，白帽黑客們將他們的逆向思維、奇思妙想的腦洞發揮到瞭極致。在向世界秀出他們的才華的同時，也幫助瞭上百個廠商及產品去修復安全問題。對此，GeekPwn創辦人、碁震KEEN公司CEO王琦就曾表達：在極棒上面，每個選手成功的背後，就成功的避免瞭一次互聯網的癱瘓，避免瞭千萬人隱私的泄露，避免瞭一次可能難以計數的損失。白帽黑客實際上在默默保護全人類。
附：GeekPw滴雞精門市n2017矽谷·上海站比賽規則
(報名官網：www.geekpwn.org)
無所不PWN
目標范圍：
市場在售的所有智能設備、物聯網(IoT)產品或產品中的安全模塊。在合理的攻擊條件下，對於范圍內的產品或者模塊，實現越權控制、越權訪問數據或者突破原有安全機制。參考
參考實例：實例
黑客通過一臺受惡意軟件感染的打印機，從物理隔絕的網絡中提取數據，並通過激光將數據發給裝有攝像頭的無人機。
智能穿戴可能透露使用者的密碼：恢復出用戶手掌的運動軌跡，隨後獲得訪問ATM機、電滴雞精推薦子門禁以及用鍵盤控制的企業服務器的密碼。
PWN AI范圍
目標范圍：
對於已發佈的 AI 服務、產品、庫、框架，采取手段使得在學習或者實際使用中，發生意外情況導致系統停止工作或系統被欺騙、誤導，做出違反常規或者錯誤的判斷、決策。方向包括但不限於圖像識別、語音識別、自然語言處理、自動駕駛、惡意軟件識別等，AI 框架主要是指流行框架如 Tensorflow、TorchNet、Caffe 等。
參考實例：
突破人臉識別手機解鎖，以任意人臉解鎖手機。
在自動駕駛系統中找到安全問題，使其不能夠正確識別障礙物的存在。
在AI開源框架中找到問題，使得部署的AI系統在得到某種輸入的情況下停止響應。
AI PWN
滴雞精功效 場景：
選手以滴雞精比較AI(包括圖像，語音，自然語言，自動駕駛等各個領域的各種人工智能方法)作為主要或者輔助的手段，突破原有系統設定的限制，導致目標系統的功能、機制失效，或者信息泄露。參考實例
參考實例：
用人工智能的方法進行語音合成，生成目標模擬對象的語音並以高的概率通過語音身份驗證系統。
用人工智能的方法進行動作的判別，從視頻中識別出門禁密碼輸入並達到較高的正確識別概率。
用人工智能的方法識別復雜的機器驗證碼，正確識別率較高，使得目標驗證碼機制失去作用。
文章標籤
全站熱搜
留言列表
