您好,欢迎来到西安幸运飞艇汽车贸易有限公司网站!

设为首页| 加入收藏| 联系我们 |

  • 火爆销售热线:029-84513001
栏目导航
联系我们
服务热线
029-82378869
手机:18821777885
地址: 西安市三桥西部国际车城汽车博览中心
当前位置:主页 > 新闻中心 > 汽车知识 >
人工智能有了“殺毒軟件”可在線測評算法模型安全性幸运飞艇
发布日期:2020-04-10

  “目前,人工智能安详還是一個新興領域,存正在較高的技術壁壘。”田天告訴記者,隨著攻防互相的發展,對抗樣本等攻擊本事變得愈發復雜,加倍正在開源社區、器械包的加持下,高級復雜攻擊伎俩迅疾增長,然则相關防御本事的升級卻難以跟上。

  作為引領新一輪科技革命和產業變革的顛覆性技術,人工智能目前正正在滲透到了社會生存的方方面面。隨著數據透露、算法偏見、算法罅隙等一系列問題的败露,其安详需乞降倫理影響也逐漸顯現,給國家經濟和社會安详帶來諸众風險和挑戰。

  算法冲破,是人工智能行業發展的基石和熱點。中國新闻通讯讨论院2018年發布的《人工智能安详白皮書》指出,“算法安详”是人工智能六大安详風險之一。同時,白皮書認為“對抗樣本攻擊誘使算法識別出現誤判漏判”這一算法模子缺陷是算法安详的紧急風險項。

  RealAI團隊CEO田天介紹,現階段,由於人工智能技術不行熟以及惡意應用所導致的安详風險,本質上屬於人工智能的“技術短板”,例如模子缺陷、算法不成解釋性、數據強依賴性等,是局部人工智能發展最明顯的“軟肋”。

  團隊開發的RealSafe人工智能安详平台,能夠供应從測評到防御的完备解決计划,迅疾緩解對抗樣本攻擊威脅。相較於目前常見的開源器械须要自行安插、編寫代碼,該平台声援零編碼正在線測評,用戶隻需供应相應的數據即可正在線告竣評估,極大下降了算法評測的技術難度。同時,平台採用可量化的体例對安详性進行評估,評分越高則模子安详性越高。針對檢測出來的罅隙,平台還可供应合適的防御计划,擢升模子安详性。

  也即是說,這些對抗樣本的攻擊,會像病毒一樣入侵人工智能系統的“意識”中,讓它出現“精神錯亂”而無法事务。

  隨著人工智能的普及,這些例子不斷地正在現實中上演:正在道面上粘貼對抗樣本貼紙步武合並條帶,誤導自動駕駛汽車拐進逆行車道﹔佩带對抗樣本天生的眼鏡,輕易破解手機面部解鎖﹔胸前張貼對抗樣本貼紙即可實現隱身……

  公民網北京4月9日電(趙竹青)大規模的網絡攻擊曾經倒逼了殺毒軟件的誕生,應用日漸廣泛的人工智能,又該何如抵御“病毒”的攻擊?記者從清華人工智能讨论院獲悉,該院RealAI(瑞萊机灵)創業團隊8日推出針對算法模子自身安详的檢測平台,意味著人工智能也有了“殺毒軟件”。

  “對抗樣本底本是機器學習模子的一個兴趣現象。”田天解釋,它是通過正在源數據上扩充少许細微改變,人類感官很難辨識,但足以讓機器學習模子经受並做出錯誤的分類決定,從而把一座山岳識別為一隻狗,或者把C羅識別為梅西。

  作為清華人學人工智能讨论院的官方團隊,RealAI曾率先提超群項攻防算法,被主流開源軟件FoolBox等收錄為標准,與清華聯合組成的戰隊曾斬獲众項人工智能國際大賽冠軍。

  加倍是正在人臉識別、自動駕駛等特定領域,這種“AI病毒”或者形成難以挽回的人員和財產損失。

  “推出安详檢測平台是規避風險的道徑之一,未來還须要聯合各界力气配合推動人工智能安详相關的國家標准、行業標准、聯盟標准的拟定,為人工智能產品安详評估評測供应統一參考。幸运飞艇”田天說。

公司首页 产品中心 新闻中心 客户见证 关于幸运飞艇 联系我们

Copyright © 2002-2019 幸运飞艇汽车贸易有限公司 版权所有
地址:西安市三桥西部国际车城汽车博览中心联系人:张经理联系电话:029-82336259手机:18821775588传真: 0898-66889977网站地图
http://www.1979home.com 西安幸运飞艇汽车贸易有限公司专业从事http://www.1979home.com汽车 Z系列 T系列 E系列 大迈系列 其他系列销售,欢迎前来咨询!