新研究發出警告，醫學成像AI軟件易被愚弄

wo665451

　　  一項新研究發出警告，分析醫學成像的AI軟件容易被愚弄。研究人員稱，深度學習神經網絡在識別醫學成像上的準確性得到了廣泛報道，但對于其的弱點和安全問題則了解不多。德國研究人員上周報道稱，AI系統比有經驗的皮膚科醫生能更準確的診斷皮膚癌。
  　　研究人員認為，在將AI工具整合到醫療保健系統的過程中，需要對其潛在的弱點有更多了解。他們檢查了愚弄醫學成像分析軟件的難度。他們發現利用“對抗樣本”（adversarial examples）能很容易的欺騙AI軟件錯誤分類，這種攻擊方法人類很難識破。