グーグルDeepMindの最新研究によると、敵対的攻撃は人工知能だけでなく、人間の判断にも影響を与えることが明らかになりました。
ニューラルネットワークは敵対的摂動の影響を受けやすく、人間とAIの両方で画像の誤分類を引き起こします。
この研究結果は、より安全な人工知能システムを構築するために、人工知能の視覚システムの動作と人間の知覚の類似点と相違点をより深く理解する必要があることを示唆しています。
グーグルDeepMindの最新研究によると、敵対的攻撃は人工知能だけでなく、人間の判断にも影響を与えることが明らかになりました。
ニューラルネットワークは敵対的摂動の影響を受けやすく、人間とAIの両方で画像の誤分類を引き起こします。
この研究結果は、より安全な人工知能システムを構築するために、人工知能の視覚システムの動作と人間の知覚の類似点と相違点をより深く理解する必要があることを示唆しています。
人工知能は画像認識分野で非常に盛んです。猫や犬の分類などはもう時代遅れで、今では「連想ゲームPlus版」のような、例えばある特定の年式の特定のモデルのスポーツカーであること、あるいはある鳥の眉毛が隣の家の王さんの眉毛よりもわずかに太いかどうかなどを瞬時に識別することが流行しています。しかし、問題はあります。ニューラルネットワークは賢いのですが、「なぜこれがこれだと判断したのか?」を説明しようとすると、まるでテストで解法を説明できない生徒のように、支離滅裂でまともな説明ができません。従来のClass Activation Map(クラス活性化マップ)は…