ゲーム理論でAIの視点を可視化 画像認識AIの判断根拠を可視化千葉大学
-
千葉大学のグループは、画像認識AIが画像のどの箇所に注目して判断をしているのかを可視化する、新たな手法を開発した。従来は、画像ピクセル個々の重要度を考慮していたが、今回、画像ピクセル群全体としての重要度を測ることで、より精密な可視化が実現。その結果、Vision Transformerなどの代表的な画像認識モデルはほとんどの画像において、わずか4%から16%程度の画像領域のみから画像中の物体等を正確に認識することが可能とわかった。この技術により、画像認識AIの判断根拠をより正確に可視化し、AI利用の信頼性を高めることが期待される。
