XAI（説明可能なAI）
えっくすえーあい
意味
XAI（Explainable AI：説明可能なAI）とは、AIが出した答えや予測に対して、「なぜそうなったのか」という理由や根拠を人間が理解できるように説明する技術や特性のことである。 近年のディープラーニングは、計算プロセスが複雑すぎて、開発者ですら中身がわからない「ブラックボックス」になって...
概要
eXplainable AI。 AI（ディープラーニング）が導き出した答えに対して、「なぜその答えになったのか」という根拠や理由を人間に説明できるAIのこと。
背景（ブラックボックス問題）
現在のAI（ディープラーニング）は非常に賢いが、中身は複雑な計算の塊であり、開発者ですら「なぜAIがこの猫を猫と判断したのか」を言葉で説明できない（ブラックボックス）。
なぜ必要なのか？
- 医療: 「AIが『手術が必要だ』と言っています」だけでは、医者も患者も納得できない。「ここに影があり、過去の症例と99%一致するからです」という説明が必要。
- 金融: AIによる住宅ローン審査で「不合格」になった時、理由を説明できないと差別（バイアス）だと訴えられるリスクがある。
AIが社会の重要な判断を担うようになるにつれ、「信頼性（Trust）」を担保するための必須技術となっている。