AIがどのような根拠でその判断に至ったかが外部から理解できない状態のことです。ログの記録・保存が具体的な対策として推奨されています。