はじめに——「AIがなぜその答えを出したのか」が分からない不安

「AIに任せてみたけれど、なぜその判断になったのか誰にも説明できない」。こうした声を、中小企業の経営者の方々からいただくことが増えました。たとえば、AIを使って融資審査を補助するシステムを導入したところ、ある取引先の与信スコアが突然下がった。担当者が理由を聞いても、「AIがそう判断しました」としか言えない。取引先に対して説明できず、信頼関係にヒビが入ってしまった——そんな事例は、決して他人事ではありません。

AIが出す答えの中身が見えない状態を、技術の世界ではブラックボックスと呼びます。箱の中で何が起きているか外からは分からない、という意味です。最近のAI、とりわけ大規模言語モデル（LLM）は非常に高い性能を持つ一方で、内部の計算過程が複雑すぎて、開発者でさえ「なぜその答えになったのか」を完全には説明できないことがあります。

だからこそ、AI事業者ガイドラインは「透明性」と「アカウンタビリティ（説明責任）」を共通指針として掲げています。この2つの指針は、AIをブラックボックスのまま放置しないための具体的な行動指針です。今回は、この第6番目と第7番目の共通指針を、中小企業の経営者の視点で丁寧に読み解いていきます。

前回の第6回では「公平性・プライバシー・セキュリティ」という守りの三本柱を取り上げました。今回の「透明性と説明責任」は、それらの守りを支える土台ともいえる指針です。公平性が保たれているかどうかを確認するためにも、AIの動きが見える状態になっていなければならないからです。

共通指針6「透明性」——すべてを見せなくても、記録を残すことが信頼になる

透明性とは何を求めているのか

ガイドラインの共通指針6「透明性」は、次のように述べています。検証可能性を確保するため、合理的な範囲でログ（利用時の入出力、判断根拠等）を記録・保存する。ここでいうログとは、AIシステムに何を入力し、AIが何を出力したか、そしてなぜその判断に至ったかの記録のことです。

ここで多くの経営者の方が心配されるのが、「うちのシステムの中身を全部公開しないといけないのか」という点でしょう。結論から言えば、その心配は不要です。ガイドラインは明確に、ソースコードの開示までは必ずしも求めていないと述べています。ソースコードとは、プログラムの設計図にあたるもので、企業にとっては重要な知的財産であり営業秘密でもあります。ガイドラインは、こうした企業の正当な利益を守りながら、それでも最低限の「見える化」は行いましょう、というバランスの取れた要請をしているのです。

「合理的な範囲」とは、具体的にどこまでか

「合理的な範囲」という言葉が重要です。すべてを丸裸にすることではなく、問題が起きたときに「何が起きたか」を後から調べられる状態を作ることが、ここでいう透明性の本質です。

では、中小企業が実際に取り組むべき「合理的な範囲」の透明性とは、どのようなものでしょうか。いくつかの具体例を見てみましょう。

まず、入出力のログ保存です。AIシステムに何を入力して、何が返ってきたかを記録しておくことが基本です。たとえば、AIチャットボットを顧客対応に使っている場合、お客様からの質問とAIの回答をログとして残しておきます。これによって、後から「あのときAIはどう回答したか」を確認できるようになります。

次に、判断根拠のメモです。AIがなぜその判断をしたかの手がかりを残しておくということです。たとえば、AIがレコメンド（おすすめ商品の提案）を行うシステムであれば、「過去の購買履歴に基づいて推薦」といった根拠をログに含めておきます。AIの内部計算をすべて記録する必要はなく、人間が後から理解できるレベルの説明で十分です。

そして、データの来歴管理です。AIが学習に使ったデータがどこから来たものかを記録しておくことも、透明性の一部です。「2025年4月から2026年3月の売上データを使って学習させた」というレベルの記録があれば、後からデータの偏りや問題を調査できます。

営業秘密との両立という現実的な視点

ガイドラインが「営業秘密と両立させる」と明記しているのは、非常に現実的な配慮です。中小企業にとって、独自のノウハウやアルゴリズムは競争力の源泉です。それを公開してしまっては本末転倒になります。

大切なのは、「中身を見せること」と「結果を検証できること」を分けて考えることです。レストランに例えるなら、レシピそのものを公開する必要はないけれど、「どんな食材を使っているか」「アレルギー物質は含まれているか」は表示する——そのくらいの透明性がAIにも求められている、と理解していただければ分かりやすいでしょう。

私たち京谷商会でも、社内で活用しているAIスタッフの運用ログを記録・管理しています。AIが生成した文章や判断の履歴を保存し、必要に応じて「なぜこの判断に至ったか」を後から追跡できる体制を整えています。ソースコードや内部ロジックを外部に公開する必要はありませんが、社内で検証可能な状態を維持することが、AIを安心して使い続けるための基盤になっています。

共通指針7「アカウンタビリティ」——「AIがやりました」では済まされない時代

説明責任の3つの柱

共通指針7「アカウンタビリティ」は、アカウンタビリティ、つまり説明責任について定めています。その内容は大きく3つの柱から成り立っています。

第一の柱は、AIに関わる責任者の設定です。「誰がこのAIの使い方に責任を持つのか」を明確にしておくことが求められています。AIは便利ですが、問題が起きたときに「AIがやったことですから」と誰も責任を取らない状態では、お客様も取引先も安心できません。

第二の柱は、情報のトレーサビリティの確保です。トレーサビリティとは、追跡可能性のことです。AIの判断がどのような過程を経て行われたかを遡って調べられるようにしておくことを意味します。先ほどの透明性（ログの保存）と密接に関わる部分です。

第三の柱は、対応状況の定期的な説明です。AIに関する取り組みの状況を、ステークホルダー（お客様、従業員、取引先など）に定期的に説明することが求められています。一度説明して終わりではなく、継続的なコミュニケーションが大切だということです。

責任者の設定——「AI担当」を決めるということ

中小企業において最も実践しやすいのが、この「責任者の設定」です。大げさな組織改編は不要で、既存の担当者の中から「AIの利用に関する責任者」を指名するだけで、第一歩を踏み出せます。

たとえば、顧客対応にAIチャットボットを導入している会社であれば、カスタマーサポート部門の責任者がAI利用の責任者を兼任する形が自然です。この責任者は、AIが適切に動作しているかを定期的にチェックし、問題があれば対応方針を決める役割を担います。

ここで注意したいのは、責任者を置くことの目的は「問題が起きたときに処罰する人を決める」ことではない、ということです。目的は、AIの利用に関して最終的な判断を下し、外部に説明できる人を明確にすることです。何かあったときに「たらい回し」にならない体制を作ることが、信頼の基盤になります。

トレーサビリティ——判断の足跡をたどれるようにする

トレーサビリティの確保は、食品業界の方にはなじみ深い概念かもしれません。食品の産地から加工、流通、販売までの経路を追跡できるようにする仕組みと、考え方は同じです。AIの場合は、「どんなデータを使って」「どんな処理を経て」「どんな結果が出たか」を追跡できるようにすることです。

中小企業の場合、大規模なトレーサビリティシステムを構築する必要はありません。最低限として、AIの判断に関わる重要な記録を整理して保管しておくことが大切です。具体的には、AIに学習させたデータの概要と時期、AIの設定や調整を変更した記録、AIが重要な判断を下した際の入出力ログ、問題が発生した際の対応記録——これらを時系列で管理しておけば、後から「何が起きたか」を追跡することができます。

対応方針の文書化——「もしも」に備えるルール作り

ガイドラインは、利益を損なう事態が生じた際の対応方針を文書化することも求めています。これは、AIによって誰かの利益が損なわれる事態が起きたとき、どう対応するかをあらかじめ決めておくことです。

たとえば、次のようなことをあらかじめ文書にしておきます。AIの誤判断によりお客様に不利益が生じた場合は、速やかに人間が判断をやり直す。AIの学習データに個人情報が意図せず含まれていた場合は、直ちに該当データを削除し、影響範囲を調査する。AIシステムに重大な不具合が見つかった場合は、利用を一時停止し、原因究明と修正が完了するまで人手で対応する——こうした対応方針をまとめた文書を、社内で共有しておくことが重要です。

この文書は、完璧である必要はありません。大切なのは「何かあったときにどうするか」を事前に考え、関係者全員が把握していることです。問題が起きてからゼロから考えるのと、あらかじめ方針があるのとでは、対応のスピードと質がまったく違います。

透明性とアカウンタビリティを支える実務のポイント

ステークホルダーへの定期的な説明

アカウンタビリティの一環として、AIの利用状況をステークホルダーに定期的に説明することが求められています。「ステークホルダー」と聞くと大企業の株主総会を思い浮かべるかもしれませんが、中小企業の場合は、お客様、従業員、取引先が主なステークホルダーです。

お客様に対しては、AIを利用していることをプライバシーポリシーやサービス利用規約に明記することが基本です。「当社では、お問い合わせ対応の一部にAIを活用しています」という一文があるだけでも、透明性は大きく向上します。

従業員に対しては、どの業務でAIを使っているか、AIの判断をどこまで信頼してよいか、AIの出力に疑問を感じたときにどうすればよいかを共有しておくことが重要です。第5回で取り上げた「人間中心」の考え方とも直結する部分です。

取引先に対しては、契約や取引に影響するAI利用がある場合に、事前に説明しておくことが望ましいでしょう。たとえば、AIを使って見積もり価格を算出している場合、「価格算出にAIを活用しています。最終的には担当者が確認しています」と伝えるだけで、相手の安心感は大きく変わります。

透明性のレベルを段階的に高める

すべてを一度に完璧にする必要はありません。透明性の取り組みは、段階的に高めていくのが現実的です。

最初の段階として、AIを利用していることを関係者に伝えることから始めます。次に、AIの入出力ログを保存する仕組みを整えます。その次に、AIの判断に関する問い合わせに回答できる体制を作ります。さらに進んだ段階では、定期的にAIの利用状況を報告する場を設けます。

この段階的なアプローチは、第3回で紹介した「アジャイル・ガバナンス」の考え方とも通じます。最初から完璧を目指すのではなく、小さく始めて継続的に改善していくことが大切です。

AIセーフティに関する評価の視点

AIの透明性と説明責任を考える際には、AIシステム全体の安全性（セーフティ）という大きな枠組みの中で捉えることも重要です。AIセーフティ・インスティテュートが公表している「AIセーフティに関する評価観点ガイド」では、AIシステムの安全性を評価するための具体的な観点が整理されています。このガイドでは、AIの出力の正確性や堅牢性、プライバシー保護、公平性などとともに、透明性と説明可能性が重要な評価軸として位置づけられています。

中小企業がAIの透明性に取り組む際、こうした公的な評価の枠組みを参考にすることで、「自社の取り組みが世の中の基準と比べてどの程度なのか」を客観的に把握する手がかりになります。完璧を目指す必要はありませんが、「どの方向に進めばよいか」の羅針盤として活用できるでしょう。

用語集——この記事で使われた重要用語

この連載では、技術用語をできるだけ分かりやすく説明するよう心がけていますが、改めてこの記事で登場した重要な用語を整理しておきます。

ブラックボックスとは、内部の仕組みや動作が外から見えない状態のことです。AIの文脈では、入力に対してなぜその出力が出たのか、判断の過程が不透明な状態を指します。最近のAI、特に大規模な深層学習モデルは、パラメータ（学習によって調整される数値）が数十億から数千億にも及ぶため、その判断過程を完全に人間が理解することは技術的に困難な場合があります。だからこそ、ログの記録や説明責任の仕組みが重要になります。

ソースコードとは、プログラムの設計図にあたるテキストファイルです。人間が読める形式でプログラムの動作を記述したもので、企業にとっては重要な知的財産です。ガイドラインでは、ソースコードの開示までは必ずしも求めておらず、営業秘密として保護しながら透明性を確保する方法を推奨しています。

トレーサビリティとは、追跡可能性、つまり結果から原因までの過程を遡って調べられることです。食品業界での産地追跡と同じ概念で、AIの場合は「どんなデータで学習し、どんな処理を経て、どんな結果が出たか」を後から追跡できるようにすることを意味します。透明性とアカウンタビリティの両方を実現するための具体的な手段です。

アカウンタビリティとは、説明責任のことです。単に「説明する義務がある」というだけでなく、「自らの行動や判断に対して責任を持ち、その正当性を他者に説明できる状態を維持する」という、より能動的な意味を持っています。AI事業者ガイドラインでは、責任者の設定、トレーサビリティの確保、対応方針の文書化の3つを通じてアカウンタビリティを果たすことを求めています。

参考資料

まとめ——透明性と説明責任は、信頼を見える形にするもの

今回は、AI事業者ガイドラインの共通指針6「透明性」と共通指針7「アカウンタビリティ」を読み解きました。

透明性とは、AIの判断をすべて丸裸にすることではなく、問題が起きたときに後から検証できる状態を作ることです。ログの保存、判断根拠の記録、データの来歴管理という3つの取り組みを、営業秘密とのバランスを取りながら進めていくことが求められています。

アカウンタビリティとは、AIの利用に関する責任者を明確にし、判断の足跡をたどれるようにし、「もしも」のときの対応方針をあらかじめ文書化しておくことです。これらは、AIを使う企業として当然の責務であると同時に、お客様や取引先からの信頼を得るための強力な武器でもあります。

「AIがやりました」と逃げるのではなく、「AIを活用していますが、責任は私たちが持っています」と胸を張って言えること。それが、これからのAI活用において最も大切な姿勢ではないでしょうか。

次回の第8回では、「社員教育とイノベーション」をテーマに、AIをリスク管理の対象としてだけでなく、成長の原動力として活用するための指針を読み解きます。守りだけでなく攻めのAI活用にも踏み出していきましょう。

この連載の記事一覧