技術経営ブログ

「AI判断 企業に説明責任」 本日の日経から 

2018年11月27日

技術ブログ

 本日の日経の一面トップは「AI判断 企業に説明責任」のニュースであった。政府がAIに関する7原則をまとめた。その中で、AIが物事を判断する際、その企業に説明責任を求めるのが柱である。
 先日、本ブログにおいて、AIに倫理指針(EU)その1AIに倫理指針(EU)その2を紹介させてもらった。EUによる人工知能(AI)の人種や性別等に偏った差別的な分析が増える可能性があるため、AIの判断過程を分かりやすく説明する責任を企業に課す話であったが、日本政府も同様に動き出した。

 AI活用による懸念は依然として多い。、つまり、AI融資の場合には、どの基準で金融機関に融資したのか、AIによる採用判断を行う際には、どのような基準で合否を決めたのか、その点がブラックボックスのままAIの提案に従って動くのは正直不安だ。AIがどのようなパラメータに基づき、どのような基準で判断するのか、少なくともおおまかなコンセプトについては、AIを利用する側が押さえておきたいところである。

 企業に説明責任が課されるのであれば、具体的にどのレベルまでの説明責任が課されるのかが問題になると思う。つまり、入力パラメータの大まかな種類と、判断基準からどのような解を導くのかを大まかに示すだけで良いのか、或いは学習用データの詳細、学習済みモデルの作り込みから、実際の入力パラメータの取得方法の詳細までが求められるのか、で説明責任の意味は大きく異なる。実際にAIを活用する上では、後者(学習用データの詳細、学習済みモデルの作り込み、入力パラメータの取得方法)の如何により、出力結果は大きく異なるし、AIのパフォーマンスも大きく異なる。説明責任を課された場合に、上っ面のところのみ説明をして大事なところ(後者)は秘匿することも当然にできるであろう。逆に後者まで説明責任を求められるのであれば、個々の企業が積み上げてきた経験やノウハウの流出にもつながるため、今までの企業努力が水の泡になってしまうかもしれない。このため、後者の内容については、個々の企業努力を尊重する意味では説明責任を免れる領域としたいところかもしれない。

 このようなAIについて特許を取得する上では、少なくとも前者(入力パラメータの大まかな種類と、判断基準からどのような解を導くのかを大まかに示すところ)の領域を取得することができれば理想的である。AIビジネスの特許出願を考える場合には、これから法整備が始まるこの企業によるAIの説明責任について注目する必要がある。そして、自社がAIの特許権者になった場合に、逆にこの説明責任の範囲をうまく活用することで、相手側のAIビジネス発明の実施をうまく立証していくスキームを考えていく必要があると思う。

 

お問い合わせ・ご依頼は
お気軽にご連絡ください。

受付時間/平日9:20~17:20