AIsmiley Magazine

AIsmiley編集部によるAI・人工知能関連のコラム、ニュース、サービスなどの情報をお届けします

AIsmiley編集部記事

2019/1/9

政府が策定したAIの7つの原則 <人間中心のAI社会原則>

  • 人材・HR
  • ディープラーニング
  • 行政・官公庁・地方自治体

政府が策定したAIの7原則

政府は人工知能(AI)に関する7つの原則を発表しました。この原則をもとに法整備を進め、日本で活動する外国企業が混乱を回避するのに役立てるのが狙いです。この中でも企業への説明責任が求められる「AIを利用した企業に決定過程の説明責任」が話題を呼んでいます。

政府が策定したAIの7つの原則

・AIは人間の基本的人権を侵さない
・誰もがAIを利用できるよう教育を充実
・個人情報を慎重管理
・AIセキュリティーの確保
・公正な競争環境の維持
・AIを利用した企業に決定過程の説明責任
・国境を越えてデータを利用できる環境を整備

人間中心のAI社会原則(2018年12月27日 案)(PDF形式:345KB)

AIを利用した企業に決定過程の説明責任

米Amazonの採用システムの問題

金融機関の融資や就職の合否にAIが使われた場合、どのような基準で選ばれたのかAIの決定した基準があいまいなままでは判断された側に不満が残ってしまうことがあります。就職では性別、国籍などが合否の判断材料となるケースも十分にあり得ます。最近のニュースでは、米アマゾン・ドット・コムがAI(人工知能)を活用した人材採用システムで、女性を差別するかのように不合格者とするという機械学習面の欠陥が判明し、運用を取りやめる結果になりました。

判断の根拠を説明できないAIは使ってはならない?

AIが何をやっているかを説明するということは、ディープラーニングについて人が責任をもって説明するということです。ディープラーニング(Deep Learning)とは、相当量のデータを必要とし、人間ではなく機械が自動的にデータから特徴を抽出してくれるディープニューラルネットワーク(DNN)を用いた学習のことです。ディープラーニングは「どうしてそうなっているかわからないが、結果はこの通りである」という場合がほとんどです。

人工知能技術のビジネス活用概況

MM総研の「人工知能技術のビジネス活用概況」の調査結果によると、人工知能のビジネスへの導入率は、日本はアメリカやドイツに比べかなり遅れをとっていることが分かります。「国境を越えてデータを利用できる環境を整備」することで、海外企業が日本でのビジネスにAIを活用しやすくなるばかりでなく、日本企業の海外進出を後押しようという狙いがあります。一方で、説明が出来ないことの責任を取る必要がある日本でのAIを導入した事業は、ますます世界に遅れをとる可能性があります。

「アカウンタビリティー」と「説明責任」の違い

公開された原案では、説明責任をアカウンタビリティー(Accountability)の訳語であると明示しています。また、説明の範囲について「AIを利用しているという事実、AIに利用されるデータの取得方法や使用方法、AIの動作結果の適切性を担保する仕組みなど」としました。英語のアカウンタビリティーには「説明責任」のほかに、「金銭的な補償」などのいわゆる「結果に対する責任」も含まれる場合があります。日本の説明責任より広い意味で使われているのです。

実際に「AIの判断基準を示す」ために企業が出来ることは、大量のパラメーターの項目を並べる以外にあるのでしょうか。「説明可能なAI」をめぐっては、「人では導きだせない答えにディープラーニングを用いたAIの強みがあるのに、その答えを説明できないAIを退場させるようなものだ」という意見もあります。

アイスマイリーでは、来たるべきAI(人工知能)時代の到来に向けて、今こそ従来のライフスタイルや仕事観を大きく変革する時期に来ていると考えています。人間とAIとの共存社会を実現するためにも、「人間中心のAI社会原則」について今後の展開に注目し、これからのAI時代の可能性を多くの人に伝えてまいります。正式発表は2019年3月、政府はG7や経済協力開発機構などの国際会合に提案し、グローバルな議論で主導権を握ろうという考えです。