トヨタ、米ウーバーと自動運転車共同開発へ、AI製品と民事責任 （2018/9/12 企業法務ナビ）
1．はじめに
トヨタ自動車は8月27日、米ウーバー・テクノロジーズに5億ドルを出資することを発表しました。両社は自動運転車の共同開発に乗り出す狙いがあるとされています。自動運転技術をめぐる競争は激化していますが、他方、自動運転のように人工知能（AI）を用いた技術によって生じる法律問題は、未だ議論の対象となっています。AIビジネスにまつわる法律問題は知財法等多分野にわたりますが、今回は、AI技術が他者に損害を加えた場合の民事責任に着目し、AIビジネス・AI製品に対する法律上の対応を検討していきたいと思います。
2．AIの行為に対する民事責任と問題点
既に自動運転の分野において、政府は3月30日、自動運転中の事故については原則として車の所有者が賠償責任を負うとする方針を示しています。これは、運転手が乗った状態で限られた条件で運転を自動化する、いわゆる「レベル3」の段階の自動運転にかかる見解であり、運転手を必要としなくなる「レベル4」以降の場合については、今後検討を要するとされています。レベル3までの自動運転による事故について一般の自動車の場合と同様の処理がなされるべきとされたのも、運転者という人間がシステムを監視すべきだからと考えられます。他方、運転者の存在を前提としないレベルの自動運転が実用化され事故が起きた場合には、それは「運転者」よりもむしろ「車両」が起こした事故と判断される可能性もあります。
このように、AIは自ら学習し、自律的判断をするが故に、AIの不法な行為に対する責任が、システムを運用する者にあるのか、製造した者にあるのかが曖昧になり得ます。システムの開発者や販売者と運用者の関係では、免責特約等により当事者間でリスク分配を行うことが可能ですが、第三者に損害を与える結果となる場合には、既存の法制度に基づく責任が問題とならざるを得ません。
3．問題となりうる法規定
AIの判断により第三者に損害が発生した場合に問題となる法的責任として、（1）不法行為責任（民法709条）と（2）製造物責任（製造物責任法3条）が挙げられます。
（1）不法行為責任について
不法行為責任は、いわば過失責任であって、注意義務違反によって第三者に損害を加えた場合に生じる賠償責任です。
AIの開発者やシステム製造者等がこの注意義務に違反したといえるためには、システムの設計段階から、誤作動などを予見できるようなミスが存在する必要があると考えられます。しかし、自ら学習し、自律的に判断するというAIの特性上、AIの判断や行動を全て予見することは困難であり、過失を認めることは難しい場合も多いと思われます。もっとも、システムやサービスの運用方法や性能などについて説明義務違反があれば、これについての責任は生じうるでしょう。
これに対して、AIを用いたシステムやサービスの利用者については、その運用方法が適切であったか、誤使用等がなかったかなどが問題となると思われます。
（2）製造物責任について
製造物責任は、製造物の「欠陥」により損害を生じさせた場合に生じる法的責任です。
ここでいう「欠陥」とは当該製造物が通常有すべき安全性を欠いていることを意味します。「欠陥」には製造上の欠陥（製造物が設計・仕様通りに製造されず安全性を欠いた欠陥）、設計上の欠陥（設計・仕様自体が安全性を欠いている欠陥）、警告上の欠陥（製造物のリスクに対する指示・警告を欠いたこと）の類型が存在しますが、いずれの類型でも複雑なAI製品の欠陥を立証することは困難を伴うおそれがあります。
また責任の対象となる「製造物」とは、「製造又は加工された動産」（製造物責任法2条1項）を指し、コンピュータ・プログラムのような無体物はこれに含まれません。したがって、損害を与えたのがAIという純粋なプログラムであった場合には、そもそも製造物責任が生じない可能性があります。他方、欠陥のあるプログラムを組み込んだハードウェアが損害を与える結果となった場合には、その製造者に製造物責任が生じるおそれがあります。
仮に製品に欠陥が認められても、製造業者としては（1）「開発危険の抗弁」や（2）「部品製造者の抗弁」によって責任を免れる可能性があります。
（1）開発危険の抗弁とは、製造業者等がそのAI製品を引き渡した時点において、当時の技術水準ではその製品に欠陥があることを予見できない場合には、責任を免れるとするものです。
また（2）部品製造者の抗弁とは、その製品が他の製造物の部品として使用された場合、その製品の欠陥が他の製造業者の設計に関する指示によって生じ、かつその欠陥につき過失がない場合には、責任を免れるとするものです。
4．コメント
以上にみたとおり、いずれにせよAIの欠陥による損害が発生した場合、責任が発生するか、誰が責任を負うべきか等不明確な点が未だに多いといえます。製造業者や販売業者、プログラムの開発者等当事者間の問題であれば契約段階でのリスクヘッジが可能といえます。しかし顧客や消費者等に損害を与えた場合などのリスクは予測が難しいといえるでしょう。
企業としては、欠陥ある製品を製造したり取り扱わないようにすることはもちろん、製品の仕様や運用について取引先や顧客に対する適切な説明・警告・表示を行うこと、製品の企画、製造、流通等各段階からリスクを評価し、現状の技術水準に照らした検討を行うことなどが求められるといえます。また予測できないリスクが現実化した場合に備え、PL保険やリコール保険などの賠償責任保険を活用することも検討されるべきと考えられます。
- 関連記事
- 自動運転車事故のシステム欠陥をメーカー責任とする方向で検討（国土交通省有識者会議）
- AI創作物に著作権は発生するのか
- AIを「営業秘密」として保護強化、経産省が検討会を設置
- AI（人工知能）活用した診断・治療、最終責任は医師が負うべき―厚労省・AI活用推進懇談会
- ウーバーを独禁法違反で提訴、デジタルカルテルとは
