LIN NEWS
法人ニュース
  • Home
  • /
  • 法人ニュース
  • /
  • LIN News
LIN News
[Tech Legal Insights ] AIの拡散による製造物責任の問題 I
2025.02.18
関連業務分野
メンバー
AID (Artificial Intelligence Decoding) Vol. 2 2025. 02

― AIという新しい技術が産業と生活に拡散されるにつれ、EU PLDは2024年にAI法、一般製品安全法(GPSR)とともにパッケージ法として生まれ変わり、製造物、製造業者、損害、欠陥という核心概念を整え、証拠開示命令などを追加しました。一方、AI LD案は再び過失主義に回帰し、AI拡散の芽を育てつつも、同時に因果関係推定という方式を通じて被害者救済とのバランスを取るための工夫を続けています。―

1.EUのAI法とPLD、そしてAI LD案

EUはすでに施行されているAI法に合わせ、製造物全般に適用できる新しい製造物責任法(New Product Liability Directive、「New PLD」)を2024.12.9.に発効させ、この法律は無過失責任(厳格責任)原則を採用しています。また、AIが単なるSWではなく、半導体チップをはじめとするシステムの概念として受け入れられていて(EUのAI法は、韓国の人工知能基本法とは対照的に、AIではなく「AI system」だけを定義している)、そのようなシステムの活用によって発生した損害は、製造物によるものとは比較できないほどに、国家経済、社会、政治、軍事など広範囲な影響を及ぼす可能性があり、個人の被害も精神的に長期間に渡って持続する可能性があるという点を理由に、独自のAI責任法(Liability Directive、「LD」)の制定も推進されました。

しかし、AIシステムの普及が抑制され、革新的な技術開発、企業活動などに悪影響を及ぼすことを心配する反対の声もあるため、AI LDはまだ法律として最終的に採用されていません。それにもかかわらず、2022年9月に発表された後、議論が続いているAI LD案は、すでに発効されたAI法とともに、AIによる被害を予防し、救済しようとするEUのパッケージ法であるという点で時代的な意味があります。

結局、AIシステムを活用した製造物に関する責任問題はNew PLDに従う必要があり、New PLDをEUの国々が国内法に転換しなければならない時期は2026年12月までと確定することで、(2026年12月まで、各国の法律が整備される前にEU市場で販売されている製品やサービスは1985年に制定されたPLDを適用)人工知能基本法を通過させた韓国としては、New PLDと関する法律の運営、AI LD案の推進なども注目しながら、これに備える必要があります。

2. EU New PLDの特徴

2-1. 製造物概念の拡大

2000年に制定された韓国の製造物責任法は、製造物の基準にSWも含まれるかどうかが不明確なHW時代の産物ですが、EUのNew PLDは、製造物の基準にSWを明示的に含めることで、応用SWはもちろん、拡張されたAIシステムも適用対象となるようにしました。特に、SWが製造物に内蔵された状態で販売されず、独立的に(stand-alone)販売されたものであっても、製造物の概念に含め、IoTの場合など、SWが部分的に含まれている場合及びGoogle Workspaceのようにクラウドサービス(SaaS)の形でインターネット使用する際に提供される場合も製造物の概念に含めました。また、交通情報サービスを受信して動作するカーナビゲーションのよう、製品の安全性を決定するサービス提供関連のSW欠陥は製造物欠陥と見なしました。もちろん、公開SWは除外され、「情報」に分類されるデジタルファイル、e-bookやソースコードのようなもの、そして破損したデータ自体は製造物の概念に含まれません。

2-2. 製造業者という概念の拡大

EUのNew PLDは、責任主体である「製造業者」の範囲を拡大し、「economic operator」というタイトルで(第8条)、SW開発者はもちろん、製品の製作、供給に関与した事業者だけでなく、利用者の健康状態を定期的にチェックするためのセンサー製品に依存して遠隔健康検診サービスを提供するなど、製造物と一体的に提供されるサービスの場合には、そのようなサービス提供者も責任を負うようにし、製造業者がEU内にないオンラインプラットフォーム事業の場合には、輸入業者、製造業者の法定代理人、そして伝統的な輸入業者の役割を代行している在庫管理、包装、配送などを担当する「fulfilmentサービス事業者」まで含めています。

このような拡張は、EUにAIシステムが内蔵された製品やサービスを販売しようとする外国事業者であっても、責任を負う主体をEU内に指定するようにするためであり、製造業者を特定できない場合には、流通業者に最終的な賠償責任を負わせることで、結局、EUにAI関連デジタル製品を輸出しようとする企業は、EUのNew PLDに従うようにしました。

特に、SWなどのAIシステムが継続的にアップグレードされ、学習するという特性を考慮し、製品またはサービスが市場に販売された時点を基準として欠陥判定を行わず、継続的なアップグレードと学習過程で発生した事後の欠陥も、完全に第3者の責任で発生したものでない限り、全て製造業者の責任範囲に含めることで、最初のSW開発者も原則的に無過失賠償責任を負わせるようにしています。

実際のSW開発者は、公開SWでない限り、ライセンス契約を締結する際、契約条項を通じて事前に自分の不法行為責任を免責または軽減するものと予想されますが、New PLDは被害者を保護しようとする法律の趣旨により、被害者に対する直接的な免責規定を許容していません(韓国の製造物責任法も同一)。ただし、SW関連製品を使用した製造業者が今後責任を負うことになった場合、SW開発者に対する製造業者の求償權の行使を制限するライセンス契約規定は、革新的な開発と努力が必要なSW産業の特性として許容されます。

一方、AI LD案は、AIシステムの特性上、技術的に被告を特定することが難しいため、AI法の提供者及び利用者の定義を忠実に採用しつつ、訴訟を提起した当事者だけでなく、被害者(potential claimant)まで別途に定義しているため、自然人はもちろん、法人も含め、原告適格を拡大しています。

2-3. 損害概念の拡大

EUのNew PLDは、WHOの基準を参考に、医学的に認められる精神的損害、データの損傷も損害の範囲に含めていますが、経済的損害や プライバシーなどの基本権侵害による精神的損害は除外している一方、AI LD案は、AI活用により発生した特別な責任問題を対象とする法律の性質上、個人の経済的・精神的損害なども含めています。2002年から施行されている韓国の製造物責任法も、不法行為責任の性格上、精神的損害を当然に含むものと解釈されます。

2-4. 欠陥概念の拡大

韓国の製造物責任法が過失を立証する必要がなく、「製造上、設計上、表示上の欠陥」の概念を掲げ、被害者救済を容易にしたのに対し、New PLDはAIとデジタル技術の特徴を考慮し、「消費者の安全に対する期待とEU、または各国の安全基準を満たさなかった場合」に製品欠陥があるものと見なしています。

これは、当該製造物が「通常の使用状態」で損害が発生したという事実などを被害者が立証した場合には、「製造物を提供した時点で当該製造物に欠陥があり、その欠陥により損害が発生したものと推定する」ため、既存の製造物責任法は製品の使用目的に合ったかどうかを基準に製品の欠陥の有無を判断した後、因果関係を推定させる方式であり、1985年に制定された旧EU PLDも、消費者が期待する合理的な安全性を基準に、このような事項を考慮して欠陥を判定していました。しかし、New PLDは、EUと各国の法律が定める安全基準という判断基準を欠陥の概念に追加することで、AI時代に「安全」という法的な輪を通じ、PLDが個別産業はもちろん、ソフトウェア、サイバーセキュリティなどの新しい領域に拡大適用できるようにしたものです。

これに伴い、EUは2024年12月、AI時代のサイバーセキュリティなど新たな安全基準を定めた一般製品安全法(General Product Safety Regulation、「GPSR」)を発効させました。したがって、EUにAI関連製品を輸出する企業は、AI法とPLDはもちろん、GPSR、そして安全に関するEUと各国の法も同時に検討し、準備する必要があると思われます。

また、「大衆が期待する安全性」という基準の意味は、製造業者が製品を販売する際に想定される悪影響や被害を製品表示はもちろん、大衆が期待する「安全性」を通じた欠陥の概念も、合理的に予測可能な使用とその影響などをただ記載したからといって、免責されるわけではないということです。他の変数を考慮して判定するようにしたものの、スマートホームシステムのように電子機器が相互に連動して作動する製造物であれば、欠陥判定基準の範囲が当該製品に限定された安全基準ではなく、システムの安全基準に対する期待に広がるなど、柔軟に運営されるようにしました。また、AIシステムの意思決定過程に内在されたアルゴリズム上のバイアス、システムアップデートによるリスクなど、予測可能なものではなく、当時の科学・技術のレベルでは予測できない(unforeseen)リスクによるものである場合は欠陥と判断しません。

3. 立証責任の分担

3-1. 無過失責任 vs 過失責任主義

AIのような技術関連訴訟で勝敗に直接的に影響を及ぼすのは、立証責任の問題です。韓国の製造物責任法は、2000年に制定された際、無過失責任(厳格責任/strict liability)主義を採用し、製造業者が当該製造物を提供した時点の科学・技術レベルでは欠陥の存在を発見できなかったという事実、製造物の欠陥は製造業者が当該製造物を提供した時点の法令に基づくことで発生した事実を立証することで免責されることができる規定がありましたが、2017年の改正により、被害者が製造物の欠陥と因果関係を科学的・技術的に立証することの難しさを考慮し、「欠陥などの推定」規定を新設し、被害者側に不利な状況を多少改善しました。

EUのNew PLDは、原告が過失を立証する必要はなく、損害、欠陥、それらの因果関係のみを立証することを要求する厳格責任原則を採用していますが、法上の証拠開示命令を活用したにもかかわらず、欠陥と因果関係の両者またはそのいずれかを立証することが科学的・技術的な複雑性により原告である被害者に「過度に困難な場合(excessive difficulties)」には、関連性を立証するだけでも各国の法院に欠陥と因果関係の両者またはそのいずれかを推定するように規定することで、AIを活用した製品などによる被害者の保護を容易にし、特に多数の装置が結合された複雑な製造物責任訴訟において被害者に有利になるようにしました。もちろん、韓国の製造物責任法と同様に、EUのNew PLDは、製造業者の免責規定で、当時の客観的な科学的・技術的レベルでは欠陥を発見できなかったという主張も可能にすることで、被害者保護と製造業者の責任制限のバランスを取っています。これに対し、ヨーロッパ議会は、AI LDの制定過程において、AI法上の「高リスク」領域については、過失の有無に関係なく損害賠償責任を問う厳格責任主義を採用すべきだという意見を述べましたが、執行委員会(Commission)は、AIの革新と発展だけでなく、AIシステムを活用する中小企業及びスタートアップに対する悪影響などを考慮し、2022年の最終立法提案書には過失責任主義を含めました。ただし、被害者がAIの活用による過失と因果関係を立証することが困難であることを考慮し、AI法上の8つの高リスク領域について、事前手続に従わない場合、因果関係を推定する方式を提案しています。

3-2. 証拠開示命令

EUのNew PLDとAI LD案は、Directiveという共通点がありますが、被害者と製造業者(被告)の立証責任に関する情報の非対称性を考慮し、被害者(原告)の正当な要求がある場合、法院は製造業者(被告)に「必要かつ合理的な」範囲内で証拠開示を命じることができるという法規定を新設しました。

韓国の民事訴訟法の文書提出命令制度は、その活用度が非常に低いため、技術関連訴訟で注目されていませんが、New PLDは、原告が訴訟でAIの活用による欠陥及び因果関係を立証することが科学的・技術的に複雑であり、ディープラーニングAIの場合、入力と出力の両方が複雑であるため、原告の主張が困難であることを考慮しました。ディープラーニングAIの場合、入力と出力の間にどのような演算過程を行ったのかの把握が難しいいわゆる 「Black Box」問題のため、今後、証拠開示命令に依存せざるを得なくなることを考慮し、もし製造業者(被告)が法院の命令に応じない場合には、製品欠陥に対する推定が行われるようにする規定も設けました。一方、AI LD案は、AI法に基づく8つの高リスク領域についてのみ、一定の要件が満たされた場合、過失と損害の因果関係を推定するようにする規定を設けています(8つの領域を除くAI活用領域では、法院の判断により因果関係を推定するようにする)。

4. 意義

契約関係ではない消費者に製造業者に対して製造物欠陥による不法行為の責任を問うように規定している製造物責任法は、EUと韓国の場合と米国の大部分の判例などで無過失責任(厳格責任)主義を採用していますが、AIという新しい技術が産業と生活に拡散するにつれ、EUのNew PLDは2024年にAI法、一般製品安全法(GPSR)とともにパッケージ法として生まれ変わり、製造物、製造業者、損害、欠陥という核心概念を整え、証拠開示命令に関する規定を追加しました。一方、AI LD案は再び過失主義に回帰し、AI拡散の芽を育てつつも、同時に因果関係推定という方式を通じて被害者救済とのバランスを取るための工夫を続けています。

韓国の人工知能基本法が2026年から施行され、もし現在の製造物責任法が適用される場合、AIに関する製品の欠陥が果たして法の適用対象になるのかどうかについては議論の余地がありますが、実際にEU市場にAI関連製品を輸出する韓国企業は、事業者自主規制という国内の制度に慣れていると、今後「安全性」という広い基準で欠陥の有無を判定するEU New PLD規制に適切に対応することは難しいと思われます。したがって、グローバル競争力のある韓国の革新企業に負担をかけず、同時に国家競争力の戦いの中心にあるAIを適切に拡散させることができるよう、製造物責任に関する法律を韓国の状況に合わせて体系的かつ合理的に改正する作業が必要と思われます。
 

Generative AIではなく、Physical AI時代の製造物責任の問題は、単一法ではなく、複数の産業の個別法が複合的に適用される可能性が高くなりました。
今回のAID2号は、製造物責任法を中心に作成し、他の関連法と個別産業については、引き続き紹介する予定です。
上記内容に関して気になる点がありましたら、ク・テオンTMT専門グループ長(tekoo@law-lin.com)、バン・ソクホセンター長(shbang@law-lin.com)までご連絡ください。

 
関連業務分野
メンバー
メンバー 팝업 닫기 버튼 팝업 닫기 버튼
TOP 버튼 모바일 TOP 버튼