ロボットやAIが事故を起こした場合、誰が責任を負うのでしょうか？

[[348005]]

自動運転車が歩行者をはねた場合、法的責任を負うのは誰でしょうか？所有者、製造者、それとも車両を運転する人工知能（AI）ソフトウェアのエンジニアのいずれに責任があるのでしょうか？

ロボットや AI が意思決定を行う際の「リスク」を判断するという問題は、このイノベーションが産業界でますます使用されるようになり、私たちの日常生活に直接影響を与え始めるにつれて、興味深く重要なテーマとなっています。

実際、AI と機械学習のイノベーションが進化するにつれて、仕事、組織、ビジネス、社会に対する認識がどのように変化するかが観察されるでしょう。しかし、AI には破壊的な変化をもたらし、効率性を高める力がある一方で、問題が発生した場合に誰が危険にさらされるかという欠点もあります。

交通事故は事故死の主な原因の一つであり、自動運転車をより早く導入すべきだという主張の主な根拠の一つとなっている。シンガポール、韓国、欧州など多くの場所で準備が進む中、AIなどの最先端技術も含めた災害リスクの共有に向けた取り組みが世界的な議論の主流となっている。

第3回年次テクノロジー法カンファレンス開催中。最近のFESTフォーラムの専門家らは、シンガポールの法律は現在、人工知能やロボットが関与する事故で被る不幸や損害のリスクを適切に規定していないと述べた。

シンガポール法科大学院のロボット工学・AI小委員会の共同委員長チャールズ・リム氏は、「人間の関与なしに独立して動作する自律型ロボットとAIフレームワークの並外れた能力は、責任の所在を曖昧にしている」と述べた。

ロボット工学と人工知能に関する11人からなる委員会は、このような事件における民事責任をどのように決定すべきかについての報告書を1か月前に発表した。シンガポールはIIDCの2019年政府AI準備指数で第1位にランクされましたが、実際には同国には、自動運転車（AV）に対する民事責任を含め、ロボットやAIから生じる責任を規制する法的枠組みがありません。

「AIフレームワークの基礎となるソフトウェアコード、準備された情報、フレームワークの外部環境など、さまざまな要因が関係してきます」とリム氏は述べた。リム氏はシンガポール法学アカデミーのロボット工学と人工知能に関する小委員会の法律顧問兼共同委員長である。

この状況は非常に混乱を招きます。事故の原因が、未解決のバグによるものなのか、最新のソフトウェア アップデートによるものなのか、あるいは事故の原因となった人々の機能選択によるものなのかは不明です。ウェビナーで個人の立場で発言したリム氏は、責任を証明するために事故の正確な一連の出来事を準備することは予測不可能でコストがかかる可能性があると述べた。

もう一人のパネリストでロボット工学およびAI小委員会の委員であるジョシュ・リー下院議員は、議員にとっての第一歩は、運転席にいる個人にどう対応するかということに取り組むことかもしれないと述べた。

「この人物は運転業務を完了できないかもしれないが、必要に応じて車両を引き継ぐ能力を持っているため、私たちはこの人物を『ユーザープリンシパル』と呼ぶことを提案する」と彼は述べた。 「これは、医療診断など、今日の多くの状況で自動運転車に応用できます。」

「ユーザー責任」という用語は、2018年に英国法務委員会によって初めて提案され、独立した規制体制の下で完全に自動化された環境にユーザーを配置するという提案に反対した。

弁護士であり、人工知能とロボットに関する小委員会の委員でもあるビバリー・リム氏はウェビナーで、リスクを負うべきではないのは、AIの方が比較的信頼できる運転手だと考えて車両を購入した運転手だと述べた。