ドイツメディア：EUは人工知能の乱用を制限する法律制定を計画

専門家は、人工知能も気候変動への取り組みにおいて重要な役割を果たすことができると考えている。しかし一方で、その技術には疑問も投げかけられている。将来、人工知能が誰が就職するかを決めるべきでしょうか？自動識別技術はどうでしょうか？携帯電話のロック解除に使うのは問題ないかもしれませんが、企業がこの技術を使ってあらゆる面で人々を監視するとしたら、それは問題でしょう。

[[393436]]

したがって、欧州委員会は今後、機密領域における AI 技術の使用について明確な規則を設定する必要があり、個々のアプリケーションは全面的に禁止されることになります。たとえば、AI を使用して個人またはグループの行動、意見、決定に影響を与え、不利益や損害を与えることや、このような目的に利用できる弱点を発見するために AI を使用することは禁止されています。

さらに、人工知能技術を利用して個人を恣意的かつ盲目的に監視することも禁止されます。

欧州委員会は来週、具体的な計画を正式に提案すると報じられている。フランクフルター・アルゲマイネ・ツァイトゥング紙は現在、81ページに及ぶ規制案を入手している。この規制はすべての EU 加盟国に直接適用されます。

報告書は、規則違反には重い罰則が科せられると指摘した。草案では、企業に対する罰金は世界年間売上高の4％まで、上限は2000万ユーロ（1ユーロは約7.8元、このウェブサイトより）と規定されている。ただし、この金額はまだ決定されておらず、来週までに変わる可能性もあります。

禁止には例外がありますが、それは公共の秩序を維持するために必要な場合に限られます。これについては明確な規制が必要です。欧州委員会の法律担当委員ディディエ・レインダース氏は数日前、テロ攻撃があった場合には少なくとも例外期間を設けるべきだと強調した。

機密性の高い分野における高リスクのアプリケーションは、欧州単一市場で使用される前に、一定の最低基準を満たす必要があります。これらの高リスクアプリケーションは、主に公共の場で使用される識別技術を対象としています。また、信用度の評価、従業員の雇用や昇進、社会保障へのアクセス、犯罪の追跡に AI を使用することも含まれます。

報告書は、上記のすべての状況において、意思決定の最終的な権限は人間が持つべきであると強調しています。また、AI に入力されるデータが中立的であることも保証し、特定のグループに対する差別を回避する必要があります。

欧州委員会は、重篤かつ極端な場合に人間に取り返しのつかない結果をもたらす可能性のあるアプリケーションが一般的にリストに含まれるように、高リスクアプリケーションのリストは定期的に改訂されると指摘した。

AI の他の比較的無害なアプリケーションでは、ホットラインの電話に実際の人間ではなくチャットボットが応答する場合や、ビデオや画像が「ディープフェイク」プログラムの助けを借りて偽造され、視聴者が文脈からそのような偽物を認識するのが難しい場合など、人々が AI を扱っていることが少なくとも明らかである必要があります。

欧州委員会は、この勧告はAIの安全な使用と経済計画に対する信頼を築くことを目的としていると述べた。この方法でのみ、EU はその巨大な潜在力を活用することができます。

欧州議会はこの草案を批判した。緑の党の欧州議会議員アレクサンドラ・ゲザー氏は「欧州委員会の法案はいくつかの重要な点において明確さが足りない」と述べた。ゲザー氏は、機械が人間を評価し管理するなら、差別はどこにでも存在するだろうと指摘した。

伝えられるところによると、この規制が発効するには、欧州議会とEU閣僚理事会の承認がまだ必要だという。