人工知能技術は急速に発展しています。AIの信頼問題をどのように解決するのでしょうか?

[[441503]]

【グローバルネットワークテクノロジー記者 王楠】AIといえば、まず何を思い浮かべますか？ 九段の天才チェスプレイヤー柯潔とAlphaGoの戦いでしょうか？ 自動運転でしょうか？ それとも、ある話題について友達と話していると、数秒で携帯電話にプッシュされるのと同じ種類の広告でしょうか？ それとも、親でさえも認識できない「変装ツール」でしょうか？

1950 年のチューリングの疑問から今日の急成長産業に至るまで、人工知能技術はすでに人々の生活のあらゆる側面に浸透しています。しかし、急速な発展の裏では、「ブラックボックスモデル」による技術的な制御不能、データセキュリティ、プライバシー漏洩などの問題が頻繁に発生しています。人工知能技術の「万能性」に対する人々の態度は、当初の全面肯定から、落ち着いた後の混乱、不安、反省へと変化したようだ。科学技術の急速な発展によってもたらされた信頼の危機に人々はどう対処すべきでしょうか?

まず、信頼できるAIとは何かを理解する必要がある。「信頼できるAIは、基礎となる技術フレームワークを通じて、人工知能の応用プロセスに存在する可能性のあるさまざまな問題を実際に解決し、信頼できる人工知能エコシステムを確立します。」中国情報通信研究院華東支部人工知能・ビッグデータ部門のディレクターである陳俊燕氏は、12月14日に開催された「クラウドとAIについて語る」テクノロジー業界サロンで述べた。

実際、近年では顔認証が闇産業の標的になったり、プライバシー情報の売買など、ユーザーの個人プライバシーデータをめぐるさまざまなセキュリティ問題がニュースで頻繁に取り上げられるようになり、プライバシー保護やデータセキュリティといった問題に対する世間の関心も高まっています。 「現在、情報は複数の情報源から来ており、短期間で追跡することはできない。データの使用に規制の抜け穴があれば、個人のプライバシーの漏洩や直接的な金銭的損失につながるだろう」と陳俊燕氏はさらに、現在のAI技術に対する信頼の危機を分析した。

同時に、AI信頼危機は、より深刻な個人の安全問題を引き起こす可能性もあります。 「AI技術はブラックボックスモデルに基づいているため、医療診断、自動運転、その他の生命に関わる産業など、いくつかの重要な分野で信頼の危機が発生した場合、非常に恐ろしい結果をもたらすだろう」と、JD Discovery Instituteのアルゴリズム科学者であるHe Fengxiang氏は分析し、これらの危機は業界の発展とアプリケーションの実装に大きな影響を与えるだろうと述べた。

このような状況において、人工知能の時代においてプライバシー保護、政府規制、商業的要求のバランスをとることは、産業界、学界、研究界のあらゆる部門が取り組む必要のある緊急の課題となっています。華空青教情報技術（北京）有限公司の標準責任者兼戦略ディレクターの王雲和氏は、信頼できるAIの構築にはすべての関係者の共同の取り組みが必要だと考えています。 「法的な観点から見ると、現在、データセキュリティを保護するためのデジタルセキュリティ法と個人保険法があり、これらは信頼できるAIのためのハード対策です。次のステップは、信頼できるAIのためのソフト対策と言える業界標準化の向上です。この2つは不可欠であり、互いに補完し合っています。」

近年、世界における信頼できるAIに関する関連政策や基準の実施状況について、陳俊燕氏は次のように結論付けた。「現在、国際社会は主にガイドラインや法律の形で人工知能の信頼性を規制しており、例えば2018年の『信頼できる人工知能の倫理ガイドライン草案』や2019年の『信頼できる人工知能の倫理規定』の発表などがある。また、人工知能管理フレームワークの構築や信頼できるAIの監督による信頼性の向上など、基準設定の模索も行われている。例えば、今年発表された『人工知能における差別の識別と管理の基準に関する提案』や『人工知能リスク管理フレームワーク』などだ」。海外の信頼できるAIは法律や基準を先に実現しているが、柔軟性が足りず、「画一的」な問題に陥りやすい。

これについて何鳳翔氏は、信頼できる人工知能の概念が徐々に世界的なコンセンサスとなっているため、信頼できるAIの技術研究と標準開発の面で、京東研究院とCAICT白書の考えは一致していると指摘した。人工知能の公平性、説明可能性、安定性、プライバシー保護を確保するとともに、アルゴリズムが信頼できることを保証する必要がある。これは、将来、人工知能産業が健全に発展するための唯一の道にもなるだろう。 「JD.comは、基礎理論に基づいて最先端の問題を研究し、これらの理論的問題と理論的結果に基づいて新しい信頼できるAIアルゴリズムを設計し、これらのAIアルゴリズムを製品に適用して、テクノロジーの最終的な実装を完了しようとしています。」

会議に出席した専門家は皆、信頼できるAIは理論研究と産業実践の両面でまだ長い道のりがあると述べた。 「信頼できるAIには、幅広い分野と複雑な実務タスクが関わっています。単一の企業や組織が単独で質の高いイノベーションを起こし、飛躍することは困難です。そのため、生産、教育、研究、応用のフルチェーンコラボレーションが鍵となります。今後、業界は成熟したオープンなエコシステムを構築する必要があります。すべての関係者の力を結集して初めて、テクノロジー、標準、実践においてさらなる飛躍がもたらされるのです」と何鳳翔氏は語った。

全体として、我が国は現在、「国家新世代人工知能標準システム構築ガイドライン」や「信頼できる人工知能の発展を促進するイニシアチブ」などの文書を発表するなど、信頼できるAIの構築において、政策、生態学、法律、標準設定の面で総合的な努力を行っています。規制当局の一致団結した努力に加え、中国情報通信研究院やJD.comに代表される重要な機関や大手企業も、業界の取り組みや標準の策定などの推進に全力を尽くしており、今後さらに前向きな進展が見られることは間違いないだろう。