私たちは人工知能をどれほど深く誤解しているのか

[[320546]]

人工知能技術には良い影響と悪い影響の両方があり、人類に利益をもたらす一方で、さまざまなリスクも伴います。理論的には、以下の4つのリスクがあると考えられます。

テクノロジーは制御不能だ。テクノロジーの制御不能とは、テクノロジーの発達が人間の制御能力を超え、人間までもがテクノロジーに制御されてしまうことであり、多くの人が最も懸念するリスクです。既存の人工知能技術は、強力な閉鎖性基準を満たす条件下でのみ、その強力な機能を発揮することができます。非閉鎖シナリオでは、既存の人工知能技術の能力は人間の能力にはるかに劣っており、現実世界のほとんどのシナリオは非閉鎖的です。したがって、現時点では技術的な制御喪失のリスクはありません。

テクノロジーの誤用。情報技術に関連する技術的悪用には、データのプライバシー問題、セキュリティ問題、公平性問題が含まれます。人工知能技術の適用により、これらの問題の深刻度が増大する可能性があり、新しいタイプの技術的悪用が生じる可能性もあります。現状では、人工知能技術自体は中立的であり、それが悪用されるかどうかは、その技術がどのように使用されるかに完全に依存します。したがって、人工知能技術の誤用とリスクの予防に注意を払うことが議題に上がるべきです。

アプリケーションのリスク。アプリケーション リスクとは、テクノロジのアプリケーションが社会的に悪影響を及ぼす可能性を指します。現時点で人々が最も懸念しているのは、特定の業界で人工知能が広く導入されることで、大量の雇用が削減されるのではないかということだ。アプリケーション リスクはテクノロジの適用によって発生するため、アプリケーションの制御が鍵となります。強い閉鎖原理によれば、人工知能技術を実体経済に応用するには、シナリオ変換の助けが必要になることが多く、これは完全に人間の制御下にあります。どの程度行われるかは、関連する業界の決定に依存します。

管理エラー。人工知能は新しい技術であり、その応用も新しいものです。社会にはマネジメントの経験が不足しており、「制御すれば死ぬ、放っておけば混乱する」という状況に陥りがちです。そのためには、規制措置の的を絞った効果的な性質を確保するために、人工知能における既存の成果の技術的性質と技術的条件をより深く理解する必要があります。

現在、人工知能に関して 3 つの誤解があります。

まず、人工知能はすでに万能であるため、既存の人工知能技術を無条件に適用することができます。強い閉鎖原理によれば、既存の人工知能技術は万能とは程遠く、その適用には条件がある。そのため、産業応用においては、強い閉鎖基準に対する理解を深め、シーンカットやシーン変換を強化し、強い閉鎖基準に違反する盲目的応用を避けることが急務となっている。このような盲目的応用は現在、国内外で非常に一般的であり、リソースを浪費するだけでなく、成功する可能性のある応用にさらに深刻な妨害を与えている。

第二に、既存の人工知能技術は手動のラベル付けに依存しており、インテリジェントではないため、大規模に適用することはできません。既存の人工知能技術はディープラーニングに限定されず、ブルートフォースとトレーニング方法を組み合わせることで、手動のラベル付けを回避できます。さらに、強力な閉鎖基準を満たすアプリケーションシナリオでは、データ収集と手動のラベル付けを効果的に実装できます。現在のアプリケーションの一部が失敗している理由は、既存の AI テクノロジを適用できないからではなく、強力な閉鎖原則に違反しているためです。この誤解は、人々が人工知能技術についてある程度理解しているものの、完全に理解していない場合によく起こります。最初の誤解と同様に、この誤解は私の国における人工知能産業の応用の進歩に深刻な影響を及ぼすでしょう。

第三に、今後20～30年で人工知能技術の発展はある臨界点を超え、その後は人工知能は人間の制御なしに自由に発展するでしょう。強力な閉鎖原理と世界の人工知能研究の現状によれば、この「特異点理論」は技術的な範囲内で科学的根拠を持っていません。モデルの意味的完全性や代表データセットの限定された確実性など、閉鎖基準に含まれるいくつかの条件は、通常、強力な閉鎖基準に必要な人工的な手段の助けを借りて満たすことができます。将来これらの制限を突破できるかもしれないと想像することと、AI が現在これらの制限を突破できるかどうかは別の問題です。将来的に特定の制限が破られたとしても、それを制約する新たな制限が設けられるでしょう。この種の発言は、人工知能技術が特定の条件とは独立して存在できるということを暗黙的に想定しています。現時点では、この技術が実現可能かどうかを裏付ける科学的証拠はなく、今後観察され、判断されることになる。

上記の 3 つの誤解は、我が国における人工知能の発展に対する主なイデオロギー的障害です。閉鎖性と強い閉鎖性の基準は、既存の人工知能技術の性質に基づいており、これらの誤解を解消するための基礎を提供します。また、人工知能の発展におけるその他の問題を観察、思考、研究するための新しい視点を提供し、過去に人工的に増幅された「周期的な変動」の干渉を繰り返すことを回避します。