人工知能の本質的な「差別」を排除する方法

[[246531]]

情報イラスト。出典：新華網

ハリウッド映画「アベンジャーズ3」では、悪役サノスが「絶対的に公平な」ランダムモデルを使って宇宙の生命の半分を破壊し、心の中の調和を達成します。今日、人工知能は異なる方法で、しかし同様の結果で人類の運命を決定し始めています。

最近、アメリカのインターネット大手アマゾンは、人工知能採用チームを解散した。チームが設計した人工知能プログラムが極めて「家父長的」であり、女性の求職者のスコアを自動的に下げるからだという。

人工知能はアルゴリズムによって引き起こされる「差別」を増幅するだろう

人工知能技術の継続的な発展に伴い、ますます多くの経営者がこの革新的な技術を活用して企業の運営効率を向上させ始めています。映画会社は人工知能を使用して映画の脚本の潜在的利益を予測し、企業は人工知能を使用して従業員の異常な行動を監視し、保険会社は人工知能を使用して被保険者の保険金支払いの可能性を評価します。こうした慣行は多かれ少なかれ差別的であり、Amazon の AI 採用プロセスに似ています。

この敏感さと潜在的なリスクにより、一部の学者は人工知能の本質について考え始めています。例えば、ノーベル経済学賞受賞者のトーマス・サージェント氏は、「世界科学技術イノベーションフォーラム」で、人工知能は実は統計学であるが、非常に難しい言葉を使用していると述べました。

この発言は人工知能業界や愛好家の多くから批判されているが、より深く調べてみると、それは理由がないわけではない。人工知能は統計に基づくアルゴリズムに基づいて構築されています。現在の「知能」の部分は、コンピューター自身の「学習」機能を通じて統計テスト プロセスを迅速に完了することにのみ反映されています。

この計算プロセスに基づくと、人工知能は統計の限界を回避することはできません。

*** はサンプル選択バイアスです。たとえば、Amazon の人工知能チームが選択した学習サンプルは、主に既存のインターネット業界の採用データに基づいています。米国のソフトウェア業界では、男性の従事者と求職者の割合が女性よりもはるかに高いため、人工知能プログラムは継続的なサンプル学習を経て、男性の方がそのような職業に適していると結論付けました。バイアスを修正する代わりに、サンプルによって引き起こされたバイアスを拡大しました。

2つ目は、アルゴリズムの不透明性です。人工知能のアルゴリズムの多くは「ブラックボックス状態」にあり、説明力に欠けています。アルゴリズム自体に不公平な傾向がある場合、それを検知することは極めて困難です。

3つ目は、効率性と公平性のバランスを取るのが難しいことです。アルゴリズムの目的は、解決策が社会の他のメンバーに与える影響を考慮せずに、最善の解決策と最も直接的かつ効果的な手段を見つけることです。人工知能には共感力が欠けており、その決定は人類文明が従う公共の倫理や規則を考慮していません。

AIに対する規制はAIの進歩に遅れをとっている

上記の制限は、人工知能の広範な使用が機会と同等のリスクをもたらすことを意味します。

一方で、効率が優先され、勝ち負けだけが目標となるような分野では、人工知能は一般人をはるかに超える能力を発揮しています。競争上の優位性を獲得するために、政府、軍、企業は人工知能の応用と研究開発を加速し、実験的で未熟な技術の一部も実用化する必要があります。

一方、勝率の追求は人間社会に潜在的な影響をもたらし、人間社会における効率性と公平性のバランスを崩す可能性もあります。人工知能がますます支配する世界では、貧富の差が拡大し、階級分化がより顕著になる可能性が高い。これは、恵まれないグループ、文化、国にとって好ましいことではありません。恵まれないグループとエリート社会の間の溝が広がり、彼らを事実上の「役立たずの人間」にしてしまう可能性さえあります。

これらのリスクには、人工知能によってもたらされる「デジタル進化」という、将来の世界の危険な姿が含まれています。 「デジタル進化」の世界では、人工知能は新たな淘汰のメカニズムとなり、人工知能の「アルゴリズムの好み」を満たす人だけがこの新しい環境に適応し、生き残り、発展する機会を得ることができるでしょう。アルゴリズムの要件を満たさない人々は、発展の道の終わりに直面し、生活環境は悪化し続けるでしょう。

人工知能技術と産業の進歩と比較すると、人工知能に対する制御と制限は明らかに遅れています。現在、国際社会の人工知能に対する欲望は恐怖を上回っており、人工知能に対する理解は人工知能の自己進化よりも遅れています。しかし、人工知能が人間社会のルールや制約を覆すほどの臨界点を突破すれば、人工知能が人類の未来を決定することを止めるものは何もなくなるだろう。サノスがアルティメット・ガントレットの「6つのスーパージェム」を手に入れた後、宇宙の生命の半分を破壊するのにたった一撃しかかかりませんでした。 （出典：北京ニュース）