人工知能の時代において、テクノロジーは中立ではない

インターネットや人工知能に代表される情報技術の台頭により、社会は第三次科学技術革命の時代を迎えています。テクノロジーによってもたらされる効率性の向上は疑う余地がなく、これは人類社会におけるコンセンサスとなっています。このような背景から、人々はテクノロジーが人類社会により良い未来をもたらすことを期待して、ためらうことなくテクノロジーを受け入れているようです。

しかし、これまでの技術の段階とは異なり、工業社会においては、人々が技術を畏敬の念を抱くのは当然であり、技術は合理的なツールとして見なされています。インテリジェント時代は、人間とテクノロジーの関係を再構築しました。テクノロジーはもはや単なる「製造」と「使用」の方法ではなく、人間化された性質です。

インテリジェント時代では、情報技術が人々の生活を覆い、統合します。テクノロジーの理解と普及、そして人間とテクノロジーの関係の調整が新たな課題となっています。法律と技術の間に困難が続発し、複雑なジレンマや新たな課題が生じるにつれ、「技術的中立性」という過去の概念はますます疑問視されるようになっています。

テクノロジーの恩恵により、その副作用についての考察が遅れています。しかし、産業の発展のペースが鈍化すると、人々はこの時代では「技術は中立ではない」と徐々に認識し始め、何年も遅れてようやく反省が訪れた。

[[375044]]

目的を持ったテクノロジー

蒸気機関が生産効率の向上を促進した第一次技術革命であれ、電気と内燃機関の大規模利用によって生産効率が倍増した第二次技術革命であれ、技術の本質は、効率を向上させて生活の範囲を拡大することにある、当初人類の祖先が手にしていた石器と何ら変わりません。違いは、現代のテクノロジーは現代科学の客観性に影響を受けており、したがってより客観的であるということです。

現代のテクノロジーは科学的要素を備えているからこそ、科学から生まれたテクノロジーそのものは善でも悪でもなく、倫理的判断のレベルでも中立的であると人々は長らく信じてきました。その中で、技術的中立性の意味は、それぞれ機能、責任、価値の観点から確認されています。

機能的中立性は、技術がその機能と効果を実行する過程で独自の機能メカニズムと原則に従うときに、技術はその使命を達成したと主張します。インターネットに関して言えば、機能的中立性は特にネットワーク中立性に反映されており、つまり、インターネットネットワーク事業者とプロバイダーは、データ伝送と情報コンテンツの配信においてネットワークユーザーを平等に扱い、ユーザーのニーズに対して中立であり、差別的な扱いをしてはならないということです。

責任の中立性は、技術的な機能と実際的な結果を切り離すものであり、技術のユーザーと実装者は、主観的な意図がない限り、技術が社会に与える悪影響について責任を問われることはないことを意味します。これはいわゆる「包丁理論」です。包丁は野菜を切るためにも使えますが、人を殺すためにも使えます。しかし、包丁の製造者は、誰かが包丁を使って人を殺した結果について責任を負うことはできません。

しかし、それが技術の機能的中立性であろうと責任中立性であろうと、それは両方とも技術の価値中立性を指し示しています。明らかに、第三次産業革命においては、技術の構想から技術の開発、技術の普及、技術の応用、技術の規制など、技術を取り巻く行動には、いわゆる「中立性」は存在しません。私たちが設計し構築するすべてのものには、人々の価値観が組み込まれています。

進化のランダムで混沌とした自然淘汰のプロセスとは異なり、テクノロジーは発明者の意志の産物であり、特定の目的を達成するために形成されます。テクノロジーは客観的な構造を持っていますが、人間の目的を持った合理的な活動にも役立ちます。これは、作成前に概念化され、慎重に検討されたことを意味します。あらゆる新しい創造は、ニーズを満たし、目的を達成するために行われます。

市場が空いているとき、どこにでもブルーオーシャンが広がっています。製品の品質に関係なく、インターネットに流入する新規ユーザーの消費ニーズを満たすことができます。そして、増分市場が過去のものとなった後、競争は既存の市場シェアをめぐる戦いへと変わりました。したがって、ユーザーベースが成長しなくなる消費者向けインターネットの後半では、テクノロジー企業が生き残るためには、技術的な観点から商業的価値を満たす製品をさらに開発するしかありません。

このプロセスにおいて、技術的中立性は必然的に商業的嗜好の影響を受けることになる。これはアブラハム・カプランの「道具の法則」です。ハンマーしか持っていないと、すべてが釘に見えてしまいます。資本による利潤追求こそが商業価値の根幹であり、「中立性」など論外である。

[[375045]]

非中立技術

実際のところ、「技術の非中立性」は新しい概念ではありません。 2014年にはすでに、ホワイトハウスの戦略白書「ビッグデータ：機会の獲得と価値の維持」がこのことを示唆していた。

この白書は、「技術は良いものでも悪いものでもないが、中立でもない」という技術の第一法則の重要性を強調している。しかし、その背景と一般的な環境は、「ビッグデータ」の急速な発展、米国がデータセキュリティリスク管理を「データ中心」の戦略重点として策定したこと、そして米国が「情報優位」と「意思決定優位」を確保するためにデータを「武器化」していることである。

技術が人々の技術的目的を明らかにし、人々の商業志向で満たされると、「技術的非中立性」に向かうのは避けられない傾向になります。データ収集は人工知能技術設計が実用分野に入るための出発点であり、この段階で人工知能侵害がひっそりと発生しています。

実際、人工知能の時代には、Web2.0は現実世界とインターネットの仮想世界を通信するための接続ポイントとして使用され、政府や企業はWeb2.0の計り知れないデータ収集機能を利用して、インターネットユーザーの活動のあらゆる痕跡をデータとして収集しています。暗号化されていないデータは、そこに含まれる大量の個人情報とプライバシーを「裸」にし、漏洩したり、私利のために他人に違法に使用したりする可能性があります。これはテクノロジーが非中立的になることへの第一歩です。

ビッグデータと人工知能の急速な発展に伴い、私的空間と公共空間の境界はますます曖昧になり、それは遍在的かつ具体的になり、隠れたマイクロチャネルを通じてユーザーの身体と姿勢に到達し、生活の隅々にまで浸透しています。人工知能技術はフーコーの言う意味で権力を担う知識の一形態となり、その革新は社会を統制するマイクロパワーの成長を伴っている。それは国家の手に握られていますが、企業や会社が所有することもできます。

このように、技術革新と発展の時代においては、個人情報は情報所有者の知らないうちに収集、コピー、配布、使用されることがあります。これにより、プライバシー侵害がいつでもどこでもさまざまな関係で発生するだけでなく、企業はデータ処理を通じて占有する情報リソースを商業価値に変換し、人工知能を媒体としてユーザーの意志や欲求に再び反応できるようになります。これは技術非中立性の第二段階です。

現在、人工知能の時代において、アルゴリズムが人間に与える影響は生活のほぼすべての領域に浸透し、徐々に世界を席巻しています。アルゴリズムは、多くの個人、企業、公共の決定の背後に関与しています。従来の機械学習とは異なり、ディープラーニングの背後にある人工知能アルゴリズムは、データの収集と入力、特徴の抽出と選択、論理的推論と予測という古いパラダイムに従わず、物事の最も初期の特性に基づいて自動的に学習し、さらに高度な認知結果を生成します。

これは、人工知能の入力データと出力回答の間に、人間には見えない「隠れ層」、いわゆる「ブラックボックス」が存在することを意味します。この関係を単純な線形因果論理、または数学的に計算可能な相関の指数関数的増加で説明すると、「ブラック ボックス」は「ホワイト」になります。つまり、「ブラック ボックス」内の操作は制御可能であり、出力結果は予測可能です。

[[375046]]

しかし、ブラック ボックスが説明どおりでない場合、ボックスは「黒」になり、入力によって出力が明確に決まるのではなく、システム自体 (ブラック ボックス) によって出力が決まるということを人々は受け入れなければなりません。これは重要なことです。なぜなら、将来のテクノロジーは今日のテクノロジーよりも強力になり、より広範囲にわたる影響を及ぼす可能性があるからです。 AIが独自の道徳的選択を行うようになると、技術的中立性を主張し続けることは無意味になります。これは技術非中立性の3番目のステップです。

もちろん、テクノロジーは科学技術の客観性に影響され、独自の開発モデルとロジックを持っています。この客観的な側面により、テクノロジーは人類社会が把握し、頼ることができるツールになりますが、テクノロジーの設計者やグループも独自の価値志向を持ち、その価値観に基づいて科学的意義に対する設計コミットメントを持ちます。

同時に、テクノロジーの設計者は、科学の重要性を理解する際に社会的価値観の影響から逃れることはできません。これは、あらゆる技術が単に自然から得られるものではなく、技術設計者の目的と判断に基づいて、特定の歴史的環境、特定の文化的背景、特定の思想の中で構築されることを意味します。

人工知能の時代において、テクノロジーはもはや中立的ではありません。昨今、テクノロジーは徐々に副作用を見せるようになってきました。その背後にある論理は、社会解釈システムの発展が科学技術の発展に比べてはるかに遅れているということです。テクノロジーは人によって生み出され、人に役立つものであり、それによって私たちの価値観もさらに重要になります。