私たちは人工知能によってどのように制御されているのでしょうか?

1970 年 11 月のライフ誌のインタビューで、ミンスキーは次のように警告しました。「コンピューターが制御権を握ったら、私たちはそれを二度と取り戻すことはできないかもしれません。私たちは彼らの悲惨さの中で生き続けることになるでしょう。」彼の有名な予測の 1 つは、「運が良ければ、機械は私たちをペットとして飼うことに決めるかもしれない」というものです。

現代では、人間の経験の偶然性は大幅に制限されています。 Tencent はあなたが間違いなく気に入るであろう新しいドラマを推薦し、Douyin はあなたをスクロールさせ続け、Taobao はあなたのお気に入りのアイテムを推薦しますが、その代償は何でしょうか? 音楽店で素晴らしい音楽に出会ったり発見したり、本屋で置き忘れた本を手に取ったりすることは二度とできなくなります。テイクアウトを注文するたびに、最も評価が高く、最も人気があるレストランを探します。アルゴリズムによる推奨がない限り、新しいレストランを試すことは絶対にないでしょう。娯楽を提供したり生活を楽にしたりする製品には、隠れたコストがかかる場合があります。日常生活でインターネットを閲覧すると、私たちがとる行動はすべて記録されます。オンラインで買い物をするとき、私たちは大量の情報とデータを提供します。最終的に誰がデータを取得するのでしょうか。近い将来、自動運転車が事故の際に誰が生きるか死ぬかを決定するようになり、生き残れば素晴らしいことになる。おそらく将来、私たちはいつ死ぬかを知るようになり、オンラインデートプラットフォームに行って配偶者を探したり、58.com で転職したりせざるを得なくなるでしょう。

科学、テクノロジー、哲学について議論するウェブサイト「Edge」に掲載された新年のコラムで、科学史家で作家のジョージ・ダイソン氏は、私たちは転換点に達したと主張している。 「かつては単純だった。プログラマーが機械に与える命令を書く。機械はその命令によって制御されるので、命令を書いた人が機械を制御する」とダイソンは書いている。今日では、コード自体がアクティブになっている。アルゴリズムは私たちの性格をモデル化し、検索履歴、クレジットカードでの購入、地理的な場所から私たちの欲求を予測する。その結果、マーク・ザッカーバーグ、ジャック・マー、ポニー・マーといった少数の人々が想像を絶するほどの富を手に入れました。

私たちは現在世界を支配しているこれらの巨大企業を恐れるべきです。おそらく最も先見の明があったのは、ダイソンが私たちに与えた警告だ。 「我々は、個人や個々のアルゴリズムが依然として舞台裏のどこかでコントロールしていると考えている。我々は自分自身を騙している」と彼は書いている。 「情報の流れをコントロールすることで、新たなゲートキーパーが世界の成長分野を支配している」。しかし、世界を本当に支配している企業は、もはや自社が構築する機械や何十万人ものエンジニアが触ったアルゴリズムをコントロールしていない。自社のプラットフォーム上の単一の入力や出力もコントロールしていないのだ。

Google、Amazon、Apple、Microsoftには100万人以上の従業員が働いています。彼らの多くは倉庫で商品を保管したり、iPhone の修理を手伝ったりしていますが、何千人ものエンジニアがコードを書き直して、私たちのあらゆる質問や要望に答えています。一人のエンジニア、いや何千人ものエンジニアでさえ、これらのプラットフォームがどのようにして私たちの心を支配するようになったのか、そしてそれが何に使われるのかをあらゆる角度から見ることはできません。しかし今では、それらはあらゆる用途に使用されています。

近い将来、外の車からリビングルームの照明まで、私たちの生活のあらゆる側面がアルゴリズムによって支配されるようになるでしょう。 JD.com の Taobao の次期バージョンでは、次にどの本を買うべきかを提案するだけでなく、アルゴリズムがユーザーの好みや必要性を判断した商品で自動的に冷蔵庫をいっぱいにしてくれる。確かに、オンライン ショッピングはユートピアのように聞こえますが、それはまた、人間がコンピューターの「ペット」になるだろうという 1970 年のミンスキーの予測に近いようにも聞こえます。これを止めることはできるでしょうか? 本当に止めたいのであれば、コンピューターのプラグを抜いて、今回はすべてを台無しにしてしまうことに気づき、最初からやり直すのが当然でしょう。しかし、歴史が繰り返し証明しているように、人間は合理的ではないようです。私たちは携帯電話やコンピューターの使用から切り離せない存在になっています。私たちが世界を見て、携帯電話に頭を埋めてからどれくらい経ったでしょうか?

私たちは新鮮な空気を必要としており、ウェブ大手の利用を可能な限り減らし、それを実現するための代替手段を見つけることで、私たち自身の手でそれを実現することができます。あるいは、もっと良いのは、私たちが今ほどテクノロジーを使うのをやめて、アナログな生活に戻り、アルゴリズムの命令に従うのではなく、新しいことに挑戦してみることです。しかし、おそらく私たちはそうはならないでしょう。そして、私たちの新しい支配者たちが完全に支配権を握った後、彼らが私たちをよく扱い、ベッドの端で丸まって眠らせてくれることを願っています。