新しい報告によると、私たちは人工知能革命の瀬戸際に立っている。この革命において、私たちが作り出すテクノロジーは、良いもの、悪意のあるもの、醜いものなど、さまざまなものになるかもしれません。
「人工知能の悪意ある使用:予測、予防、緩和」と題された100ページの報告書は火曜日に正式に発表され、オックスフォード大学、ケンブリッジ大学、OpenAI、新アメリカ安全保障センターなどの機関のトップAI専門家26人の洞察が含まれている。 報告書はまず、人工知能技術が特定の分野で進歩を遂げたことを認めたが、同時に「歴史的観点から見ると、人工知能の悪意ある使用に対する人々の関心は依然として比較的低い」とも述べた。より具体的には、現在人気のディストピア・スリラー『ブラック・ミラー』を参考にすることができる。 ケンブリッジ大学実存リスク研究センターのエグゼクティブディレクターであり、この報告書の著者の一人であるショーン・オハイガータイ博士は、別の声明の中で、人工知能技術の悪用の問題に注意を払い始めるべき時が来たと述べた。 私たちは一体何を心配すべきなのでしょうか?具体的には、ロボットが私たちが何を読んでいるのか、どう感じているのか、誰に投票するのかといったことを理解できるようになるなど、人工知能に関連する現在の問題のいくつかは確かに悪化する傾向にあります。 ÓhÉigeartaigh博士は、ドローンの悪用は私たちが考えていたよりもはるかに一般的であり、人工知能に支えられたチャットボットもオンラインでユーザー情報を入手していると述べました。さらに、人工知能によってハッカーが攻撃で人間の音声や動画コンテンツを偽造する能力も向上し、識別がより困難なフェイクニュースがさらに生成されるようになるだろうとも付け加えた。 オックスフォード大学人類の未来研究所の研究員で、この報告書の著者でもあるマイルズ・ブランデージ氏は、「一般的に、AIシステムは人間の能力に達するだけでなく、それを超えることさえある。不安ではあるが、人間と比較してAIが非人間的でよりスケーラブルな特性を持っていることを認識しながら、ハッキング、監視、説得、物理的ターゲット認識の分野でのAIの実際のパフォーマンスを十分に考慮する必要がある」と説明した。 ブラックミラーシリーズで描かれているように、報告書では顔認識技術についても触れており、爆発物を搭載したドローンやロボットなどを使って悪意のある人物がターゲットを探し出し攻撃するためにこの技術をどのように利用できるかを探っている。これは非現実的に聞こえるかもしれないが、報告書の著者はそれが実現可能であると信じている。 研究者らは、最近OpenAIの役員を退任したイーロン・マスク氏の見解を引用し、技術の開発者はそれが悪意を持って使用される可能性もすべて考慮しなければならないと主張している。したがって、政策立案者は開発中の技術的成果を十分に認識し、それに対する倫理的枠組みを策定する必要があります。最も重要なのは、AI の開発は常に完全な透明性を維持し、一般の人々が現在の実際の技術動向を理解できるようにすることです。 |
<<: Google AI で学ぶ: Google が AI と機械学習の無料オンライン リソースをさらに公開
>>: 人工知能やモノのインターネットから仮想現実やブロックチェーンまで、将来の技術進歩の大部分はクラウドで起こるだろう。
「そう遠くない将来、スマートホームシステムを備えていない家庭は、インターネットにアクセスできない今...
[[409291]]労働日報記者 イェ・ユン・チェン・ニン 写真家 チェン・ニン編集者注人工知能(...
最近では、GPT や LLaMA などの大規模言語モデル (LLM) が世界中で人気になっています。...
この記事は、Heart of Autonomous Driving の公開アカウントから許可を得て転...
[[355133]] 【導入】この記事は、Stone Brothersが推奨するナレッジグラフに関す...
フロリダ州中部にある、約12万5000人の住民を抱えるザ・ビレッジの退職者コミュニティには、約750...
劉玉秀、ザ・ペーパーの研修記者ラオ・ドンヤン氏の抵抗により、コミュニティ内で顔認識によるアクセス制御...
[[319624]]最近、スタンフォード大学の研究者らは、脳をシリコンベースの技術に直接接続できる新...
11月3日、2019年テンセントサイエンスWEカンファレンスで、世界中の科学者が細胞治療、脳チップ、...
近年、人工知能の継続的な成熟に伴い、生体認証技術は生活のあらゆる分野に浸透し、コストが削減され、効率...
英国ハートフォードシャー大学とGBG社の研究者らは最近、顔認識のさまざまな従来の手法と現在流行してい...
[[264714]]最近、5G携帯電話や5G商用利用に関するニュースが多く出ています。国内外の多...
2021年以降、企業内部者によるデータ侵害、損失、盗難は月平均28%増加しており、回答者の85%は今...
51CTO 編集者注: 「Java ガベージ コレクション メカニズムの簡単な分析」では、Java ...