人工知能監視システムに対する懸念から、研究者たちはそれを標的とするツールの開発に取り組んでいる。最近、トロント大学のパーハム・アビラ教授と大学院生のアビシェク・ボーズ氏は、顔認識率を0.5%まで下げることができるアルゴリズムを発明した。 この「顔認識防止」技術によって、自分の顔が認識されるかどうかを決めることができるのでしょうか? 顔認識対策は珍しいことではない実は、この顔認識防止技術は数年前から登場しています。 2016年11月、カーネギーメロン大学の研究者らが顔認識防止メガネを開発した。 0.22ドルで購入でき、滑らかな写真用紙に印刷できるこの特殊なメガネは、カメラの前にいる人物を別の人物のように見せることができる。商用グレードの顔認識ソフトウェアのテストでは、顔を誤認する成功率は100%に達した。 2017年、日本のMITと九州大学の研究者らがEOT(Expectation Over Transformation)と呼ばれるアルゴリズムを開発した。このアルゴリズムはGoogleのAIシステムを騙すことに成功し、3Dプリントされたカメの写真をライフル、3D野球ボールをエスプレッソ、かわいい猫をワカモレとラベル付けすることに成功した。 一部の研究者は、AIによる3Dオブジェクトの誤認や、機械視覚システムを欺くために設計された敵対的画像技術の進歩により、顔認識システムが新たな課題に直面していると懸念している。上記の実験では、カメをライフルと間違えることが敵対的イメージの例であり、これはトロント大学の教授であるパーハム・アビラ氏が使用したのと同じ方法です。 敵対的トレーニング技術は人気があるLem Abila 氏は最近発表した論文「制約付き最適化に基づくニューラル ネットワークによる顔認識防止システム」で、600 人以上の顔を含む業界標準ライブラリでシステムをトレーニングしたと紹介しています。テストに使用された 600 人の顔には、さまざまな人種、さまざまな照明条件、さまざまな環境が含まれていました。 論文の第一著者であるアヴィシェク・ボーズ氏はメディアのインタビューで、テストの鍵は2つのニューラルネットワークを互いに対抗するように訓練することであり、1つはますます強力な顔検出システムを作成し、もう1つは顔検出を妨害するより強力なツールを作成することだと述べた。 現代の顔認識ソフトウェアは、大量の情報からパターンを学習する人工知能の一種であるディープニューラルネットワークに大きく依存しています。何百万もの顔を見せた後、ソフトウェアは顔の概念を学習し、顔をどのように区別するかを知ることができます。 「この顔認識防止システムは、実際には生成的敵対ネットワークを使用して最小限かつ最適な変更を形成し、それによって現在の顔認識のディープネットワークを攻撃します。 Data Hall には、感情がラベル付けされた大規模な顔認識データがあり、消費シナリオにおける消費者の感情認識や意図予測のニーズを満たすことができます。 まだ実用化には至っていない前述の顔認識防止システムの一部では、トレーニング プロセスで顔認識用のネットワークが公開されていることと、攻撃回数が無制限であることが求められます。ただし、実際にはこれを実現するのは明らかに困難です。現実世界の環境では、顔認識システムは秘密のシステムであり、このように繰り返し攻撃されることはないでしょう。 「顔認識防止技術の誕生は、本質的にプライバシーへの懸念だ」現在、人工知能業界はまだ初期段階にあり、技術の発展には2つの側面がある。人々がAI技術を利用して破壊行為を犯すのをいかに防ぐかは、業界全体が考えなければならない問題だ。 データホールが自社制作した著作権保護されたデータセット製品シリーズは、「顔認識」技術の道の実現に強力なサポートを提供します。 2000人の顔の遮蔽多姿勢顔認識データセット収集された各人物について、10 種類の遮蔽条件(遮蔽されていない条件を含む)* 4 種類の照明 * 5 種類の顔の姿勢でデータが収集され、合計 10*4*5=200(個)の顔データが得られました。このデータセットは、遮蔽された顔の検出や認識などのコンピューター ビジョン タスクに適用できます。 これには立法上の支援だけでなく、倫理的な議論も必要です。同時に、人工知能の人材に道徳的・倫理的教育を施すとともに、法律が制定される間は業界の自制心を通じてプライバシー漏洩のリスクを回避する必要がある。 |
<<: 冬季オリンピックで使用されたロボット配送車両を振り返ると、自律走行機能が核となる
>>: 人工知能は本当に私たちが思っているほど賢いのでしょうか?
今日のアプリケーション開発分野では、OpenAI API などの生成 AI 技術の活発な開発により、...
[[264976]] [画像出典: Microsoft Research ブログ 所有者: Micr...
通勤方法は時代とともに変化してきたかもしれませんが、交通管理の方法は変わっていません。 INRIX世...
今年、自動運転はまだ大規模な商用化には至っていないが、利益の偏在により廃業する企業、継続が困難となり...
この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...
著作権法実施条例第2条によると、「著作権法でいう著作物とは、文学、芸術、科学の分野における知的成果で...
TikTok は、ユーザーが短い動画を作成して共有できる動画共有アプリです。 「あなただけのための」...
火曜日、Stability AIは新世代の画像合成モデル「Stable Diffusion XL T...
この記事は、公開アカウント「Reading the Core」(ID: AI_Discovery)か...
実のところ、誰もが詐欺防止を必要としているわけではありません。金融機関が最新の犯罪手法に追いつこうと...
人工知能 (AI) は、コンピューターや機械をインテリジェントに動作させる方法を研究する分野です。機...
私たちは皆、そこに行ったことがあります。機械学習の概念に精通しており、それを機械学習モデルに適用でき...