人工知能の開発においてセキュリティは無視できない

人工知能の開発においてセキュリティは無視できない

世界的な科学技術革命と産業変革の新たな局面が本格化している。人工知能は、新たな科学技術革命と産業変革を牽引する中核的な原動力の一つとして、近年、金融、電子商取引、医療などの分野で広く活用されている。

[[359052]]

人工知能産業は活況を呈している一方で、隠れた懸念も抱えています。世界中で人工知能の大規模な構築と応用が加速する中、人工知能のインフラストラクチャ、設計、研究開発、統合アプリケーションが直面するセキュリティリスクがますます顕著になっています。中国情報通信研究院、RealAI、百度、テンセントなどの組織が共同で作成した「人工知能セキュリティフレームワーク(2020)」によると、ディープフェイク技術のオープンソースコードやAPPアプリケーションの増加に伴い、犯罪者がディープフェイク技術を利用して個人の肖像権、名誉権、プライバシー権を侵害する偽の動画を作成することが一般的になっていることが示されています。 2019年12月現在、インターネット上で流通しているディープフェイク動画のうち、偽のポルノコンテンツが96%を占めています。

そしてこれは氷山の一角に過ぎません。指紋や顔認証によって残される生体情報、自動運転によって残される個人の居場所記録、携帯電話アプリによって保存される個人のプライバシーデータ、病院に保存される診断や治療の記録...人工知能は人々の仕事や生活の多くの場面に遭遇しています。さまざまなユーザーの行動が記録され、データとして保存されます。その結果、データ漏洩、データ偽造、アルゴリズムのボトルネック、プライバシーのセキュリティ、倫理的なジレンマなどの問題が徐々に表面化しています。関連報道によると、今年7月、犯罪者は電子商取引プラットフォームで顔情報を販売し、1枚50セントの低価格でパッケージにして販売した後、盗んだ顔情報を虚偽登録や通信ネットワーク詐欺などの違法行為に使用した。

恥ずかしいことに、「人工知能セキュリティフレームワーク(2020)」によると、現段階では人工知能企業は主に技術研究開発と製品運用に重点を置いており、人工知能セキュリティへの投資は比較的少なく、基盤が弱いことがわかります。現在、人工知能セキュリティ技術のほとんどは学術研究や小規模な実験段階にあり、さまざまな人工知能アプリケーションに適した成熟したセキュリティ製品およびサービスシステムはまだ形成されていません。

人工知能産業の健全かつ秩序ある発展にとって、セキュリティは重要な保証であり、状況の必要性であり、一部の技術の実装に不可欠な前提条件です。安全性を考慮せずに人工知能について語ることは、根も水源もない木のようなものです。実践によっても、現在の人工知能セキュリティの需要と企業のセキュリティ投資の不足、人工知能セキュリティ製品とサービスの不足との間の矛盾が、人工知能産業の長期的な発展を制限するボトルネックになっていることが証明されています。

発展の困難と時代のチャンスが重なり合う重要な時期に、業界は生産、学術、研究の各部門が協力し、より安全で信頼性と信頼性の高い人工知能技術を継続的に改善・アップグレードし、人工知能の安全柵を強化し、人々が安心してこの技術の恩恵を享受できるようにすることを期待しています。

<<:  人工知能はリモートセンシングデータの大きな可能性を解き放ち、国勢調査の手作業が置き換えられるかもしれない

>>:  MLOpsの助けにより、AIは開発の黄金期を迎えることになる

ブログ    
ブログ    
ブログ    
ブログ    
ブログ    

推薦する

NSA、RSA暗号化アルゴリズムに2つ目のバックドアを追加

ロイター通信は12月、米国国家安全保障局(NSA)が、携帯端末で広く使用されている暗号化技術にバック...

...

ペット経済に乗って、ロボットアプリケーションが新しい市場を開拓

[[391010]]昨今、都市化の加速と生活水準の向上に伴い、ペットを飼うことがますます多くの人々の...

ベースライン モデルから始めます。最初はモデルが醜く見えるかもしれませんが、心配しないでください。

[[229439]]ビッグデータ概要編纂者:張南星、静哲、荊浩南1. 機械学習製品を効率的に開発す...

...

...

運輸・物流業界におけるAIと自動化のユースケース

現在、世界の一部の国や地域の運輸・物流業界は、流行病によって深刻な影響を受けています。コロナウイルス...

...

人工知能業界を理解するにはどうすればいいのでしょうか?まず知っておくべき知識は何でしょうか?

人工知能の発展を理解したい場合、または人工知能の基本的な応用を理解したい場合は、まずいくつかの基本的...

ビッグデータと人工知能 - 機械的思考から統計的思考へ

[[384196]]今日は、ビッグデータ、人工知能、認知問題の解決の関係ロジックについて話す記事を書...

言語モデルは時間をどのように認識するのでしょうか?時間ベクトルについてさらに詳しく

言語モデルは正確にはどのようにして時間を認識するのでしょうか?言語モデルの時間認識をどのように利用す...

白熱した「人間対機械」の戦いの意味とは?

4月6日から10日まで、李開復博士は母校であるカーネギーメロン大学の有名なポーカーロボットLibr...

機械学習の実践者が直面する8つの大きな課題

機械学習 (ML) や人工知能 (AI) と聞くと、多くの人はロボットやターミネーターを想像します。...

...

...