AIが人間の学習方法を模倣したら何が起こるでしょうか? 8月26日、アリババDAMOアカデミー言語技術研究室は一連の躍進を達成し、自然言語処理(NLP)分野の権威ある6つの技術リストで優勝した。コンテストに参加した自社開発のAI技術6つはいずれも人間を模倣した学習モデルを採用しており、機械の言語理解能力が全面的に向上し、一部の能力は人間を上回ったと報じられている。現在、これらの技術は、読解、機械翻訳、人間とコンピュータの相互作用などのシナリオで広く使用されています。 ここ数年、AIは画像認識や音声認識などの面で徐々に人間のレベルを超えてきたと報告されていますが、複雑なテキストの意味を理解するという点では、AIと人間の間にはまだギャップがあります。主な理由は、従来のAIはテキスト知識の学習効率が低いためです。 この目的のために、業界では、まず大規模なウェブページや書籍のテキストで AI をトレーニングして基本的な語彙、文法、意味の知識を学習させ、次に固定分野内のテキストでトレーニングしてドメイン固有の知識を学習させるという、人間を模倣した学習アプローチを提案しています。 このアイデアは、事前トレーニング済み言語モデルの中核的な革新です。 Google が人間の注意メカニズムを模倣した BERT モデルを提案して以来、事前トレーニング済み言語モデルは NLP 分野で注目されている研究分野となっています。 DAMO Academyは2018年から汎用事前学習言語モデルの開発に着手し、徐々にこの考えを多言語、マルチモーダル、構造化および段落テキスト理解とテキスト生成の分野に拡大し、現在では体系的な深層言語モデルシステムを確立しています。自社開発の汎用言語モデルStructBERT、多言語モデルVECO、マルチモーダル言語モデルStructVBERT、生成言語モデルPALMなど、6つの自社開発モデルは世界新記録を樹立しています。 DAMOアカデミーの独自開発モデルがGLUEリストで1位に 中でも、StructBERT は機械が人間の文法をより良く習得することを可能にするため、語順が乱れたり文法的に正しくない習慣のある単語や文章に直面しても、機械は正確に理解して正しい表現や応答を返すことができ、単語、文章、言語全体に対する機械の理解力が大幅に向上します。このモデルは、自然言語処理分野の権威あるデータセットであるGLUEベンチマークで平均スコア90.6で1位となり、人間のレベル(87.1ポイント)を大幅に上回りました。 DAMOアカデミー言語技術研究所チームは次のように述べている。「研究所の目標は、AIが人間の知識の基本技術を習得できるようにすることです。事前トレーニング済みの言語モデルの誕生により、AIが人間のように新しい知識を学習することが可能になりました。将来、DAMOアカデミーはこれらの技術を外部に完全に公開し、特定の分野のAIをよりインテリジェントにします。」 過去 2 年間で、アリババはトップクラスの NLP コンテストで 30 回以上の世界選手権に優勝し、100 件以上の関連するトップカンファレンス論文を発表しました。アリババの自然言語技術は、金融、ニューリテール、通信、インターネット、ヘルスケア、電力、カスタマー サービスなどの分野で 10 億人を超えるユーザーと数万社の企業顧客にサービスを提供してきました。 |
<<: 米国労働統計局は機械学習を使用してデータコーディングを自動化しています
今日の GitHub ホット リストのトップは、最新のオープン ソース ワールド モデルです。コンテ...
AIがますます普及するにつれて、倫理的な問題をどのように解決できるでしょうか? AIという言葉は近...
知識の蓄積は規模の拡大をもたらし、規模の拡大は市場の集中につながります。 産業が「組立ライン」の形で...
この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...
[51CTO.com クイック翻訳] ユビキタスセンサーは毎日大量の画像を収集しており、人工知能技術...
執筆者 | Yan Zheng制作:51CTO テクノロジースタック(WeChat ID:blog)...
インテリジェント製造技術の出現は自動車製造業界に大きな影響を与えました。まず、スマート製造では、自動...
AI テクノロジーを悪とみなす個人、政府、企業が増えるにつれ、AI が善良な存在であることを保証する...
10月22日、アントチェーンはデジタル著作権サービスプラットフォームを社会全体に開放することを正式に...
[[413812]]この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI...