Python の高レベル自然言語処理ライブラリである SpaCy は、世界最速の構文解析ツールとして知られています。

Python の高レベル自然言語処理ライブラリである SpaCy は、世界最速の構文解析ツールとして知られています。

spaCy は、最先端の研究に基づいて構築され、実際の製品での使用のためにゼロから設計された、Python と Cython の高度な自然言語処理ライブラリです。 spaCy には、事前トレーニング済みの統計モデルと単語ベクトルが付属しており、現在 20 を超える言語でのトークン化をサポートしています。世界最速のパーサー、タグ付け、解析、固有表現認識のための畳み込みニューラル ネットワーク モデル、およびディープラーニングとの統合を特徴としています。これは、MIT ライセンスに基づいてリリースされた商用オープンソース ソフトウェアです。

spaCy プロジェクトは @honnibal と @ines によって管理されていますが、電子メールによる個人的なサポートは利用できません。しかし、オープンソース開発者は、公開して共有すれば、その支援の価値が高まり、より多くの人が恩恵を受けることができると考えています。 (公式 Github アドレス: https://github.com/explosion/spaCy#spacy-industrial-strength-nlp)

spaCyの特徴:

  • 世界最速のパーサー

  • エンティティ名の認識

  • 非破壊マーキング

  • 20以上の言語をサポート

  • 事前学習済みの統計モデルと単語ベクトル

  • ディープラーニングモデルの簡単な統合

  • 品詞記号

  • タグ依存性分析

  • 構文に基づく文の分割

  • 視覚的に文法とNERを構築する

  • 文字列からハッシュへのマッ​​ピングはより便利

  • NumPyデータ配列をエクスポートする

  • 効率的なバイナリシリアル化

  • モデルのパッケージ化と展開が簡単

  • 最速スピード

  • 強力かつ厳格な評価精度

spaCyのインストール

ピップ

pip を使用すると、spaCy バージョンは現在ソース パッケージとしてのみ利用できます。

  • pip インストール spacy

pip を使用する場合は、システム状態の変更を避けるために、通常、仮想環境にパッケージをインストールすることをお勧めします。

  • venv .envsource .env/bin/activate

  • pip インストール spacy

コンダ

コミュニティ開発者の努力により、conda サポートがようやく復活しました。 spaCy は conda-forge 経由でインストールできるようになりました。

  • conda config --add-channels conda-forge

  • conda インストール spacy

spaCyの更新

spaCy の一部のアップデートでは、新しい統計モデルのダウンロードが必要になる場合があります。spaCy v2.0 以降を実行している場合は、validate コマンドを使用して、インストールされているモデルに互換性があるかどうかを確認し、互換性がない場合は、アップデート方法の詳細を出力できます。

  • pip インストール -U スペース

  • スペイシー検証

独自のモデルをトレーニングした場合は、トレーニングと実行時の入力が一致する必要があることに注意してください。 spaCy を更新した後は、新しいバージョンでモデルを再トレーニングすることをお勧めします。

モデルをダウンロード

v1.7.0 以降では、spaCy のモデルを Python パッケージとしてインストールできます。つまり、他のモジュールと同様に、アプリケーションのコンポーネントになります。 モデルは、spaCy のダウンロード コマンドを使用するか、pip にパスまたは URL を指定して手動でインストールできます。

モデルの読み込みと使用

モデルをロードするには、モデルのショートカット リンクで spacec.load() を使用します。

すでに pip 経由でモデルをインストールしている場合は、それを直接インポートして load() メソッドを呼び出すこともできます。

旧バージョンのサポート

古いバージョン (v1.6.0 以下) を使用している場合でも、python -m spacy.en.download all または python -m spacy.de.download all を使用して、spaCy から古いモデルをダウンロードしてインストールできます。 v1.6.0 リリースには .tar.gz アーカイブも添付されています。モデルを手動でダウンロードしてインストールするには、アーカイブを解凍し、含まれているディレクトリを spacy/data に配置し、spacy.load('en') または spacy.load('de') でモデルをロードします。

ソースからのコンパイル

spaCy をインストールする別の方法は、GitHub リポジトリをクローンしてソースからビルドすることです。 コード ベースに変更を加える場合、一般的なアプローチは、ヘッダー ファイル、コンパイラ、pip、virtualenv、git を含む Python ディストリビューションで構成された開発環境を確保することです。コンパイラ部分が最も難しいです。これを実行する方法はシステムによって異なります。詳細については、Ubuntu、OS X、Windows の手順を参照してください。

pip による通常のインストールと比較して、requirements.txt では Cython などの開発者依存関係も追加でインストールされます。 詳細と手順については、ソースから spaCy をコンパイルするドキュメントと、プラットフォームと Python バージョンに適したコマンドのクイックスタート ウィジェットを参照してください。上記の詳細なコマンドの代わりに、以下の構造化されたコマンドを使用することもできます。すべてのコマンドは、仮想環境が .env というディレクトリにあることを前提としています。別のディレクトリを使用している場合は、環境変数 VENV_DIR を使用して変更できます。たとえば、VENV_DIR=".custom-env" fab clean make です。

ウブントゥ

apt-get 経由でシステムレベルの依存関係をインストールします。

  • sudo apt-get install build-essential python-dev git

macOS / OS X

いわゆる「コマンドライン ツール」を含む、最新バージョンの XCode をインストールします。 macOS と OS X には Python と git がプリインストールされています。

ウィンドウズ

Python インタープリターのコンパイルに使用したバージョンと一致する Visual Studio Express 以降のバージョンをインストールします。公式ディストリビューションは、VS 2008 (Python 2.7)、VS 2010 (Python 3.4)、VS 2015 (Python 3.5) です。

テストの実行

spaCy には広範なテスト スイートが付属しています。 まず、spaCy がインストールされている場所を確認します。

  • python -c "os をインポートします。spacy をインポートします。(os.path.dirname(spacy.__file__)) を印刷します"

次にそのディレクトリで実行します。 --vectors、--slow、および --model フラグはオプションであり、追加のテストを有効にします。

  • # 最新のpytestバージョンを使用していることを確認してください

  • python -m pip インストール -U pytest

  • python -m pytest <

<<:  TensorFlow とオートエンコーダー モデルを使用して手書き数字を生成する方法

>>:  単一画像超解像におけるディープラーニングの応用: SRCNN、知覚損失、SRResNet

ブログ    
ブログ    

推薦する

Midjourneyに匹敵します!なぜミャオヤカメラは突然人気が出たのでしょうか?

編纂者:ユン・ジャオ、ワン・ルイピン、ノア「家族の写真がついに出てきました…」最近、ミャオヤカメラの...

人工知能がフィットネス業界にもたらすイノベーション:AIパーソナルトレーナーの登場

デジタル技術によって変革されない業界を見つけるのは難しいですが、適応型セクターも例外ではありません。...

コンテキストウィンドウ 16,000 トークン、30 億パラメータ、安定性 AI コード大規模モデルがここにあります

最近、Vincent Diffusion アーティファクトをオープンソース化した Stability...

NeurIPS 2023 入学結果が発表され、合格率は 26.1% でした

NeurIPS は世界で最も権威のある AI 学術会議の 1 つです。正式名称は Neural I...

AI時代が到来。アンドリュー・ン氏はすべての子供に人工知能について教えるべきだと訴える

ChatGPTやGPT-4などの大型モデルの発表により、人工知能技術の進歩と応用が注目されるようにな...

ジェネレーティブ AI が画像検索をどのように再定義するか

翻訳者 | 李睿レビュー | Chonglou生成 AI は、ユニークなテキスト、サウンド、画像を作...

Googleとハーバード大学がこれまでで最も複雑な3D脳マップを作成

脳の神経回路を研究するのは簡単ではありません。なぜなら、現時点では、すべてのニューロン、シナプス、そ...

...

...

RNN の効率は Transformer に匹敵し、Google は 2 つの新しいアーキテクチャをリリース: 同じ規模では Mamba よりも強力

今回、Google DeepMindは基本モデルに新たな動きを見せた。リカレント ニューラル ネット...

AIはすでにLeetCodeを実行できる

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

IoT/AIプロジェクトへの投資家を見つけるのに最適な方法

問題を解決するには、説明するのではなく検証する[[284237]]多くの IoT プロジェクトの提示...

...

...

AI Coreの「正体」を1つの記事で理解する

[[251095]] 2018年の初めから年末にかけて、携帯電話業界では人工知能がキーワードとなって...