現在、AI は追加のトレーニングを必要とせずに、任意の言語でコーディングできます。 2017年、研究者たちは「2040年までにAIがほとんどのコードを書けるようになるか?」と問いかけました。ベータテスターは現在、あらゆる言語でコーディングできるOpenAIのGPT-3を使用しています。 機械主導のコーディングはもうすぐ実現します。 GPT-3 は数千億語、つまり基本的にインターネット全体でトレーニングされているため、CSS、JSX、Python など、あらゆる言語でコーディングできます。 さらに、GPT-3 のトレーニング データは包括的であるため、さまざまな言語タスクに合わせて「トレーニング」する必要がありません。 対照的に、些細な指示が与えられた場合、ネットワークは目の前のタスクのみに制限されました。 GPT-nの進化 GPT は、教師あり学習と教師なし事前トレーニングを組み合わせることで(または教師なしステップのパラメータを教師ありステップの開始点として使用することで)、言語タスクで最先端の結果を実現します。 GPT は後継製品に比べると非常に小さいです。 わずか数千冊の本と 8 台の GPU マシンでトレーニングされました。 GPT-2 はコンテンツを大幅に拡張し、10 倍のパラメータを含み、10 倍のトレーニング データを提供します。 それでも、データセットは比較的限られており、「少なくとも 3 つのカルマを持つ Reddit からのアウトバウンド リンク」に特化してトレーニングされました。 GPT-2 は「カメレオンのような」合成テキスト ジェネレーターとして説明されていますが、質問への回答、要約、翻訳などの下流のタスクでは最先端のものではありません。 GPT-3 は AI の世界で最も最新かつ最高のツールであり、さまざまなタスクで最先端の結果を実現します。 その主な画期的な点は、タスク固有の微調整の必要性を排除したことです。 規模の面では、モデルは再び大幅に拡大し、パラメータ数は 1,750 億に達し、前モデルの 116 倍になりました。 GPT-3 にはまったくトレーニングが必要ないにもかかわらず (ゼロショット学習の例)、ワンショット学習と数ショット学習の両方がすでに GPT-3 の優れたパフォーマンスを上回っています。 進化するか死ぬか 状況は次のとおりです。ベータ テスターは GPT-3 を使用して有効なコードを生成しており、それには簡単な知識が必要です。 ボタンからデータ テーブルまで、Google ホームページも再現できます。 これらの例はすべてゼロショット学習で実行されます。 AI の急速な発展に加えて、ノーコードと AutoML という 2 つの主要な技術トレンドにより、将来プログラミングの仕事が不安定になる可能性があります。 ノーコードとは、Web サイト、デザイン、データ分析、モックアップなど、誰でも簡単に新しい製品を構築できるビジュアル ツールを指します。 WordPress、Wix、Shopify はすべて、開発者やデザイナーを雇わずに何百万人もの人が自分で作業できるようにするノーコード ツールの優れた例です。 2 番目のトレンドは AutoML、つまり自動機械学習であり、これにより AI を本番環境に導入するまでの時間が大幅に短縮されます。 Apteo のようなツールはこれらのトレンドを組み合わせて、コーディングスキルがなくても誰でも AI モデルを展開できるようにします。 GPT-3 は、ノーコードおよび AutoML ツールの新たな波をもたらすでしょう。 多くの潜在的な雇用主は、高価なプログラマーを雇う代わりにこれらのツールを選択するでしょう。 当然のことながら、最もスキルの低いプログラマーが最初にこの分野に参入し、どの分野であっても、専門家はより長く雇用の安定を享受することになります。 コードだけでなく、GPT-3はあらゆる言語タスクに適用できます GPT-3 を特定の言語タスクに向けるには、達成したい目標の例を入力するだけです。 したがって、GPT-3 にコードを書くように指示できるだけでなく、詩、音楽、ソーシャル メディアのコメント、またはその他のテキストを書くように指示することもできます。 たとえば、ニュース記事を作成する場合は、「合同メソジスト教会が歴史的な分裂に同意」のようなタイトルと、「同性結婚反対派が独自の宗派を結成」のようなサブタイトルを入力します。 この入力を使用して、GPT-3 は次の結果を生成します。 「2日間の激しい議論の末、合同メソジスト教会は歴史的な分裂に至った。ワシントンポスト紙によると、この分裂は「神学的にも社会的にも保守的」な新宗派の創設で終わると予想されていた。5月に行われた同教会の年次総会の代表者の過半数は、LGBTQ聖職者の聖職任命禁止を強化し、同性婚を司る聖職者を「懲戒」する新しい規則を作ることに投票した。しかし、この措置に反対する人々は新たな計画を持っている。彼らは2020年までに別の宗派を結成し、自分たちの教会を合同メソジスト教会と呼ぶとしている...」 AI によって書かれたものであると正しく答えたのはわずか 12% でした。 88%が騙された。 人間と同じように、GPT-3 は例を与えるだけで新しい単語を教えることができます。 たとえば、次のような状況を考えてみましょう。 「バリンゴ」は加速が非常に速い車です。 Burringo という単語を使った文の例は次のとおりです: ____________ GPT-3出力: 私たちのガレージには、父が毎日通勤に使うバリンゴが置いてあります。 これらの結果は印象的です。 AI は進化し続けるので、現在のパフォーマンスに対する批判は無意味になるということを覚えておいてください。 言語を超えた知識 — 画像に適用される GPT GPT はコードを書き込むことも、何でも書き込むこともできますが、画像を生成することもできます。 どうしてこんなことが可能なのでしょうか? 同じモデル アーキテクチャをテキスト エンコーディングではなくピクセル シーケンスでトレーニングして、新しいテキストではなく新しい画像を生成することもできます。 実際、この機能は非常に優れているため、トップクラスの CNN と競合しています。 私がこれについて言及する理由は、GOT (およびその後継製品) が将来エンコーダーを置き換えるだけでなく、その汎用性により業界全体を置き換える可能性があることを示しているからです。 結論は GPT-3 の驚異的なパフォーマンスにより、スーパーインテリジェンスは私たちが考えるよりも近い、あるいは少なくとも AI 生成コードは私たちが考えるよりも近い、と多くの人が確信するようになりました。 創造的で洞察力に富み、奥深く、さらには美しいコンテンツを生み出します。 GPT-3 のよりクリエイティブな例。 |
<<: 人工知能を使って人間の労働を監督すると、技術的でない困難に直面する
>>: 米メディア:人工知能(AI)は、人間の推論の欠点を伴わずにコンピューティングの利点を実現する
[[266831]]臨床医は世界で最も困難な仕事の一つです。彼らは、高齢の患者層に対応するために24...
最近人気の AI スタートアップ企業 Groq は、現在一般的な GPU 推論システムよりも 4 倍...
人工筋肉は科学界では常に重要な研究テーマとなっています。理想的には、人工筋肉は医療分野で患者の健康回...
人工知能は長年にわたって世界を支配しており、さまざまな分野における主要な問題が AI を使用して解決...
機械学習がますます普及するにつれて、タスクを適切に処理できるアルゴリズムがますます多く登場しています...
Microsoft、Baidu、Alibaba、Tencent、Xiaomi が市場参入を発表した...
最近、ファーウェイの創業者任正非氏はインタビューで、自分が最も関心を持っている問題は基礎科学研究と教...
1. 概要大規模言語モデル (LLM) の急速な発展に伴い、LLM が人工知能業界の発展に与える影...
著者 |ブライト・リャオ私はもともとAI技術に興味があったソフトウェア開発エンジニアで、ディープラー...
百人一首コンテストの最注目出場者がついに正式デビュー!これは、李開復博士が設立した AI 2.0 企...
人工知能は現在世界を席巻しており、サプライチェーンの完全な自動化、仮想アシスタンスの提供などにより、...
近年、深層畳み込みニューラル ネットワーク (DCNN) により、画像の分類と認識が大幅に向上しまし...
現在の教育における人工知能の応用は、依然として「弱い人工知能」になりがちですが、教育の効率性を向上さ...