今日は、AIコミュニティで話題を集めている名前であるOpenHermes-2.5の世界について探求してみましょう。古代ギリシャの伝令神ヘルメスが21世紀のAIの世界においてどのような存在になるのか想像してみてください。これはただの別のAIモデルではありません。それは人間の会話を理解し模倣する画期的なツールです。
しかし、なぜOpenHermes-2.5についてこんなにも盛り上がるのでしょうか?それはAIの進化におけるただの一歩ではなく、巨大な飛躍を意味するからです。このモデルはAI会話の技術を新たな高みに導き、言語モデルがどのような成果を上げられるかの基準を設定しています。是非ご覧いただき、一緒にOpenHermes-2.5の魔法を解明しましょう!
Anakin AIは、高度にカスタマイズされたワークフローで簡単に任意のAIアプリを作成することができ、GPT-4-Turbo、Claude-2-100k、Midjourney&Stable DiffusionのAPIなどの非常に多くのAIモデルにアクセスすることができます!
![Anakin AIでAIアプリを作成する](https://assets.anakin.ai/blog/2023/11/1-1.webp)
興味がありますか?Anakin AIをチェックして、無料で試してみてください!👇👇👇
OpenHermes-2.5とは何ですか?
LLM(大規模言語モデル)とは何ですか?
- LLMまたはLarge Language Modelとは、人間の言語を理解し使用できるように訓練されたタイプのAIです。
- 何百万ページもの本やウェブサイト、会話からコンピュータに読み書きや会話を教えることを想像してみてください。この訓練により、LLMは言語のパターンを学び、人間によって書かれたかのようなテキストを生成することができるようになります。
- LLMは、質問の回答、エッセイの執筆、言語の翻訳、詩や物語の作成などに使用されます。
Mistralモデルとは何ですか?
- Mistral 7B v0.1は、Mistral AIによって開発された最初のLLMであり、小型で高速かつ堅牢な70億パラメータを備えたモデルで、お使いのローカルノートパソコン上で実行できます。
- Mistral AIのモデルは簡単な展開を目指しており、NVIDIA GPUを備えたクラウドプラットフォーム上でのAPI設定のためにDockerイメージを提供しています。Mistral AIはまた、オープンソース開発をサポートし、外部からの貢献を奨励しています。
OpenHermes-2.5とは何ですか?
- OpenHermes-2.5は、Mistralモデルの具体的な例です。これは以前のモデルであるOpenHermes-2のより新しく、より高度なバージョンです。
Just tested @Teknium1's OpenHermes-2.5-Mistral-7B with a 16k context at q8 – it's exceptional!
— Pietro Schirano (@skirano) November 22, 2023
Minimal loss at 14 tok/s.
I've explored many models, but this is the first time I feel like I have the power of ChatGPT right on my local machine – and it's totally free! 🚀 pic.twitter.com/bO7F49n0ZA
- OpenHermes-2.5は、コンピュータコードに関する情報を含むさまざまなテキストで訓練されています。この訓練により、一般的な言語能力に加えて、プログラミングに関連するテキストの理解と生成において特に優れた性能を発揮することができます。
Just tested @Teknium1's OpenHermes-2.5-Mistral-7B with a 16k context at q8 – it's exceptional!
— Pietro Schirano (@skirano) November 22, 2023
Minimal loss at 14 tok/s.
I've explored many models, but this is the first time I feel like I have the power of ChatGPT right on my local machine – and it's totally free! 🚀 pic.twitter.com/bO7F49n0ZA
- OpenHermes-2.5は、知識豊富な言語の専門家であり、同時にコンピュータプログラミングにも精通している存在と考えてください。それはまるで自分のローカルマシン上でChatGPTの力を持っているかのような感覚を初めて抱くことができる、まったく無料のものです!🚀
OpenHermes-2.5とOpenhermes-2-mistral-7b、何が新しいの?
OpenHermes-2.5とその前身であるOpenhermes-2-mistral-7bの違いは何ですか? 以下に詳しく説明します:
- データダイエット: OpenHermes-2.5は、GPT-4から主に取得した100万エントリーを含む豊富なデータセットを摂取しました。この多様なダイエットにより、人間の言語に対するより洗練された理解を得ました。
- ベンチマークの向上: このモデルは一、二の分野で優れているだけでなく、TruthfulQAやAGIEvalなどの複数のベンチマークで高い成績を収め、GPT4Allスイートにも強い挑戦をしています。まるでアスリートが毎回のレースで自己を超えるようなものです!
- ChatMLの魅力: OpenHermes-2.5が使用する新しい形式、ChatMLについて。これは、モデルにより構造化されたチャットのプレイブックを与えるようなもので、会話をより一貫性があり、魅力的にします。
- GGUF – 新たな時代の幕開け: OpenHermes-2.5は、GGMLに代わってGGUF形式を採用しました。これは、2ビットから6ビットの量子化に至るまで、情報の処理と提示の方法をより効率的にすることを意味します。簡単に言えば、より多様で効率的な「脳」を持つようなものです!
数字が語る真実
改善に関して言えば、OpenHermes-2.5はあいまいなアップグレードにとどまりません。humanevalスコアは43%から50.7%に急上昇し、ユーザーは顕著な違いに気づいています。会話はより自然に感じられ、まるでコンピュータでありながらよく読まれた友人とチャットしているようです!
OpenHermes-2.5のトレーニング方法
では、少し技術的になりますが、楽しく進めましょう。OpenHermes-2.5のトレーニングは、オウムに話し方を教えるようなものではありません。それは、最も厳しい試験に備えるために超スマートな学生を準備するようなものです。
- データ、データ、至る所にデータ: モデルのトレーニングは、データの食べ放題のビュッフェのようなものです。GPT-4が生成したコンテンツやその他の高品質なAIデータセットのミックスについて話しています。シェークスピアからコーディングマニュアルまで、モデルにあらゆるものを味わわせるようなものです。
- コードトーク: トレーニングには、コード指示のチャンクが含まれていました。あなたは「なぜコード?」と思うかもしれません。しかし、実はこれがモデルが非コードのこともより上手になるのに役立ったのです。これは、英語を改善するためにラテン語を学ぶようなものです!
- フィルタリングとフォーマッティングの祭典: データは厳格なフィルタリングプロセスを経て、トレーニングに使用されるのは最上のものだけでした。その後、すべてがShareGPTとChatML形式に変換され、モデルが最もよく理解する言語にすべてを翻訳するようなものです。
- バランシングアクト: ダイエットのバランスを取ることを想像してみてください。それがデータセットのバランスでした。トータルの約7-14%がコード指示であると見積もられ、OpenHermes-2.5はさまざまな言語タスクで丸みを帯びた開発を得ました。
OpenHermes-2.5のベンチマークとパフォーマンス
OpenHermes-2.5はただの言語モデルではありません。それはAI世界で記録を破るAIオリンピアン、高い成果を上げるモデルです。このモデルは、さまざまなベンチマークで目立っており、前身よりも顕著な改善を示しています。このモデルは、ロールプレイングやタスク実行、文脈、感情、ニュアンスの理解において輝いています。これは単なるチャットボット以上のものであり、会話、ブレインストーミング、ストーリーテリングにおけるパートナーです。
モデル | OPENHERMES-2.5 | OPENCHAT 3.5 | NOUS CAPYBARA 1.9 |
---|---|---|---|
ドイツデータ保護トレーニング | 17/18 正解 | 17/18 正解 | 18/18 正解 |
指示への遵守 | 混在 | 混在 | 一貫性あり |
チャット&ロールプレイ (エイミー) | 創造的、いくつかの一貫性なし | 詳細、繰り返し | 感情表示なし、長さが不一貫 |
MGHCシナリオ | 分析の不一貫性、早期終了 | 繰り返しのパターン、詳細不足 | 繰り返し、単純な回答 |
Voxta + VaM テスト | 50/22 アクション実行済み | 50/39 アクション実行済み |
主な観察結果
- OpenHermes-2.5:クリエイティブで魅力的な文章で知られていますが、指示の遵守やキャラクターの一貫性にはいくつかの不一致があります。リアルタイムの対話では優れていますが、特定のシナリオでは制約があります。 オブジェクトとの相互作用。
- OpenChat 3.5:詳細で情緒的な応答を示しますが、特にNSFWのシナリオでは繰り返しになる傾向があります。Voxta + VaMのテストで優れた関数呼び出しの機能を示しています。
- Nous Capybara 1.9:ドイツのデータ保護トレーニングで完璧なスコアを達成しています。応答はより正確で事実に基づいており、創造的ではありませんが、指示の遵守は一貫しています。
全体的に、OpenHermes-2.5のパフォーマンスは、多目的で適応性のある言語処理の強さを示しており、AI言語モデルの新たな基準を設定しています。
![](https://cdn-thumbnails.huggingface.co/social-thumbnails/models/teknium/OpenHermes-2.5-Mistral-7B.png)
ローカルのラップトップでOpenHermes-2.5を実行できますか?
さて、本題に入りましょう。ローカルのラップトップでOpenHermes-2.5を実行できますか?実際のところ、それはあなたのラップトップに搭載されているものに依存します。以下に詳細を示します。
- ハードウェア要件:OpenHermes-2.5を実行することは楽器を調整するようなものです。最高の音を出すには適切なハードウェアが必要です。GPTQバージョンでは、少なくとも6GBのVRAMを搭載した優れたGPUが必要です。GTX 1660または2060、AMD 5700 XT、またはRTX 3050/3060といったものを考えてください。
- RAMとVRAM:GGML/GGUF形式の場合、RAMが重要です。スムーズに動作するためには、約4GBの空き容量が必要です。また、スムーズな体験にはVRAMの要件も重要です。
- メモリの速度が重要:レースカーのエンジンのように、RAMの帯域幅がモデルの「思考」の速さを決定します。帯域幅が大きいほど、応答時間が速くなります。トップレベルのパフォーマンスを目指す場合は、マシンのメモリが十分な速度で動作するようにしてください。
要するに、OpenHermes-2.5をローカルで実行できるかどうかは、ラップトップの性能にかかっています。それはまるで自動車がクロスカントリーの旅行に耐えられるかどうかを尋ねるようなものです - 答えは仕様にあります。
Ollamaを使用してローカルでOpenHermes-2.5を実行する方法
コンピューター上でOpenHermes-2.5を実行することは、チャットするための仮想脳を設定するようなものです。以下にその方法を示します。
ステップ1:コンピューターのメモリを確認する
- コンピューターのRAMが少なくとも8GBあることを確認してください。これは重要です。OpenHermes-2.5はメモリをたくさん使用するためです。
ステップ2:Ollamaを使用してOpenHermes-2.5を実行する
- まず、Ollamaのウェブサイトにアクセスし、OpenHermes-2.5 Mistral 7Bを見つけます。これは、OpenHermes-2.5の最新バージョンです。
- コマンドラインインターフェース(CLI)で以下のコマンドを入力します:
ollama run openhermes2.5-mistral
- このコマンドは、コンピューターにOpenHermes-2.5の実行を開始するよう指示します。
ステップ3:カスタムリクエストのためのAPIの使用
- プログラム同士が通信する特別な方法であるAPIを通じて、OpenHermes-2.5と対話することもできます。
次の例では、それを行う方法を示します:
curl -X POST http://localhost:11434/api/generate -d '{
"model": "openhermes2.5-mistral",
"prompt": "Here is a story about llamas eating grass"
}'
- この例では、OpenHermes-2.5に山羊が草を食べる話をしてもらっています。この
curl
コマンドはこのリクエストをモデルに送信し、かっこいい話を返してくれます!
以上です!これらの手順で、OpenHermes-2.5がコンピューター上で実行され、チャットや物語を伝える準備ができます。
![](https://ollama.ai/public/og.png)
Anakin AIを使えば、GPT-4-Turbo、Claude-2-100k、Midjourney & Stable DiffusionのAPIなどたくさんのAIモデルが使える高度なワークフローで好みに合わせたAIアプリを簡単に作成できます!
![Anakin AIでAIアプリを作成する](https://assets.anakin.ai/blog/2023/11/1-1.webp)
興味がありますか?ぜひAnakin AIをチェックして無料で試してみてください!👇👇👇
結論
以上、OpenHermes-2.5のエキサイティングな世界について詳しく紹介しました。神話的なインスピレーションから印象的なベンチマークと地域に適した実装能力まで、OpenHermes-2.5は、私たちがAI言語処理で進歩したことを示す証拠です。
AI愛好家、開発者、技術の進歩に魅了される方々にとって、OpenHermes-2.5は人間とAIの相互作用の未来を垣間見ることができます。単なるツールではなく、人間の思考とデジタルの理解をつなぐ橋です。可能性は無限で、旅はこれからです!
FAQ
OpenHermes-2.5をコンピュータにインストールする方法は?
OpenHermes-2.5をインストールするには、通常Ollamaなどのプラットフォームを使用して、詳細なインストール手順と必要なソフトウェアコンポーネントを提供する必要があります。
OpenHermes-2.5のシステム要件は?
OpenHermes-2.5を実行するには、多くのRAM(推奨で少なくとも8GB)と良好なGPUを備えたモダンなコンピュータが必要です。
OpenHermes-2.5は他のアプリケーションと統合できる?
はい、OpenHermes-2.5はAPIを使用してさまざまなアプリケーションと統合することができ、幅広い言語処理機能を実現できます。
OpenHermes-2.5はどの言語をサポートしている?
OpenHermes-2.5は主に英語向けに設計されていますが、トレーニングデータやアップデートによって他の言語にも対応している場合があります。
OpenHermes-2.5は商用利用に適している?
はい、OpenHermes-2.5は商用目的で使用することができますが、開発者が提供するライセンスと使用ポリシーを確認することが重要です。