Rocinante 12B logo

Rocinante 12B

開く

Rocinante 12B は TheDrummer によるロールプレイと冒険物語向けの120億パラメータの微調整モデル。v1 と v1.1 があり、ChatML、Alpaca、Mistral テンプレートに対応します。

共有:
代替ツールを見る

Rocinante 12B は、TheDrummer が作成し BeaverAI が紹介する、ロールプレイと冒険物語向けの120億パラメータの微調整モデルです。Hugging Face のモデルカードは「あらゆる冒険に使える万能の働き者」と表現しています。リリースは Rocinante-12B-v1 と Rocinante-12B-v1.1 の2つです。v1 のモデルカードはより信頼できる体験として v1.1 を勧めているため、本エントリでは v1.1 を主なリリースとしてリンクします。

主な機能

  • 物語とロールプレイ重視:モデルカードは、想定用途としてロールプレイと冒険物語を挙げています。
  • 3つのチャットテンプレート:ロールプレイには ChatML、物語や指示形式の冒険には Alpaca、NeMo には Mistral。モデルカードは、混ぜて最適なものを探すことを提案しています。
  • サンプラーの助言:DRY を使うこと。温度0.7は落ち着いた文体に、1.2はより活発になります。
  • v1.1 と v1:v1.1 のモデルカードに技術的な変更履歴はなく、より豊かで個性的な文章や創造性の向上といったテスターの声を引用し、「完全に自由奔放な体験」には v1 を勧めています。これは主観的な感想であり、ベンチマークではありません。
  • 量子化版:モデルカードから GGUF 版にリンクされています。v1.1 には、Statuo による 4、6、8 bpw の EXL2 量子化も載っています。

モデル仕様

項目 Rocinante 12B
パラメータ数 12B(BF16、Safetensors)
リリース v1 と v1.1
ライセンス Hugging Face 上では "other"
ベースモデル モデルカードに記載なし
Hugging Face リポジトリ TheDrummer/Rocinante-12B-v1、TheDrummer/Rocinante-12B-v1.1

モデルカードには公開日、コンテキスト長、ベースモデルの記載がないため、本エントリも記載しません。また、現在このモデルをホストしている Inference Provider はなく、自分で実行する必要があると記されています。

コンテンツに関する注意

モデルカードには、テスターから「new and moistier words」という報告があったとあり、より露骨な内容が出力される可能性を示しています。適切な場面で使い、一般向けの製品では独自のフィルタリングを追加してください。

活用シーン

  • インタラクティブフィクションや冒険ゲーム。
  • ローカルのチャットフロントエンドでのキャラクターロールプレイ。
  • 小型で自前ホストできるモデルで足りる創作。

クイックスタート

  1. v1.1 のモデルカードから、重み、または GGUF や EXL2 の量子化版をダウンロードする。
  2. チャットテンプレート(ロールプレイは ChatML、物語モードは Alpaca)を選び、DRY サンプリングを有効にする。
  3. 落ち着いた調子には温度0.7から始め、より活発にしたければ1.2に向けて上げる。

よくある質問

Rocinante 12B は何に使いますか?

ロールプレイと冒険物語です。

どのバージョンを使うべきですか?

v1 のモデルカードは、より信頼できる体験として v1.1 を、完全に自由奔放な体験として v1 を勧めています。

ライセンスは?

Hugging Face では "other" と表示されています。商用利用の前にモデルカードを読んでください。

API プロバイダーでホストされていますか?

モデルカードによると、現在このモデルを展開している Inference Provider はありません。

代替ツール

  • Mistral Nemo:12B の Mistral モデル。モデルカードがそのテンプレートに言及しています。
  • Gemma 4 26B A4B:汎用チャット向けの現行オープンモデル。
  • MythoMax 13B:物語とロールプレイ向けの別のコミュニティモデル。

まとめ

Rocinante 12B は、小説とロールプレイ向けの小型のコミュニティ調整モデルで、モデルカードにテンプレートとサンプラーの明確な指針があります。v1.1 のモデルカードから始め、他のモデルはモデルカテゴリをご覧ください。

コメント

まだコメントがありません。最初のコメントを投稿してください!