OSS
要約済み 3
-
gh-mistral 1年前 2Mistral、推論ライブラリv1.6.0でビジョン対応モデルをサポートmistralai/mistral-inference v1.6.0: Mistrall goes Small 3.1 with vision
MistralがPython推論ライブラリ「mistral-inference」をv1.6.0にアップデートした。 今回の主な追加機能はMistral Small 3.1の視覚（マルチモーダル）対応で、画像入力が可能になった。 ローカル推論環境でのビジョンモデル活用の選択肢が広がり、開発者の注目を集めている。
-
gh-mistral 1年前 3Mistral、推論ライブラリにMamba対応モデルを追加mistralai/mistral-inference v1.2.0 Add Mamba
Mistralの推論ライブラリ「mistral-inference」v1.2.0がMambaアーキテクチャをサポート。 コード生成特化のCodestral-Mamba 7Bと数学特化のMathstral 7Bが利用可能になった。 pipインストールだけで試せる手軽さから、開発者の採用が加速しそうだ。
-
gh-mistral 1年前 2Mistral、推論ライブラリでLoRA正式サポートmistralai/mistral-inference v1.1.0 Add LoRA
Mistralの公式推論ライブラリmistral-inferenceがv1.1.0でLoRAアダプタの読み込み・実行に対応した。 mistral-finetuneで学習したLoRAモデルを数行のコードで推論に利用でき、7Bモデル向けサンプルも公開。 独自ファインチューニングモデルの本番活用が大幅に簡易化され、開発者の実用ハードルが下がる。