AIフロントライン

公式ソースだけを集めたAI最前線(日本語要約)

gh-mistral 2024-07-16 12:11 ★3

Mistral、推論ライブラリにMamba対応モデルを追加

mistralai/mistral-inference v1.2.0 Add Mamba

Mistral Mamba コード生成 数学AI OSS

要約

Mistralの推論ライブラリ「mistral-inference」v1.2.0がMambaアーキテクチャをサポート。 コード生成特化のCodestral-Mamba 7Bと数学特化のMathstral 7Bが利用可能になった。 pipインストールだけで試せる手軽さから、開発者の採用が加速しそうだ。