RubyGems Navigation menu

mlx-ruby-lm 0.30.7.1

A Ruby port of mlx-lm providing large language model inference, quantization, LoRA fine-tuning, and an OpenAI-compatible server built on the mlx gem. Supports Llama, Gemma, Qwen2, Phi3, Mixtral, DeepSeek, and many more architectures.

Gemfile:
=

installation:
=

Versions:

  1. 0.30.7.1 February 27, 2026 (115 ko)

Dépendances de Runtime (3):

mlx >= 0.30.7.5, < 1.0
safetensors ~> 0.2
tokenizers ~> 0.6

Dépendances de Development (3):

minitest ~> 5.20
ostruct >= 0
rake ~> 13.0

Propriétaires:

Pushed by:

Auteurs:

  • Alex Skryl

Total de contrôle SHA 256:

=

Total de téléchargements 318

Pour cette version 318

Version publiée:

License:

MIT

Version de Ruby requise: >= 3.4

Liens: