Instructions to use NeoRoth/oriloq-asr-fr-mlx-int8 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- MLX
How to use NeoRoth/oriloq-asr-fr-mlx-int8 with MLX:
# Download the model from the Hub pip install huggingface_hub[hf_xet] hf download NeoRoth/oriloq-asr-fr-mlx-int8 --local-dir oriloq-asr-fr-mlx-int8
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- LM Studio
- Atomic Chat
Oriloq ASR français : Parakeet MLX INT8
Modèle de transcription spécialisé pour la dictée française dans Oriloq, dérivé de NVIDIA Parakeet TDT 0.6B v3.
Version publiée le 8 octobre 2026 : qat-20261006-e11. Les adaptateurs LoRA du checkpoint de l’époque 11 ont été fusionnés dans le modèle de base. Le checkpoint a été sélectionné sur le WER de validation combiné à la fin d’un entraînement de 15 époques.
Entraînement et évaluation
Fine-tuning LoRA (rang 16, alpha 32), dropout LoRA 0,1, warmup 1 000 steps, profil QAT de poids coreml-int8-per-channel-v1. Le corpus de dictée française reste privé.
| Mesure à l’époque 11 | WER |
|---|---|
| Validation locale française, normalisée | 3,02 % |
| FLEURS français, split développement | 7,53 % |
| Validation combinée, critère de sélection | 4,379 % |
Ces métriques ont été mesurées pendant l’entraînement avec simulation QAT. Elles ne constituent pas un benchmark de bout en bout de cet export. Dans ce run, le modèle de base obtenait 5,40 % sur FLEURS français : la spécialisation pour la dictée Oriloq ne signifie donc pas une amélioration sur toutes les distributions de parole française. Les langues autres que le français n’ont pas été évaluées sur cette version.
Versions
Les clients Oriloq suivent la tête de la branche main. Le tag qat-20261006-e11 identifie cette publication. Ce dépôt a été créé pour cette variante compacte.
Aucun audio, transcript, diagnostic contenant des exemples, checkpoint d’entraînement ou chemin local privé n’est publié.
Licence et attribution
Distribué sous CC BY 4.0, avec attribution à NVIDIA / l’équipe NeMo pour le modèle de base. Modifications par Oriloq : fine-tuning LoRA français, fusion des adaptateurs et export pour Apple Silicon. Conserver cette attribution, signaler les modifications et référencer la licence lors d’une redistribution.
Utilisation et format
Export compact MLX du même checkpoint français, avec quantification affine INT8 par groupes de 64 sur 216 projections de l’encodeur Conformer. Les autres poids, notamment convolutions, sous-échantillonnage et décodeur/joint, restent flottants. L’inférence MLX utilise le GPU Metal.
Le schéma affine MLX est distinct du QAT Core ML symétrique par canal appliqué pendant l’entraînement. Cette conversion est une post-quantification du modèle fusionné ; les métriques de la section précédente ne mesurent pas cet export INT8.
Fichiers runtime : model.safetensors, config.json, mlx_quantization.json requis et tokenizers/vocabulaires. oriloq_release.json décrit cette publication. Il faut un loader Parakeet prenant en charge le manifeste parakeet-mlx-affine-int8-v1, les matrices packées et leurs échelles/biais.
Compatibilité Oriloq au 8 octobre 2026 : le service de transcription de l’application refuse encore les poids Parakeet MLX quantifiés. Ce dépôt est publié séparément et n’est pas substitué à la source française MLX de l’application. Pour l’Oriloq actuel, utiliser NeoRoth/oriloq-asr-fr-mlx ou le Core ML INT8 français.
- Downloads last month
- 68
Quantized
Model tree for NeoRoth/oriloq-asr-fr-mlx-int8
Base model
nvidia/parakeet-tdt-0.6b-v3