MLOPS MLFlow :Salvar y cargar Microsoft Phi3 mini 128k en GGUF MLflow
Вставка
- Опубліковано 9 вер 2024
- En este video vamos a salvar un modelo Phi3 128 k en formato GGUF int8 en MLflow y luego cargarlo para hacer inferencia en otro entorno t
Notebooks
MLFLow quantizaed bfloat16
Notebook
github.com/olo...