MLOPS MLFlow :Salvar y cargar Microsoft Phi3 mini 128k en GGUF MLflow

Поділитися
Вставка
  • Опубліковано 9 вер 2024
  • En este video vamos a salvar un modelo Phi3 128 k en formato GGUF int8 en MLflow y luego cargarlo para hacer inferencia en otro entorno t
    Notebooks
    MLFLow quantizaed bfloat16
    Notebook
    github.com/olo...

КОМЕНТАРІ •