Crea un endpoint API 100% local para tu LLM usando LM Studio

Поділитися
Вставка
  • Опубліковано 25 сер 2024

КОМЕНТАРІ • 24

  • @jackgaleras
    @jackgaleras 13 днів тому

    Hola genio, ya hice una pequeña red de computadores con un modelo libre gracias al video

  • @royotech
    @royotech 7 місяців тому +6

    Eres un crack... debes ser de los más crack de España... Hay esperanza en España amigo vikingo..

  • @erik_riv
    @erik_riv 7 місяців тому +1

    Es muy interesante lo que se puede hacer con LM Studio. Trato de imaginar sus posibles usos, pero quizás me quede corto y no alcance a comprender del todo su potencial. Me gustaría que un video próximo, se platicara sobre posibilidades de usos prácticos.
    Muchas gracias por esta serie de tutoriales que están geniales 💯

    • @LaHoraMaker
      @LaHoraMaker  7 місяців тому

      Gracias por el comentario Erik! Me lo apunto para preparar los próximos usos, orientados en casos prácticos.

  • @user-ov4mi2nn3o
    @user-ov4mi2nn3o 7 місяців тому +1

    Gracias por subir estos videos

  • @arkangelMX2009
    @arkangelMX2009 5 місяців тому +1

    Muchas gracias!

  • @trocarful
    @trocarful 7 місяців тому +3

    Se pueden hacer embedding con doc de texto en lm studio? Tutorial please😊. Enhorabuena por el canal, su contenido es muy util 👍👍

    • @santiagovelezflorez1634
      @santiagovelezflorez1634 7 місяців тому +3

      Me uno a la solicitud porfa crack!

    • @LaHoraMaker
      @LaHoraMaker  7 місяців тому +2

      Apuntado el tema de los embeddings y el RAG usando LM Studio! En breve más info!

  • @jackgaleras
    @jackgaleras 13 днів тому

    Se puede hacer un RAG con LM Studio? y que con la licencias comerciales o usar esto en el trabajo ...

  • @Pala_tech_
    @Pala_tech_ 7 місяців тому +1

    GRACIAS

    • @LaHoraMaker
      @LaHoraMaker  7 місяців тому

      Gracias por comentar Ruben!

    • @Pala_tech_
      @Pala_tech_ 7 місяців тому

      @@LaHoraMaker Un video para analizar documentos o crear documento con estos modelos estarían genial. Estoy automatizando la creación de páginas web con gpt4 pero no sé si con LM Studio lo podré hacer

  • @angelarevalo8553
    @angelarevalo8553 5 місяців тому +1

    ya que es compatible con la api de openai, sirve tambien con la libreria de node.js? cambiando unicamente el url base? saludos, tema suoer interesante

    • @LaHoraMaker
      @LaHoraMaker  5 місяців тому

      Si, en principio debería funcionar con cualquier librería compatible con la API de OpenAI tanto en Python como en Node.js, Go, etc.

  • @davidALunero
    @davidALunero 7 місяців тому +1

    Buenas, muchas gracias por tus tutos. Puedes explicar cómo usar funciones?

    • @LaHoraMaker
      @LaHoraMaker  7 місяців тому

      Gracias por comentar David! Lo tengo entre las cosas pendientes para explorar en breve el tema de function calling, aunque quiero probar antes bien que tal funciona con distintos modelos abiertos.

    • @davidALunero
      @davidALunero 7 місяців тому

      @@LaHoraMaker llevo toda la semana intentando hacer funcionar el function calling en diferentes modelos como Gorilla o Trelis y no he conseguido nada mas que responda siempre llamar a la función (un fracaso absoluto). Estaré pendiente de todos tus videos y mucho animo.

  • @JuankM1050
    @JuankM1050 4 місяці тому

    se puede combinar esto con el autogen de microsoft, que pide el api de openia. ?

    • @LaHoraMaker
      @LaHoraMaker  4 місяці тому

      Desde la versión 0.27.1 está soportado el uso de LM Studio multimodelo con Autogen. Aquí tienes código de referencia: microsoft.github.io/autogen/docs/topics/non-openai-models/local-lm-studio/

  • @mcanetsola
    @mcanetsola 7 місяців тому

    Super interesante! Sabes se puede correr algun Llm con vision y usar el api pasando una imagen para que analize?

    • @LaHoraMaker
      @LaHoraMaker  7 місяців тому

      Gracias por la pregunta Mar!
      Aquí tienes un video donde te explico cómo ejecutar un endpoint de visión localmente: ua-cam.com/video/Flz2oy8D5Uw/v-deo.html

  • @Dahe-jx6vb
    @Dahe-jx6vb 3 місяці тому

    Muchas gracias!