¿Por qué CONSUMEN tantos TOKENS los ASISTENTES con RETRIEVAL?

Поділитися
Вставка
  • Опубліковано 9 лис 2024

КОМЕНТАРІ • 35

  • @magurtoy2k
    @magurtoy2k 7 місяців тому

    Juan que prolija explicacion para un tema tan complejo & abstracto. Gracias y felicitaciones.

  • @gustavopereztempranillo
    @gustavopereztempranillo 7 місяців тому

    Es asombrosa la facilidad que tienes para explicar de manera sencilla cualquier concepto, por complicado que sea.👏👏👏 Estoy ansioso por ver el siguiente vídeo para crear una herramienta de Retrieval propia. Por cierto, el curso de Construcción de Asistentes es espectacular y me ha servido de mucho, ya he construido varios. ¡Muchas gracias!

  • @Investigadorinexperto-dt3ed
    @Investigadorinexperto-dt3ed 7 місяців тому

    capo progresando en conocimientos, te sigo desde tu primer video y ver tu avance es motivador

  • @cristianbejarano11
    @cristianbejarano11 7 місяців тому

    Qué pasada de contenido el que nos traes siempre! Cada video es una joya y estoy súper agradecido por el tiempo y pasión que le pones. Explicas los conceptos de manera muy clara y comprensible que facilita el aprendizaje de todos. Mi agradecimiento es inmenso por tu esfuerzo y dedicación.😁 Ya estoy deseando ver el próximo! El curso de Asistente de IA me ha dejado sin palabras, lo recomiendo muchísimo. Realmente espero que sigas sacando más cursos así, porque ya estoy aquí, esperando con muchísimas ganas. ¡Gracias por todo este esfuerzo y por enseñarnos tanto Juan!

    • @productomania
      @productomania  7 місяців тому

      ¡Muchísimas gracias por tu comentario Cristian! 😍

  • @SantiagoMejiaParra
    @SantiagoMejiaParra 7 місяців тому

    Muchas gracias por tu dedicación y conocimiento! Eres bueno.

  • @gaarell
    @gaarell 6 місяців тому

    muy buen video, gran explicación

  • @luisc.restrepo6392
    @luisc.restrepo6392 7 місяців тому

    ⭐⭐⭐⭐⭐. Excelente video.
    Contenido de mucho valor

  • @Ikerposcaart
    @Ikerposcaart 7 місяців тому

    Excelente información, en mi caso uso Dify para mis RAG

    • @productomania
      @productomania  7 місяців тому +1

      No la conocía, acabo de ver su web y tiene muy buena pinta, la probaré! Gracias :)

    • @Ikerposcaart
      @Ikerposcaart 7 місяців тому

      @@productomania tiene mucho LLM yo llevo tiempo usándola es de código abierto

  • @luisc.restrepo6392
    @luisc.restrepo6392 7 місяців тому

    Esperando el video de "crear nuestra propia herramienta de Retrieval.
    Pa cuannndddooo

  • @putinninovacuna8976
    @putinninovacuna8976 5 місяців тому

    o sino lo ideal seria usar nlp para que sea mas consecuente el corte de chunks y tenga sentido semantico por parrafos

  • @Westxo-m9h
    @Westxo-m9h 7 місяців тому

    Excelente crack! Porque fijate que yo por "ordenado" decidí crear los asistentes dividiendo en PDFs, y en modo pregunta respuesta, como que el sentido común me lo decía y ahora entiendo porque gracias. Sin embargo, me sucede que cada 10 preguntas gpt4 me consumen casi el dólar, se me hace una barbaridad y es que si uso 3.5 0125 hay un % de alucinación que no puedo permitir por el giro del negocio. Definitivamente me ayudaría saber cómo reducir 10x este coste, soy cliente actual de tus cursos! 🎉 Lo necesito y si es sin programar y en Botpress mejor!

    • @productomania
      @productomania  7 місяців тому

      En unos minutos subo vídeo explicando cómo construir una solución con Botpress, ¡a ver si te sirve!

  • @jorgenebra8787
    @jorgenebra8787 7 місяців тому

    Muy buen video para entender de forma clara todo el proceso de retrieval.
    Un punto, en estos dos casos, tanto con Langchain, como directamente sobre OpenAI, el documento vectorizado se almacena en un base de datos vectorial. ¿Correcto?
    Con la opción directa de OpenAI, entiendo que de esa base de datos vectorial "te olvidas".
    ¿Con la opción de Langchian es igual? ¿O tienes que encargarte de pagarla y gestionarla?
    Gracias!!

    • @productomania
      @productomania  7 місяців тому +1

      Efectivamente! Si construyes tu sistema de Retrieval con Langchain tienes que encargarte de almacenar los vectores en alguna base de datos. Algunas de las más populares son www.pinecone.io/ y qdrant.tech/. En el caso del Asistente de OpenAI te olvidas de esa parte.

  • @royotech
    @royotech 7 місяців тому +1

    Como siempre una joya de video. Felicitaciones JUAN.
    Para un catálogo de productos en un documento ¿qué crees que es mejor subirlo en JSON o en PDF?.
    Para las preguntas y respuestas, ¿será mejor un JSON que un PDF?

    • @productomania
      @productomania  7 місяців тому

      Siempre es preferible subirlo en un formato JSON porque es un formato bien estructurado, donde queda claro qué es cada cosa porque todo la información está almacenada en pares clave-valor. Pero claro, transformar la información de PDF a JSON si tienes mucha información pues no siempre es viable. Pero no hay nada mejor que probar! :)

  • @erickreyes1677
    @erickreyes1677 4 місяці тому

    Se pueden aplicar estos conceptos usando Llama Index?

  • @fbravoc9748
    @fbravoc9748 7 місяців тому

    Espectacular video ! Estoy pensando en comprar tu curso de asistentes. Me podrías comentar Cuál es el valor agregado que entrega tu curso pago en comparación con tus vídeos de UA-cam, a los cuales encuentro geniales !?

    • @productomania
      @productomania  7 місяців тому +1

      ¡Gracias! Aquí explico el contenido del curso: ua-cam.com/video/zSAb8JxymPM/v-deo.html
      Te hago un resumen rápido: en los vídeos que subo a UA-cam no me da tiempo a explicar detenidamente todo lo que necesitas saber para poder construir un Asistente con la API de Asistentes de OpenAI, en el curso sí. Además en el curso comparto varias plantillas de Botpress para que no tengas que crear tu Asistente desde cero.

  • @Juan-Ballesteros
    @Juan-Ballesteros 7 місяців тому

    Hola Juan! ¿Es posible que el asistente en OpenAI se coma todo el contexto antes de responder cada pregunta del usuario? (sin vectorizar). Creo que los números se parecen bastante (promtp + instrucciones + contexto = tokens de entrada)

    • @Juan-Ballesteros
      @Juan-Ballesteros 7 місяців тому

      Hice la prueba con texto plano (así es como coinciden los tokens ~)

  • @eleagueofschoolsmx1142
    @eleagueofschoolsmx1142 7 місяців тому

    ¿Tienes algún código de descuento para el curso de asistentes? :)

    • @productomania
      @productomania  7 місяців тому

      No, el código de descuento se agotó hace tiempo :(

  • @hectorraulgarcia3246
    @hectorraulgarcia3246 6 місяців тому

    Qué cantidad de información le puedo dar a un agente gpt de chat gpt, para entrenarlo?

  •  7 місяців тому +1

    Tengo varias dudas. La primera, ¿Se puede monetizar el chat utilizando Wordpress? ¿Qué tan complicado sería? Por ejemplo, un chat premium.
    La segunda, en el caso de un chat premium, ¿El usuario puede hacer preguntas en audio y obtener la respuesta de la misma manera? Llegado el caso, ¿Qué tan costoso sería?
    Tercera pregunta, ¿Chatbase y herramientas similares, funcionan como lo explica en este video?
    Gracias.

    • @productomania
      @productomania  7 місяців тому +1

      Te respondo:
      1. Sí, puedes intentar monetizar un chatbot con Wordpress. Tendrás que utilizar algún plugin que te permita implementar un sistema de registro (memberpress.com/) y permitir utilizar el chatbot unicamente a los usuarios que te hayan pagado.
      2. Si construyes el chatbot con Botpress el usuario no podrá enviar audios, sí podrá recibirlos. Si quieres que el usuario pueda enviar audios te recomiendo crear un chatbot para Whatsapp, en vez de para Botpress.
      3. Sí, las herramienta de creación de chatbots que te permiten alimenar el chatbot con documentos utilizan la misma técnica que explico en este vídeo. De hecho, en Chatbase puedes ver qué trozos de texto ha utilizado el chatbot para responder al usuario, suelen ser siempre 3 creo.

    •  7 місяців тому

      @@productomania Muchas gracias por la respuesta