Hola! Puedes hacer que Mixtral 7x8b te funcione bastante mas rapido si evitas que al cargar el modelo uses memoria de GPU compartida. Eso hace que vaya muchisimo mas lento. Configura el nº de capas de GPU ofload hasta que llenes la vram solo (en mi rtx 3060 12gb son 10 capas), ademas veras que haciendo esto reduces el uso de RAM. Gran video!!
Hola! Gracias por tus videos, son muy aclaratorios e interesantes. Me funciona bien con LM Studio v0.2.16 y AI-Engine BakLLaVA1 MistralLLaVA 7B Q5_K_M. Preguntas de todo sobre la imagen y va contestando muy bien, no es perfecto pero muy útil, incluso ve cosas en que no te fijas, como un reflejo en un parachoques y te cuenta que es de un edificio. 👍
Que opinas del modelo solar-10.7b instrict-v1.0? A nivel matemático esta siendo bastante acertado, con errores pero es interesante el modelo, tiene su version uncensored.
Normalmente estos modelos de LLM solo generan texto. Para generación de imágenes puedes usar modelos como Stable Diffusion, que te permiten generar imágenes a partir de texto. El tipo de interacciones que usa GPT-4 se denomina Instruct2pix: www.timothybrooks.com/instruct-pix2pix
@@LaHoraMakerhola gracias por la respuesta ese modelo tmb me permite generar gráficos de reporteros? Por ejemplo si le paso al prompt que a partir d una data (JSON) me dibuje un gráfico de torta o de barras puede generarme la info? De no ser así concoes algún modelo que pueda usar ?… saludos
Gracias @ddoice por el comentario. Me dejé el audio de la intro en una pista enmudecida. El resto del video se ve bien. Para evitar una intro de video taaaan de bajón, he decido quitar la intro muda y dejar directamente donde empieza a sonar el video.
Hola! Puedes hacer que Mixtral 7x8b te funcione bastante mas rapido si evitas que al cargar el modelo uses memoria de GPU compartida. Eso hace que vaya muchisimo mas lento. Configura el nº de capas de GPU ofload hasta que llenes la vram solo (en mi rtx 3060 12gb son 10 capas), ademas veras que haciendo esto reduces el uso de RAM. Gran video!!
Hola! Gracias por tus videos, son muy aclaratorios e interesantes.
Me funciona bien con LM Studio v0.2.16 y AI-Engine BakLLaVA1 MistralLLaVA 7B Q5_K_M.
Preguntas de todo sobre la imagen y va contestando muy bien, no es perfecto pero muy útil, incluso ve cosas en que no te fijas, como un reflejo en un parachoques y te cuenta que es de un edificio. 👍
Gracias por compartir tu experiencia Xavier!
Que opinas del modelo solar-10.7b instrict-v1.0? A nivel matemático esta siendo bastante acertado, con errores pero es interesante el modelo, tiene su version uncensored.
Gracias empezaré a probarlos
Ya nos contarás que tal los experimentos!
Hola! Existe algún modelo que te permita cargar un repositorio completo?
no me deja cargar nada en preset:(
cómo puedo generar imagines con ello?
hay alguno que genere texto coherente e imagenes a partir de instrucciones?. O eso de momento solo lo tiene GPT4 que es de pago
Normalmente estos modelos de LLM solo generan texto. Para generación de imágenes puedes usar modelos como Stable Diffusion, que te permiten generar imágenes a partir de texto. El tipo de interacciones que usa GPT-4 se denomina Instruct2pix: www.timothybrooks.com/instruct-pix2pix
@@LaHoraMakerhola gracias por la respuesta ese modelo tmb me permite generar gráficos de reporteros? Por ejemplo si le paso al prompt que a partir d una data (JSON) me dibuje un gráfico de torta o de barras puede generarme la info? De no ser así concoes algún modelo que pueda usar ?… saludos
no logro que me lea imágenes me salta el error de Vision Adapter
Hola!, No me sale el icono para mandar imágenes, uso dolphin 2.7
a mi tampoco
hay alguno que lea archivos tipo documento, pdf, excel, etc?
No oigo nada 😢
Gracias @ddoice por el comentario. Me dejé el audio de la intro en una pista enmudecida. El resto del video se ve bien. Para evitar una intro de video taaaan de bajón, he decido quitar la intro muda y dejar directamente donde empieza a sonar el video.