Відео

@maengora, si se llama Ollama, puedes instalar locamente tus LLMs, eso sí debes tener una maquina por lo menos con 16Gb de Ram. Otra opción es con Google Colab, donde también puedes levantar Ollama y un modelo como Llama3

Si igual me gustaría saber

Todo depende del caso de uso! Es posible que en algunos casos, para hacer una simple llamada a la API no te haga falta LangChain, pero si quieres crear una aplicación más completa, integrando diferentes sistemas, creando cadenas de múltiple pasos, etc LangChain te sería de grandísima ayuda!

No debería de dar ningún tipo de problema! Si fuese así puedes escribirme y te ayudo! 🤘🏽

Muchísimas gracias por tu comentario! Me alegra muchísimo que te haya sido de tanta utilidad! 🙌🙌

Si soy! 👋

Nada es gratis en OpenAI amigo, tú y tus datos sois el producto. Siempre ha habido opción “gratuita” pero tiene sus limitaciones.

@@CodingMindsetIO Bueno, eso si, pero por lo menos somos ceros y unos contribuyendo....igual también ya voy a canjear unos puntos.

Hola! Muy buena pregunta! Primero de todo deberíamos de tener en cuenta las capacidades de la máquina que está corriendo Ollama, ya que puede ser la principal limitación que encontremos. Por otro lado, recientemente Ollama en su ultima actualización permite peticiones concurrentes y se puede ajustar mediante los siguientes variables de entorno: OLLAMA_NUM_PARALLEL y OLLAMA_MAX_LOADED_MODELS Saludos!

Te refieres a que los modelos no están censurados? En ese caso, la mayoría lo están aunque es posible encontrar algunos sin ningún tipo de censura o ajuste en este aspecto. Otra cosa que se puede hacer también es ajustar los modelos para obtener el comportamiento deseado con diferentes técnicas. Saludos y gracias por tu comentario!

Hola! En el vídeo completo (tienes el enlace en la descripción), muestro como añadire una interfaz gráfica a Ollama que te permitirá interactuar igual con ChatGPT. Muestro dos opciones, pero existen muchas mas! En otros vídeos también veremos como hacerlo con código. Puedes unirte a la comunidad de telegram y te asisto en lo que necesites! 👉 t.me/coding_mindset Saludos!

Muchas gracias por tu apoyo! 😊

Hola! Muchas gracias por tu comentario! En próximos video de la serie de LangChain estaremos usando modelos OS gracias a Ollama por ahora. Puedes unirte a la comunidad de telegram y pedirme cualquier cosa que necesites! 👉 t.me/coding_mindset Saludos!

Muchas gracias! Me alegro de que te haya gustado! 😊

Hola! se puede perfectamente! por ejemplo el asistente Github Copilot estaba basado en GPT 3.5 y el nuevo Copilot Chat, basado en GPT4. Podriamos perfectamente coger un modelo de código abierto y hacerle fine-tuning para hiper-especializarlo en código, o incluso crear un agente con la habilidad de poder apoyarse en contenido de StackOverFlow y repositorios de Github para dar respuestas menos alucinadas. Saludos!

Estoy de acuerdo, siempre y cuando se use de manera intensiva, porque también puedes seguir usando GPT4 y pagar únicamente por uso y seguramente te salga más barato. 😀

En mi caso, arrancando Ollama de manera nativa en el Mac con chip silicon utiliza la aceleración por GPU gracias al soporte de Ollama con Apple Metal. Ollama también soporta GPUs de Nvidia y AMD. Un saludo!

Muchas gracias por tu comentario! ☺️ me alegro de que encuentres la información de utilidad! Un saludo!

Hola! Para acceder a una aplicación que corre en un PC local desde cualquier lugar, puedes utilizar herramientas como Ngrok. Ngrok te permite crear un túnel seguro desde el internet público a tu aplicación local. Esto es muy útil para probar y demostrar aplicaciones sin necesidad de desplegarlas en un servidor externo. Simplemente ejecutas Ngrok en tu PC, y este te proporciona una dirección URL pública que redirige directamente a tu aplicación local. ¡Es una solución práctica y segura para acceso remoto a aplicaciones en desarrollo! Por cierto, si te interesa seguir discutiendo sobre estas tecnologías y otras relacionadas, te invito a unirte a nuestro grupo de Telegram. Es un espacio donde podrás hacer estas y más preguntas, y además recibir apoyo de la comunidad. ¡Será genial tenerte en el grupo y ayudarnos mutuamente! Aquí te dejo el enlace para que puedas unirte: t.me/coding_mindset

🤔

Seguramente sea porque no tengas descargado ningún modelo, desde la propia interfaz gráfica te permite gestionar la descarga de los mismos. Prueba y coméntame a ver si has podido descargar alguno y te aparece en la lista.

Ollama no puede ser igual de eficaz que ChatGPT ni ChatGPT igual de eficaz que Ollama, ya que son productos diferentes que hacen cosas diferentes con propósitos diferentes.

Ollama nos ayuda con la gestión de LLMs en local. Para tu pregunta, necesitas añadirle una interfaz gráfica que te proporcionará lo que buscas. Prueba con Msty, el que enseño al final del vídeo.

¡Hola! La principal diferencia entre Ollama y LangChain es que Ollama es una tecnología que permite ejecutar modelos de lenguaje grande (LLMs) de manera local, es decir, en tus propios servidores o dispositivos sin depender de servicios en la nube. Esto es útil para mantener el control total sobre los datos y la infraestructura. Por otro lado, LangChain es una biblioteca que facilita la construcción de aplicaciones con LLMs. Ofrece herramientas para integrar modelos de lenguaje con otras APIs y datos, manejar el razonamiento lógico y estructurar conversaciones. LangChain no está limitada a ejecutarse en local y puede ser utilizada tanto en entornos locales como en la nube, dependiendo de cómo se configure el acceso al modelo de lenguaje. En cuanto al tema de memoria para tu caso, te aconsejaría añadir una UI a Ollama tal y como explico en la última parte del vídeo. ¡Espero que esto aclare tus dudas!

Muchas gracias por tu apoyo! ☺️

Muchas gracias por tu mensaje y por tu apoyo! ☺️

Gracias a ti por tu comentario! Me alegro de que te haya gustado el tutorial!

Muchas gracias! me alegro de que te esté gustando la serie, en breve seguimos! 😀

Hola Miguel! Muchísimas gracias por tu comentario! me ha hecho ilusión verte por aquí! Un abrazo!

Cierto! Añadí un disclaimer para aclararlo, gracias por la observación.

Gracias por tu comentario! Ya he grabado un pequeño tutorial sobre CrewAI que saldrá en un canal con el cual empiezo a colaborar. Avisaré por el grupo de Telegram cuando esté disponible! Para mi canal utilizaré LangGraph, para prototipar CrewAI está muy bien, pero LangGraph nos da mucho más ccontrol.

Muchas gracias! Próximamente seguimos con la serie de Langchain! ☺

Muchas gracias por tu comentario! En el próximo vídeo de la serie de LangChain usaremos modelos en local. Como modelo entiendo que te refieres a Grok de X no? Groq es un servicio de inferencia ultra rápida de modelos de IA. Puedes unirte al grupo de Telegram y si necesitas una mano, el grupo está precisamente para ayudarnos y compartir! Un saludo

Muchas gracias por tu comentario! 😊

​@@CodingMindsetIO¡Gracias por el video! Me alegra mucho ver cómo la comunidad "técnica" de la IA en español está creciendo. Canales como el tuyo son una gran ayuda para estudiantes como yo de Ciencia de Datos e IA. ¡Un saludo!

Gracias! Me alegro de que te haya gustado el vídeo!

Hola! Todos los recursos que voy usando en los vídeos los estoy subiendo al grupo de Telegram. Puedes unirte si te apetece y cualquier cosa podemos hablar a través del grupo. Un Saludo!

Hola! He tomado nota del zoom para los siguientes vídeos 🙏. Estoy subiendo todos los recursos que voy usando al grupo de Telegram a medida que me los vais pidiendo. Puedes unirte y cualquier comentamos a través del grupo. Un saludo!

Gracias!🤩

Gracias por tú comentario! ☺️ hay que ordenarse un poco la mente para hacer estos vídeos 😝

Muchas gracias por tu comentario! Me alegra mucho de que te haya gustado y servido el vídeo! Gracias por tus bendiciones ☺️

Muchas gracias! Me alegro de que te haya guistado. Este es un video introductorio con el que prtendía introducir la tecnología y repasar los conceptos clave. El map-reduce en Langchain no es mas una cadena especializada en cuanto a la ingesta de documentos, por eso no tenía cabida en este video ya que es un concepto más avanzado y específico. En cuanto a tu consulta, el uso de agentes ene se casoo no te aportará ningún beneficio. Cómo lema de vida yo siempre pongo la simplicidad primera, en este caso, si la tare puede ser realizada con una simple cadena, mejor que adentrarse en la complejidad de los agentes. De todos modos un agente tendría sentido en una tarea mas compleja o que requiriese el uso de herramientas externas.

Muchisimas gracias por tu comentario! Me ha alegrado el día y desde luego hace que todo el esfuerzo valga la pena! 😊. En cuanto a tu petición, sí me gustaría en algún momento hacer un video de como hacer fine-tuuning a modelos, lo que primero me gustaría seguir avanzando con la serie de LangChain, pero cuenta con ello!

Muchas gracias! me alegro de que te haya gustado!😊

Muchas gracias por tu comentario! Me alegro de que te haya gustado! ☺️

Cuenta con ello 🙏

Muchas gracias por tu comentario! Lo tengo en cuenta! ✌🏽