OctoAI
OctoAI
  • 141
  • 550 260
How to Safely Deploy Open Source LLMs
@Octo-AI solution engineer, Rodney Shetler, shares strategies for deploying open source LLMs like Meta Llama 3.1 on prem.
Переглядів: 36

Відео

Builder's Roundtable: Secure GenAI for Enterprise
Переглядів 2595 місяців тому
🌟 Hosted by OctoAI & in collaboration with community partner Cerebral Valley🌟 We walk through how to build a secure generative AI infrastructure so you can confidently deploy AI solutions in your enterprise environment. The panelists explore key considerations at various layers of the stack, from infrastructure to models and data. Key takeaways for enterprise leaders and developers: 1. Understa...
Advanced Prompt Engineering for Llama 3.1 -- outperform GPT-4o!
Переглядів 3945 місяців тому
Discover the surprising truth about model size in AI: Bigger is not always better! In this in-depth video, Thierry, co-founder of OctoAI, explores a common enterprise use case - PII redaction - and reveals how a small, 8-billion parameter model like Llama 3.1 can outperform the state-of-the-art GPT-4 in both quality and cost. Read the full blog here: octo.ai/blog/in-defense-of-the-small-languag...
LoRAs, Fine-Tuning and the GenAI Bubble
Переглядів 1175 місяців тому
LoRAs, Fine-Tuning and the GenAI Bubble
Fine-tune Llama 3.1 for PII Redaction
Переглядів 2475 місяців тому
Fine-tune Llama 3.1 for PII Redaction
How to Optimize LLMs for Cost and Quality
Переглядів 4805 місяців тому
How to Optimize LLMs for Cost and Quality
Build a sales bot with LLMs & function calling
Переглядів 725 місяців тому
Build a sales bot with LLMs & function calling
Llama 3.1 Launch, Big vs. Small Models, and AI Agents
Переглядів 1885 місяців тому
Llama 3.1 Launch, Big vs. Small Models, and AI Agents
GenAI-Powered Transcription and Summarization for Healthcare
Переглядів 27 тис.6 місяців тому
GenAI-Powered Transcription and Summarization for Healthcare
Using Built-in Tools in Llama 3.1
Переглядів 285 тис.6 місяців тому
Using Built-in Tools in Llama 3.1
Webinar | Harnessing Agentic AI: Function Calling Foundations
Переглядів 5106 місяців тому
Webinar | Harnessing Agentic AI: Function Calling Foundations
Builder's Roundtable: All About Fine-Tuning LLMs
Переглядів 6747 місяців тому
Builder's Roundtable: All About Fine-Tuning LLMs
Build an Automated Business Intelligence Report with GenAI
Переглядів 29 тис.7 місяців тому
Build an Automated Business Intelligence Report with GenAI
Create a Shortlist of LLMs to Evaluate
Переглядів 727 місяців тому
Create a Shortlist of LLMs to Evaluate
How to Select the right LLM for your GenAI app
Переглядів 4157 місяців тому
How to Select the right LLM for your GenAI app
Getting More Mileage Out of Your Data with GenAI
Переглядів 678 місяців тому
Getting More Mileage Out of Your Data with GenAI
The Next Yearbook
Переглядів 348 місяців тому
The Next Yearbook
Running Gen AI In Your Environment: Building a Sales Assistant with OctoStack in SnowPark Both Demos
Переглядів 748 місяців тому
Running Gen AI In Your Environment: Building a Sales Assistant with OctoStack in SnowPark Both Demos
OctoStack Webinar 201: GenAI in Your Environment
Переглядів 798 місяців тому
OctoStack Webinar 201: GenAI in Your Environment
OctoStack Live Session: Bringing GenAI to Your Datastore
Переглядів 1548 місяців тому
OctoStack Live Session: Bringing GenAI to Your Datastore
Building a RAG app |AWS Lambdas, Pinecone DBs, and OctoAI Endpoints Part 1
Переглядів 3189 місяців тому
Building a RAG app |AWS Lambdas, Pinecone DBs, and OctoAI Endpoints Part 1
OctoStack Webinar - GenAI Inference in Your Environment: Control and Customization at Low Cost
Переглядів 1979 місяців тому
OctoStack Webinar - GenAI Inference in Your Environment: Control and Customization at Low Cost
Building an AI-First Business: Controlling Your Stack
Переглядів 13 тис.9 місяців тому
Building an AI-First Business: Controlling Your Stack
Building an AI-first Business: An OctoAI Conversation with GenAI Leaders
Переглядів 2079 місяців тому
Building an AI-first Business: An OctoAI Conversation with GenAI Leaders
Building a RAG app |AWS Lambdas, Pinecone DBs, and OctoAI Endpoints Part 4
Переглядів 1069 місяців тому
Building a RAG app |AWS Lambdas, Pinecone DBs, and OctoAI Endpoints Part 4
Building a RAG app |AWS Lambdas, Pinecone DBs, and OctoAI Endpoints Part 3
Переглядів 1039 місяців тому
Building a RAG app |AWS Lambdas, Pinecone DBs, and OctoAI Endpoints Part 3
Building a RAG app |AWS Lambdas, Pinecone DBs, and OctoAI Endpoints Part 2
Переглядів 2019 місяців тому
Building a RAG app |AWS Lambdas, Pinecone DBs, and OctoAI Endpoints Part 2
Can GenAI and Data Privacy Co-Exist?
Переглядів 81 тис.9 місяців тому
Can GenAI and Data Privacy Co-Exist?
What is OctoStack?
Переглядів 1309 місяців тому
What is OctoStack?
Future-Proofing Your GenAI Stack with Allie K. Miller and Luis Ceze
Переглядів 3409 місяців тому
Future-Proofing Your GenAI Stack with Allie K. Miller and Luis Ceze