- 21
- 279 404
모두의AI
Приєднався 19 сер 2023
[Q&A 영상] 에이전트 시스템은 어떻게 최적화할까요? (댓글 이벤트)
이번 영상에서는 LLM 어플리케이션 서빙과 최적화에 대한 Q&A를 준비했습니다. 여러분의 궁금증을 조금이나마 해소해드렸길 바랍니다.
[실습파일] - 본 파일은 Colab에서 실행되지 않습니다. 로컬에 다운로드해서 활용하시길 바랍니다.
drive.google.com/file/d/1fQ_6ORPgUCZje9PIQU2xhFgpxJ_io8NS/view?usp=sharing
그리고 즐거운 소식을 전해드리려고 합니다! 🎉 이번 영상에서는 특별한 댓글 이벤트를 진행합니다.
📣 댓글 이벤트 안내 📣
참여 방법: 이 영상에 댓글 달기
추첨 인원: 총 3명
경품:
🥇 1등 (1명): 패스트캠퍼스 "Langgraph로 끝내는 멀티 AI 에이전트" 강의 100% 할인권
🥈 2등 (2명): 같은 강의 50% 할인권
AI 에이전트에 관심 있으신 분들에게 정말 좋은 기회가 될 것 같습니다. 여러분의 열정적인 참여를 기다리고 있겠습니다!
질문, 의견, 아이디어... 어떤 댓글이든 환영합니다. 함께 배우고 성장하는 즐거운 시간 되길 바랍니다. 🌱
[실습파일] - 본 파일은 Colab에서 실행되지 않습니다. 로컬에 다운로드해서 활용하시길 바랍니다.
drive.google.com/file/d/1fQ_6ORPgUCZje9PIQU2xhFgpxJ_io8NS/view?usp=sharing
그리고 즐거운 소식을 전해드리려고 합니다! 🎉 이번 영상에서는 특별한 댓글 이벤트를 진행합니다.
📣 댓글 이벤트 안내 📣
참여 방법: 이 영상에 댓글 달기
추첨 인원: 총 3명
경품:
🥇 1등 (1명): 패스트캠퍼스 "Langgraph로 끝내는 멀티 AI 에이전트" 강의 100% 할인권
🥈 2등 (2명): 같은 강의 50% 할인권
AI 에이전트에 관심 있으신 분들에게 정말 좋은 기회가 될 것 같습니다. 여러분의 열정적인 참여를 기다리고 있겠습니다!
질문, 의견, 아이디어... 어떤 댓글이든 환영합니다. 함께 배우고 성장하는 즐거운 시간 되길 바랍니다. 🌱
Переглядів: 956
Відео
ColPali로 초간단 멀티모달 RAG 구축해보기
Переглядів 3,1 тис.Місяць тому
ColPali 임베딩모델로 멀티모달 RAG를 구축해봅니다. 실습파일: colab.research.google.com/drive/19NNW96xow1WtnYcL1-CuAOGfGLRDhKFT?usp=sharing
AI 에이전트의 원리와 단일, 멀티 에이전트
Переглядів 3,3 тис.2 місяці тому
국내최초 멀티 AI Agent 강의 출시! 35% 특별 할인쿠폰 증정! 안녕하세요 여러분! 모두의AI 케인입니다. 이번에 제가 좋은 기회로 패스트캠퍼스에서 멀티 AI agent 강의를 출시하게 되었습니다. 현재 얼리버드 프리세일로 할인을 진행중인데 아래 링크로 제공해드리는 쿠폰을 사용하시면 35% 추가 할인이 가능합니다! 멀티 AI Agent 강의는 workflow 및 LangGraph를 비롯한 프레임워크를 익히며 멀티 AI 에이전트를 가장 빠르게 배우는 강의입니다. 2가지 단일 에이전트와 3가지 다중 에이전트 프로젝트를 진행하며 실제 멀티 AI agent 구축을 경험할 수 있습니다. 제가 멀티 AI 에이전트라는 주제에 대해 공부했을 당시에는 국내 자료가 없어서 많은 시행착오를 겪었는데, 여러분은 그 ...
AI 에이전트가 뜨는 이유
Переглядів 6 тис.3 місяці тому
AI 에이전트라는 개념에 대해 아주 간단하게 알아봅니다. 00:00 인트로 01:47 AI 에이전트의 부상 04:53 LLM의 발전트렌드 22:00 AI에이전트의 개념 31:26 AI에이전트의 필요성
실전! RAG 고급 기법 - Retriever (2)
Переглядів 7 тис.9 місяців тому
Ensemble Retriever와 Long Context Reorder에 대해서 알아봅니다. colab 링크: colab.research.google.com/drive/1PALBOJ-vXgKe3LOIbKoqeD8kuZYx_Lnr#scrollTo=-YinIRx6_ y
실전! RAG 고급 기법 - Retriever (1)
Переглядів 21 тис.9 місяців тому
RAG 시스템 실전 도입을 위해 Retrieveer 고급 기법 4가지를 소개합니다. Colab 링크: colab.research.google.com/drive/1PALBOJ-vXgKe3LOIbKoqeD8kuZYx_Lnr#scrollTo=vL-HP-9L8OIq
LLM으로 NLP 분석을 더욱 쉽게, Scikit-LLM
Переглядів 4,6 тис.9 місяців тому
머신러닝의 대표 패키지 scikit-learn과 LLM이 만나면 NLP 분석이 쉬워집니다. 간단한 코드로 텍스트 분류 분석, 요약, 번역 모두 가능합니다.
오픈소스 LLM으로 RAG 시스템 만들기
Переглядів 41 тис.10 місяців тому
오픈소스 LLM으로 RAG 시스템을 만들어봅니다. Colab 링크: colab.research.google.com/drive/1nSku6o3uGvSVNO28VivwVnQ5tuVAsBZZ?usp=sharing
AI로 생산성 올려보자! 논문 AI 툴 -SCISPACE
Переглядів 12 тис.10 місяців тому
업무 생산성 향상에 도움이 될 만한 AI 툴을 소개드립니다. 오늘은 SCISPACE라는 논문 AI 플랫폼인데요, 이 툴을 잘 활용하면 논문 검색, 이해, 활용에 큰 도움이 될 것 같습니다. 현재까지 제가 무료로 활용하였을 때, 불편한 점이 거의 없었구요, 혹시 정해진 Quota 이상으로 사용하게 될 경우, 월$12로 구독하여 프리미엄 버전을 활용하시면 됩니다. 링크: typeset.io/
Gemini Pro로 무료 RAG 시스템 만들기
Переглядів 15 тис.10 місяців тому
분당 60회까지 무료인 Gemini Pro API를 통해 RAG 시스템을 구축해봅니다. 실습코드: colab.research.google.com/drive/1WKlnPYVGwh0sZ2TSRNRuyqvwCyi8_By3?usp=sharing
자연어로 데이터 추출하기 - SQL_Agent
Переглядів 8 тис.10 місяців тому
랭체인의 에이전트 기능을 통해 SQL 쿼리를 LLM으로 작성하는 연습을 해봅니다. 실습 파일: colab.research.google.com/drive/1aZ7DHlhCTFeMp6Y-UKGIVGtigITDkw-q
Streamlit으로 RAG 시스템 구축하기
Переглядів 19 тис.11 місяців тому
파일 다운로드 링크(깃허브): github.com/HarryKane11/langchain/tree/main
LLM 챗봇, 랭체인의 핵심 Retriever
Переглядів 12 тис.Рік тому
오늘은 RAG의 가장 핵심 구조인 Retriever에 대해서 알아봅니다. colab 링크: colab.research.google.com/drive/1S3jKF6Jofvl48fHUFqQwS-0iWMgl-pWl?usp=sharing 예제 파일 공유 폴더 링크: drive.google.com/drive/folders/1sMsOCCCfm_Q5z89RvFQ6U6B0BWL9I7fk?usp=sharing
랭체인의 핵심, Retrieval - Vectorstores
Переглядів 8 тис.Рік тому
Chroma, FAISS로 벡터스토어의 기본 구조와 활용법에 대해서 알아봅니다.
랭체인의 핵심, Retrieval-Text Embeddings
Переглядів 8 тис.Рік тому
텍스트를 숫자로 바꿔주는 임베딩 모델과 이를 쉽게 활용하도록 돕는 Langchain 모듈에 대해서 알아봅니다.
LLM 챗봇, 랭체인의 핵심 Retrieval-Text Splitters
Переглядів 10 тис.Рік тому
LLM 챗봇, 랭체인의 핵심 Retrieval-Text Splitters
LLM 챗봇 ,랭체인의 핵심 Retrieval - Document Loaders
Переглядів 14 тис.Рік тому
LLM 챗봇 ,랭체인의 핵심 Retrieval - Document Loaders
Langchain - PromptTemplate, LLM 프롬프트 입력을 더 편하게
Переглядів 14 тис.Рік тому
Langchain - PromptTemplate, LLM 프롬프트 입력을 더 편하게
안녕하세요. 최근 관심이 생겨서 모든 영상 시청중입니다! 항상 이해하기 쉽게 설명해주셔서 감사합니다! 늘 행복한 일만 가득하세요 :)
회사에서 적용하면 아주 간단한 업무 수행(회의실 예약, 메일 공지, 사내 시스템 이용 등) 현재 기술로도 처리가 가능하겠네요. 개념이 좀 모호 했었는데 확실히 이해시켜 주셔서 감사합니다.!
14:20 이렇게 chain을 구성하는 것에 대해 이전에 설명하신 영상이 있었나요?
깔끔하게 정리해주셔서 도움이 많이 되었습니다. 감사합니다!
패캠 강의 완강했습니다 . 감사합니다 ㅎㅎ
안녕하세요. 좋은 영상 감사드립니다. RAG를 AWS 환경에서 배포할 수 있는 방법이 있는지 궁금합니다.
데이터사이언스 공부하고 있는 학생입니다! 알고리즘 따라 들어왔는데 진짜 깔끔하게 설명해주셔서 바로 구독..!🤸♂️ 세세하게 알려주시니 실습에도 도움되고 완벽 개념 정리 감사합니다!🙌
안녕하세요 너무 좋은 내용들을 자세히 잘 알려주시고 qna 도 정성스럽게 대답해주셔서 너무 유익합니다! 좋은 영상들이 많아서 구독했습니다! 좋은 영상 올려주셔서 감사합니다!
안녕하세요, 개념이해가 쏙 되는 영상 감사합니다! RAG 파이프라인에서 리트리버를 2개 적용도 가능한가요? 멀티쿼리로 문맥이해를 높여 답변 수준을 높이면서 최신 데이터에 가중치도 주고 싶은데 가능한지 궁금합니다.
케인님 랭체인 강의부터 넘 잘보고 있습니다. 강의 출시 축하드리고, AI Agent가 핫한 요즘 이번 랭그래프 강의 출시는 진짜 시의적절한 것 같네요 ㅎㅎ 앞으로도 다양한 주제의 영상 기대하겠습니다. 강의 대박나세요!!!😊😊
ai관련 학원 실전프로젝트로 챗봇을 만드는 중에 langchain 에 대해 공부를 하고 있습니다 모두의AI 님의 유튜브강의가 실질적으로 이해하고 적용하는데 많은 도움이 되고 있습니다 gpt api 없이 pml기반으로 만드는게 목표라서 강의를 돌려보는중입니다 😊 앞으로도 좋은 컨텐츠 부탁드립니다 감사합니다 모두의AI 모두의 구독 좋아요 알림설정 히히
큰 인사이트 얻어갑니다! 정말 감사합니다!
케인님 덕분에 에이전트 관련 공부를 즐겁게 할 수 있어서 늘 감사드립니다. 항상 이해하기 쉽게 설명해주셔서 감사합니다. 에이전트를 공부해보면서 간단한 프로젝트를 해보는 중입니다 (멀티에이전트 + RAG 기반 교육자료 생성 프로그램) 프로젝트를 통해 구현하고 싶은 기능은 크게 3가지 입니다. 1. 교육자료 내용관련 질의응답 Q&A챗봇 2. 교육자료 내용관련 4지선다 문제 생성기 3. 교육자료 내용관련 그래프(차트) 생성기 사용자 질문: "2010년 심장병 환자 현황에 대한 4지선다 문제를 만들어줘" 에이전트1: 사용자 질문과 벡터 데이터베이스(교육자료)와의 유사도에 따라 에이전트2(Retriever) 혹은 에이전트 3(웹 서칭)로 갈지 결정 에이전트2 or 3: 답변을 생성한 뒤 에이전트4 (4지선다 문제 생성기 (코드 제너레이터))에게 보내 문제를 만든다. 에이전트4: 4지선다 문제를 코드로 작성하여 하여 사용자에게 답변을 보낸다. 질문 드리고 싶은 부분은, 1. Agent와 노드의 개념이 조금 헷갈리는데, Agent는 LLM을 수반한 것, 노드는 LLM없이 함수를 수반한 것 이라고 이해하면 될까요? 2. 벡터 데이터베이스 내에서 검색을 하는 것 기능을 별도의 에이전트로 구분하는게 적절할까요? 3. 만약 여기서 더 나아가, 어떠한 현황에 대한 그래프(차트)를 생성하고 싶은 기능을 넣고 싶다면 에이전트5 (그래프(차트) 생성기)를 추가하는 개념으로 진행하면 될까요? 4. 위 프로젝트를 진행할때 어떠한 멀티에이전트 유형이 적절하다고 생각하시나요? (협업형 멀티에이전트 / 감독형 멀티에이전트) 케인님 강의 보면서 에이전트에 관심이 생겨서 이것 저것 해보려고 시도해보니 궁금한 점도 많아져서 글이 길어졌네요 ㅜㅜ 긴 글 읽어주셔서 감사합니다!
주로 it 개발분야에서 쓰이는거죠?
초찌인데, 이제 영상강의 보면서 시작합니다. 귀중한 시간 내 지식을 공유해주셔서 감사드립니다!
케인님이 올려주신 영상들이 랭체인 공부하면서 정말 도움이 많이 되었습니다 ㅎㅎ 아예 모르고 시작했는데, 피피티부터 설명까지 이해도 잘되고 깔끔하게 설명해 주셔서 너무 잘봤던 기억이 있네요...! 저도 이벤트 한번 참여해 봅니다! 늘 좋은 영상 감사드려요~
깔끔한 설명 감사합니다. 필요한 소스내용과 실습예제를 시연해줘서 더욱 잘 이해되네요. 실습에 사용된 소스는 공개하실수 있을까요? langgraph 예제를 좀 더 보고싶어서요..
방금 설명 글에 추가했습니다! 로컬에 다운로드하여 활용하시면 되겠습니다 :)
@@AI-km1yn 감사합니다!!
감사합니다
안녕하세요 케인님. 유튜브 강의 잘 보고 있습니다. 취업 이후 처음으로 LLM통해 사내업무 자동화 프로젝트 리드역할 맡았는데 유튜브 강의 많이 참고하여 나름 좋은 성과낸거 같습니다. 감사합니다!!
랭체인 부터 잘보고 있습니다. Langraph도 너무 기대됩니다
llm으로 프로젝트를 하고 있는데 너무 유익한 정보 감사합니다~!!
2024.10.10 감사합니다.
4단계에서 안된다는 말이 있어서 저도 해봤는데 안되는군요. 찾아보니 허깅페이스에 tokenizer 템플릿에대한 업데이트가 있었네요. 해당모델은 템플릿이 없기에 수정하지 않으면 그대로는 작동하지 않는듯 합니다.
마이크가 왜이러신거에요?
패캠 강의 신청했어용 ㅎㅎ 테디노트서 뵜습니다 ㅎ
방갑습니다❤ 오프라인 모임도 있나요? ㅎ
좋은 영상 감사합니다 ㅎ
좋은 강의 너무 감사합니다! 설명이 너무 친절하셔서 듣는 내내 재미있었습니다ㅠㅠ 한가지 궁금한점은 openai에서 제공하는 유료 모델 말고 오픈소스 llm을 사용하고 싶다면 ChatOpenAI 함수외에 ChatOllama같은 방식으로 해당 코드들만 바꿔주면 되는지 궁금합니다!
강의 좋게 봐주셔서 감사합니다ㅎㅎ 네 맞습니다! ChatOllama로 바꿔주시면 오픈소스로 활용가능하십니다~!
다시 해 봤는데 GPU 용량 부족으로 안 돌아가네요. 영상 올리시면 업데이트도 해 주시면 더 좋을텐데 말이죠..ㅜㅜ
이것도 하나의 에이전트로 만들 수 있는건가요?
네 가능합니다! 함수형태로 만들어서 에이전트로 활용하실 수 있습니다
유익한 영상 감사합니다! 덕분에 rag 파이프라인을 설계하는데 큰 도움을 얻었습니다. 혹시 chromaDB가 아닌 FAISS를 사용하신 이유가 따로 있으신가요?
안녕하세요, 도움이 되셨다니 다행입니다! ChromaDB 대신 FAISS를 쓴 이유는 의존성 문제 때문입니다. Streamlit에 배포 시에, ChromaDB가 의존성 문제로 인해서 에러가 나는 경우가 많아서, FAISS로 진행했습니다. 아마 sqlite3 관련 에러가 날텐데, 아래 코드를 streamlit 파일에 포함하시면 ChromaDB로도 무리 없이 진행가능하실겁니다. __import__('pysqlite3') import sys sys.modules['sqlite3'] = sys.modules.pop('pysqlite3')
좋은 강의 감사합니다. 혹시 로드해야할 pdf파일이 여러개이면 어떻게 코드를 변경해야 하나요? 여러개 pdf내용을 종합적으로 해서 답변을 내야 하는 경우 인데요…..
안녕하세요, 강의가 도움이 되셨다니 다행입니다. 여러 pdf 파일을 처리할 때는, PDFLoader를 통해 문서를 로드할 때 for문을 통해 여러개 가져와주시면 되겠습니다. 아래 코드를 참고해주세요 import os from langchain_community.document_loaders import PyMuPDFLoader pdf_directory = "example_data/" documents = [] for filename in os.listdir(pdf_directory): if filename.endswith(".pdf"): loader = PyMuPDFLoader(os.path.join(pdf_directory, filename)) documents.extend(loader.load())
신기하군요. 그런데 궁금한 점 이있습니다. pdf 양이 많다고하면 많은 양의 pdf 페이지를 이미지로 만들어도 문제없이 작동할 수 있나요?
그만큼 텍스트 추출하는 것 대비 시간도 느리고 용량도 차지하기는 합니다 😂
OpenAI의 API를 불러와 실습을 하려면, 현재는 크레딧을 결제해야만 실습이 가능할까요? 무료로 하는 방법이 있는지 궁금합니다. 정말 누구보다 쉽게 랭체인에 대해서 설명해주셔서 감사합니다~
강의 좋게 봐주셔서 감사합니다. OpenAI의 API를 활용하시려면, 처음 가입 시에 주어지는 무료 크레딧 이후부터는 결제가 필요합니다. 무료 크레딧을 다 쓰신 경우에는 Claude도 무료 크레딧을 제공하니 claude 모델 활용하셔도 좋구요. 계속 무료로 사용하시려면 오픈소스 LLM을 사용하셔야 합니다.
좋은 영상 감사드립니다. 너무 잘 봤습니다. 댓글보니 패캠이라는 말이 뜨는데 따로 강의 인가요? 더 정보를 알아보려면 어디로 가면 되나요?
안녕하세요, 답글이 늦었습니다. 패스트캠퍼스를 제가 줄임말로만 불렀나보네요ㅎㅎ 다음 링크에 제 강의가 런칭되어있으니 한번 살펴봐주시면 감사하겠습니다! fastcampus.co.kr/dev_online_aiagent
감사합니다. 이런 지식은 어디서 알고 공유할 수 있을까요??
안녕하세요, 강의 좋게 봐주셔서 감사합니다. 제가 주로 정보 수집을 위해 보는 채널은 다음과 같습니다. Medium(유료 결제 필요), 아카라이브 AI 언어모델 로컬 채널, 링크드인 등등 최대한 많은 채널을 보고 있습니다 :)
안녕하세요 케인님 혹시 어떤도서 쓰셨는지 알 수 있을까요? 구매하고 싷습니다
안녕하세요, 관심가져주셔서 감사합니다. 현재 교정교열 작업중이라 아직 출판되지는 않았습니다. 만약 도서 출판되게 되면 공지글에 올려드리겠습니다ㅎㅎ
좋은 정보 감사합니다. 다만, 약간의 숨은 문제가 있는 것 같습니다. 바로 처리 비용 토큰입니다. PDF에 비해 훨씬 많은 토큰 비용이 발생할 수 있지 않을까요? 예를 들어 샘플 테스트 결과를 보면: - PDF 3페이지: 약 375~450 토큰 - 이미지 3개 (1484.57KB): 약 592,344 토큰 이처럼 토큰 처리 비용이 상당히 발생합니다. 이 부분에 대해 계속 고민 중인데, 혹시 해결 방안이 있으시면 알려주시면 감사하겠습니다.^^
제가 리플 달려고 했던 부분인데 Gemini 1.5 Flash 로 해결 가능해보입니다
@@stunnbeatz4113 답변 감사합니다^^ 한번 시도해 보겠습니다.
Rag 가뭔가 해서 봤더니 제일 중요한게 OCR 기술 이네?(일단 입력 값이 정확해야 나중에 뭘 해도 하니까)이거는 파인리더가 제일 잘하는데?ocr 에좀 관심 있어서 좀 아는데 걔들 맨날 자랑하는게 표인식 잘한다는 거,이런 rag 에 구글이나 파인리더 ocr 기술 쓸 수 있나요? 그렇게 rag에 OCR 기술이 중요하다면ocr도 API화해서 장사를 해도 괜찮을 것 같다
유익한 영상 잘봤습니다. 질문이 있습니다~ 기존에 RAG에서 이미지 나 표를 처리하기 위해서는 LLM을 결합했어야 했는는데 ColPali는 DATA가 들어가면 그걸 모두 이미지로 처리하는건가요? 이미지에서 텍스트와 이미지,표를 구분해서 임베딩이 가능하나요?
말씀하신 로직이 맞습니다! 이미지 자체를 임베딩하게 되는데 그 과정에서 이미 임베딩 모델이 학습 당시 획득한 표/이미지, 텍스트 인식 능력을 바탕으로 임베딩을하게 된다고 합니다
@@AI-km1yn 우선 답변 감사합니다! 업무용 노트북에서 세팅 한번 해보려고 했는데 Windows OS다보니 poppler-utils 설치하는데 이슈가 있더라구요. 어떻게 해결하긴 했는데 PDF 2장짜리 파일 돌리는데도 엄청 오래걸리더라구요. 아무래도 임베딩 자체를 로컬에서 직접 돌리다보니 원활하게 동작하려면 PC 성능이 많이 따라줘야 할까요?ㅎㅎ..