If you don't do RAG better than Prompt Engineering, you won't be able to get a proper answer from AI

📝Summary
In this podcast, we have Teddy, and it will be great content to help you understand langchain and rag.
RAG is a technique that helps large language models (LLMs) provide higher quality answers.
If you convert your PDF document to Markdown format, GPT can easily process it.
Additionally, the performance of GPT can be improved through methods such as leveraging databases and using search algorithms.
This video shows you how to use rag and GPT.
-------------------------------------------------- -------------------------------------------------- -------------------------------------------------- --------
📌AI Utilization Peak Podcast is with @yuniquekr.
-------------------------------------------------- -------------------------------------------------- -------------------------------------------------- --------
⏰Time stamp
00:00:00 🎙️Teddy’s story about data analysis and artificial intelligence.
00:04:16 👀Sharing insights on Langchain programming and service production
00:08:01 🤖Difference in usability and development background between chat gpt and rag
00:10:02 💡Using rag in business: storing information and creating personalized GPTs.
00:12:13 💻ChatGPT upgrade and Wag system analysis
00:14:33 📄Convert PDF to Markdown format to make it easier to understand GPT.
00:17:31 🌐Website processing, natural language processing, and consideration of Korean language specialties
00:16:37 🧠Corporate data processing: PDF and word document conversion, vector DB
00:21:16 Understanding Pangyo restaurant keywords, GPT search method, and similarity search
00:26:06 ️💻Coding, AI services, language comparison: GPT vs Claude 3
00:30:19 ️📊Looking at the potential benefits of detailed corporate rag utilization and analysis.
00:37:14 ️🚘Introducing rag software that operates without coding related to autonomous driving
00:40:53 Tunable options in source text.
00:43:10 ️💻How to utilize the features and integration of automatic translation and summary services
00:47:42 💻Sampling tools using coding, prompts, LLM programs, etc.
00:50:26 🔬Prompt Engineering Methodology and the Importance of Model Optimization
00:52:36 🧩The importance of transparency, improved performance, and fine-tuning of answers using RAG
00:57:22 Coding academy registration and understanding of Prompt Engineering
01:02:04 🔍Comparison of GPT model and rag model, emphasizing the importance of experience through rag
01:03:08 🎙️UA-cam trends and content strategy
01:08:05 📄The importance of utilizing Relive documents and collecting and arranging information
01:11:15 💬Importance of document summarization and similarity to human behavior
-------------------------------------------------- -------------------------------------------------- -------------------------------------------------- --------
✅Tag
-------------------------------------------------- -------------------------------------------------- -------------------------------------------------- --------
🚀 If you sign up for a UA-cam channel membership, you can view members-only content and, depending on your membership level, participate in live broadcasts that deliver the hottest news related to UA-cam and ChatGPT every month.
Subscribe to membership: / @ordinary Businessman/join

[@평범한사업가]

테디노트의 RAG 비법노트 : 랭체인을 활용한
GPT부터 로컬 모델까지의 RAG 가이드
@teddynote
님께서 패스트 캠퍼스의 강의를 런칭하셨습니다:)
fastcampus.co.kr/data_online_teddy
특별히 저희 구독자분들을 위한 쿠폰을 발행해주셨습니다.
평범한 사업가 구독자 전용 쿠폰
- 20% 쿠폰 코드 : PRDTEA240528_teddy
- 쿠폰 사용 기간 : 2024년 6월 9일(일) 23시 59분
- 쿠폰 사용 방법 가이드 설명
- 패스트캠퍼스 가입 -로그인- 마이 페이지- 쿠폰 내역 - 쿠폰 코드 입력 및 등록 - 강의 결제시 쿠폰 적용
관심있으신분들은 강의 신청하셔서 들어보시면 RAG에 대한 이해도가 생기고 llm을 이해하는 시야가 넓어지실거라 생각합니다.

[@원더효경]

귀한 영상 경청했습니다. 1시간이 넘은 줄 모르고 들었네요 !!! 너무너무 설레고 기대가 되어요 !! 감사합니다 !!!!!

[@평범한사업가]

항상 감사합니다 😊

[@조현정의AI실험실]

패키지와 자유여행에 비유하니 이해가 쏙쏙 됩니다. 시간이 흐르면 개개인에게도 RAG이 일상화되겠군요~ 좋은 영상 감사합니다.

[@평범한사업가]

테디님 정말 짱입니다 ㅎ

[@captainlennysub]

잠깐만 들었는데 인사이트가 엄청난 거 같아 정주행해야겠어요. 개발자로써 재밌어보이네요 감사합니다

[@평범한사업가]

오호 개발자이시군요.보시고 피드백 남겨주시면 감사하겠습니다:)

[@plaaid3655]

진짜 오랜만에 새벽에 내내 집중해서 영상 봤네요. 오오오..

[@평범한사업가]

감사합니다:)응원하겠습니다

[@user-wx1ff7yu7l]

진짜...이렇게 쉬운 설명이라니요. 너무 도움이 되었습니다.

[@평범한사업가]

도움되셨다니 다행입니다:)

[@user-cm5fx7ft8e]

와 설명 엄청쉽게 잘해주시네요 대박!

[@평범한사업가]

응원 감사합니다:)

[@user-xt3jv5zr2w]

회사에서 도입 검토중인데 좋은 내용 너무 감사합니다

[@평범한사업가]

회사 도입준비중이시라면 rag는 필수입니다:)

[@mikaelkym4568]

안녕하세요, 내용이 너무 좋네요! ㅎㅎㅎ 바로 구독 눌렀습니다!

[@평범한사업가]

감사합니다:)응원하겠습니다

[@huhsame]

좋은 내용 감사합니다.

[@평범한사업가]

관심가져주셔서 감사합니다:)

[@David_pol-qj6iy]

어려운 얘기를 정말 알아듣기 쉽게 설명해주시네요!!

[@평범한사업가]

도움이 되셨다니 다행입니다:)

[@user-rtyqj5zi437w]

오늘 내용 대박입니다~~ 이거 보고 테디님 채널 구독했습니다

[@평범한사업가]

응원 감사합니다:)

[@RyanKimKR]

RAG가 뭔지 LangChain이 뭔지 1도 모르고 강의들었는데, 정말 이해 쉽게 알려주시네요~ 정말 감사합니다!

[@평범한사업가]

도움이 되셨다니 다행입니다:)

[@코드깎는노인]

와~~ 테디님 넘 멋져요

[@teddynote]

코깎님 요즘 영상 너무 잘 보고 있습니다~^^👍 만드신 서비스 아이디어 너무 좋아요~~

[@평범한사업가]

얼른 나와주세요 ㅎ일정 잡도록 하겠습니다:)

[@코드깎는노인]

@@teddynote 좋게 봐주셔서 감사합니다! 테디님 2만 구독자분 달성 축하드립니다! 🎉

[@코드깎는노인]

@@평범한사업가 대표님! 넘 멋진 자리 만들어주셔서 감사합니다!

[@user-jc3wg9xz6g]

좋은 인사이트 얻어갑니다 감사~

[@평범한사업가]

도움이 되셨다니 다행입니다:)

[@honneon]

이 채널 스포티파이 팟캐스트로도들을 수 있으면 좋겠네요.. 넘 유익

[@평범한사업가]

추천 감사합니다 ㅎ
다양한 팟캐스트 채널에서 들으실수 있도록 준비해보겠습니다.

[@gagdoc]

"ai를 해야하는데..." 라는 막연한 생각만 했는데 이런것이 있었네요 감사합니다. 지금 자바 배우고있는데 같이 병해해야겠습니다.

[@평범한사업가]

감사합니다:)지금이 기회인것 같아요

[@deamhom3836]

무릎은 씨게 탁!! 치고 갑니다
꾸벅

[@평범한사업가]

도움이 되셨다니 다행입니다:)

[@kimchienglish7]

프롬프트 다음 꼭 공부해야 될 부분이네요
AnytingLLM 정말 좋은것 같네요
챗지피티 처음 나왔을때 좋다고 생각했지만 영어 기반이라 어렵다는생각에 저는 많이 활용못하다가 시간이 한참지나 와이프에게 사용을 권장했고 저보다 와이프가 많이 사용해 보았습니다
AnytingLLM 도 와이프를 사용시켜 보아야겠네요
와이프가 미국약대를 다니는데 챗지피티로는 정보처리가 극히 제한적(딥러닝시킬분야가 적어)
어어서 사용범위가 제한적이었는데
AnytingLLM 적극적으로 사용시켜 보아야겠네요

[@평범한사업가]

오 같이 배워보시죠 ㅎ아내분 멋지십니다

[@kimchienglish7]

@@평범한사업가 감사힙니다 같이 배워요 저도 평범한 사업가님처럼 사업을 오래해서 꼭배워애 되서요

[@user-xk6rg7nh8y]

테디님이다아아아

[@평범한사업가]

테디님 유명인사이시네요:)

[@running-turtle180]

제가 어떤 알고리즘을 타고 왔는지는 모르겠지만 50대 아줌마에게도 새로운 세상을 보여주시네요~~어렵지만 잼있었어요. 저도 빨리 발담그고 시도해 볼께요.^^ 감사합니다.

[@평범한사업가]

진심으로 응원합니다:)

[@tangiblemark]

와 설명 저 분처럼 잘하는 사람이 되고 싶다 할 정도로 설명을 잘하시네요

[@평범한사업가]

좋은 말씀 감사합니다!

[@imgodoil]

우와 테디다

[@평범한사업가]

테디님 유명인사이시네요:)

[@arrozhot]

헉 넘 재밌고 유익하고 새롭고 재밌고 난리나네요.. 구독하고 갑니다 넘꿀팁이에요

[@평범한사업가]

와우 감사합니다:)

[@zenist99]

RAG 설명을 들어보면 GPTs 설정 시 Knowledge에 데이터를 넣는 기능과 유사한 것 같은데, 차이가 어떻게 나나요?

[@평범한사업가]

영상을 처음부터 끝까지 들으시면 이해가 잘되실겁니다.gpts는 널리지에 pdf문서를 청크(쪼개기)를 제어할수가 없어 정보를 제대로 못가져오거나 할루시네이션이 발생할수 있습니다.가장쉽게 말씀드리자면 이전에 pc를 구매할때 업체에서 만든 사양의 컴퓨터를 구매해서 사용했다면 조립pc가 등장하면서 각자 원하는 사양의 pc를 구매하며 목적에 맞는 성능을 사용한것과 유사하다고 보시면 됩니다.챗gpt는 범용적인 서비스여서 그 한계가 아직은 좀 있는것 같습니다.물론 가장 뛰어난 언어모델임은 틀림없습니다.

[@보플_BoPplle]

38:48

[@zzgo332]

rag : 외부데이터를 제공해서 답변을 생성
gpt: 기존 기계학습된 지식을 기반으로 답변을 생성
잘 모르지만 python으로 질문 모델 답변등을 설정하는 수준으로 보이는데 아닌가요??

[@평범한사업가]

www.perplexity.ai/search/rag-gpt-python-rR.qzX8SSI.rxKcTTkvadw
이 내용을 참고해주시면 좋을것 같습니다:)

[@tkdgus7337]

그럼 랭체인을 활용하게 되면 언어모델은 어떤걸 사용하게 되는건가요? 회사 사정에 맞게 튜닝을 해도 모델 자체의 능력 때문에 chatgpt보다 결과물이 별로 일 수도 있을까요??

[@평범한사업가]

rag와 랭체인으로 구축을 하는 이유자체가 제한이 걸린 챗gpt의 성능을 올리는거라 기술적인 접근만 가능하면 회사 사정에 맞게 튜닝하는건 챗gpt보다 훨씬더 정확한 답변을 얻으실수 있으십니다.다만 누구나다 할수 있는게 아니라 개념을 배우고 기본 개발지식이 있다는 전제하에 말입니다.

[@boniepark]

활용정점...

[@평범한사업가]

응원 감사합니다:)

[@RyanKimKR]

RAG로 어서 넘어오라는 말씀이 공감이 가는데요.. 그러기 위해서는 프롬프트 엔지니어링을 어느정도 먼저 공부한후에 가야하는지요?

[@wopani5161]

노..RAG부터 하세요

[@평범한사업가]

아 그렇게 말씀주신 내용을 좀더 설명해주시면 저도 도움이 될것 같습니다:)

[@devglish8512]

Rag와 React의 차이점은 뭔가요? 감사합니다

[@평범한사업가]

www.perplexity.ai/page/Rag-React-IvinePjlRaytT.VWV2MA_Q
이 내용을 참고해주시면 감사하겠습니다:)

[@hsk3612]

이제 rag를 하는 인공지능이 나오 겠네...

[@평범한사업가]

그러면 너무 좋겠네요 ㅜ.ㅠ

[@jundik0]

안녕하세요. 덕분에 AnythingLLM를 잘 사용해보았습니다. 사용이 너무 용이하여서 참 좋았습니다. 그런데 Vector DB에 10개 정도 PDF 파일을 올린 후 에이전트를 통해서 질문 2-3개 정도 요약 정리에 관한 질문을 하였더니 OpenAI 4.0o API 과금이 단번에 2만원이 나와버렸습니다. LLM와 Agent를 OpenAI API로 설정한 상황이었습니다. 에이전트를 활성한 후 사용하니 토큰 사용이 더욱 급증하였습니다. 그렇다고 기본탑재되어 있는 모델이나 람마를 사용하여 보니, 컴퓨터 사양이 GPU가 아니면 답변시간이 너무 길거나 답변을 중간에 포기해버렸습니다. OpenAI API를 사용하면서, AnythingLLM의 에이전트 기능을 사용하고 싶은데 요금 과금 폭탄을 피할 수 있는 방법이 있을까요?

[@평범한사업가]

네 요약과 같은 테스크는 요금 폭탄을 맞을 수도 있어요~ 왜냐면 텍스트를 처음부터 끝까지 다 읽어야 요약이 가능하기 때문입니다.(시간도 매우 오래 걸릴꺼에요)
요약을 수행할 때 여러 방법론으로 이걸 해결할 수 있겠지만, 지금의 anythingLLM에서는 아쉽게도 거기까지의 세부 설정은 구현이 되지 않은 것 같아요.
그래서 추천 드리는 anythingLLM사용 방법으로 ‘요약’ 을 제외한 QA(질의 응답) 을 먼저 경험해 보세요. QA는 검색 기반 답변을 하기 때문에 요금이 많이 들지 않아요. 문서가 10개든 100개든 상관 없습니다~

[@knightlee8851]

27:14 혹시 이때 말씀해주신 서비스 이름이 뭔지 알수있을까요??

[@평범한사업가]

언급은 어렵고 비슷한 서비스로 opus clip가 있습니다:)

[@knightlee8851]

@@평범한사업가 감사합니다~~ 항상 좋은 컨텐츠 감사합니다=) 써보면서 저도 목표를 하나 만들고 RAG 활용해서 만들어보는 연습을 해봐야겠네요

[@kimik5812]

안녕하세요 LLM 에대해 논문을 적고있는데 RAG, prompt Engineering 이 LLM 에 주는 항상력/이득 에대한 그래프 자료들 출저를받을수 있을까요🥹
도저히 찾을수가 없어서요

[@평범한사업가]

저건 테디님이 직접 구하신거라 ㅜ.ㅠ한번 여쭤보도록 하겠습니다

[@kimik5812]

@@평범한사업가 감사합니다!

[@user-kr4if7jl4b]

지금은 모든 투자가 AI로 몰리기 때문에 금방 유사기능이 넣어질듯

[@평범한사업가]

저도 기대하고 있습니다:)

[@user-pmzldkiwuuuqoq99]

알려지면 안되는데.. 나만 알고 싶었단 말이에요.. 후잉ㅠ

[@평범한사업가]

곧 영상을 비공개 처리해야겠네요 ㅎ

[@hlee697]

근데 chatgpt 새로 나오면 rag고 뭐고 알아서 다 척척 하지 얺울까요

[@평범한사업가]

그러면 너무 좋겠지만 현실적으로 그러기가 쉽지가 않습니다.챗gpt나 gemini나 클로드는 범용적인 모델이어서 그 성능을 개인이나 기업이 원하는데로 조절하는데에는 한계가 있을수밖에 없을거라 생각합니다.글을 생성하는 성능은 좋아지겠지만 말입니다.지금도 rag를 못해서가 아니라 그 성능을 플레이그라운드처럼 안열어둬서 못하는거라 지금도 성능은 뛰어납니다.

[@hlee697]

@@평범한사업가 답변 감사합니다.

[@Re-wind]

이거 자막.. 설마 ai 스크립트 따기인가?
정확도가 높으면서도 맥락에 대한 이해는 없는 게, 마치 인공지능 같은데

[@평범한사업가]

맞습니다.너무 방대해서 위스퍼와 한국어 교정모델을 사용해서 하는데 정확도는 100%까지는 아니지만 그동안 사용해본것중 정확도가 상당하여 테스트 중입니다:)

[@Re-wind]

@@평범한사업가 진짜 정확도 높네요 ㄷㄷㄷㄷㄷㄷ

[@whipniniba]

영상을 남기는 것이 주목적이니 1:1 대화에서 하듯 끊임없이 넣는 추임새는 좀 줄여 주셨으면 좋겠습니다.
영상을 배속을 걸어서 보니 더욱 두드러져요.

[@평범한사업가]

혹시 어떤 추임새인지 말씀해주시면 참고토록 하겠습니다.
피드백주셔서 감사합니다

[@cc4114]

공짜로 쳐 보면서 별걸 다 트집이네

[@TikTokfilter_funny]

대박 감사드려요 어려운걸 쉽게 설명해주셔서 RAG로 실력을 업데이트 하고 싶어요

[@평범한사업가]

도움이 되셨다니 다행입니다:)