Відео

요청하시면 메일로 보내드릴게요!!

안녕하세요. 가장 고전적인 방법은 top conference에 올라오는 논문을 직접 제목과 abstraction을 보고 확인하는 것입니다 (ICLR, NIPS, AAAI, CVPR, ACL, EMNLP 등등). 그 외에 가장 트렌디한 논문을 읽는 방법으로는 Linkedin이나 X(구 트위터)에 논문들을 올려주는 계정들이 있는데 거기에서 사람들의 heart, share, 댓글들을 보고 그 유행의 정도를 판단합니다. 그리고 영향력있는 논문 같은 경우는 survey paper를 하나 잡은 후에 논문 하나하나 검색해가며 google scholar 기준 citation 수를 보고 영향력 있는 논문을 판단할 수도 있습니다. 저는 이러한 방법을 다 활용합니다 ㅎㅎ

@@linohong9406 감사합니다!! 더 재밌는거 많이 가지고 올게요 ㅎㅎ

와 테디님 역시 유튜브 맛잘알❤❤

오늘도 찾아주셔서 감사합니다! 좋은 하루 되세용!

ㅋㅋㅋㅋ 감사합니다~!!

ㅋㅋㅋ 감사합니다!! 실제로 적용하실 때는 이 논문으로 해보세요. 제로샷이고 잘되는 것 같습니다. (arxiv.org/abs/2409.12468)

@@송재천-g7w 감사합니다!

어서오세요. 감사합니다 ㅎㅎ

@@youngwoongko706 감사합니다

@@IRwithPUGGY 그렇습니다 😎

저두 사랑합니다 (?)

감사합니다!

감사합니다! 저도 동영상 잘보고 있습니다. 오늘도 찾아주셔서 감사합니다! ㅋㅋ

@@IRwithPUGGY ㅋㅋ 이거 읽어보셨어요?

아주 굉장한 논문입니다.

하하 감사합니다 😊

1. retrieve-then-read가 RAG 세팅이랑 같습니다. 정확히는 대체하자는건 아니고 이런 가능성이 있다는걸 보여준게 맞구요. 이 논문은 정확히는 generated output과 retrieved document를 섞어쓰는 하이브리드 해보는 것도 얘기합니다. 제목이 적절하지 않은 것도 맞는 것 같습니다. 그냥 재밌어보이고 클릭하고 싶은 제목을 단순하게 지었는데... 더 신경쓸게요 ㅎㅎ 2. 이해 안되게 설명드렸나봐요. 더 잘 설명드려볼게요. 뭔가를 이미 다 아는 상태로 설명하니까 설명하는게 어렵네요. 3. "그냥 데이터 유사한것끼리 클러스터링해서 각 클러스트마다 프롬프트를 생성하고 반환하라는거 아니냐 이걸 설마 이렇게 설명한건가?"를 설명한 내용이 맞아요. 더 자세하게 설명 드리면 클러스터링한 것을 demonstration으로 넣어주고 쿼리에 대해서 각각 demonstration에 대해서 document를 생성시키고 그것을 활용하는 거에요.

RAG를 사용하는 이유는 여러가지가 있지만 여기서는 knowledge-intensive task를 해결하는 관점에서 본 겁니다.

당연히 있죠!: github.com/microsoft/LMOps/tree/main/prompt_optimization

다음 시간 곧 더 열심히 올릴 예정이에요. 바쁜일이 일단 끝나서요. 관심갖고 댓글 달아주셔서 감사합니다.

극찬 감사합니다!! 더 재밌는거 많이 올려볼게요!

저도 시청해주셔서 감사합니다

ㅋㅋㅋ 감사합니다 😂 😆

재밌는 논문 좀 추천해주십쇼 그거 리뷰해볼게요. Rag에서 되게 마일스톤이 되는거 있나요 요즘?

@@NLP코기좋은영상 감사합니다! 저도 궁금한데 RAG만큼, 혹은 보다 영향력있는 LLM 관련 논문이 또 있을까요?

요즘에 교양이죠 그냥 ㅎㅎ 감사해요 봐주셔서

네 맞아요. 고딩이 이런 영상을 보다니 대단하시네요 ㅎㅎ

안녕하세요. 오라클 세팅보고 그렇게 얘기했던 것입니다. "For the extractive approach, we construct oracle compressor by considering all sentences si in the evidence document set and choosing the sentence that leads to the best end task performance (i.e., lowest perplexity or highest answer accuracy) for each example. For the abstractive approach, we consider summaries generated from different prompts ({sj} in Figure 3) and empty summary,and choose the one that leads to the best end task performance." recomp에서 위와 같은 방법으로 오라클 세팅을 만들었고 이 논문에서 주장했던 내용 중에 오라클 세팅을 통해서 RAG 시켰을 시에 entire documents를 넣었을 때보다 성능이 높다 라는 내용이 있습니다.( Table에 oracle이라고 되어있는 부분입니다.) 다시 한번 정리하면, 이 압축기가 최적의 성능을 내서 정답을 맞추는 정도로 압축을 잘 해낸다면 이론상 모든 문서를 넣었을때 보다 좋다라는 주장을 하면서 이후에 retrieved document의 내용을 압축을 해야할 것을 얘기하고 있습니다. 이해되셨나유?

@@NLP코기 그렇군요! 감사합니다!

하하 재밌으셧으면 좋겠네요

아주 좋으신 질문입니다. 오라클 세팅이라는 건 어원은 모르겠으나 upper bound를 말하는 것입니다. 어떤 세팅 중에서 최적의 상황으로 모든 것이 흘러갔을 때 setting이라는 거죠. 그러니까 여기서는 특정세팅에서 가장 운이 좋아서 최적으로 문제를 풀었을 때 정도 되겠네요.

@@NLP코기 감사합니다! 찾아봐도 잘 안나오고 이해가 안됐었거든요:)

하하 웃어주시니 감사합니다

응원 댓글 감사합니다. 참 힘이 되네요! 더 자주 올려보겠슴다.

ㅎㅎ 이 내용들이 사전지식 없이 이해하기 어려울까? 하는 고민이 있었는데 도움이 되셨다니 정말 고마운 댓글이네요!!! 더 좋은 서비스로 나은 세상을 만들어주십쇼!

로봇에 LLM을 결합해보시는건 어때요? 말하는 로봇 🤖 🤖

아니면 의사결정을 LLM으로 하기는 어때요?

Thank you for your comment. Actually, it's not Chinese, it's Korean. These contents are made for Koreans, but there are some parts that don't make sense when I changed all the terminologies to Korean, so I made the best use of English. In recent d videos, I'm trying to make materials in English, even if I can't explain them in English. If I have time in the future, I will try to make a video in English as well. Thank you for your good feedback.

하하 저도 봐주셔서 감사합니다!

오오 잘보십쇼!!! 홧팅입니다.

Q. 유사도를 구하는 방식들을 설명해달라. Q. 코사인 함수에서 두 벡터의 방향이 같다고 가정할 때, 값이 몇일 때가 가장 유사하냐. Q. 최근 언어모델 파인튜닝 해본 경험있느냐 nlp에 대한 이론 질문이였습니다..

@@newwave2873 좋은 인사이트 공유해주셔서 감사합니다! 저도 많이 배웠슴다.

정규화하는 과정도 있는데 핵심 개념의 설명만 설명하기 위해서 넣지 않았습니다 ㅎㅎ 벡터 크기에 따라 값의 차이가 있기 때문에 길이로 정규화하는 과정이 있는 것이 맞습니다 ㅎㅎ

영상봐주시고 의견 남겨주셔서 감사합니다 ㅎㅎ 1. 단순히 더 좋은 검색 능력이 있으면 이 논문에서 제시한 문제점이 다 해결 되는거 아닐까요? 이 논문에서 해결하려는 문제는 다음과 같습니다: 1) 단순히 검색 능력이 좋더라도 무분별한 고정된 횟수의 검색 때문에 생성할 때 관련없는 passages가 들어가서 성능이 떨어지는 점. 2) 단순히 검색 능력이 좋아관련있는 passages가 들어가도 해당내용에 대한 일관된 내용을 generator가 생성하지 않는 점. 따라서 이 두가지 문제를 해결하는 방법은 좋은 검색 능력만이 중요한 것만은 아닙니다.

2. 임베딩 된 벡터값을 통해 리턴 하지 않고, 리턴 하는 결과 자체가 잘 된 검색이라면 이런 해결 방안들이 의미가 없지 않을까요? 질문이 100% 이해가 된 것은 아니지만, 아까 1번에 답변과 같은 이유로 이 논문은 1) 답변에 검색이 필요할 때만 하기 2) 해당 검색된 내용으로 생성할 때 잘 생성했는지 평가하기 3) 이 모든 과정을 LM 하나의 모델이 스스로 할 수 있다는 것 이 3가지가 중요 내용입니다. 검색 방법은 기존 방법을 그대로 사용하고 있습니다. 그래서 충분히 이후 문제를 해결하는 연구에 줄 수 있는 인사이트가 충분하여 연구의 가치와 의미있다고 생각합니다. 3. 이미 검색에 대해 엄청난 연구들이 있어 왔는데 다시 과거로 회귀해서 기본적인 검색능력 향상을 연구하는거 같아 궁금해서 물어봅니다. RAG에서 기본적인 검색능력에 대한 연구는 지금도 꾸준히 진행하고 있습니다. 그것이 말씀하신대로 RAG에서 가장 핵심적으로 중요한 부분중 하나이기 때문입니다. 현재의 검색들도 완벽한 것이 아닌 장단점이 있다는 부분에서 기본적인 검색능력에 대한 연구는 앞으로도 계속 될 것 같습니다. 잘봐주시고 댓글 달아주셔서 감사합니다!! 저도 다른 분들하고 같이 이렇게 토론해볼 수 있는 기회가 있어서 좋네요 ㅎㅎ

@@NLP코기 답변 감사합니다! 최근에 이쪽 관련해서 관심이 많아서 여러 생각을 해봤는데 좋은 정보 감사합니다. 답변 들으니 이해가 되네요 ㅎㅎ 3번은 여전히 의문으로 남네요. 예를 들어 구글의 검색능력을 이용해 나만의 데이터를 검색한다고 하면 분명 지금의 RAG 방식보다 높은 정확도를 보여줄텐데 그럼 많은 부분이 해결 될거 같은데. 혹시 현재의 검색 툴들의 장단점에 대해서 아는 부분도 있으신가요? 저도 관련 연구를 하고 있는데 생각보다 이쪽에 관심이 맞는 사람을 찾기가 힘들었는데 답변주시니 감사하네요 ㅎㅎ

@@SsSs-vx1pl 검색해오는 document가 얼마나 쿼리와 관련있고 정보가 풍부하냐는 것은 크게 성능에 영향을 끼쳐서 구글꺼를 쓰면 성능이 올라갈 것입니다. 하지만 구글꺼는 어떻게 구현되었는지 공개되어 있지 않습니다. 구글 검색의 장단점 같은 경우에도 자세하게 어떻게 구현되었는지는 모르기 때문에 장단점을 알 수가 없고 구글이 독점하게 되고 더 발전될 수 없겠죠. 이런 부분 때문에 리트리버에 대한 연구는 꾸준히 진행되어야 한다고 생각합니다. 현대 retriever의 RAG 측면에서 해결할 점은 지금 알기로는 1.정교한 알고리즘이나 파인튜닝이 들어가기 때문에 구현이 어렵다는 점 2.특정 도메인에만 잘될 수도 있다는 점 3. 리소스가 많이 든다는 점 4. 도큐먼트와 query, 도큐먼트와 LLM 사이의 alignment가 어렵다는 점 5. 트레이닝 데이터의 퀄리티나 다양성에 디펜던시가 있다는 점 등등 다양한 측면에서 발전할 수가 있습니다. RAG는 단순히 검색하는 방법이 아니고 인공지능에게 질문했을 때 검색기반으로 알맞게 답변을 생성하는 것에 중점이 있다는 점에서 엄청 좋은 검색엔진 만으로는 해결하지 못하는 부분들이 있습니다. 도움이 되셨으면 좋겠네요 ㅎㅎ

뭔가 rag 동향을 전반적으로 소개하는 컨텐츠가 있으면 좋을 것 같네요. 저도 공부하고 한번 준비해보겠습니다!

응원 말씀 감사합니다! 다른 유명한 연구관련된 아티클들도 리뷰해볼까합니다 ㅎㅎ 기대해주세요.

안녕하세요. 잘봐주셔서 감사합니다. 저의 개인적인 의견은, 어쩔 수 없이 모를때마다 검색하면서 보는 것입니다. 저도 읽으면서 모르는 용어가 많이 나오는데 그럴 때마다 검색하는 수 밖에 없었습니다 ㅎㅎ 논문을 읽으시면서 모르는 용어가 나올 때 검색하시고 그냥 한 문장으로 이런 역할을 한다는 거구나 설명 가능할 정도로만 알고 추상화하시고 넘어가는 건 어떠세요?

저야말로 봐주셔서 감사합니다. 누구한테 도움이 되었다니 정말 보람차네요.

corginlp@gmail.com로 주시면 됩니다.