[논문리뷰] TRANSFORMER : Attention Is All You Need(2017)
Вставка
- Опубліковано 8 вер 2024
- 인공지능 자연어처리분야의 압도적인 인용수를 자랑하는 트랜스포머는 자연어 처리뿐만 아니라 비전 등 다양한 인공지능 분야에도 접목되고 있습니다.
본 영상은 고려대학교 산업경영공학과 DSBA 연구실, AGIST, 동빈나 유투브채널 영상을 참고하여 제작하였습니다.
#Transformer #트랜스포머 #인공지능 #딥러닝 #머신러닝 #AI #DeepLearning #MachineLearning #자연어처리 #NLP #AttentionIsAllYouNeed #Attention
안녕하세요, 우연히 둘러보다가 너무 설명을 깔끔히 잘하셔서 구독하고 갑니다.
감사합니다.
@@kyu9724 감사합니다 좋은하루되세요
강의 감사합니다. 어려운 내용을 이해되도록 잘 설명해 주시네요.
감사합니다 ~:)
자연어처리수업 이미 듣고 듣는데도 어렵네요ㅋㅋㅋ교수님보다 쉬운 설명해쥬셔서 감사해요
감사합니다!
와 이정도면 정말 쉽게 잘 설명하셨네요 ㄷㄷㄷ
발표자료도 볼 수 있을까요? 요점만 잘 설명해 주셔서 너무 좋았습니다
존나 어렵네.. 내 할 공부나 해야지...
1:29 이러한 그림에서 각각의 네모칸(노드라고하나요?)이 하나의 함수를 나타내는 것인가요? 인공지능은 데이터에서 함수를 추출하는 것 이라고 들어서요
분혹색은 입력값(데이터) 이고 파란색은 출력값(데이터) 입니다. 그리고 그 중간에 모델(함수)이 초록색(데이터)라고 보시면 됩니다. 그래프 구조가 아닌이상 노드라고 부르지는 않습니다. 인코더(encoder) 또는 모델, 네트워크 등으로 불립니다.
@@EnsignerTV 그러면 인풋으로 데이터가들어가서 네모난칸(함수)를 거쳐서 아웃풋으로 나오는거고, 그 어떤 인공지능이든지 기법이 다를 뿐이지 전술한 기본구조는 똑같은거죠?
@@eddiekim7549 인풋 데이터 전처리가 필요할수도 있구요. 이렇게 가공된 데이터도 전부 인풋이라고 하면, 함수(블랙박스)를 거쳐 아웃풋을 내는 것은 대게 동일합니다. 일반적으로 이러한 구조를 end-to-end 라고 부릅니다.
안녕하세요?
트랜스포머를 활용하고 있는 분야에 대해서 1시간동안 설명해야하는데 참고할만한 자료를 어디서 구할 수 있을까요??
자연어 처리 및 비전 분야에서 매우 많이 활용되기에 단순히 구글에 검색만 하셔도 자료를 충분히 찾을 수 있습니다. 특히나 설명하시는 분이면 이 분야에 많은 지식이 있으실텐데 잘 찾으실 수 있지 않으신가요?
@@EnsignerTV이메일 한번 확인 부탁드립니다^^
안녕하세요 정말 좋은 강의 감사합니다!! 7분7초에서 다른 단어 다른 인코더에서는 임베딩 weight들을 쉐어하지 않는다고 말씀하셨는데, 여기서 다른 단어가 의미하는게 무슨의미인지 알수있을까요? 다른 인코더끼리는 weight을 쉐어하지 않는다는게 이해는 되는데, 다른 단어가 의미하는게 무슨 의미인지 조금 헷갈려서요.
안녕하세요.같은 인코더내에 있는 임베딩벡터들은 weight를 쉐어하고, 다른 인코더에 있는 임베딩 벡터는 쉐어하지 않습니다. 다른 인코더에는 다른 단어들이 임베딩되어 들어있을테니까요. 괜히 다른 단어라고 말해서 헷갈리실 수 있겠네요. 무시하고 보셔도 괜찮을 것같아요. 7분7초 부분의 자막에는 단어란 말을 안썼네요 ㅎㅎ
좋은 영상 잘 봤어요. 개인 의견입니다만, 배경음악이 집중도를 떨어뜨리는 듯요. 그리고 커서를 너무 돌리시는건 아닌지. 이 두 부분 고려해보심이 어떨지요.
피드백 감사합니다.
음악때문에 산만해지네요. 빼고 다시 올릴수 없을까요.
독일어가 아니고 프랑스어인데요
배경음악 정말 거슬리네. 이걸 꼭넣어야하나.
@@jasonpark8013 유튜브 초반에 만든거라 좀 서툴었던거 같네요. 이런 피드백이 종종 있었어서 최근영상에는 배경음악이 많이 작아졌습니다.