애플, NVIDIA GPU 안써… 구글 TPU로 학습한 애플 LLM 논문 공개 | 그러나 이번 발표의 핵심은 이겁니다
Вставка
- Опубліковано 8 вер 2024
- 애플이 Apple Intelligence를 구현하기 위한 Apple Foundation Model (AFM) 논문을 공개했습니다. 40페이지 분량의 다양한 내용 중에 눈에 띄는 것은 애플의 AFM 학습을 위해 NVIDIA의 GPU가 아닌 구글의 HBM2 기반 TPUv4, v5p를 활용했다는 것인데요. 외신과 더불어 국내에서는 이 사건을 굉장히 획기적인 것으로 보도되고 있지만, 사실 애플은 2023년부터 AJax라는 프레임워크 기반으로 구글과의 협력을 진행 중이라는 이야기가 나오고 있어 완전 새로운 내용은 아닙니다. 더군다나 애플이 NVIDIA의 GPU를 확보할 시간이 없었을 수도 있는데, 이와 관련해서 애플 AI를 만들 때에 기존 MS, AWS, GCP 와 같은 클라우드 업체와 다른 전략을 세울 수 밖에 없는 이유, 이번 뉴스에 대해 개인적으로 해석해본 내용을 정리해보았습니다.
#애플 #엔비디아 #GPU
Written by Error
Edited by 이진이
unrealtech2021@gmail.com
애플은 엔비디아 자체를 거른지 오래라..
엔비디아가 전력소모량 사기쳐서 회로 태워먹은 전적이 있어서..
그렇죠 이걸 봐야죠. 엔비디아가 얼마나 쓰레기 짖을 했는지 애플에게
근데 그거 애플한테만 한거 아님 ㅋㅌㅋㅋㅋㅋㅋㅋㅋㅋ 대기업들 여럿이 피봤죠 ㅋㅋㅋㅋ
@@ska24feder650M 스로틀링 현상때문에 그당시 장착한 노트북들 다 동귀어진함ㅋㅋㅋ 650M 칩셋을 무조건 피해야하는 결말로 끝났음. 애플문제가 아님
젠슨황 인성문제 잇나?
모델들을 cuda 없이 바닥부터 쌓아올릴 수 있는 빅테크들은 탈 엔디비아 기조를 유지하는게 가능할거지만 대다수 오픈소스판이 cuda 위주로 돌아가고 있어서 대세가 엔디비아라는건 변하진 않을거임.
감사합니다. 공유합니다.^^
엄청 변화도 기술도 빠르게 계속 쏟아지니~
그렇게 그는 가장 바쁜 유튜버가 되었다 ㅋㅋㅋ
교수님 너무 빨라요
참고로 CUDA에서 마이그레아션 쉽게 하는 서비스 이미 클라우드 서비스들에서 제공 중입니다. 지금처럼 엔비디아가 누칼협? 하면서 폭리 취하려들수록 대안도 더 빨리 등장합니다. 이미지 편집 시장 절대 아성인 Adobe마저도 폭리 취하니까 프리랜서들부터 다른 거 배워요. 3d 엔진 시장에서 유니티에 벌어졌던 일도 마찬가지고 폭리 취하려들면 에이 더러워서 걍 하나더 배우고 만다 하게 되는 게 전문가들임. 시장에 영원한 폭리는 가능하지 않죠.
유튜브는 언제쯤 나가 떨어질까요?
요즘 영상 정지시에도 배너 광고 띄워서 불편하게 하던데 다른 유명한 플랫폼이라고 해봤자 숏폼밖에 없으니 더 기다려야 할까요?
@@key2007prchoi 유투브가 누칼협? 이러면서 크리에이터들한테 채널 사용료 500만원씩 안내면 채널 폐쇄 뭐 이런 식으로 하면 드라마틱하게 망하지 않을지.. 일단 신규 크리에이터들은 유투브로 안오겠죠. 뭐 근데 그런짓 벌이진 않겠죠
@@key2007prchoi그게 폭리정도는 아니죠
@@key2007prchoi프리미엄이 뭔 10만원 하는것도 아니고 한달에 이만원밖에 안하는데 치킨 하나 사먹을 돈으로 결제해
진짜 실리콘벨리 빅테크들 관계 보면 적도 아니고 친구도 아님. 마치 거미줄 같은 관계
맞음 진짜 적도 아니고 친구도 아님 이러다가 내년에 엔비디아 협업한다고 발표할지도 모름
관련 지식이 엄청나십니다.
주식투자 안할거면 모르겠지만 투자 계속할거면 단타치지 마시고
주식으로 10만원에서 40억으로 만든 [주식의정석] 이 채널의 영상들을 꼭 보셔야 할거에요 (영상들이 짧아서 보는데 무리없음)
주식투자를 어떻게 해야하는지 주식의 정석을 보여주고 있더군요
시간나면 한번 둘러보는것도 괜찮을 듯 광고 아니니 오해 없으시길..
현재 최신 파운데이션 모델을 학습할 수 있는 가속기는 NVIDIA 데이터 센터 GPU들과 Google TPU가 있죠.
아직 나머지들은 확장성 측면에서 따라오지 못하고 있습니다. 특히 가속기간 상호연결이 많이 부족합니다... 😅
Google Gemini나 Anthropic Claude도 TPU + JAX로 학습된 모델입니다.
엔비디아: 물량 딸려~ 줄 서시던가..ㅋㅋㅋㅋ
엔비디아 독점을 깰려면 구글이 tpu칩을 외부로 팔아야될듯
구글클라우드 벤더락 가지고 돈벌라다가 주도권을 아예 내준느낌
엔비디아가 마진 폭리를 취하니 경쟁자도 진입유인이 더욱 커짐. 나눠먹으면 어마어마한 리턴이 정해져있으니깐. 결국 독점은 무너질거임. 쩐이 넘치는 빅테크들이니깐
와 요즘 미친듯이 올라오네요 대단하신 에러님 乃乃 감사합니다
앤비디아는 애플에게 소송당해서 사이가 안 좋지요.
그녕 앤비디아가 범죄자임
@@ska24federㅇㅈ 생산 불량 나니까 ”그냥 안만들게 ㅅㄱ“ 이러는게 ㅋㅋ
참 유용하네요
TT 라우드박스와 호환이 안 되나요? 개인적으로 학습시켜보고 싶어서요. 짐캘러 짱. 그리고 애플은 스냅드래곤을 쓸 일이 전혀 없고, 만약 쓴다면 구글 픽셀 폰에 들어간 TPU 경우 모바일 전용 칩 중에서는 가장 훌륭한 제품이라.. 어차피 구글 유튜브나 데이터들이 그쪽에 다 있으니까. 이왕 협력할 거면 텐서플로우 기반이 돼야 하지 않을까 융... 아마존도 어차피 구글 데이터센터 협력해서 클로드 학습시키니까요. 클로드는 아마존 전용 칩으로 돌아간다더라고요.
지포스 그래픽 카드가 독점을 했던 이유가 게임이나 돌리는 그래픽카드에 그리 큰 관심이 없었고
경쟁 회사가 달랑 한 곳이었지만 지금은 돈 좀 있는 회사들이 다 달라붙고 있었어
황회장도 알고 있지 않을까 지금이 오래 갈 수 없다는 걸 그래서 ai 소프트 회사로 변신 중 아닌가
하지만 아직까진 NVIDIA를 안쓰고 초기 개발하기 힘든 것이 현실입니다. 일정 수준 이상 만든 모델이라면 몰라도 새로운 모델을 만들때는 CUDA없이 힘들어서. 하지만 이것도 한 5년 지나면 달리질 듯 작년만해도 아.. 정말 N당 천하로구만 했는데 점점 파이가 깎여 나가기도 하고 API들이 CUDA 외의 것을 지원하는 것들도 많아지고 있어서.
머신러닝 생태계를 밑바닥 부터 다시 만들 수 있는 빅테크들은 CUDA가 별로 큰 문제가 아닌것 같아요. 😅
2007년도에 Nvidia GPU들어간 아이맥 여러대 고장나는거 목격함. 화면 출력 깨지고 검은 화면으로 바뀌고 Nvidia는 옛날 버릇 지금도 고치지 못해서 전원 케이블 녹아서 불나는거 뉴스에도 나옴. 😤
에러님이 가름마 타주시네요. 항상 영상 잘보고 있습니다. 감사합니다 😊...엔비디아 영역이 쉽게 훼손될거 같지 않을것 같네요.
애플 원래 엔비디아랑 사이 안좋은걸로아는데
바로보기.
GT 650M 배터리 드레이닝 + 쓰로틀링 동귀어진 사건때문에 10몇년 전에 이미 애플은 엔비디아 손절했잖아요..
신기하긴 하네요. 구글은 핸드폰 시장에서 가장 큰 경쟁사라고 볼 수 있는데
AI같은 핵심 기술을 구글 클라우드로 사용하다가 기술 누출이 발생하는 걱정은 안 하는 건지....
당연히 아마존이나 MS 클라우드를 사용할 거라고 생각했는데
구글이 검색엔진 협력으로 애플에게 매년 어마어마한 금액을 지불한다고 하네요
nVidia 것보다 성능 좋은 NPU를 만들 수는 있는데... 높은 성능을 가지면서도 가성비까지 가지려면 첨단 공정 사용하는 NPU 칩을 제조해야 함
충분히 시장이 크지 않으면 성능 좋고 가격 경쟁력 있는 NPU 칩을 생산하기는 어려움
AI 때문에 GPU 가격이 올라서 소비자로서 어려움이 많지만 nVidia를 대체하기는 쉽지 않은 게 현실
결국 엔비디아를 쓰지 않은 것으로 인해서 애플이 9월에서 10월로 AI 를 연기한것과 관련이 있나요?
아직 미숙하다. 그리고 엔비디아에서 구글에 책잡힐수 있는 요소떄문에 연기한거다라고 볼수 있죠
현업에 있는 사람입니다.
S급 이상 개발자들도 쿠다를 사용하지 않고 개발하는건 거의 불가능합니다...
제 개인적인 생각으로는 쿠다는 엔비디아가 10년이상 가만히 있지 않는 이상 따라잡기 불가능합니다.
구글은 추론용 TPU만 만든걸로 아는데 학습에 엔비디아 GPU대신 구글 TPU를 썼다는건 무슨말인지 모르겠네요
학습을 TPU로도 할수 있다는것인지 궁금하네요
당연히 할 수 있죠? tpu가 추론만 할 수 있다는게 더 이상한 소리같은데
ㄴㄴ 구글은 텐서플로라는 자체 머신러닝 프레임워크를 가지고 있음
기본적으로 텐서플로 랑 tpu랑 짝꿍급인거로 알고있음
파이토치보다 빨리 만들었죠
그런데 토치보다 텐서플로가 쓰기 어려워서 연구자들이 토치 가지고 만지작거리고 논문내다가 이상한게 만들어지고 , 머신러닝 프레임워크 1대장이 되버림
오래전부터 에러님 구독자인데... 공학, IT 테크 1도 몰랐는데... 이제 저는 😏공학 학사 정도 되는거같아요 -0-!!!!
형. 형 영상보다 인사이트 얻어서 인텔 올인한 주주인데 인텔좀 다뤄줘. 나 죽어가는중
을마에 들가심?
애플 이제와서 엔비칩을 산다고 선언하면 후발주자 낙인을 제대로 찍는거지
전혀 상관없는 해석입니다.
하여긴 테슬라, 엔비디아 얘네 두개 다루면 댓글은 그냥...
제발 모든기업이 탈엔비디아 좀 해서 그래픽카드값좀 내려가라
우앙
댓글 보니깐 엔비디아에 물린 사람들 수두룩하네여
어떻게 하면 앤비디아에 물리니? 혹시 고점에서 사서 몇달 좀 떨어진걸 가지고 물린거라고 말하는거니? 그러니깐 넌 평생 거지로 사는거란다. ㅋㅋㅋㅋ
글로벌 수익 라이벌 관계라 안쓰네 ㅋㅋㅋㅋㅋㅋ
아뇨 경제적 득실에 따른 결과라기보단 애플이 엔비디아 구라에 씨게 데인적이 있어서 애플이 엔비디아칩 썼다면 그게 더 뉴스일걸요
자기들도 안쓰는 TPU를 ㅋㅋㅋ
쿡이가 스팍인줄 알았네 ㅋㅋㅋ 가운데 손가락 벌렸으면 ㅋㅋㅋ
엔비디아껄로 훈련했으면 1달 안미뤄도 됐을텐데 ㅜㅜ
지금 프리뷰 공개된 ai는 그닥 별로없어가지고 뭔가 기대가 안 대는 듯.
안될과학하고 관계있나요?
안될 공학인데요?
엔비디아 시대가 저물고 있다는 내용 같네요.
??? 잘못 보신듯...
애플이 만든 그림ai 논문 보니까 A100 80GB 썼더라구요
저번에 엔비디아에게서 나오기 어렵다고 하니까 앱등이들 부들부들 했던거 기억나네...
잘 모르면 아예 분리된것처럼 보이겠지... 혁신인것처럼 보이겠지...
애플은 엔비디아 GPU자체를 옛부터 써 본적이 없습니다. 언론이 과대포장한 거죠. 주가에 영향을 줄 의도도 다분히 있고요..
에? 썻다가 크게 데인적 잇는데영?
뭔 허위사실을 이리 당당히 ㅋㅋㅋ
사용한 적 있습니다.
나중에 손절 했지만~
물론 AI쪽이 아닌 맥북같은 제품에~
허위사실임 상당기간 쓰다가 자체 아키텍터로 바꿈
이건 뭔 개소리야 10할
하루에 수십억달러는 아닐듯요;
AMD 는요...?
그냥 엔비디아 계속 적립식으로 사십시오
아무리 공부하면서 파봐도
엔비디아 그래픽카드의 성능과 앞으로도 선보일 엔비디아의 예상 가능한 그래픽카드를 따라올 후발 주자는 "없습니다"
엔비디아 AI용 그래픽카드의 범용성과 활용성은 걍 이미 업계 표준이 되었습니다
AMD, 인텔, 구글...
풉 😂
지금은 격차가 눈에 보이게 따라 잡아보일거 같지만 앞으로 엔비디아의 기술력 향상과 그에 따른 매출 대비는 압도적으로 벌어질겁니다
큰손들이 미쳤다고 엔비디아한테 그 돈을 계속 지불하려고 할까요?
당장 돈이랑 인력 부족한 랩실에서나 쿠다 아쉬워하지
자금력, 기술, 인력 다 빵빵한 대기업들은 그런거 신경 안씁니다
이제 쿠다 말고 다른 API 지원하는 라이브러리도 상당히 많아지고 있던데 ㅋㅋ
거품 꺼질 날도 얼마 안남아보이네요
영상이 계속 늘어집니다. 보통 영상 제작자에 대한 칭찬이나 반응이 유튜브 댓글 에서는 보여야 하는데 ..없다?.. 쥔장님 위험해요
잡스는 성격이 똥 같아도 혁신의 아이콘 이었지만, 팀쿡은 성격도 똥같고, 혁신 밥말아먹은 장사꾼, 게이의 아이콘이다.
애플 무지개 보니 프랑스 개막식 보는것 같아서 짜증나는군요.
게이 사장 생각만해도 개소름.
괞이 튈려고 엔비디아 까 본들...돈 못버는 공돌이 클라스...
엔비에 물림? ㅋㅋㅋ
탈 엔비디아 하고있는 대기업들 슬슬 나오고 있는데
누가 고점에 들어가래?
남들 다 빠질때 들어갔네 ㅋㅋㅋ 엔비 최고점에서 탈출하고 애플로 진즉에 옮겼어야지
엔비디아 오늘 앱장까지 15퍼를 올렸는데 망하긴 뭘 망해 ㅋㄴㅋ
이게 엔비를 까는거임? 넌.... 주식하지마라 ㅋ
@@user-es2ri7lb7h?