생성형AI가 반도체 경쟁의 판도를 바꾼다 (강정수 박사)
Вставка
- Опубліковано 28 чер 2024
- 2024년 시작된 생성형AI 2라운드 경쟁. 뭐 하나 허투루 넘길 수 없는 관전 포인트들이 있습니다. ① 하드웨어는 가졌지만 완성된 LLM이 없는 삼성전자와 LLM은 있어도 하드웨어가 부족한 구글의 불편한 동거. ② 학습에 사용되는 엔비디아의 GPU를 넘어 온디바이스AI에서 사용되는 추론를 위한 칩 경쟁. ③ ‘AI 시대의 아이폰’을 외치며 도전하는 AI 디바이스 경쟁. 강정수 박사와 함께 갤럭시 S24 출시와 함께 수면 위로 떠오른 생성형 AI 2라운드의 관전 포인트들을 짚어봅니다.
▶티타임즈 공식 홈페이지
www.ttimes.co.kr/index.html
▶티타임즈 메일
ttimes6000@gmail.com
#엔비디아 #애플 #퀄컴
00:00 하이라이트
00:37 AI 디바이스의 등장! 얼마나 위협적인가?
02:48 빅스비와 제미나이의 힘겨루기
04:06 삼성의 7년 지원 정책, 신의 한 수?
07:18 온디바이스AI의 등장, 경쟁 구도에 영향은?
11:21 하드웨어 문제는 어떻게 해결하나?
14:56 삼성이 엑시노스 2400을 꺼내든 이유?
16:13 마무리 - Наука та технологія
![반도체칩을 크레페 케이크처럼 얇게 쌓아라?! AI가 쏘아 올린 세계 첨단반도체 전쟁, 한국은 어디쯤? #이슈픽쌤과함께 [하이라이트] | KBS 240218 방송](http://i.ytimg.com/vi/mauW_iu6Qdk/mqdefault.jpg)
![아마존 vs 엔비디아, 인공지능 패권을 향한 적과의 전쟁과 동침 f.DGIST 전기전자컴퓨터공학과 정지훈 겸임교수 [심층 인터뷰 in 퇴근길]](/img/n.gif)
📌오늘의 주제 모아보기📌
00:00 하이라이트
00:37 AI 디바이스의 등장! 얼마나 위협적인가?
02:48 빅스비와 제미나이의 힘겨루기
04:06 삼성의 7년 지원 정책, 신의 한 수?
07:18 온디바이스AI의 등장, 경쟁 구도에 영향은?
11:21 하드웨어 문제는 어떻게 해결하나?
14:56 삼성이 엑시노스 2400을 꺼내든 이유?
16:13 마무리
시청해 주셔서 감사합니다😀
좋아요와 구독은 큰 힘이 됩니다
ㅋㅋ 학습보다 추론칩이 필요하단다 ㅋㅋ ai로 처리하려면 어마어마한 데이터 센터가 필요한데 뭔 온디바이스로 그 모든것을 학습을 넘어 추론까지 ㅋㅋ 에효 이렇게 전기차로 대체된다고 설레발치다가 전기차 나락간거 안보임? 온디바이스는 그냥오나? 데이터센터 구축되고 나서 기술발전도 없이 거져오는줄아네 참네
진짜 이해관계떄문에 온디바이스 미는거면 매장당해야됨, 그게 아니라면 그냥 안목이 없는거고 바보가 될건지 사기꾼이 될건지 선택잘하셈
시간지나면 알게될거다 온디바이스 실체를
엔비디아 욕하면서 npu니, 온디바이스니 하는 것들 다 자기 이익챙기려는 놈들이다
어디서 돈받고 이딴말 지껄이는거면 매장되야된다
경쟁이 어떤 구도로 흘러가는지 인사이트 공유해주셔서 감사합니다😊
봐주셔서 감사합니다😊
지난 방송도 보고 이번 방송도 봤는데, 언변은 화려하신데 기술적으로 잘못된 부분들이 있습니다. 이상하다 이상하다 하면서 이번 편을 보니 경영학박사님이네요. 전체적인 흐름은 배울 점들이 많은데 테크쪽 말씀에는 조금 갸웃하는 부분들이 좀 있었습니다. nVidia 분들이 들으면 '오잉?' 하는 부분도 있구요. 암튼 잘 봤습니다.
그럼 잘 못 본 거죵
일단 학습과 추론을 기술적으로 알고 말하는건지 궁금하긴 함 😅
좋은내용 감사합니다
온디바이스 ai는 특정 application 내에서 updated된 data만 사용하는 접근입니다(리얼타임 써버와 통신X). 테슬라 자율주행 정도... 가능성 동의
AI 고 빅데이터고 다 정확한데이터를 많이 모으고 머신러닝해야 발전하지
전체 영상의 전제가 온디바이스에서는 추론칩으로 넘어간다인데,
왜 학습에서 추론으로 넘어가야하는지 알 수 있을까요?
안녕하세요, 이재원 기자입니다.
인공지능 기술은 크게 학습과 추론, 둘로 구분이 되는데요.
간단하게 설명하면 학습은 인공지능을 연구하는 과정이라고 볼 수 있습니다. 실생활에서 사용할 수 있을 정도의 성능이 되도록 데이터를 활용해 기술을 고도화하는 과정이고요. 이 과정에서 많은 연산력이 필요하기 때문에 주로 데이터센터에서 작업이 이뤄집니다.
반면 추론, 혹은 추론 성능은 학습을 마친 인공지능이 실제 기능을 하는 단계라고 볼 수 있습니다. 우리가 생활에서 사용하는 많은 인공지능 성능들은 '추론 기능'을 수행하고 있다고 생각하시면 이해에 더 도움이 될 것 같네요.
여전히 학습이 중요하지만, 이제 인공지능 기능들을 적극적으로 활용하고 있는 만큼 추론에 대한 중요도가 점점 높아지고 있는 상황입니다.
추론도 많은 연산력이 필요합니다. 그래서 지금은 대부분의 추론 연산 역시 데이터센터(클라우드 환경)에서 이뤄지고 있습니다. 이를 두고 '클라우드 AI'라고도 합니다.
하지만 온 디바이스 AI가 완벽하게 구현되기 위해서는 우리가 일상에서 활용하는 제품(ex. 스마트폰)에서도 지금 데이터센터에서 하는 만큼의 인공지능 연산이 이뤄져야 합니다. 그래야 인터넷 연결 없이도 인공지능을 누리는 온 디바이스 AI 가 완벽하게 구현되기 때문이죠.
그래서 추론을 디바이스에서도 완벽하게 수행할 수 있는 추론 연산용 AI 반도체의 중요도가 높아지고 있다는 이야기가 됩니다. 이런 전제로 이야기를 나누었습니다.
시청 감사합니다!
학습용 :추론도 되지만 비쌈
추론용 칩 싸면서 추론 잘 되는거
데이터 센터만한 용량을 온디바이스로 만든다? 걍 수소차가 더빠르겟다
실체도 없는 온디바이스팔이로 돈받아먹고 쓰는거냐? 티타임즈 삼프로 수순밟네
학습은 해당 인공지능 모델을 완성해 가는 것이라고 해야죠. 연구라고 하는것은 올바른 표현은 아닙니다.
데이타센터가 아니라 한대의 인공지능용 서버(64코어CPU, 256GB RAM, 여러장의 인공지능용 카드?)에서도 추론이 불가능한 모델은 온디바이스화 하기는 힘들겠죠.
추론은 왜 온디비이스에 일어난다고 보는 건가요?
추론칩이 아주 저렴하다면 탑재하는게 더 유리하겠지만
중고가라면 탑재를 안하는 것과 하는것을 구분하여 제품을 만드는게 좋다고 본다
학습은
제품제작회사에서 지속적으로 하여 1달 전후로 해서 지속적으로 업그레이드를 해주면 문제는 대부분 해결된다
물론 개인폰 자체적인 학습력은 별도이다.
구글이.. 반도체를 언제든지 완전 자동으로 생산해낼 수 있음을 기억해야 합니다..
윈도폰이 다시 나올 것인가?
추론칩은 원래 있는거 아닌가
강정수 박사님 영상 앵간한건 다 좋음 ㅇㅇ
ㅎㅎㅎㅎ 테슬라 주식상승 할거다 FSD가 완전한 자율주행이다 라고 햇지만 저박사님 예상은 다 빛나갓음 ㅎㅎㅎㅎ
경영학박사... 말 다했다.
I'm definitely gonna share this
트랜드방향이 이상하네요.
온디바이스 보다는 생성형검색기가 대세인거같은데요
엔비디아도 추론칩 만들수 있디”
지금도 미래도 창창한데~뻘짓이겠지
결국 반도체 맛집 애플의 반격이 다가오고 있다고 봅니다
이거 매우 위험한데요. 전문가 맞나요?
실체없는 주장, 온디바이스 주식 앞잡이 의심됨
삼성은 쳇gpt랑 손잡아야 될텐데, ,,
딱 소통 특임 수준 ㅋㅋㅋㅋㅋㅋ 예끼!
미래의 흐름이야 니 남대로 얘기 가능하지만 , 인공지능 기술들은 모르면 모른다고 해야지
아마도 삼성은 구글에 간을 밧다가 결국은 스마트폰os를 마이크로 소프트로 바꿀거 같음
오?
안드로이드os의 한계,싸구려이미지 거기에 챗GPT가 MS가 대주주임
그럼 어케되냐 생성형은 MS데이터센터에서 챗GPT를 NPU는 그걸로 배우고 추론하면됨
그게바로 오프라인에서의 온디바이스란것임
삼성은 앞의로 2-3년 내로 스마트폰 OS MS로 바꾸게 될것임
Brainchips BRN ASX
삼성 은더이상ㆍ1위가될수없다ㅡㅡ모든분야에서ㅡ2위로ㅡㅡ하이닉스에hbm은도저히따라잡을수없다
티타임즈 반대로 하시면 됩니다.
절대 1등 회사 NVDIA면 충분하다고 생각 돼요. AI ,반도체 투자에는 개인 투자자 경우 하나만 하세요. 전문가들 이야기는 그렇구나 이해 하시고~
온디바이스 시대?모르면 좀 배워라..말같지 않은 말 떠들지 말고
개인적으로 LLM은 이상적인 AI가 될 수 없다고 생각하는 사람입니다. 왜냐하면 자기교정 기능이 없거든요. 아무리 많은 데이터라도 이미 틀린 정보를 학습하면 성능만 떨어지게 마련.사람은 메타인지, 자기교정이 되는것에 비해서 LLM은 그냥 언어(문자) 시뮬레이터니까. 그래서 바보들의 말을 LLM으로 학습시켜봤자 학습된 정보는 별 가치가 없겠지요.
암튼 추론만 따로 하는게 의미가 있나요? LLM뿐 아니라 모든 머신러닝은 학습이 있어야 추론이 가능하고, 또 데이터가 바뀌거나 알고리즘이 수정될때도 그때그때 학습을 해야 할텐데..학습하지 않고 추론을 하는 아키텍처가 가능하다는 말인지? 아니면 따로 학습을 시켜놓고 가끔 학습모델을 가져오는 걸 말하는 것인감? 누가 설명 쫌 해주심 감사하겠네요.
데이터센터ai = 바솔로뮤 쿠마
NPU ai = 피시퍼스타
온디바이스는 생성형에게 필패하게 되있음. 그저 유사시 보조기능임. 최신정보를 스스로 업뎃 하며 추론하는 능력에 한계가 있기 때문이지요.
하나만 생각하시는듯. 온디바이스도 생성형도 같이 쓸수 있다는거. 보안에서는 온디바이스가 확실히 무선순위기 때문에 반은 맞고 반은 틀린 생각이신듯
온 디바이스에서 생성하는거야... 모르면 댓글을 달지 마...
온디바시스와 생성형은 불가분의 괸계임 ㅋㅋ
OTA기반 하브리드형 온디바이스가 대세가 되겠지~^^
온디바이스도 추론만 하는건 아니겠지. 말이 안되잖아? 학습을 해야 추론이 되는데. 근데 이 영상에서 추론만 따로 하는것 칩이 필요한 것처럼 말하는건지? 핵당황😢
엔비디아 욕하면서 npu니, 온디바이스니 하는 것들 다 자기 이익챙기려는 놈들이다
학습보다 추론이 중요하단다 ㅋㅋ
현재 기술로 어마어마한 데이터 센터로 처리해도 될까말까한 영역을
쬐깐한 온디바이스로 한단다 ㅋㅋ 기술이 그냥 발전하는줄아는 ㅉ 그렇게 잘알면 빅테크 경영진하지 왜 유튜브 기웃거리노.. ㅋㅋ 온디바이스 주식 앞잡이임? 예전에 삼프로가 그짓하다가 나락갔죠?
이미 나오고 있잖아요
오긴 뭔; 지금도 클라우드로 처리하고잇는거에요
갤럭시 빅스비수준을 온디바이스ai라고 하는건가요?
저기서말하는 온디바이스ai는 클라우드아니고 자체디바이스라는데 그정도 기술이 왓을때면
온디바이스가아닌 클라우드 디바이스를 쓰면 몇만배 성능 더좋은데 온디바이스를 왜씀
걍 약팔이 방송인데
온디바이스 가 쓸만할정도면
클라우드ai쓰면 몇만배 아니 몇천만배 더 좋음
요즘 티타임즈 온디바이스 밀던데
실체도 없는 온디바이스밀고 주시쟁이들 불러가 약파는데 뭐잇는거같다
삼프로처럼 돈받고 주식쟁이들 불러서 썰까는거면 니네 곱게 못죽는다
@@verdejosh7439 님 생각보다 추론 영역은 현재 스마트폰 npu로도 돌아갈만한 연산량과 데이터량입니다 이미 8gen 3에서 7조개 파라미터를 가진 LLm은 실제로 구현해내었습니다
테슬라리며
이 분 테슬라도 계속 좋게 말씀하심. 동의 안되는 부분도 있긴 하지만