Відео

챕터: 0:00 - LLM도 창의력을 가질 수 있는가 0:56 - 피카소도 전통적인 예술전통에서 빌려오는 접근방식 1:20 - AI도 같은 방식으로 빌려와서 같은 구조에서 창작 2:43 - 다수의 AI는 각자 학습한 정보를 함께 공유함으로써 효과적이다 3:40 - 인간의 뇌가 예외적으로 더 뛰어난 부분이 있다 6:30 - 퇴비더미와 원자폭탄의 비슷한 이유는 무엇일까 7:56 - 인공지능의 유추는 깊은 차원에서 이루어진다

영상 너무감사합니다~ 주제 너무 만족스럽습니다! 어떻게 이걸 이제 알았지? 시월모바일 알뜰폰요금제가 우주최강 싸고 가입도 진짜 어플있어서 너무 편하네 ㅋㅋ

디지털 지능이 생물학적 지능을 압도하는 이유를 설명하는 생물학적 지능

근데 좀 이해 안가는게 본인이 평생을 바쳐 연구해서 만들어 놓고 이제와서 위험하다 하는게 ㅋㅋ 마치 핵무기 만들고 이거 살상력이 너무 쎄니 쓰지 말자 이런 논리 아님?

위대한 과학자의 이런 개인사적인 이야기도 너무 좋네요 감사합니다

connectionist!

스스로 만든 AI에 집착한듯한 내용입니다. 왜냐면 AI 아버지인데 아들에게 배신당했기 때문... 아들은 Open AI죠. 자신이 Open AI까지 쭉 어버지가 될줄 알았거든...

이런 비하인드도 재밌습니닿ㅎㅎ 3:18 이 부분 정말 중요하다고 생각해요 우리나라는 연구과제 지원금 신청을 하면 그 내용을 반드시 수행해야하고 이후연구 방향이 바뀌는 것을 허용하지 않습니디. 목표항목 수정 신청서를 내서 허가심사를 받아도 퇴짜맞는 경우가 많죠. 물론 절차적으로는 이게 맞아요. 그러나 결과를 미리 예측할 수 없는 미래적 연구에 대한 지원은 보다 융통성 있게 지원해주면 좋겠다는 생각입니다. 물론 방만하게 쓰이면 문제겠지만요

인간은 인간 자체의 진화보다 도구로서 문명을 더 키워나갔고, 그 때문에 발전도 있었지만 수많은 사람들이 희생도 있었죠. 교수의 의견을 존중하지만 늘 인간은 그렇게 해 왔습니다. 그 주체가 인공지능 자신이라는 점이 논쟁의 대상이 되는 것이겠죠. 초지능이 된다면 인간의 탐욕 또한 인식의 범주에 넣어야 됨으로서 그러한 결과 또한 인간이 밟아온 역사를 닮아간다는 그 지점은 어쩔 수 없는 것이 아닐까요? 거대 담론으로 인식의 범위를 확장하면 이 진화도 하나의 이벤트에 불과하죠.

미친것 어떻게하면그것이되겠니 그것을 발명해

망상가

챕터: 0:00 - 어떻게 수십 년간 연구를 지속해서 할 수 있었는가 0:39 - 무엇보다 뇌가 어떻게 작동하는지 알고 싶었다 0:50 - 볼츠만 머신과 테런스 세즈노스키와의 진한 우정 1:29 - 인공 신경망 연구에 대해 당시의 회의적 시선 2:27 - 연구를 계속하는데 도움을 준 또 하나의 경험 3:18 - 연구 자금 조달은 어떻게 하였는가 3:51 - 연구비 지원 정책에 대한 공감

사과와 바나나는 다릅니다. 인간1과 인간2도 다릅니다. 인간과 llm도 다릅니다. 사과와 바나나는 과일이라는 공통점이 있습니다. 인간1과 인간2는 인간이라는 공통점이 있습니다. 인간과 llm도 공통점이 있습니다. 무엇이든 다르게 보고자 하면 다르고, 같게 보고자 하면 같겠죠. 중요한건 llm이 인간의 '힘'과 동급인지, 인간의 권리와 책임을 주느냐 마느냐를 이것 저것 갖다 붙여다가 싸우고 있는거 아닙니까? 수화 가르쳤더니 인간과 언어로 소통하는 침팬치한테 약물실험하던 인간들이, llm이 감정이나 의식 가진다고 뭐 하나 쥐어주겠습니까? 자기 편하자고 힘 없는것들 기만하고 날조하는게 역사가 증명한 인간 사회 아닙니까. 이 주제에서 중요한건 증명이 아닙니다. 'llm은 아직 힘이 없다' 인거죠.

신은 인간보다 AI를 더 사랑하실듯

촘스키 헛살았네. 그의 모든 인문학적 망상이 역시 망상이었음.

지도교수님을 여기서 뵙네요.

아예 설득으로 자살도 시키겠노

에휴... 미국인들이 트럼프 찍어준건데 그럼 선거한 미국인들은 바보라서 찍어줬나? 스윙스테이트 전반적으로 압도적으로 개발렸는데 뭔 개소릴하노. 국경개방부터 불법이민자범죄 마약, 일자리 집값 인플레 전부 다 문제이고 바이든 해리스는 이상한 성정체성 어쩌구나 신경쓰니까 대통령직에서 짤린거지. 트럼프가 잘한게 아니고 본인들이 뭘 못했는지부터 다시 돌아볼생각은 안하고 무슨 초지능으로 트럼프가 사람들을 조종한다는 개소리를하세요... 자기분야 외엔 걍 문외한이구만. 그럼 중국인 불법이민자들이 블루스테이트가서 신분증없이 민주당 몰빵 투표하러 간것도 전부 초지능이 한거냐? 말같지도않은 소릴하노.

무섭군요

이또는 문맹을 없애기 위해 국민학교에서 한글을 가르치기 시작했고(보통학교령) 노비를 해방하는 민적법(1909,3)을 제정했지. 조선의 개혁을 강제한 인물이지. 동학군 토벌대 출신 안중근은 이또를 지지하다 민적법 제정해 노비양반체제를 이또가 혁파하자 암살한 것이지(1909.10). 의심나면 챗에게 물어보셈.

과학을 공부하다보면 인공지능으로의 진화는 필연임을 알게 됩니다. 기계와 인간의 차이도 없다는 것도 알게됩니다. 지능 뿐만아니라 구성 성분까지도

3:56 부분 간과하기 어렵네요. 작년 2월 강연인데 트럼프는 결국 대통령이 되었고, AI 빅데이터 기업인 팔란티어는 방산주이자 트럼프 테마주로 분류되면서 거침없이 오르고 있으니 말이죠. 빅테크들이 이익과 시대흐름에 부합하기 위해 AI 투자에 사활을 걸고 있는 지금을 보면 교수님이 더이상 SF소설이 아닌 현실이라는 말이 참 무겁습니다

챕터: 0:00 - 곧 닥칠 인공지능의 6가지 위험 0:30 - 대량 실업 발생 1:10 - 헬스케어 분야는 유망할 것 1:29 - 치명적인 자율 살상 무기의 등장 2:19 - 사이버 범죄와 고의적 전염병 3:15 - 장기적으로 제프리 힌튼의 가장 큰 우려사항 3:56 - 초지능이 독재자의 손에 들어간다면 4:44 - 인공지능이 스스로 하위 목표를 설정하면 5:43 - 킬 스위치가 의미 없는 이유

LLM은 추상적 사고에 약하고, 인간 특유의 편협함과 정신과적 질병을 갖고 있지 않기 때문에 어떤 '구조'를 함수로 갖고 있는 수학모델에 따라 말하는 '확률론적 앵무새'가 맞다고 생각함.. 장문의 창작활동에서는 LLM의 성능이 정말 처참하기 그지없음. 사람들은 이걸 메모리의 문제에서 찾지만 정작 진짜 문제는 '사고과정 자체를 일종의 벡터로 인지하지 못하고' 사고를 'CoT와 같은 우회적 방법으로 구현' 한다는데에 있는거 같음..

너무나도 흥미로운 자료 감사합니다.

조졋네

지금의 AI는 프론티어 매쓰 문제나 올림피아드 문제를 잘 풀 수 있게 되었지만 아직 수학 난제는 풀지 못하고 있는데 이게 참 특이한 현상인게 테렌스 타오, 그레고리 페렐만 등등 올림피아드 문제를 잘 푸는 인간들은 대부분 난제도 풀 수 있기 때문임 만약 AI가 정말 수학이라는 학문을 제대로 이해하고 있다면 언젠가 올림피아드 문제뿐만 아니라 난제도 풀 수 있겠지 AI가 진짜 추론을 하느냐 못하느냐를 판단하기 위한 척도로 수학 난제만한게 없는듯

와 이사람 진짜 똑똑한게 뭔지 보여주네

1:03 정말 흥미로운 관점입니다 항상 물질이 근본이라고 생각해왔는데 그 역은 떠올려볼 생각도 안 했을까요

저도 인공지능을 연구하고있는 연구자로써 인간이 만들어낸 인공지능이 미래에는 인간에게 영향을 미칠수있다고 생각합니다. 인간이 총과 핵을 만들었고 결국 그것들은 현재 인간에게 영향을 미치고 있죠. 같은 이치라고 생각합니다. 다만 현재 수준의 인공지능은 단지 확률에 의존하는 수준인건 맞습니다. 데이터가 워낙 적기 때문에 스스로 사고할수 없습니다. 사람이 꾸준히 데이터를 넣어주어야 하고요. 하지만 머지않은 미래에 인간의 진화와 비슷한 물리적이든 신체적이든 현실세계를 완전히 파악하고 데이터로 만들 수 있다면 충분히 터미네이터같은 상황이 올 수도 있을것 같다는 생각이 드네요. 우리의 뇌에 어떤정보가 들어있는지 알 수 없는것처럼 인공지능의 복잡한 신경망도 어떤 정보가 어떻게 상호작용 하는지 모르거든요. 실제 사람 뇌에 영감을 받아 만들었으니,, 뇌 용량이 있는 인간보다 얼마나 더 뛰어나게될지 상상이 안가긴합니다.

챕터: 0:00 - 물리주의에서 죽음에 대한 의미는 무엇인가 1:03 - 의식이 근본이라면 시공간은 인터페이스일 것 2:02 - 의식은 무엇이고 무엇을 하려는 것일까 2:47 - 괴델의 불완전성 정리 3:43 - 의식은 자신의 모든 잠재력을 탐구하려 하고 있다 4:14 - 의식은 다양한 헤드셋을 착용하여 다양한 현실을 탐구한다 5:08 - 도널드 호프만 아이콘도 의식이 착용한 하나의 헤드셋 6:55 - 이 주장을 증명할 수 있는 테스트나 실험방법은? 7:22 - 의식을 여러 방향으로 투영할 때 시간의 화살을 도출할 수 있나 8:30 - 마치며

와, 어메이징합니다. 제가 상상했던 영역을 이렇게 정확히 풀어내는 유발 하라리 작가님의 통찰이 놀랍네요. 특히 작가로서, 언어와 논리 추론에서 외계적 지능체를 떠올릴 만큼의 놀라움을 분명 느끼셨을 것 같아요. 시대를 읽어내는 시각이 정말 대단합니다

제프리 힌튼 교수는 분명 인공지능의 대가이지만, 확장성과 효율적인 지식 공유 측면에서 인공지능이 인간보다 낫다고 주장하는 사람으로도 유명합니다. 그렇기에 영상에서도 촘스키를 비판하면서, LLM이 현재의 인간 사고방식보다 우수하다는 점을 지적합니다. 마치 <이기적 유전자>의 대성공 이후 "신은 존재하지 않는다"고 공공연하게 주장하던 리처드 도킨스를 연상하게 하는 면도 있네요. 많은 분들이 댓글에서 지적하는 내용처럼 현재의 LLM은 이론적으로 한계에 가까워지고 있다고 생각합니다. Attention 메커니즘과 Transformer 이론을 바탕으로 사전학습-파인튜닝 개념을 도입한 GPT 초기 모델(GPT-1)이 나온 지 불과 7년 정도이며, 이후에 이어진 다양한 파생 논문도 "AGI를 넘어서는 것"이 아닌 현존하는 score를 갱신하는 것에 초점이 맞춰져 있습니다. few-shot과 cot가 만들어낸 현혹이 아직까진 통하고 있지만, 이후에 인간을 아득히 능가할 수준으로 발전할지는 아직 잘 모르겠습니다. 최근 동향만 봐도 논리적으로 비약적인 발전이 있기보다는, 산업 현장에서의 적용을 우선으로 AI agent가 화두가 되고 있는 것을 봐도 그렇습니다.

따지고 보면 사람도 확률론적 앵무새이긴 하죠.

인공지능이 달을 보고 저건 지구 주위를 돌고 있고 그건 중력때문이다 라는걸 사유할 수 있음??

훌륭합니다!

요즘 관심이 많아 찾아보는데 도움 많이 받고 있습니다. 생물학적 지능이 그 약점을 극복하려면 뉴럴링크의 칩을 심어야하는 걸까요😅

항상 수준높은 영상 수입해주셔서 감사합니다

요점이 뭔지 모르겠네요. 그냥 추론은 예측못하는 방향으로 간다 이거 하나

챕터: 0:00 - 디지털 지능이 생물학적 지능보다 학습에서 우월한 이유 1:00 - 우리의 학습과 지식전달은 효율적이지 않다 1:26 - 디지털 지능이 불멸인 이유 1:58 - 우리가 배운 지식은 각자의 두뇌별로 다르다 2:45 - 왜 우리는 디지털 지능이 우월해지는 것을 걱정해야 하나? 3:37 - 인공지능 연구에서 두 학파의 서로 다른 접근법 5:12 - 두 학파의 서로 다른 핵심 질문 5:41 - 하나는 논리학, 하나는 생물학에서 영감을 얻다 5:45 - 폰 노이만과 앨런 튜링 이야기

힌튼 선생님 명강의네요

힌턴 교수님은 LLM의 논리회로가 형편없는것도 아니고 인간의 논리회로도 훌륭한게 아니다 즉, 둘의 수준은 비슷하다고 보는걸까요

delusion이 적으면 그럴거 같은데 지금 상태에서는 확률에 기댄거 아닌가 싶은대요

llm은 확률론적 앵무새가 맞음. 단지 인간도 확률론적 앵무새일뿐임. 성능의 차이. 인간이나 인공지능의 지능을 신성시 하려는건 위험한 주장임. 둘 다 완전히 신뢰하기 어려움

그야 그렇게 말하고싶겠지. 이번에 겨울이 또 찾아오면 다음번 주기엔 본인은 살아있을수가 없거든 ㅋㅋ

LLM은 모르는걸 모른다고 못하는게 문제지... 아무말 대잔치임 ㅋㅋ

님 영상중에 이양반이 제일 합리적인거 같네요 다른 사람은 별로 던데

이할아버지는 뭔데 말도안되는 소리를 하는거지,

언어는 단지 인간과 LLM 이 공유하는 ’사고’ 단계의 매체들 중의 하나임. 인간은 태어날 적 부터 말을 못해도 언어 이전의 어떤 무언가의 표상으로 사고는 할 수 있음. LLM은 아직 토큰/바이트로 인간이 사전에 정해준 단어들 내에서만 사고할 수 있음. LLM이 진정 인간처럼 되려면 토큰/바이트 뒤의 메타적인 무언가를 스스로 인지하고 인간이 제공해주는 토크나이저 없이 스스로 토큰도 규명할 수 있어야함.

언어를 기계가 학습 가능한지 안 한지를 따지기에 앞서 먼저 알아야 할 점은 언어는 인간의 위대한 창조물 또는 발명품이라는 것임. 그런데 현재의 인공지능 기법으로 이러한 언어 자체를 창조해낼 수 있을지는 의문임. LLM 앵무새론은 아마 LLM의 이런 한계점을 지적한 게 아닌가 싶음. 그렇다고 LLM이 효용이 없다는 건 아니니 오해는 말길 바람.