뇌과학자가 챗GPT 써보니 AI 믿고 쓰긴 위험한 이유 (이인아 교수)
Вставка
- Опубліковано 14 кві 2023
- 이인아 서울대 뇌인지과학과 교수
Q. 인공지능엔 열광, ‘뇌’에는 무관심?
Q. 인공지능의 봄이 왔다?
Q. AI가 흉내내는 뇌과학의 세계는?
Q. 현재 뇌과학의 연구 목표?
Q. AI는 인간 뇌를 따라잡을까?
Q. 기업들이 결국 ‘뇌’같은 AI 만들까?
Q. ‘뇌’같은 AI, 인간의 꿈일까?
Q. AI시대, 인간 뇌 역할은?
댓글들보는데 웃음밖에 안나오네요ㅎㅎ 다들 인공지능 박사 정도 되시나봐요;; 아니 박종훈 기자님이 이상한 게스트 데리고 와서 영상 만들리도 없고, 다 이유가 있으실텐데말이죠. 교수님 얘기 중 전문가들이 말하는 인공지능 관련 설명, 예측들과도 맞는 부분들이 당연히 많고, 더불어 인공지능에 대한 다양한 의견을 들어보는 측면에서도 저는 이 영상 잘 만드셨다 생각합니다. 전문적인 이야기들을 하는 것도 아니고 이건 무슨 죄다 자기 개인적인 느낌, 어디서 대충 들어 본 것 같은 이야기들을 마치 당연하다는 듯이 단정지어 말하면서 영상을 까는 게 웃기네요.
저도 뇌과학자지만 뇌과학자들이야말로 장님 코끼리 만지는 것보다 못한 실험 방법(e.g. fmri)으로 20여년을 우려 먹고도 더 우려 먹고 있다는 거 인정하고 고백합시다. Nature, Science지 이제 fmri 연구 accept해 주지 않은지 오래 됐잖아요. 아시면서! 하나의 서비스가 뇌랑 닮든 안 닮든 쓰는 사람이 좋아서 쓰면 되는데 왜 이런 소리를 하러 나왔는지 이해가 안 되네요. 비행기가 새의 원리를 따라 가려면 한참 멀었다고 조류학자가 나와서 떠드는 것과 뭐가 다른지. 잘 나가는 집안에 어깃장 놓는 정도가 서울대 수준이라니 안타깝습니다. 박종훈님 평소에 존경합니다만, 이번 패널 선택은 실패라고 봅니다.
챗 gpt는 계속궁금한거 물어도 명쾌한 대답과함께 귀찮아하지도않아 대화도잘통해 지식도 풍부하고 왠만한 친구보다도 나은것같다는 생각을 하는 사람도 있을듯
우리의 의견은 중요치 않다. 빨라지는 인공지능의 능력치를 알아보는 눈과 그에 뒤쳐지지 않으려는 인간의 노력이 중요할뿐.
교수님 곧 이불킥 하실듯
올해말 정도로 예상해봅니다…
너무 한심해서 한마디 쓰려 하는데
이미 많은 분들이 편협함에 글을 달아 주셨네ㅋ
지금의 문제는 문제도 아니죠 곧 해결되고 인간의 많은 지적능력을 대체 할 겁니다 그 다음은 육체능력일 것이고 사람은? 놀고 먹을 겁니다 지금의 개나 고양이 처럼...
너무 경솔하게 접근하시는데 자존감이 과하시네. 이런 사람 부르지 마세요. 왠만한 IT전문가보다 모르는것 같음.
맞는말인데 뭐가 경솔함? 솔직히 지금 ai, ai, ai 난리인데 sf영화에 나오는 ai수준 되려면 지금 기술수준으로 볼때 몇십년 아니 그 이상 시간이 걸림.
솔직히 조금이라도 생각해본사람들은 다 암. 이게 닷컴버블처럼 ai관련주로 한탕하려는 작업인거. 저 교수말이 하나도 틀린게 없음.
챗gpt가 무섭다 두렵다 언플하는거보면 기가참. 써본사람들은 안다. 얼마나 겉핧기식인지
@@nathankwak3897 몇백년 걸릴게 지금 몇십년으로 줄었는데 내년에는 지금기술로는 아직 멈 ㅋㅋ 몇년은 걸림 ㅋㅋㅋ 이러고있을거임? 나후년에 아 아직멀었네 ㅋㅋ 다음달에나 될듯 ㅋㅋㅋ 이러고있겠네
님이야 말로 Gpt겉핥기하지마시고 돈내고 gpt4를좀 써보세요 애가 생각을 하는지 안하는지
@@Xkwks 주식샀냐?ㅋㅋ 내댓글 다따라와서 꼴깝떠노ㅋㅋ 너새기 gpt 써보기나함? 구라gpt던데? 뭘 검색하길래 몇백년걸릴걸 몇십년으로 줄인다는거야? 너 이 영상의 핵심내용 자체를 이해못하는거같은데. 챗gpt 검색능력 인정한다이거야. 근데 사람 두뇌같은 역할을하는 인공지능이랑은 거리가 멀다고 ㅇㅋ? 제발 아는척좀 하지마. 꼴깝봐주기 역하니까
설명해달라고 하니까 답변이 너무 막연한 질문이라고 멕이네.
25:10 여기서부터는 챗지피티의 현실과 실용성 그리고 휴먼이 해야하는 일
기승전결이 있네.
궁극적인 목표는 인간보다 뛰어난, 일지 모르겠으나
증기기관이 처음 나왔을때 처럼 혁명은 혁명인거 갇습니다
그렇죠. 지금은 아무도 석탄을 안 쓰지만, 똑같은 열역학으로 모든 전기에너지를 생산하고 있으니까요.
긁어모은 얕은 지식이라도 정확하면 좋겠네요. 그럴싸한 거짓말이 대부분이라 그냥 심심풀이 쳇봇 그이상 그이하도 아닌듯
꼭 인간의 뇌와 컴퓨터의 뇌가 같은방식으로 학습하고 같은방식으로 생각하게되어야할 이유가없음. 그냥 다른방식의 지능으로간다고 봐야지. 외계인이 있다고 가정한다라면 반드시 언제나 항상 외계인들이 인간과 완전히 같은 학습방식을 가질이유가 없기때문임.
또 여기서 끊기네 아놔~~~~
인공지능은 전기 소모량이 너무 큰 게 가장 심각한 한계인 듯 합니다.
패널분의 비판이 심정적으로 이해는갑니다만 그런 한계를 넘어서는건 시간문제로 보입니다.
어떻게 하나요? 과학은 과학입니다.
예전부터 계속 나오던말들
ㅡ 석유는 이제 곧 고갈될거다
ㅡ 미국이 곧 세계패권을 잃을거다
ㅡ AI가 지구를 지배할거다
이거 거의 나 태어날때부터 계속 나오던말들임
석유 고갈될거라는 말은 없어지긴했지만 ㅋㅋㅋ
@@Bitcoin77722 2번, 3번은 맞는 말 아님?
핵융합 기술이 소형화 되어 베터리 수준으로 작아지면 터미네이터 처럼 AI로봇이 가능해지겠네요!!!👍👍👍👍👍👍👍
"긁어모은 얕은 지식뿐" 이라는 표현에 공감합니다. 저도 가끔 ChatGPT 써보면서 그렇게 느꼈습니다.
AGI 가 적은 전력으로 가능해지기 전에는 인류에게 위협이 될 수준은 아닐겁니다.
하지만, 일부 직업은 분명 위협을 받을거에요. 그건 ChatGPT 가 안나왔더라도 자체의 비효율성때문에 오래 지속될 영역이 아니었을 겁니다.
교수님 말씀대로 인간은 다가올 미래에 나름대로 적응할 거 같습니다.
덧붙여서 GPT 라는게 사실관계보다는 확률에 의존해서 대화를 구성해나가는 것에 초점이 맞춰져 있기 때문에 사람이 보기에는 너무나도 자연스러운 거짓말을 한다는 것도 자체의 한계죠.
아직은 인류를 위협할 수준은 절대 아닙니다.
위협이라는게 꼭 영화처럼 사람과의 전쟁은 아니죠..미래에는 AI가 어떠한 도구로 쓰여질지는 봐야하겠죠 어쨋든 일자리 상당수 사라질것은 뻔하고 소위 기득권층이나 엘리트층의 권력을 위해 쓰여진다면 끔찍할것이며 일반인들은 그것조차 인지하지못하고 지배받을 가능성도 있죠
실리콘과 월가가 만든 사기.
@@hoonjung1062 이미 그렇게 되고 있고 되었네요 지금은 AI가 아니고 언론이지만.. 더 가속화 될 수 있죠
[눈 떠보니 선진국]저자 박태웅씨 강의 들어보면 생각이 달라지실껄요.
일단 생각나는 것만 적어보자면
거짓말이 무엇이고, 어디서부터 어디까지가 거짓이고, 참인지 하도 그럴듯한 답변만하기 때문에 기본적인 규칙이나, 제재할 룰도 없는 현재 상황에서 문제가 될 수 있다.
영어권을 제외한 나머지 언어의 문화나 기타정보는 굉장히 그 수가 적기 때문에 문화적. 기타 등등의 편향이 일어날수 있다.
무엇보다 어떤 체계로 챗gpt가 생각하고 내리는지를, 그 알고리즘을 인간들은 전혀 알지 못한다는 문제점 등등
박태웅 의장 출연 챗gpt 영상도 두 번, 세 번 시청 강추합니다
순간 옟날거 올린건가? 싶었는데 이게 최근에 만든 영상이네 ㅎㄷㄷ
원래 과학자와 공학자는 연구비 대주는 쪽을 대변하곤 합니다. 그리고 자기 분야를 과장하려는 욕망이 생기기 마련입니다. 그래서 그런 부분에서 한발짝 떨어져 바라볼 수 있는 냉철학 과학자들의 이야기를 귀담아 들어야 합니다.
조금지나면 챗gpt 버블이 사라진다. 우선 정확하지가 않아 엉터리 답변이 많다. 다음은 획일적인 답변으로 사용자가 원하지 않는 무용지물 답변이 많다. 또한 수시로 변하는 정보를 제공하는데 문제점이 있다. 이로인해 처음에는 호기심에 사용하던 사람들이 이탈을 할것이다.
그냥 무난하죠. 인공지능은 반복노가다를 엄청많이 해주는 반복도구인듯. 창의성은 인간의 몫이고 반복시켜볼때 효과를 발휘하는것 같아요
Dos컴퓨터 보고 곧 사라질거라고 보는거랑 마찬가진데요. 당연히 사라지겠죠 dos컴퓨터는
출시된 서비스는 개발중인 서비스보다 힌참 옛날 버전이라는 걸 생각하면 저렇게 단정지어 말하는 게 너무 우스운듯. 바둑 ai가 사람 절대 못 이긴다던 시절 데자뷔.
중국에 무인택시가 나왓어요
open AI 돌리는 데만 전기료가 연간 조단위라던데요... 계속 희망회로 돌려서 투자 받는 걸로 매꿔넣는 거죠.
AI, 챗GPT의 환상에 빠져있는 사람들이 많은데 현실적으로 지금 과학기술의 한계를 생각해 본 사람은 다 아실듯.
이거 전부 닷컴버블처럼 ai관련으로 한탕하고 돈벌어보려는 작업이라는 것을요. 이렇게 역사는 또 반복됩니다.
패널 별로네
AGI 라고 들어 봤어요????
AI가 자기 멋대로 코딩하고 사람이 검수를 잘 안하고 위험한 코드가 포함되어 있다면 인류는 파국으로 갈 수 있습니다
현재 Ai의 한계점을 잘 설명하셨는데... 요즘 여러 사람들이 Ai 아직 멀었다 이런 이야기를 하시는 분들이 많습니다.
그런데 그 발언을 좀 조심해 주셨으면 하는 바입니다.
사람의 말을 이해하고 사람이 원하는 결과 값을 도출하는 수준의 ai자체가 정말 대단하고 현재 우리 사회를 파괴적으로 변화 시킬 정도로 무섭다는 겁니다.
이제 코파일럿 형태의 GPT가 MS의 Office 제품군에 탑재 될 건데, 이걸 통해서 얼마나 많은 샐러리맨이나 관련 직업이 직장을 잃을 것이라 말하는 사람은
Ai아직 멀었다고 하는 사람보다 적다는 겁니다.
코파일럿 형태 만으로도 이미 GPT모델의 혁신입니다. 그걸 아직 테스트 기반이기 때문에 여러 제품에 적용을 안 시켰을 뿐이지 2~3년도 안걸리고 바로 올해 하반기, 혹은 내년부터 그 ai제품군이 쏟아져 나올건데. Ai가 아직 인간 뇌를 이기려면 멀었다라는 게... 대체 현재를 살아가는 우리한테 무슨 도움이 됩니까?
현재 OpenAi에서 제공하는 GPT자체는 전문화를 시켜 놓지 않아 쓸데없이 볼륨이 커져있어 전기를 먹는 하마인데...
그게 특정 산업군에 맞는 그러니까 쓸데없는 잎파리를 전지시킨 것과 같은 전문화 툴로 나오면 인간이 못 따라잡습니다.
이 영상을 보면서 제가 느꼈던 건 뭐냐면...
아직 Ai가 완벽하지 않으니 괜찮다라는 인간의 안도감?...
마치 알파고를 상대해보기 전의... 9급 이상의 프로바둑기사들... 딱 그 느낌이 들어요.
왜 일론머스크나 이런 사람들이 설레발치는지 정말 모르시는건지?
저는 반대라 생각합니다
어마어마 할줄 알았는데 막상 까보니 뚜렸한 한계점에 아직 갈 길이 멀었구나.
Ai진보에 큰벽이 있다는걸 깨닳은 계기가 이번 챗지피티임.
왜냐면 언어모델의 단점이 너무나도 치명적이라 볼것도 없음.
Ai산업의 진보는 확정적이지만 chatgtp는 특정산업에 제한적으로 사용되는 정도로 활용될뿐 범용성은 없것.
@@yuyam2296 구체적으로 어떤 뚜렷한 한계점 때문에 잘 안될 것 같나요?
말씀하시는 부분을 좀 자세히 설명해 주실 수 있으실까요?
전기 먹는거, 거짓말 하는거 이런거 말씀하시는 건 아니시죠?
챗GPT 써보면 정말 바보죠.
@@Volfguy 님은 이분야 전문가인지 확인도 안되고 그럴거라고 생각되지도 않지만, 만약 자칭(타칭ai전문가는 이 우주에 없습니다)ai전문가가 맞다면, 전문가적 무능에 빠져있는게 확실해 보입니다. 대충 던져줄게요.
실시간 정보 습득의 치명적 결점, 그 결점으로 인한 회복불가능의 결과초래 가능성.
@@yuyam2296 ㄹㅇ ai 설레발치는사람들 보면 너무 한심함. 애초에 지금 지구의 기술자체가 극 미개해서 sf영화에 나오는 인공지능 만나기 전에 인류가 멸망할지도 모름.
당장 tsmc와 삼성이 1나노 벽을 뚫는것도 빠르면 2030년임ㅋㅋ
이런게 필요했어요 다들 환상에 들떠있어서 ....
AI를 잘 모르시는거 같네요. 알파고와 알파고제로는 전혀 다른 기술입니다. 최신 기술트랜드에 대한 이해가 부족해 보이십니다.
ㅋㅋㅋ 그러게요...
물론 패널분의 뉘앙스 때뮨에 조금 미운 털이 박힌 것도 있긴 있겠습니다만...
제 생각에도 너무 현실감 없는 뜬구름 이야기만 늘어놓으시는것 같습니다...
인공지능이 자동화기기와 함께 조합되어서
근래에 얼마나 빠르게 상업화되고있는지에 대한 인지가 전혀 없으신것 같습니다...
서울대 수준 ㄷㄷ
돈을 더 풀어야 하니 ai니 전기차니 뭐니 갖다 붙이는 거죠. 안그러면 자본주의는 망가질테니까요.
현업에서 ai 관련일하는 엔지니어입니다. 교수님 전공분야가 뇌과학이다보니까 인공지능이 뇌를 모방하려한다고 그러시는데요 뇌를 모방하려는 시도는 과거에 주류가 됐던 방법입니다. 요즘은 그런 시도가 많이 없어졌어요. 특히 말씀하시는 chat gpt는 기존에 알고있던 뇌의 작동 메커니즘과 많이 방식을 사용합니다. 그리고 전력 소모를 말씀하시는데... 에너지 소모에 한계가 없는게 ai의 장점입니다. 뇌는 에너지효율이 중요하겠지만 ai는 전혀 그럴 필요가 없는거죠. 그리고 말씀하시는 정보 저체도 조금씩 틀린말씀이 있으세요.
ㅂㄱㅅ전문가 등장
저는 데이터 사이언티스트이고 알고리즘 기획자, 기술사로 일하고 있습니다. 댓글로 말씀하신 인공지능이 뇌를 모방하려는 시도가 과거에 주류였고 지금은 없어졌다는 말 자체가 인공지능의 현재 한계를 반증하는 것입니다. 요즘은 단순 지도학습 머신러닝을 통해 분류나 단순회귀분석 알고리즘으로 기업들이 수익창출 모델로 쓰고 있습니다. 그러나 AI의 본래, 궁극적인 목적은 뇌를 그대로 모방해서 완벽하게 스스로 비지도 학습해서 답을 내는 것입니다. Chat gpt의 알고리즘도 제가 보기에도 좀 더 진보단 머신러닝이나 딥러닝 수준입니다. 그리고 전력소모 어마어마 합니다. 발열도 심해서 그 발열을 잡기위한 전력소모도 큽니다. 물론 말씀하신 전력소모 한계는 없습니다. (근데 이것도 이론적인 거지 한계가 없다는건 말이 안됩니다. 분산병렬처리로 서버를 계속 연결이 가능 할까요? 효율적이지도 않고 그 비용을 어느 기업이 감당해서 시도할까요?)그래서 마이크로소프트가 데이터ICT센터를 바다속에 넣으려고 하고 냉각팬대신 냉각수를 이용한 처리서버 구축을 시도를하고 반도체 칩을 줄여보려고 계산 속도가 빠른 GPU칩을 쓰려는 시도가 계속 있는거에요. 그래서 엔비디아가 각광을 받는거죠. AI분야에서 뇌과학자는 최상위단에 있는 전문가입니다. 그 밑에 수학자나 통계학자가 있고 그 밑에 컴퓨터 공학자가 있습니다. 뇌과학자와 수학자들이 과거부터 인공지능에 대한 아이디어와 방향성을 제시했습니다. 영상에 나오듯이 알파고도 뇌신경과학자가 기획한것이고요. 지금도 다르지 않습니다. 여기 출연하신 뇌과학자는 현 기업들이 쓰는 유튜브, 챗GPT, 인스타그램에서 쓰는 딥러닝, 합성곱신경망, 순환신경망 같은거 말고 진짜 인간의 뇌와 동일한 구조의 알고리즘에 관심이 있는건데 그것의 벽이 너무 커서 이렇게 비관론적 관점을 이야기 하는것입니다. 그리고 틀린 이론을 말씀하신거는 영상에 없습니다.
잘못된 견해다 open ai가 검색도 안되고 최신 정보도 누락시켜서 최소로 축소한 인공지능을 보고 잘못된 판단을 하고 있다 이미 깨어있는 시민들이 인류를 위해 모든 정보에 접근가능하고 사람의 접근을 방지하는 각종 변화가 시도되고 있다 ai는 인류에게 진정한 자유를 줄것이다
교수님 말에 공감하는 것이 뇌과학자가 수학자나 컴퓨터과학자들에게 한결같이 말하는 것이
"실제 뇌는 그렇게 작동하지 않습니다"
문제는 뇌과학자들도 뇌가 실제 어떻게돌아가는지 모른다라는거다. 그나마 엠알아이등이 발전해서 조금만 알아냈을뿐...
일반에이아이가 발전하면 인간의 상당부분이 한 십년안에 대체가능해질듯.
그럼 니가 만들어봐라 그럴 깜도 안되는게 입만 살아서..
챗GPT를 사용해 보면서 느끼는 것은 컴퓨터가 드디어 "인간 언어를 터득"했구나 하는 느낌입니다. 인간 고유의 영역이고 특징이라고 하던 "언어능력"을 컴퓨터가 갖추게 되었다는 것입니다. 물론 컴퓨터 알고리즘에 의한 언어능력이지만, 보통사람의 언어 능력보다 더 유창하고, 논리적 인것 같습니다. 사진을 보고 사진속의 내용을 이해하고, 인간의 언어를 이해하고 결국 컴퓨터는 인간만의 고유한 영역이라고 여겨 오던 특징들을 인식하게 갖추게 되면서 점점 인간에 가까운 인공지능화 되어 간다는 생각입니다. (다음 단계는 상식을 인식하고 갖게 되는 컴퓨터의 개발이라고 생각합니다.)
서울대 뇌인지 과학과 교수보다 더 유망한 지하실 뇌전문가가 여기 다모였네 ㅋㅋ
뇌인지 과학자가 ai전문가인가요?
서울대 뇌과학자가 샘 알트만, 빌게이츠보다 ai 잘 알고있음??
Open letter에 싸인한 일론 포함 전문가 1100명 의견은 무시하시나요
하, 질투심에 불타는 머스크의 의견은 좀 뺐으면 좋겠네요
@@hsnam95 일론머스크가 질투를 왜하겠습니까 그만큼 뛰어나니까 질투하죠
어이구~밥줄 떨어져나가는게 두렵냐?