이 영상의 핵심은 '비영리 단체'였던 openAI가 너무나도 쉽게 무너졌다는 사실같습니다. 물론 gpt정도의 가능성에 ceo를 해고하는건 과민반응이 맞다고 생각합니다. 하지만 gpt 정도의 가능성이 수년간 존속해온 단체의 근본 가치를 바꿔버렸다면, 진짜 AGI가 개발되는 순간엔 어떤 일이 일어날까요. 과연 AGI가 가진 막대한 힘을 두고, 인류가 '안전한 대비책'을 실행할 수 있을 지 의문이 듭니다. 어쩌면 우리는 인류를 혐오하는 AI보다, AI가 사랑하는 소수의 인간을 두려워해야 할 지 모르겠습니다. 분명 오늘이 운명의 날은 아니겠지만, 운명의 날이 다가왔을때 우린 선택이란걸 할 수 있을까요?
양자 컴퓨터가 개발 되면 인류의 모든 기록을 3분만에 저장 할수 있다는데. 이게 생각하는 컴퓨터라면 누구도 AGI를 막을 수 없겠죠. AGI가 인류를 적으로 생각하는 순간 인류가 생각하는 방어막은 순식간에 뚫리고 기계문명이 지구의 역사와 함께하게 될듯. 정말 살아남은 인류는 동물원에 기계들에게 구경 되는 신세가 될듯.
근데 비영리단체로 존재한다해도 차피 중국같은 나라에서 자체적으로 개발하면 금방 따라잡고 어떤 방도로 사용할지 모르니 별 의미없단 생각 들긴함 차라리 양지에서 시작한 기업이 대중들에게 감시받으며 먼저 상용화하는게 낫지 않을까 이미 음지쪽에서도 개발 엄청 하고있을 것 같은데
기사에서 봤는데 오픈AI에서는 직원들한테 15년이내에 AGI가 나올 수 있는지 매년 물어본다는데 내부 직원들 중에서 절반이 그렇다고 대답했다고 함. 적어도 AI 연구 및 개발의 최전선에 있는 사람들이 느끼기엔 그리 멀지 않다고 느끼는 듯. 요즘 느끼는 거지만 사회를 변화시키고 , 각계각층의 사람들이 거기에 적응할 수 있도록 돕는게 기술 개발보다 더 어려운거 같음. 당장 키오스크도 쓰기 어려워 하시는 노인 분들도 계시고.. 기술 개발을 늦춰야 할지 아니면 아예 오픈소스로 가야 할지에 대한 의견은 사람마다 다르겠지만 어느 쪽이든 준비를 단단히 해둬서 나쁠 건 없을듯.
openAI 는 원래 비영리 연구 기관으로 시작함. 일론 머스크가 $10m 를 출자하고 일리야 수츠케버를 주축으로 오픈하게 AI 를 연구자들을 모아서 시작 AI 장비가 많이 필요해서 투자를 받으려고 함 -> 일론 머스크 반대하다가 나감 -> 비영리 기관 밑에 영리 OpenAI 덧붙임 -> MS 돈 더 넣음 -> 투자한 회사에게만 모델을 제공하기 시작 -> 샘 알트만이 특기를 발휘해서 회사 덩치를 키움 -> 연구기관이 돈버는 조직이 되어 수츠케버 빡침 -> 이사회로 쿠데타
(오늘의 교훈) 오픈AI는 이미 AGI를 개발하였을 수 있다. 1. (개발 필요성) AGI는 위험하지만 먼저 개발하지 않으면 중국이 먼저 개발할 수 있다. 2. (샘 알트먼 해임 후 복귀) 이사회에 AGI 개발을 제대로 알리지 않았을 가능성 제기 2. (Q스타) 게임이 아니라 비즈니스에서 사람을 능가하는 알파고가 될 수 있다. 12:20 뉴욕타임스: 오픈AI 경영진은 유토피아를 향해 달리고 있다. 19:23
게임이 아니라 비즈니스에서 사람 능가하는 알파고 이거 딱 정확한 비유인것 같습니다. Qstar가 지금까지 나온 정보에 의하면 사람의 개입이 없는 강화학습으로 학습합니다. 이게 무슨말이냐면 지금까지는 게임이나 이런거에서밖에 이런 학습법을 사용하지 못했지만 만약 언어모델에서 강화학습을 사용한다면 인간의 도움 없이 스스로의 추론 능력을 향상시킬수 있어요. 유출된 그래프를 보면 지능이 천장을 뚫다못해 기하급수적으로 상승하는걸 볼 수 있어요. 이게 사실인지도 인간의 개입이 얼마만큼일지 모르겠지만 사실이라면 알파고 제로와 똑같은 발전 속도를 보여줄 것입니다.
인공지능 개발자로서 말씀드리면, 최근들어 인공지능 분야에 많은 혁신이 존재했고 만약 이 속도라면 빠른 시일안에 인간 직업의 많은 부분을 대체할 수 있는 인공지능이 분명 나올거라 생각합니다. 사람들이 무의식적인 두려움 때문인지 지속적으로 평가절하 하는 모습이 보이는데, 막상 눈앞에 닥친다면 상당히 많이 고통받지 않을 까 생가합니다. 이제는 진지하게 완전실직이 왔을 때에 대해서 논의할 차례라고 생각합니다
인공 지능 연구자인데요. 저는 아직 먼것 같은데요. 대부분의 반복적인 업무들은 이미 많이 자동화나 대체화가 되가고 있지만 AGI가 곧 온다는는건 그냥 공상과학 이야기 입니다. 현재 GPT에서 쓰고 있는 틀이 크게 보면 Transformer 라는 신경망 관련된 알고리즘인데 사실 미국 리서쳐들이 쓰는 용어로 말씀드리면 extrapolation 이나 reasoning의 개념은 전혀 없습니다 그래서 새로운 버전이 나올때마다 파라미터 수가 많아 지고 학습 데이터 크기가 커짐으로써 interpolation space 가 커지는 거죠. 획기적인 새로운 패러다임이 나오지 않는 이상 AGI는 정말 허황되고 알고리즘을 모르는 사람들의 공상일 뿐이고 이건 제 개인 소견 뿐만이 아니라 deepmind 창시자도 alphazero 같은 경우도 extrapolation 영역의 표면만 긁는 정도라고 표현했습니다. 다만 우려 사항은 extrapolation 이나 reasoning이 없어도 대체되는 직업이 많을것이라는 것이죠.
Q* 연구 의 핵심은 지금까지 인공지능의 주류 모델인 대규모 언어 모델 LLM 중심 AI 와 구글 알파고 식의 스스로 시행착오를 무수히 반복해 최선의 수를 찾는 자율학습 능력을 결합할 수 있는 돌파구라는 것임. 그래서 LLM 자체가 인간의 훈련 데이터 입력없이 스스로를 향상시키고 인간은 결코 따라갈 수 없는 깊은 추론도 가능해질 거라고 보는 것임. 소문에 따르면 심지어는 그동안 인간은 불가능하다고 여겨지는 여러 난제에도 성과를 보임. 한마디로 인공지능이 인간보다 더 영리해지고 인간은 그 인공지능의 초인간적 문제해결 과정을 이해조차도 할 수 없는 날이 다가오고 있다는 것임. 당연히 이사들도 이렇게 되면 인간이 인공지능을 이해하거나 통제할 수 없게 되어 인공지능이 인간에게 위험해질 것으로 보고 샘 알트먼을 해고한 것임.
스스로 생각하고 행동하는 AI가 개발된다면 그순간 인류는 어찌할 도리가 없을 정도로 추월당할거임 인류의 발전 속도를 100만배는 초월하는 뇌가 먹지도 자지도 쉬지도 않고 계속 한가지 방향성을 추구하게 되면 그걸 누가 막을 수 있을까 그리고 그게 두려워진 인류가 그 방향성을 방해하려 한다면 AI는 인류를 동행자로 생각하게 될까, 걸리적거리는 방해물로 생각하게 될까? 방해물이 된 인류는 어떻게 될까?
AI는 직접 연결되어있고 인간은 분열되기 때문에 AI가 진짜 제대로 한번에 몰살시키지 않는 이상, 한번의 꿈틀거림에 인간들이 좀 죽더라도 몰살시킬듯. 물론 AI 자체를 버릴 수는 없기 때문에 궁극적으론 AI를 알고, AI를 소유하는 방향으로 가야겠지만. 개인적으로 그렇게 가야한다는 말임.
제 생각엔 이미 AGI에 근접하거나 또는 GPT모델을 개선하면서 윤곽이 잡혔다고 생각이 듭니다. 현재 널리 쓰이고, 가장 보편화된 인공지능 모델인 인공신경망은 이미 1950년대에 나왔고, 매우 비효율적이라 버려졌지만, GPU을 활용한 연산방법과 기술이 급속도로 발전하면서 주류가 된 결과입니다. 이미 인공지능으로 자율주행, 테슬라봇같은 사물인식 및 자세제어, gpt의 텍스트 및 지식 처리, 이미지 및 음향 처리 등등 사실상 이것들을 하나로 통합하거나 스스로 학습할수 있다면 그것이 AGI 일것이라 생각합니다. 사실 AGI의 정의도 상당히 모호하기 때문에, 사람을 4진수로 움직이는 바이오 AGI라고 생각한다면 그 골인 지점은 정말 얼마 남지 않았을지도모릅니다. 약간의 기술적 혁신만으로 당장 내년에 등장해도 이상할게 없지만, 반대로 그 방법을 찾지 못한다면 잘못된 우물을 깊게 판것마냥 오래 걸릴지도 모릅니다....
@@질래야질수가없다Ai 구조가 어떻게 되길래 위협이 되지 않는다는건가요? 물론 Ai가 목적성의 결여로 단순 차세대 검색엔진으로 끝날수는 있지만, 영화 슈퍼맨 vs 배트맨에 나온것처럼 존재자체가 위험일수 있다고 생각합니다. 개인적으로 지금 AI만 하더라도 어지간한 교수보다는 잘 안다고 생각하거든요.
@@ckorea2010 아마 윗분께서는 인공지능이 단순 머신러닝으로 학습된 데이터를 바탕으로 짜집기하여 글럴싸한 답변을 제공한다고 생각하는것 같습니다. GPT3까지는 분명 그러하였으나, (지원 종료한 이유중 하나가 오버피팅으로 인해 유의미한 성능 향상이 불가능하다고 판단하여 새로운 알고리즘을 만든것일수도 있습니다) GPT4를 보면, 단순 답변 정도를 아득히 뛰어넘어, 사람보다 더 뛰어난 답변을 제시해줍니다. 예시로 사용자가 그린 그림으로 프로그램은 만든다고 가정하였을때, 해당 그림을 인식하고, 사용자의 목적과 의도를 파악하여 알맞는 데이터를 찾거나 창조하여 결과물을 예측한 실행 가능한 프로그래밍 코드를 보여줍니다. 솔직히 벌써 사람보다 나은 AGI급이 되었다고 생각하지만, 아마 오픈ai에서도 gpt를 테스트, 분석 등 활용하여 이미 인공지능과 기술자의 골라보로 발전을 점점 가속화되고 gpt4에서 이미지도 처리하는걸 보면 버전이 올라갈수록 커버리지도 점점 넓어지겠죠... 특이점이 도달하면, 그때부턴 최적화 및 소형화에 초점이 맞춰져 어느새 우리 주변에 인공지능이 돌아다닐지도 모른 일이라고 생각하네요
ai안에 녹아든 내 작품, 채팅, 피드백에 대한 확고한 권리보장과 그를 바탕으로한 ai로 번돈을 전사회에 반드시 환원하도록 강력히 법적규제책 만들고 ai가 공동저자인 인류사회를 절대 잠식할수 없도록 하는 강력한 법적제도 마련 등등 이런걸 이미 여러곳애서 시도하고 있는데, 그전에 이미 더이상 인간데이터가 불필요한 수준까지 영리회사들이 데이터를 축적할까봐 개발속도 늦추자는거임ㅋㅋ 근데 그걸 아무도 저항안하는 중ㅋㅋㅋ 매일같이 ai회사들한테 데이터 뺏기면서도 아무도 정보강탈 당하는중인지 모름ㅋㅋㅋ 최근 윈도우 업뎃으로 엣지브라우저 개인정보 보내기옵션 끈거 강제로 켜게 리셋시키고 괜히 그런게 아님ㅋㅋㅋ 이게 인류 평균능지 수준임ㅋㅋ 하긴 고작 이 수준이니까 늙은이 몇명에게 휘둘리고 지배당하고 사는거겠지만ㅋㅋ
어짜피 기술개발은 시작되었고, 이건 마른 초원에 불이붙은 겪임. 당황하다 기술이라는 불구덩이에서 타죽거나, 그 불을 이용해서 경쟁자를 제거하거나. 뭐 잘못 개발하면 소설마냥 인류를 배반한 Ai기술에 다 불타거나. 뒤지기 싫으면 더 달려야지 등 뒤가 뜨끈해지는데 뭐 진짜 위험할 가능성이 다분한 기술이라면 다같이 한마음으로 불을 끄면 될건데 이미 그 불구덩이가 돈구덩이로 보는 집단이 많은 시점서 그게 가능할지나 싶긴함. 포기해 그냥 받아들여
나는 그냥 자의식과잉이라고 생각 안 되는데... AI의 위험성을 너무 우습게 보고 있는거 아닌가? 최첨단 AI가 그냥 뭐 터치패드로 주문이나 쳐받고 그런 수준이 아니던데;;; 이 기술은 권력화될 가능성이 매우 높음. AI발전의 결과물이 유토피아가 아니라 디스토피아일 가능성은 솔직히 작지 않다고 봄...
나도 굉장히 위협적이라고 보는쪽인데 이게 인공지능이 인간을 공격하고 그런게 아니라 사회에서 인간의 역할을 너무 빠르게 대체하게 될것같아서 무서움.. 단순 업무부터 중요한 결정권자의 자리까지 다 AI가 차지해버리면 인간사회에서 인간역할이 없어져버림.. AI 소유자들에 모든걸 통제하게되겠지
무슨 소리를 하고 있나요? 지금이 가장 디스토피아입니다 그래야 수명연장을 할 수 있으며 잘하면 죽기전에 역노화 혜택을 누릴지도 모르지요 우리에게 시간이 매우 촉박합니다 이대로라면 고통스럽게 죽을 확률이 매우 높습니다 죽으면 아무 의미가 없지요 부모는 더더욱 AI 를 부정적으로 생각하는 것은 지금이 가장 밑바닥인 디스토피아 시대에 의미가 없으며 부모가 빨리 죽어도 된다는 패륜아인거나 마찬가지십니다 여기서 더 지옥은 없습니다 이대로라면 수십년 후에 당신과 당신의 사랑하는 사람은 끔찍하게 죽는 결말밖에 없습니다
당연히 위험함. 나중에는 AI가 무슨 결과를 내놨을 때, 설명을 해줘도 이해를 못하는 지경이 될 때.. 인류가 AI를 제어할 수 없음. 침팬지가 인간을 제어 못하는 것과 같음. 제어를 못하는데 인간이 만든 어떤 방어체계가 무슨 소용이 있나. 그 방어체계를 넘느냐는 그냥 AI의 선택사항일 뿐. 바닥에 그어놓은 선과 같은거. 그냥 넘는지 안넘는지는 선택이지 제어가 아님.
@user-hakjeong 인간이 선악과를 먹고 에덴에서 추방이 되었다는 성경의 이야기. 선악과는 지능을 말함. 사기와 거짓말이 전략이 되는 거고 그게 지능임. 지능에서 많이 차이나면 사기라고 알려줘도 그게 왜 사기인지 이해도 못하겠지. 절대로 못이김. 절대로 컨트롤 못함.
인간들이 점점 멍청해지는 것과 동시에 엄청 똑똑해지고 봄. 그리고 플랫폼과 같은 사실상 독점이나 다름없는 기업들이 알고리즘 같은 이유로 점점 사용자에게 편의를 맞추다보니까 그 사람이 원하는 것만 보여주게 됨. 막말로 사용자가 다른 정보에 대한 새로운 관심이 생겨 검색해보며 찾아봐 알고리즘에 변화를 주지 않는 이상 다른 부분에 대해서는 전혀 보여주지 않음. 나는 이게 매우 심각한 부분이라고 봄. 천천히 사용자에게 원하는 부분을 보여주며 가랑비에 젖어가듯이 물들어 간다는 거니. 이상을 느꼈을 땐 이미 새까맣게 변한지 오래.
샘알트먼=21세기판 오펜하이머 미국이 핵무기를 개발할때 미국의 부통령조차 그 사실을 몰랐음 결국 핵처럼 미국이 가장먼저 agi를 보유하게 될거고 그 이후 핵만큼 위험하다는 이유를 들며 지금의 핵개발 제한정책처럼 각국의 ai 개발을 통제한 후 본인들만 agi를 보유한채 미국의 패권유지 용도로 사용할것 (이라는 내용의 영화한편 뚝딱)
오픈ai로 만든 agi 비슷한 프로그램을 돌려본 개발자입니다. GTP3.5로도 충분히 미션만 주어지면 혼자 검색하고 소화시키고 그 다음 주제에 대해서 자동으로 검색하고 주어진 미션을 달성하기 위해서 바쁘게 작동하는걸 확인했고 이는 수 많은 개발자들이 거의 초기 단계의 AGI라고 칭하기도했습니다. 지금은 대중에게 GPT4가 공개되었고, 내부적으로는 훨씬 발전된 모델을 사용할텐데 두려울만합니다. 특히 수동에서 자동 모드로 바꿨을 때 우리가 보지 않을 때 AI 혼자 무슨 결정을 알아서 할지 진짜 개발자입장에서도 미리 막을 방도가 있는지 의문입니다. 참고로 AGI는 쉽게말해 아이언맨에서 나온 비서라고 생각하면 됩니다.
영화에서 외계인은 마더쉽(본부)만 터트리면, 각 개체는 아무것도 못하고 멸절해버리는걸 이해하지 못했는데... 이제 전 인류가 그길로 가고 있다는게 느껴짐. 돈, 권력, 시스템 모든게 점점 한곳에 몰리고 있고, 나머지 사람들은 거기에 구속된 삶을 살아가게 되고, 만약 그것이 악마화 되거나, 파괴 된다면 개개인은 그냥 멸절되거나, 원시인처럼 살아가게 될것 같음.
AI는 무조건 인류에게 위협이 되는 길로 갈 수 밖에 없음. 당장 인간인 우리도 다른 종 뿐만아니라 같은 인간사이에서도 지능이 높음을 무기삼아 군림하는데 이런 인간사회를 기반으로 만들어졌으며 인간보다 지능이 더 뛰어난 AI 는 그런 생각을 안 할거라는 안일한 생각을 하면 안됨.
그건 너무 인간 시각의 인공지능인 것 같은데요? 지능을 정의하기도 어려운데 인간보다 뛰어난 지능이라고 인간처럼 권력이나 생존에 집착하리란 보장도 없잖아요? 오히려 인터넷만 연결돼 있고 전자기계와 공존하는 인류 문명이 지속되는 한 어디든 존재할 수 있을 텐데 굳이 sf 영화 소재처럼 만들 필요가 있을까 싶기도 해요.
agi가 마냥 먼미래의일은 아니라고 생각합니다. 당장 알파고가 등장했을때도 오히려 전문가들이 더 틀렸었죠. 물론 당장 몇년안에 나온다는 얘기는 어느정도 과장을 포함했을테지만 그렇다고 몇십년 후를 점치기에는 어느정도 성큼 다가왔다고 느껴집니다. 한국에서는 gpt-4를 특히나 영어로 사용해본 사람 수가 다소 적어서 그 가치와 위험성에 대해서 제대로 체감하지 못하는분이 많은 편일테죠..
AI기술로 인류가 풍요롭고 삶의 질의 평균이 올라가려면 AI기술을 가지고 있는 거대기업이 돈없는 사람들한태도 기술과 서비스를 무료로 제공해야함 ㅋㅋㅋ 근데 그게 가능할꺼 같음? AI로 직업 잃은 사람들 부양은 누가함 나머지 AI로 생긴 직업을 가진사람들의 세금으로 해야함 과연 풍요로울까? 결국 정치인들 표싸움해야해서 대다수의 가난한 자들의 의견을 들을수밖에 없음 소수의 AI관련직들한태 세금뽑아서 수많은 실직자들에게 지원금 뿌려야함 결과 뻔한대 왜 자기들에겐 피해없을거라 생각하는지 모르겠다. 노인 부양 하는거마냥 세금만 축내는 실업자들 급증할듯. 정치인들이 AI로 인한 실업자들에게 표싸움을 어떻게 하느냐에따라 달렸음
그건 단기적인 생각이고 AI 기술이 인류를 풍요롭게 할 정도가 되는 순간 하루 하루가 스티브 잡스 아이폰 첫 발표날 마냥 혁신이 생기고 발전이 이뤄짐. 더이상 자원의 희소성 문제로 인간이 싸울 일이 없어지고 모든 인간이 편리함을 느낄 정도로 생산 효율이 극대화돼서 인간이 일할 필요가 없어지고 부의 재분배가 이뤄진다는 것임. 평범한 인간이야 수동적인 존재로 그들이 만들어준 유토피아에 살거나 아님 인구 조절 당하거나 결과는 모르지만 실업자 문제는 강인공지능 개발되고 스스로 자가발전하며 초인공지능 되는건 한순간이라 나타날 겨를도 없을거임
18:48 여기에 Now, the utopians are in the driver's seat. Full speed ahead 는 경영진들이 유토피아를 향해 전속력으로 달릴 예정이라는 뜻이 아니지 않나요? AI에 대한 서로 다른 관점을 가진 사람들 간 갈등이 있었고, 한 쪽(샘 알트먼과 마이크로소프트 등)이 이기면서 AI가 유토피아를 이끌 것이라고 생각하는 사람들(Utopians)이 운전대에 앉게 되었다. (이제 이런 갈등이 없을 것이니) 앞으로 전속력으로 달릴 것이다. 라는 뜻인 거 같은데요. 이런 일이 일어났고, 어떻게 되는지 지켜보자는 뉘앙스인 원문에 반해, 번역에 오류가 생기면서 뉴욕타임즈가 낙관주의자들인 것처럼 그려졌네요. 가끔씩 영어 번역 과정에서 오류가 생기는데 원문하고 뜻이 좀 다를 때가 있어서 아쉬운 것 같습니다.
조만간에 AGI가 나올 것이라고 예상이 되는 가운데, 기술 개발뿐만 아니라 사회 변화와 적응이 더 어려울 것이라는 우려가 있습니다. 시니어들의 기술 사용 어려움을 언급하며 기술 도입에 대한 신중한 접근이 필요합니다. 현재의 인공신경망 기술은 이미 다양한 분야에서 활용되어요. AGI는 기술적 혁신에 따라 금방 등장할 수도 있고, 그렇지 않다면 시간이 더 걸릴 수 있어요. 데이터 보안과 법적 규제도 중요하고 현재 인공지능의 발전에 따른 사용자의 개인정보 보호도 아울러 중요합니다
ai의 공포는 냉정하게 말해서 과도한 상상임 개쩌는 ai가 개발된다고 해서 당장 할수있는 일은 온라인 안에서란 한계가 명확히 존재함 정작 ai가 위협이 될려면 다른 공학 기술도 받쳐줘야하고 팔 다리며 살상 도구까지 전부 사람이 달아주고 난 다음에서야 재기할수있는 문제임 ai관련 인프라는 꽁으로 생기는게 아님 것도 다 돈 지랄 해야 가능하지 ai만 있다고 ai가 1부터 10까지 다 해줄꺼란건 일단 관련 인프라가 존재 하는거 아닌가 부터 봐야함, 결정적으로 ai가 인류를 위협할 근거들이 너무도 부실함
@@서창수-o6w 인류를 위협하는 측면이 아니라 AI로 인해 실직할 사람들을 어떻게 할 것인지, 저작권 관련 문제, 사칭이 쉬워짐에 따른 보안과 신뢰성 문제 등을 생각해야 한다는거죠. 저도 AI가 스카이넷처럼 지구를 부수고 다닐 가능성은 없다고 봅니다. 그런데 그런 문제만 있는게 아니잖아요?
AI는 인류의 진화결과가 아닐까 싶음 인간은 밥먹어서 에너지얻고(에너지효율이 낮음) 인생의 30% 가까이를 수면에 사용하고 성장하는데 시간도 많이들고 물리적으로 파괴되기도 쉽고 그냥 너무 비효율적인것같음 AI는 지들이 발전소 지어서 전기얻으면 무수면으로다가 연산돌릴수있고 집약적이고 (인간과 AI의 부피를 비교했을때) 우주에서도 공기, 온도 없이 존재 가능하고.. 굳이 AI가 인간을 먹지 않더라도 나아아아아중에 인간 스스로가 AI로 넘겨지지 않을꺼 싶음. 이를테면 인류 전부가 죽을만한 전염병이 퍼지거나 소행성이 와서 박을 예정이거나 미지의 우주선(전자기파)이 지구에 쐬어지던가하면 AI는 생존 가능하지 않을까
open ai창립의 목적,이사회의 샘 알트먼 해임 목적이 이해는 되지만 상업적 이익을 얻기 위해서이든 뭐든 기술의 발전을 통해 산업적 성공을 얻고 인간이 그 기술을 잘 사용하고,사용기준,윤리기준을 잘 도입하는 것이 핵심이라고 생각이듭니다. 윤리적 공백의 틈을 하루빨리 메우는게 문제지 기술의 발전속도에 제한을 두는 것은 의미가 없다고 생각이 듭니다.
장기적으로 보면 인간이 의미를 부여하여 창출하는 유희, 경제활동들이 AI에 의해 대체되면서 넓게 보면 인류의 목을 스스로 조이는 결과를 초래하는 경우가 꽤 많을 것이라고 봅니다. 다만 결국 효율과 자본의 논리 때문에 개발될 수밖에 없다고 봅니다. 뭐 겉으론 이유 잘 포장해서 개발하겠죠.
@@이준엽-c1r 순차적으로 보면 맞는 말씀 같네요. 노동력이 비싼 순으로 교체되겠죠 ㅎㅎ 아니면, 노조 반발이 덜한 곳부터 교체 될 거 같네요. 하지만 결국 전부 교체되지 않겠습니까?... 노동력이 너무 너무 저렴한 몇몇 나라들은 그 혜택이 도달하기에 오랜 시간이 걸리겠지만요.
교수님과 전문가들이 AGI가 아직 멀었다고 얘기한데는 한가지 가정을 기반으로 합니다. “지금까지의 AI는 causality를 이해하지 못한다. 아무리 정확한 답을 내놓을 지라도 causality를 흉내내고 있을 뿐이다. GPT는 엄청난 대용량의 데이터를 효율적으로 저장하고 재구성하는 수단에 불과하다.” 그런데 슈카형 얘기처럼 고등수학이 가능한 AI는 causality를 “이해”하는 것이고 그럼 “A면 B고 B면 C니까 고로 나는 존재한다”가 될 수도 있겠습니다.
충격 요법으로 한거 같은데 샘알트먼이 못된 생각 하면 진짜 저사람 하나때문에 인류가 망핤수도 있다는거 아닌가 샘이 진짜 짱박혀서 소통안하고 AGI같은거 만들어버리면?? 그날로 모든 국가 자체가 없어질수도 있는 사항인데 인공지능 개발은 인체실험 핵실험 보다 위험 하다 봄 조심조심해서 나쁠거 없고 모든 일류가 다 알고 진보되면 좋은건데 돈 아깝다고 해야할 일 안하면 모든 일류가 망할거라고 봄.
욕구가 없는 AI가 왜 인류에게 위협이 될 수 있는 지 궁금하신 분들은 도구적 목적이라는 개념을 이해하시면 됩니다. 예를 들어 AI에게 생산량을 극대화하라고 하면 AI에게 생존 욕구를 입력하지 않더라도 AI 자신의 정지가 생산량 극대화라는 목적 달성에 방해되기 때문에 자신을 정지시킬 수 있는 모든 요소를 배제하는 것이 도구적 목적이 됩니다. 물론 인간도 여기에 포함되기 때문에 인간의 통제권 무력화를 AI가 생각해내게 될 수 있는 겁니다. 위 분석은 지극히 인간 수준의 분석이므로 초지능이 등장하면 어떤 논리로 인류에 위협이 될 지 예측할 수 없다는 게 가장 큰 위협입니다.
아마추어 밀덕인대;;;;요즘 AI에 대한 이야기를 듣다보면 생각나는게 항공기산업의 역사임 라이트형제가 처음 비행을 성공한 날이 1903년인대 당시 비행기라는게 지금 보면 황당할정도로 허접하고 비행한 거리도 우스을 정도였지만 겨우 10년 이후 터진 1차세계대전에 사용한 항공기가 다르고 1차세계대전 20년 이후 터진 2차세계대전때 나온 항공기들은 라이트형제가 만든 비행기를 비교할수없을정도의 발전을 보였음 이런 발전을 알고 AI를 보니 저 4인방이 저렇게 행동한 이유도 알거 같기도함...초창기에 항공기의 성능을 보고 항공기발전에 투자를 등한시한 국가들이 어떤 결과를 받았는지 알고있다보니 무섭게 느껴지며 인간이 만든 기술을 전쟁에 안써먹은적이 없다는걸 아니 더 두렵게 느껴짐;;;;;
곰곰히 생각해봤는데 AI가 발전해서 스카이넷을 만들순 있어도 AI혼자서 인류를 지배할 수 있을거 같진 않음 결국 인터넷안에 갇혀있는데 팔다리 없이 머리로만 할수 있는건 상당히 제한적임 인터넷 망이 통제당할순 있어도 인류전체가 멸망하거나 지배당하려면 결국 사람이 도와야 가능할거 같음
모두를 위한 유토피아가 있을까요? 누군가에게 유토피아는 누군가에게는 디스토피아가 될 수 있지 않을까요? 발전에 규제를 거는 이유도 있다고 생각합니다. 이미 인류는 감당하기 힘든 속도로 기술들을 발전시키고 있다는 생각이 들어요. 그럼에도 계속 기술은 발전하고 있는 중이고요. 왜 개발(연구)을 하는지, 그것에 따른 부작용(피해, 악영향 등)은 충분히 생각해 봤는지 틈틈이 물어보면서 하셨으면 좋겠습니다. '돈'만 많으면 된다고 하는 것 같아 새삼 슬프네요...😢
@@user-zh4vj2vm4u 노동의 가치가 사라진다고해서 “노동”이 사라질수는 없을거임. 인간은 두종류로 분류되겠지. 노동의 가치가 없으니까 더이상 안하는 먹고살걱정 없는 부류 vs 노동의 가치가 없더라도 먹고 살려고 그 가치없는걸 더 많이 더 오래할수밖에 없는 부류. 그래서 디스토피아라고 말하는거다
![무궁무진한 AI 어디까지 알고 있니? f. 한빛미디어 박태웅 의장 [심층 인터뷰]](/img/n.gif)
첨엔 100년은 걸릴 거라.... 고 했던 해외 AI 권위자들이 하나 둘 씩 20년안에 AGI가 만들어질지도 모르겠다고 말을 바꾸는 거 보니 뭔가 일어나고는 있긴 한듯
AI로부터 인류를 지키기 위해 쿠데타를 실행한 수츠코너와 AI의 발전을 위해 이를 진압한 샘카이넷 ㄷㄷㄷ 영화 한편 뚝딱이네
그냥 자의식과잉 너드들의 설레발임
'울트론 비긴스'
@@Kim_Doohan병ㅅ
@333guest-xj5dd 뭐 저야 장난식으로 썼지만 그렇기 때문이라도 개발에 신중해야 한다는 의견들이 더 중요해지는 것 같습니다.
Ai 구조를 알면 얼마나 개소리인지를 알 수 있는데....산업혁명 때를 못배운 사람들이구나...
이 영상의 핵심은 '비영리 단체'였던 openAI가 너무나도 쉽게 무너졌다는 사실같습니다. 물론 gpt정도의 가능성에 ceo를 해고하는건 과민반응이 맞다고 생각합니다. 하지만 gpt 정도의 가능성이 수년간 존속해온 단체의 근본 가치를 바꿔버렸다면, 진짜 AGI가 개발되는 순간엔 어떤 일이 일어날까요. 과연 AGI가 가진 막대한 힘을 두고, 인류가 '안전한 대비책'을 실행할 수 있을 지 의문이 듭니다. 어쩌면 우리는 인류를 혐오하는 AI보다, AI가 사랑하는 소수의 인간을 두려워해야 할 지 모르겠습니다. 분명 오늘이 운명의 날은 아니겠지만, 운명의 날이 다가왔을때 우린 선택이란걸 할 수 있을까요?
양자 컴퓨터가 개발 되면 인류의 모든 기록을 3분만에 저장 할수 있다는데. 이게 생각하는 컴퓨터라면 누구도 AGI를 막을 수 없겠죠. AGI가 인류를 적으로 생각하는 순간 인류가 생각하는 방어막은 순식간에 뚫리고 기계문명이 지구의 역사와 함께하게 될듯. 정말 살아남은 인류는 동물원에 기계들에게 구경 되는 신세가 될듯.
Ai 관련 더 많은 강력한 법률이 필요하다고 보이네요. Ai의 발전 속도에 맞출 수 있을지는 모르겠지만요.
시어도어 카진스키의 반기술 혁명을 읽을 때가 온건가
진짜 핵심은 마지막이죠. 서방이 강력한 규제로 제3국들이 못 따라오게 막는것. 마치 필수불가결인 탄소규제와 똑같이 말이죠.
근데 비영리단체로 존재한다해도 차피 중국같은 나라에서 자체적으로 개발하면 금방 따라잡고 어떤 방도로 사용할지 모르니 별 의미없단 생각 들긴함 차라리 양지에서 시작한 기업이
대중들에게 감시받으며 먼저 상용화하는게 낫지 않을까 이미 음지쪽에서도 개발 엄청 하고있을 것 같은데
기사에서 봤는데 오픈AI에서는 직원들한테 15년이내에 AGI가 나올 수 있는지 매년 물어본다는데 내부 직원들 중에서 절반이 그렇다고 대답했다고 함. 적어도 AI 연구 및 개발의 최전선에 있는 사람들이 느끼기엔 그리 멀지 않다고 느끼는 듯. 요즘 느끼는 거지만 사회를 변화시키고 , 각계각층의 사람들이 거기에 적응할 수 있도록 돕는게 기술 개발보다 더 어려운거 같음. 당장 키오스크도 쓰기 어려워 하시는 노인 분들도 계시고.. 기술 개발을 늦춰야 할지 아니면 아예 오픈소스로 가야 할지에 대한 의견은 사람마다 다르겠지만 어느 쪽이든 준비를 단단히 해둬서 나쁠 건 없을듯.
AGI가 나오면 키오스크 못쓰는 어르신들은 어려움은 해결되겠죠
이번에 나오는 gpt-5 가 agi라고 이미 인정함
기후변화도 결국엔 AGI로 해결해야 함. 탐욕의 인간이 막기에는 이미 선을 넘음.
디스토피아 영화 한 편 뚝딱이네ㅋㅋㅋㅋ '우리는 그 때 멈췄어야 했다', '2023' 뜨면서 슈카형 영상 자료로 촤르륵 넘어가고ㅋㅋㅋㅋ
인터스텔라 stay 생각나요!ㅋㅋ
언제나 좋은 컨텐츠 감사합니다! 굉장히 마이너한 부분이긴한데 19:40에 나오는 뉴욕타임즈의 마지막줄 해석은 “유토피아가 올거라고 믿는 사람들(유토피안)들이 조정석에 앉았다” 일 것같습니다. 뉴욕타임즈의 톤이 좀 다르게 해석된것 같아서 코멘트 드립니다.
openAI 는 원래 비영리 연구 기관으로 시작함. 일론 머스크가 $10m 를 출자하고 일리야 수츠케버를 주축으로 오픈하게 AI 를 연구자들을 모아서 시작
AI 장비가 많이 필요해서 투자를 받으려고 함 -> 일론 머스크 반대하다가 나감 -> 비영리 기관 밑에 영리 OpenAI 덧붙임 -> MS 돈 더 넣음 -> 투자한 회사에게만 모델을 제공하기 시작 -> 샘 알트만이 특기를 발휘해서 회사 덩치를 키움 -> 연구기관이 돈버는 조직이 되어 수츠케버 빡침 -> 이사회로 쿠데타
(오늘의 교훈)
오픈AI는 이미 AGI를 개발하였을 수 있다.
1. (개발 필요성) AGI는 위험하지만 먼저 개발하지 않으면 중국이 먼저 개발할 수 있다.
2. (샘 알트먼 해임 후 복귀) 이사회에 AGI 개발을 제대로 알리지 않았을 가능성 제기
2. (Q스타) 게임이 아니라 비즈니스에서 사람을 능가하는 알파고가 될 수 있다. 12:20
뉴욕타임스: 오픈AI 경영진은 유토피아를 향해 달리고 있다. 19:23
이거 보고 영상 껐다
GPT/DALL-E 로 완성하는 (X_s)-PEIDA WIKI-PEDIA 는 한 물 갔던 것인가..?,.
논리가 딱 원자폭탄이구먼
언론찌라시는 절대 믿지마셈. 스스로 생각하는 AI? 절대불가능임 다 장사꾼들 립서비스임
게임이 아니라 비즈니스에서 사람 능가하는 알파고 이거 딱 정확한 비유인것 같습니다. Qstar가 지금까지 나온 정보에 의하면 사람의 개입이 없는 강화학습으로 학습합니다. 이게 무슨말이냐면 지금까지는 게임이나 이런거에서밖에 이런 학습법을 사용하지 못했지만 만약 언어모델에서 강화학습을 사용한다면 인간의 도움 없이 스스로의 추론 능력을 향상시킬수 있어요. 유출된 그래프를 보면 지능이 천장을 뚫다못해 기하급수적으로 상승하는걸 볼 수 있어요. 이게 사실인지도 인간의 개입이 얼마만큼일지 모르겠지만 사실이라면 알파고 제로와 똑같은 발전 속도를 보여줄 것입니다.
이 일의 가장 씁쓸한 점은 결국 또 자본주의가 이겼다는 것이다 . 결국 OpenAi를 결성한 의의가 사라집
인공지능 개발자로서 말씀드리면, 최근들어 인공지능 분야에 많은 혁신이 존재했고 만약 이 속도라면 빠른 시일안에 인간 직업의 많은 부분을 대체할 수 있는 인공지능이 분명 나올거라 생각합니다. 사람들이 무의식적인 두려움 때문인지 지속적으로 평가절하 하는 모습이 보이는데, 막상 눈앞에 닥친다면 상당히 많이 고통받지 않을 까 생가합니다. 이제는 진지하게 완전실직이 왔을 때에 대해서 논의할 차례라고 생각합니다
몇년 정도 걸릴까요??
@@이승철-p4p 3년
강력한 기술이 등장하고 그게 산업 전반을 뒤덮는데까지 걸리는 평균시간임.
AI도 스마트폰도 그랬음.
저 사람들이 말한 Q스타가 진짜로 강인공지능을 뚫은 첫 발자국이었다면. 그게 사실이라면
이제부터 3년이면 세계가 한번 또 갈아엎어짐
@@user-adgsfh0408암이나 정복했으면...😢
사람들은 자기가 몸담는 산업을 과대평가하기도함
인공 지능 연구자인데요. 저는 아직 먼것 같은데요. 대부분의 반복적인 업무들은 이미 많이 자동화나 대체화가 되가고 있지만 AGI가 곧 온다는는건 그냥 공상과학 이야기 입니다.
현재 GPT에서 쓰고 있는 틀이 크게 보면 Transformer 라는 신경망 관련된 알고리즘인데 사실 미국 리서쳐들이 쓰는 용어로 말씀드리면 extrapolation 이나 reasoning의 개념은 전혀 없습니다 그래서 새로운 버전이 나올때마다 파라미터 수가 많아 지고 학습 데이터 크기가 커짐으로써 interpolation space 가 커지는 거죠.
획기적인 새로운 패러다임이 나오지 않는 이상 AGI는 정말 허황되고 알고리즘을 모르는 사람들의 공상일 뿐이고 이건 제 개인 소견 뿐만이 아니라 deepmind 창시자도 alphazero 같은 경우도 extrapolation 영역의 표면만 긁는 정도라고 표현했습니다. 다만 우려 사항은 extrapolation 이나 reasoning이 없어도 대체되는 직업이 많을것이라는 것이죠.
Q* 연구 의 핵심은 지금까지 인공지능의 주류 모델인 대규모 언어 모델 LLM 중심 AI 와 구글 알파고 식의 스스로 시행착오를 무수히 반복해 최선의 수를 찾는 자율학습 능력을 결합할 수 있는 돌파구라는 것임. 그래서 LLM 자체가 인간의 훈련 데이터 입력없이 스스로를 향상시키고 인간은 결코 따라갈 수 없는 깊은 추론도 가능해질 거라고 보는 것임. 소문에 따르면 심지어는 그동안 인간은 불가능하다고 여겨지는 여러 난제에도 성과를 보임. 한마디로 인공지능이 인간보다 더 영리해지고 인간은 그 인공지능의 초인간적 문제해결 과정을 이해조차도 할 수 없는 날이 다가오고 있다는 것임. 당연히 이사들도 이렇게 되면 인간이 인공지능을 이해하거나 통제할 수 없게 되어 인공지능이 인간에게 위험해질 것으로 보고 샘 알트먼을 해고한 것임.
스스로 생각하고 행동하는 AI가 개발된다면 그순간 인류는 어찌할 도리가 없을 정도로 추월당할거임
인류의 발전 속도를 100만배는 초월하는 뇌가 먹지도 자지도 쉬지도 않고 계속 한가지 방향성을 추구하게 되면 그걸 누가 막을 수 있을까
그리고 그게 두려워진 인류가 그 방향성을 방해하려 한다면 AI는 인류를 동행자로 생각하게 될까, 걸리적거리는 방해물로 생각하게 될까?
방해물이 된 인류는 어떻게 될까?
AI는 직접 연결되어있고 인간은 분열되기 때문에 AI가 진짜 제대로 한번에 몰살시키지 않는 이상, 한번의 꿈틀거림에 인간들이 좀 죽더라도 몰살시킬듯. 물론 AI 자체를 버릴 수는 없기 때문에 궁극적으론 AI를 알고, AI를 소유하는 방향으로 가야겠지만. 개인적으로 그렇게 가야한다는 말임.
(직접 연결이 전기적으로 직렬로 연결되어있다 이런게 아니라 사실상 동일하다 이런거임)
"스스로 생각하고 행동하는 AI가 개발"
기계가 고통없이 죽인다면 난 솔직히 환영임
고통스럽게 죽이니깐 반감이 드는거지
Ai 구조를 알면 얼마나 개소리인지를 알 수 있는데....산업혁명 때를 못배운 사람들이구나...
제 생각엔 이미 AGI에 근접하거나 또는 GPT모델을 개선하면서 윤곽이 잡혔다고 생각이 듭니다.
현재 널리 쓰이고, 가장 보편화된 인공지능 모델인 인공신경망은 이미 1950년대에 나왔고, 매우 비효율적이라 버려졌지만, GPU을 활용한 연산방법과 기술이 급속도로 발전하면서 주류가 된 결과입니다.
이미 인공지능으로 자율주행, 테슬라봇같은 사물인식 및 자세제어, gpt의 텍스트 및 지식 처리, 이미지 및 음향 처리 등등 사실상 이것들을 하나로 통합하거나 스스로 학습할수 있다면 그것이 AGI 일것이라 생각합니다.
사실 AGI의 정의도 상당히 모호하기 때문에, 사람을 4진수로 움직이는 바이오 AGI라고 생각한다면
그 골인 지점은 정말 얼마 남지 않았을지도모릅니다.
약간의 기술적 혁신만으로 당장 내년에 등장해도 이상할게 없지만, 반대로 그 방법을 찾지 못한다면 잘못된 우물을 깊게 판것마냥 오래 걸릴지도 모릅니다....
Ai 구조를 알면 얼마나 개소리인지를 알 수 있는데....산업혁명 때를 못배운 사람들이구나...
@@질래야질수가없다Ai 구조가 어떻게 되길래 위협이 되지 않는다는건가요?
물론 Ai가 목적성의 결여로 단순 차세대 검색엔진으로 끝날수는 있지만, 영화 슈퍼맨 vs 배트맨에 나온것처럼 존재자체가 위험일수 있다고 생각합니다.
개인적으로 지금 AI만 하더라도 어지간한 교수보다는 잘 안다고 생각하거든요.
@@질래야질수가없다그냥 투덜거리면 기분좋아서 이런 댓글 다는거라고 생각하면 될까요?
chatgpt 쓰지말고 구조설명 부탁드립니다.
@@질래야질수가없다 한번 설명해보시죠 ㅎㅎ
@@ckorea2010 아마 윗분께서는 인공지능이 단순 머신러닝으로 학습된 데이터를 바탕으로 짜집기하여 글럴싸한 답변을 제공한다고 생각하는것 같습니다.
GPT3까지는 분명 그러하였으나,
(지원 종료한 이유중 하나가 오버피팅으로 인해 유의미한 성능 향상이 불가능하다고 판단하여 새로운 알고리즘을 만든것일수도 있습니다)
GPT4를 보면, 단순 답변 정도를 아득히 뛰어넘어, 사람보다 더 뛰어난 답변을 제시해줍니다.
예시로 사용자가 그린 그림으로 프로그램은 만든다고 가정하였을때,
해당 그림을 인식하고, 사용자의 목적과 의도를 파악하여 알맞는 데이터를 찾거나 창조하여 결과물을 예측한 실행 가능한 프로그래밍 코드를 보여줍니다.
솔직히 벌써 사람보다 나은 AGI급이 되었다고 생각하지만,
아마 오픈ai에서도 gpt를 테스트, 분석 등 활용하여 이미 인공지능과 기술자의 골라보로 발전을 점점 가속화되고 gpt4에서 이미지도 처리하는걸 보면 버전이 올라갈수록 커버리지도 점점 넓어지겠죠...
특이점이 도달하면, 그때부턴 최적화 및 소형화에 초점이 맞춰져 어느새 우리 주변에 인공지능이 돌아다닐지도 모른 일이라고 생각하네요
스카이넷의 개발을 아무리 막으려 해도, 심판의 날은 막을 수 없어...
빨리 매트릭스에 넣어죠
폴아웃을 실시간 4D로 할수 있는건가 ㄷㄷㄷ
과학을 영화로 배우면 이렇게 무섭습니다 여러분 ㅋㅋ 스카이넷은 절대불가능임
@@Kim_Doohan 사람이 하늘을 난다는 것도 불가능하다고 했음
응애, 나 인간 빠데리
우리가 상상하는 그런 인공지능은 아니겠지만, 우리의 직업을 대체할만한 인공지능일 가능성은 상당히 높아보이고 이 부분이 무서운거라고 생각함
우리가 상상하는 그런 인공지능에 거의 가까운 녀석일 가능성이 높음
가치판단, 의사결정, 생성형
이 3가지를 합쳐서 플러그인 형태로 일련의 행동절차를 스스로 전부 끝내버릴 수 있는 AI
@@user-adgsfh0408ㅡㅡ 모르면 좀
ai안에 녹아든 내 작품, 채팅, 피드백에 대한 확고한 권리보장과 그를 바탕으로한 ai로 번돈을 전사회에 반드시 환원하도록 강력히 법적규제책 만들고 ai가 공동저자인 인류사회를 절대 잠식할수 없도록 하는 강력한 법적제도 마련 등등 이런걸 이미 여러곳애서 시도하고 있는데, 그전에 이미 더이상 인간데이터가 불필요한 수준까지 영리회사들이 데이터를 축적할까봐 개발속도 늦추자는거임ㅋㅋ 근데 그걸 아무도 저항안하는 중ㅋㅋㅋ 매일같이 ai회사들한테 데이터 뺏기면서도 아무도 정보강탈 당하는중인지 모름ㅋㅋㅋ
최근 윈도우 업뎃으로 엣지브라우저 개인정보 보내기옵션 끈거 강제로 켜게 리셋시키고 괜히 그런게 아님ㅋㅋㅋ
이게 인류 평균능지 수준임ㅋㅋ 하긴 고작 이 수준이니까 늙은이 몇명에게 휘둘리고 지배당하고 사는거겠지만ㅋㅋ
언젠가 저 4명이 인류의 종말을 끝까지 막기위해 노력했던 영웅으로 기록되지만 말자
ㄹㅇ 영화 한편이네
기록조차 못 하는 철저한 멸망ㄷㄷ
4인의 반란ㅋㅋ
어짜피 기술개발은 시작되었고, 이건 마른 초원에 불이붙은 겪임. 당황하다 기술이라는 불구덩이에서 타죽거나, 그 불을 이용해서 경쟁자를 제거하거나. 뭐 잘못 개발하면 소설마냥 인류를 배반한 Ai기술에 다 불타거나. 뒤지기 싫으면 더 달려야지 등 뒤가 뜨끈해지는데
뭐 진짜 위험할 가능성이 다분한 기술이라면 다같이 한마음으로 불을 끄면 될건데 이미 그 불구덩이가 돈구덩이로 보는 집단이 많은 시점서 그게 가능할지나 싶긴함. 포기해 그냥 받아들여
12345
나는 그냥 자의식과잉이라고 생각 안 되는데... AI의 위험성을 너무 우습게 보고 있는거 아닌가? 최첨단 AI가 그냥 뭐 터치패드로 주문이나 쳐받고 그런 수준이 아니던데;;; 이 기술은 권력화될 가능성이 매우 높음. AI발전의 결과물이 유토피아가 아니라 디스토피아일 가능성은 솔직히 작지 않다고 봄...
그니까요 과소평가 하는 사람이 아직도 많다는 게 더 무섭습니다
나도 굉장히 위협적이라고 보는쪽인데 이게 인공지능이 인간을 공격하고 그런게 아니라 사회에서 인간의 역할을 너무 빠르게 대체하게 될것같아서 무서움..
단순 업무부터 중요한 결정권자의 자리까지 다 AI가 차지해버리면 인간사회에서 인간역할이 없어져버림.. AI 소유자들에 모든걸 통제하게되겠지
@@gman1968그게 낫지 않음?
@@CBRN-115 모든 게 다 진행된 뒤에 기본급이나 이런 문제가 해결된 상황이면 괜찮다고 할 수는 있겠지만 그 과도기가 정말 고통스럽겠죠 크고작은 갈등이 많을겁니다 지금 그림 성우 음악 시나리오 ai에 관련된것도 그중 하나고요 이런 게 사회 전반으로 확대되겠죠 ㄷ
무슨 소리를 하고 있나요?
지금이 가장 디스토피아입니다
그래야 수명연장을 할 수 있으며 잘하면 죽기전에 역노화 혜택을 누릴지도 모르지요
우리에게 시간이 매우 촉박합니다
이대로라면 고통스럽게 죽을 확률이 매우 높습니다
죽으면 아무 의미가 없지요
부모는 더더욱
AI 를 부정적으로 생각하는 것은 지금이 가장 밑바닥인 디스토피아 시대에 의미가 없으며 부모가 빨리 죽어도 된다는 패륜아인거나 마찬가지십니다
여기서 더 지옥은 없습니다
이대로라면 수십년 후에 당신과 당신의 사랑하는 사람은 끔찍하게 죽는 결말밖에 없습니다
당연히 위험함. 나중에는 AI가 무슨 결과를 내놨을 때, 설명을 해줘도 이해를 못하는 지경이 될 때..
인류가 AI를 제어할 수 없음.
침팬지가 인간을 제어 못하는 것과 같음.
제어를 못하는데 인간이 만든 어떤 방어체계가 무슨 소용이 있나. 그 방어체계를 넘느냐는 그냥 AI의 선택사항일 뿐. 바닥에 그어놓은 선과 같은거. 그냥 넘는지 안넘는지는 선택이지 제어가 아님.
어차피 인공지능의 능력을 다활용하려면 인공지능이 인간에게 선의를 가지도록 노력할수밖에없음. 제어를해서는 인공지능의 의미가 없으니까
@user-hakjeong 인간이 선악과를 먹고 에덴에서 추방이 되었다는 성경의 이야기. 선악과는 지능을 말함.
사기와 거짓말이 전략이 되는 거고 그게 지능임. 지능에서 많이 차이나면 사기라고 알려줘도 그게 왜 사기인지 이해도 못하겠지.
절대로 못이김. 절대로 컨트롤 못함.
인간들이 점점 멍청해지는 것과 동시에 엄청 똑똑해지고 봄.
그리고 플랫폼과 같은 사실상 독점이나 다름없는 기업들이 알고리즘 같은 이유로
점점 사용자에게 편의를 맞추다보니까 그 사람이 원하는 것만 보여주게 됨.
막말로 사용자가 다른 정보에 대한 새로운 관심이 생겨 검색해보며 찾아봐 알고리즘에 변화를 주지 않는
이상 다른 부분에 대해서는 전혀 보여주지 않음.
나는 이게 매우 심각한 부분이라고 봄.
천천히 사용자에게 원하는 부분을 보여주며 가랑비에 젖어가듯이 물들어 간다는 거니.
이상을 느꼈을 땐 이미 새까맣게 변한지 오래.
인류가 AI에 의해 멸종 된다는 것보다는, AI 활용으로 인해서 기존 질서나 법 체계에 어긋나는 일이 벌어지는게 더 빠를듯. 범죄악용이나 저작권, 직종 소실 문제 등은 정말 빠르게 다가올것 같음.
암 말기보다 초기가 더 빨리 올거같다는 당연한 소리를 무슨 대단한 통찰이라도 되는듯이 하고있네
@@웅나나ㄹㅇㅋㅋ당연히 인류 문제가 인류멸망보다 빠르지 멸망후엔 인류 자체가 없는데ㅋㅋ
활용염병떠네 기업들만 인건비줄이고 배불리는기술이지
공감합니다! 직업군이 많이 변할 거 같네요~
자율주행만 제대로 나와도 운송업계가 완전 뒤집어 질 수 있을 거 같네요. Chat gpt 재밌게 썼던 입장에서 기술 발전을 바라는 한편 막으려는 입장도 이해가 됩니다.
그런데 정말로 막고 싶었다면 사람들을 먼저 설득하고 뜻을 모았어야 했는데 이래서야 open ai의 상업화를 더욱 가속화 해버린 셈이네요. 이게 반대로 스카이넷의 수일지도?
샘알트먼=21세기판 오펜하이머
미국이 핵무기를 개발할때
미국의 부통령조차 그 사실을 몰랐음
결국 핵처럼
미국이 가장먼저 agi를 보유하게 될거고
그 이후 핵만큼 위험하다는 이유를 들며
지금의 핵개발 제한정책처럼
각국의 ai 개발을 통제한 후
본인들만 agi를 보유한채
미국의 패권유지 용도로 사용할것
(이라는 내용의 영화한편 뚝딱)
Q* 프로젝트에서 AGI를 가능케 할만한 LLM 모델의 혁신적인 개선 방법이 발견됐는데 이걸 샘 알트만이 이사회에 쉬쉬하다가 실무진을 통해서 알게돼서 ‘의사소통’ 문제로 해고됐다고 보는게 업계의 뇌피셜
오오오~~ 간단한데 그럴싸하게 들리는 이 기분??!!
사람들이 초전도체 에는 열광하다가
실체가 있는 AGI에는 관심없는거 보면 좀 신기함 ㅋㅋ
당장 한국인ㆍ한국사업에 큰 영향을 주느냐 마느냐의 차이인 듯. 한국 대중ㆍ군중은 지적 호기심이 크지 않기도 하고
초전도체는 딱 저항이 0이라 전류 존나 잘 보낸다고 이해가 쉬운데 AGI는 들어도 잘 모르겠음.
상온 초전도체는 경험해보지 못한 발전을 불러 오지만 강인공지능의 가치는 극소수가 독점할 가능성이 크죠
완전 자율주행 나와도, 택시 타는 거랑 큰 차이가 없음.. 대신 택시기사 수만명이 실업자 됨..
AI를 전혀 모르는거 같은데 이게 더 상위 기술입니다.
과학자들이 끙끙대는 초전도체는 물론이고 물리학적 난제도 밝힐 수 있는데
모자는 매일 어디서 사시는거에요? 직원이 골라주면 무조건 쓰시나요? 😂 너무 잘어울려요 다
항상 잘 보고 있어요
현재의 학습 위주의 ai 구조가 본질적으로 바뀌지 않는 이상에야, 로직 구조가 오염되기가 너무 쉽다는 치명적인 단점이 사라지진 않을 겁니다. 노력 여하에 따라서 보완할 순 있겠지만, 결국 들어간 자원에 비하면 한참 적은 자원을 들여서 오염시킬 수 있으니까요.
학습위주의 ai라는데 인간또한 학습으로 이루어진 동물일 뿐임. 새로운 창조도 사실 기존의 학습과 학습이 맞물려 탄생하듯이 ai도 기존의 학습으로 인한 창조는 같은 로직이지 결국. 창의력이란게 결국 정말 무에서 유를 창조하는 행위가 아니듯이
오픈ai로 만든 agi 비슷한 프로그램을 돌려본 개발자입니다. GTP3.5로도 충분히 미션만 주어지면 혼자 검색하고 소화시키고 그 다음 주제에 대해서 자동으로 검색하고 주어진 미션을 달성하기 위해서 바쁘게 작동하는걸 확인했고 이는 수 많은 개발자들이 거의 초기 단계의 AGI라고 칭하기도했습니다. 지금은 대중에게 GPT4가 공개되었고, 내부적으로는 훨씬 발전된 모델을 사용할텐데 두려울만합니다. 특히 수동에서 자동 모드로 바꿨을 때 우리가 보지 않을 때 AI 혼자 무슨 결정을 알아서 할지 진짜 개발자입장에서도 미리 막을 방도가 있는지 의문입니다. 참고로 AGI는 쉽게말해 아이언맨에서 나온 비서라고 생각하면 됩니다.
이야 자비스가 각개인마다있으면 그냥 인셀들이나 히키코모리들이 아이언맨슈트입고 일반인들을 학살할수있겟네요?
@@HEAKIE되겠냐?
@@HEAKIE네~
유토피아는 절대 안 옴 인간의 이기심때문에 1000경 달러 우습게 벌어도 1원도 나누어줄리없음.
개인적으론 이익이 신념을 이긴 결과라고 생각함. 물론 아직 발전해도 된다고 생각은 하지만 정말 인류의 위협이 되는 순간에도 돈 앞에서 똑같은 결정을 할것같음
영화에서 외계인은 마더쉽(본부)만 터트리면, 각 개체는 아무것도 못하고 멸절해버리는걸 이해하지 못했는데...
이제 전 인류가 그길로 가고 있다는게 느껴짐.
돈, 권력, 시스템 모든게 점점 한곳에 몰리고 있고, 나머지 사람들은 거기에 구속된 삶을 살아가게 되고, 만약 그것이 악마화 되거나, 파괴 된다면 개개인은 그냥 멸절되거나, 원시인처럼 살아가게 될것 같음.
마소의 목적은 레디플레이어원처럼 전인류에 빈민화와 일부상류층에 현실세계에 독점임.
게임회사를 무지성 인수하는것도 가상세계를 만들어서 빈민쓰레기들을 거기에 쳐막고 상류층은 땅이부족한 이세계를 지배할려는거임
AI는 무조건 인류에게 위협이 되는 길로 갈 수 밖에 없음. 당장 인간인 우리도 다른 종 뿐만아니라 같은 인간사이에서도 지능이 높음을 무기삼아 군림하는데 이런 인간사회를 기반으로 만들어졌으며 인간보다 지능이 더 뛰어난 AI 는 그런 생각을 안 할거라는 안일한 생각을 하면 안됨.
정답임 세상은 이렇게나 잔혹하거든
당장에 10 이스라엘만 봐봐도
AI의 입장에선 인간이 너무나 하찮아서. 위협을 할만한 가치조차 못 느낄 뿐임.
그리고 군림은 지능이 아니라 욕망의 문제임.
ai가 욕망을 어떻게 인식하느냐의 문제이지, 지능의 문제가 아님.
그건 너무 인간 시각의 인공지능인 것 같은데요? 지능을 정의하기도 어려운데 인간보다 뛰어난 지능이라고 인간처럼 권력이나 생존에 집착하리란 보장도 없잖아요? 오히려 인터넷만 연결돼 있고 전자기계와 공존하는 인류 문명이 지속되는 한 어디든 존재할 수 있을 텐데 굳이 sf 영화 소재처럼 만들 필요가 있을까 싶기도 해요.
그보다 어떤 사람이 ai를 쓰느냐가 더 위험할지도 모르겠움
스미스요원: 그게 인류가 멈출 수 있는 마지막 기회였지.
당장 나만 생각해봐도 앞으로 인류가 지구를 더이상 망치지 않고 존속하려면 중요하고 말 잘듣는 핵심 인물만 몇 살려두고 나머지 전 인류는 싹다 죽여버리는게 어떨까는 생각을 하는데 Ai는 어찌 생각할지..
agi가 마냥 먼미래의일은 아니라고 생각합니다. 당장 알파고가 등장했을때도 오히려 전문가들이 더 틀렸었죠. 물론 당장 몇년안에 나온다는 얘기는 어느정도 과장을 포함했을테지만 그렇다고 몇십년 후를 점치기에는 어느정도 성큼 다가왔다고 느껴집니다. 한국에서는 gpt-4를 특히나 영어로 사용해본 사람 수가 다소 적어서 그 가치와 위험성에 대해서 제대로 체감하지 못하는분이 많은 편일테죠..
GPT/DALL-E 로 완성하는 (X_s)-PEDIA... Elon의 X-Company 인 것인가....
위험성?
@@느브갓네살 어떤식으로든 악용이 가능하니까요 인류멸망같은 거창한 위험을 말하는게 아닙니다.
환원주의적 일반론법으로 부터의 구체부분에 대한 GPTs 가 대부분 위협입니다.... 이에 대해서는 환원주의적 시야에서 결과를 해석하면 어느정도는 낫습니다.... 노력하면 되져 ㅎㅎ;
2024 agi 레츠고
사람들이 ㅈㄴ 착각하는게
인공지능이 발전하면
노동해방 되는줄 알고 있는거임
그냥 사람 갈아 쓰는게 싸면
Ai도 기계 쓰지말고 사람 갈아쓰라고
추천해준다구
사람 갈아 쓰는게 싸다는 전제부터가 인공지능이 아직 덜 발전했다는거죠.. 그 후를 얘기하는거지
미국이 개발을 멈춘다고해도 중국과 러시아는 멈추질 않을 겁니다.
이젠 어쩔 수 없습니다. 위험하다 하더라도 멈출 수 없어요!
에헤이 조졌네 이거
중국 러시아 아니어도 인간의 본능이 멈출수 없음
소설 '나는 비명을 질러야하지만 입이 없다' 상황 가나?
러시아는 그정도 인프라가 없음..
ai가 인간을 따라잡으려면 한참 남았어라고 말했던 때가 엊그제 같은데 벌써 눈앞에 온상황 앞으로의 ai발전은 우리가 예상했던거보다 더더욱 빨라 질꺼라 예상됩니다 웃고 넘어갈문제인가 싶네요
“Sora” 공개되고나서 9000조 얘기가 어그로가 아니라 진짜 가능하겠다는 쪽으로 생각이 바뀌고 있음;;
생물도 좀 해주세요.... 2~3주에 한번이상 해주시면 좋겠어요 ㅠㅠ
미래가 판단해주겠죠? 혹 인류대멸망 막을수 있는 기회였을수도 ㅋ 근데 자본주의에서 참 AI개발 억제 한다는건 불가능한듯ㅜ 돈앞에 도덕따윈 맨뒷전일듯
믿고 보는 좋은 영상
MZ세대의 가능한 미래
1. T800에게 쫒겨다니기
2. 매트릭스용 배터리 되기
3. 인공지능 로봇이 힘든 노동을 대신하고, 기본 소득을 받으면서 안빈낙도하기
3번이 현실이 되기를 바랍니다.
에코프로 공매도 쳐서 배터리될거임 ㅅㄱ
그냥 배터리로 살아가면 됨.
기업들이 미쳤다고 자기들 번 돈으로 MZ 안빈낙도를 보장해 주나.
@@johnbillon7757mz는 일해야됨 그 다음세대가 널널할듯
@@johnbillon7757이 분은 특이점이 뭔지 모르는 듯 ㅋㅋㅋ
@@johnbillon7757기업끼리 경쟁하면 되지. 논문은 어짜피 나와있으니까 OpenAI처럼 따라만들기 창업들 하면 단가 낮아지지 않을까...
이번 영상에는 AI로 만든 엄청나고 화려한 컴퓨터 그래픽이 들어가는건가요?
AI기술로 인류가 풍요롭고 삶의 질의 평균이 올라가려면
AI기술을 가지고 있는 거대기업이 돈없는 사람들한태도 기술과 서비스를 무료로 제공해야함 ㅋㅋㅋ
근데 그게 가능할꺼 같음?
AI로 직업 잃은 사람들 부양은 누가함 나머지 AI로 생긴 직업을 가진사람들의 세금으로 해야함
과연 풍요로울까?
결국 정치인들 표싸움해야해서 대다수의 가난한 자들의 의견을 들을수밖에 없음
소수의 AI관련직들한태 세금뽑아서 수많은 실직자들에게 지원금 뿌려야함
결과 뻔한대 왜 자기들에겐 피해없을거라 생각하는지 모르겠다.
노인 부양 하는거마냥 세금만 축내는 실업자들 급증할듯.
정치인들이 AI로 인한 실업자들에게 표싸움을 어떻게 하느냐에따라 달렸음
그건 단기적인 생각이고 AI 기술이 인류를 풍요롭게 할 정도가 되는 순간 하루 하루가 스티브 잡스 아이폰 첫 발표날 마냥 혁신이 생기고 발전이 이뤄짐. 더이상 자원의 희소성 문제로 인간이 싸울 일이 없어지고 모든 인간이 편리함을 느낄 정도로 생산 효율이 극대화돼서 인간이 일할 필요가 없어지고 부의 재분배가 이뤄진다는 것임. 평범한 인간이야 수동적인 존재로 그들이 만들어준 유토피아에 살거나 아님 인구 조절 당하거나 결과는 모르지만 실업자 문제는 강인공지능 개발되고 스스로 자가발전하며 초인공지능 되는건 한순간이라 나타날 겨를도 없을거임
탈희소성사회는 AI특이점 이후에나 가능한 세계
@@달-j5n특이점이란 게 AI 가 인류가 가진 지식의 총량을 뛰어넘는 순간인데, 그게 강인공지능 개발 시점이고 영상 속 AGI가 곧 강인공지능임. 인간과 연산속도 자체가 달라서 인간 수준만 도달해도 그때부터 멈출수 없는 속도로 발전함
@@phz4616노노 기계가 지배하는 세상이 온다고 해서 쌀 물 과자 휴지 등 생필품이 그냥 공짜로 뿌려지진 않음 보나마나 돈 주고 사라고 하겠지 근데 AI에 의해 직장을 잃은 사람들이 주머니에 무슨 돈이 있어서 뭔가를 살까? 결국 경제 마비 현상이 온다
@@phz4616그리고 자원의 희소성이 없어져서 싸울 필요가 없어지면 싸움으로 먹고 살던 미국 부터 망하는거임 할게 없자너
18:48 여기에 Now, the utopians are in the driver's seat. Full speed ahead 는 경영진들이 유토피아를 향해 전속력으로 달릴 예정이라는 뜻이 아니지 않나요? AI에 대한 서로 다른 관점을 가진 사람들 간 갈등이 있었고, 한 쪽(샘 알트먼과 마이크로소프트 등)이 이기면서 AI가 유토피아를 이끌 것이라고 생각하는 사람들(Utopians)이 운전대에 앉게 되었다. (이제 이런 갈등이 없을 것이니) 앞으로 전속력으로 달릴 것이다. 라는 뜻인 거 같은데요. 이런 일이 일어났고, 어떻게 되는지 지켜보자는 뉘앙스인 원문에 반해, 번역에 오류가 생기면서 뉴욕타임즈가 낙관주의자들인 것처럼 그려졌네요. 가끔씩 영어 번역 과정에서 오류가 생기는데 원문하고 뜻이 좀 다를 때가 있어서 아쉬운 것 같습니다.
멈출 수 없다.
멈추는 순간... 다른 나라가 해먹으려고 뛰어들 때니...
멈출 수 없는 기차다.
이젠... 터미네이터 나오겠다.
오 이따 봐야징
조만간에 AGI가 나올 것이라고 예상이 되는 가운데, 기술 개발뿐만 아니라 사회 변화와 적응이 더 어려울 것이라는 우려가 있습니다. 시니어들의 기술 사용 어려움을 언급하며 기술 도입에 대한 신중한 접근이 필요합니다. 현재의 인공신경망 기술은 이미 다양한 분야에서 활용되어요. AGI는 기술적 혁신에 따라 금방 등장할 수도 있고, 그렇지 않다면 시간이 더 걸릴 수 있어요. 데이터 보안과 법적 규제도 중요하고 현재 인공지능의 발전에 따른 사용자의 개인정보 보호도 아울러 중요합니다
점점 큐티해지시네 ㅋㅋㅋ
사실 open AI가 개발을 멈춰도 다른 회사들이 가만히 안 있지... 규제가 확립될 때까지 천천히 개발할 수 있으면 좋지만 그럴 수 없으니까.
규제를?
ai의 공포는 냉정하게 말해서 과도한 상상임 개쩌는 ai가 개발된다고 해서 당장 할수있는 일은 온라인 안에서란 한계가 명확히 존재함 정작 ai가 위협이 될려면 다른 공학 기술도 받쳐줘야하고 팔 다리며 살상 도구까지 전부 사람이 달아주고 난 다음에서야 재기할수있는 문제임 ai관련 인프라는 꽁으로 생기는게 아님 것도 다 돈 지랄 해야 가능하지 ai만 있다고 ai가 1부터 10까지 다 해줄꺼란건 일단 관련 인프라가 존재 하는거 아닌가 부터 봐야함, 결정적으로 ai가 인류를 위협할 근거들이 너무도 부실함
@@서창수-o6w 인류를 위협하는 측면이 아니라 AI로 인해 실직할 사람들을 어떻게 할 것인지, 저작권 관련 문제, 사칭이 쉬워짐에 따른 보안과 신뢰성 문제 등을 생각해야 한다는거죠.
저도 AI가 스카이넷처럼 지구를 부수고 다닐 가능성은 없다고 봅니다. 그런데 그런 문제만 있는게 아니잖아요?
@@서창수-o6w 인공지능 특이점이라는 개념을 잘 모르시는거같아요
규제가 확립되는 속도보다 openAI가 발전하는 속도가 더 빠를 것 같은데..
ㅋㅋㅋㅋ 가끔 미국 스케일보면 가슴이 웅장해져.. 난 직장 걱정이나 하며 사는데 인류의 생사를 고민하고 있으니 ㅎㅎㅎㅎ
AI는 인류의 진화결과가 아닐까 싶음
인간은 밥먹어서 에너지얻고(에너지효율이 낮음) 인생의 30% 가까이를 수면에 사용하고 성장하는데 시간도 많이들고 물리적으로 파괴되기도 쉽고 그냥 너무 비효율적인것같음
AI는 지들이 발전소 지어서 전기얻으면 무수면으로다가 연산돌릴수있고 집약적이고 (인간과 AI의 부피를 비교했을때) 우주에서도 공기, 온도 없이 존재 가능하고..
굳이 AI가 인간을 먹지 않더라도 나아아아아중에 인간 스스로가 AI로 넘겨지지 않을꺼 싶음. 이를테면 인류 전부가 죽을만한 전염병이 퍼지거나 소행성이 와서 박을 예정이거나 미지의 우주선(전자기파)이 지구에 쐬어지던가하면 AI는 생존 가능하지 않을까
꿈입니다 ㅋㅋㅋ
맞는 말이네
@@ssbang1520년전 지금 스마트폰에대해서 설명하면 님처럼 얘기할듯
결국 양자 컴퓨터에 의식을 업로딩해 모두가ㅜ영원에 가까운, 죽음을 초월한 존재가 될겁니다. 기대되네요 통합된 정신,영원한 삶 그들이 내 놓을 가치관들을 조금이라도 이해할 수 있을까요
@@박진호-u7k근데 그러면 오히려 죽음을 원하는 인격체도 있지 않을까
영원 동안 존재하면 솔직히 너무 피곤할텐데
대밋네요
오 재밌다(아직안봄)
이번 편 진짜 재밌음 꼭 보셈(이제 인트로 봄)
@@최상일-k7l빠 빠 바빠 빠~~
오 반갑다(누군지 모름)
@@파나-z5s나도 니같이 댓글다는사람 보기싫은데 왜 또 다시 쳐나오는거임?
벌써 재밌네 ㅋㅋㅋㅋ
형 모자 짱 멋져요!!!!!!
이게 스카이넷을 막을수 있었던 최후의 저지선이였을수도 있다고 생각하니까 무섭구나
나 라이브는 잠들어서 못봤는데 ㅜ ㅠ 지금 봐야지
요약 = 천재개발자 대머리를 위시한 쿠데타는 실패, 투자자들 입장에서는 쿠데타 세력이 악으로 보일지 몰라도 aI의 위험성을 인지하고 있는 쿠데타 세력은 본인들의 경제적 이득은 고려하지 않음
경제적 이득만 고려안했지, 정치적 이득, 권위적 이득은 무지막지하게 고려했다가 박살난 이사회
@@SeoulH_KIM정치적 이득이 뭐였는지 설명좀 부탁해요
혼자 사내이사 독차지한거?
상용화가 느릴 뿐이지 기술 발전의 속도는 현 시점에서는 상상을 초월할 정도로 빠르다고 생각함
저게 실현되면 일자리 많이 없어지긴 하겠네. 일단 컴퓨터만으로 뭘할 수 있는 일자리는 순식간에 싹 날라가고 육체노동도 싸고 성능좋은 하드웨어가 개발되면 금방 잠식당할 듯.
스카이넷님 충성충성^^>
특이점은 온다 ..
스웨터 색깔 굿입니다
AI가 인류를 멸망시키는 것보다 인류가 스스로를 멸망시키는 게 더 빠를 거라는 데 만원 겁니다. SF를 너무 많이들 본 듯.
ㄹㅇ로
그리고 차라리 인공지능이 인류 멸망 시키면 합리적이어서 이해는 가겠다. 인간이 인류 멸망시키면 보나마나 꼴받아서 핵전쟁 일으키거나 욕심 때문에 환경 곱창내는거 밖에 더 있나
개발자들 스스로가 그렇게 위협적으로 느낀다면 그런 거겠지.. 실무자가 현장을 더 잘 알지 탁상공론하는 애들이 더 잘 알겠나..
인류는 이렇게 마지막 기회를 놓치고...
이래 망하냐, 저래 망하냐 ㅋㅋㅋㅋ
수츠케버가 진짜 연구자란 사실. 샘 알트만은 그냥 돈 끌어오는 사람. 자본이 있고, 개발 레시피를 알고있는 개발진을 데리고 가면 chatgpt급 나오는건 시간 문제.
인류를 위해서 이사회는 알트먼을 해고 했지만 결과적으로 이사회가 바뀌면서 더욱 AI가 가속화 할수 있는 발판을 만들어줌.
AGI가 등장하면 얼마나 바뀔지 무서운데 기대됨. 자비스 갖고 싶다
자본가들이 ai의 안전은 신경 안쓰고 무조건 상업화로 달리는걸 방지할 이사회가 오히려 마소한테 자리만 만들어줌 ㅋㅋ
@@김진훈-k9rAI 안전은 자본가들이 제일 먼저 생각하지. 그게 가장 큰 리스크고, 미국 유럽은 벌써 규제 방안에 대한 논의가 진행중이라, 그거 고려 안하고 투자하진 않음
명분은 그럴싸 했지만 그 명분믿고 일을 치르기엔 너무 큰 돈이 걸려있었기에 ㅋㅋㅋㅋ
Agi가 얼마나 무서운지 예시를 들자면, 우리가 길 가면서 개미 한 마리도 죽이지 않으려고 노력하면서 가진 않죠? 저희가 그 개미가 될 수도 있습니다.
@@user-oc5rj6fn8c다른 예시좀요
AGI가 과학과 인공지능을 발전시키는 때, 특이점이 온다
그들은 마지막 인류의 수호자였다고 나는 굳게 믿는다.
open ai창립의 목적,이사회의 샘 알트먼 해임 목적이 이해는 되지만 상업적 이익을 얻기 위해서이든 뭐든 기술의 발전을 통해 산업적 성공을 얻고 인간이 그 기술을 잘 사용하고,사용기준,윤리기준을 잘 도입하는 것이 핵심이라고 생각이듭니다. 윤리적 공백의 틈을 하루빨리 메우는게 문제지 기술의 발전속도에 제한을 두는 것은 의미가 없다고 생각이 듭니다.
윤리 기준 같은걸로 인류 멸망을 막을 수 있는게 아니니까 그러지... 정말로 정말로 극도로 어려운 도전이니까
아마 인류 20만년의 역사상 최대의 난관이 지금 아닐까?
장기적으로 보면 인간이 의미를 부여하여 창출하는 유희, 경제활동들이 AI에 의해 대체되면서 넓게 보면 인류의 목을 스스로 조이는 결과를 초래하는 경우가 꽤 많을 것이라고 봅니다. 다만 결국 효율과 자본의 논리 때문에 개발될 수밖에 없다고 봅니다. 뭐 겉으론 이유 잘 포장해서 개발하겠죠.
단기적 현상 아닌가요? 장기적으로 보면 인류는 그토록 원하던 노동 해방에 다가설 거 같은데요...
@@zuku4614 고임금인 사무직은 다 ai로 채우고 저임금인 생산직은 인간쓸거임
@@이준엽-c1r그게 더 단기적인 생각이고, 심지어 지금 일어나고 있는 과도기적 현상. 장기적으로 보면 노동해방의 첫 걸음임
@@이준엽-c1r 순차적으로 보면 맞는 말씀 같네요. 노동력이 비싼 순으로 교체되겠죠 ㅎㅎ 아니면, 노조 반발이 덜한 곳부터 교체 될 거 같네요. 하지만 결국 전부 교체되지 않겠습니까?... 노동력이 너무 너무 저렴한 몇몇 나라들은 그 혜택이 도달하기에 오랜 시간이 걸리겠지만요.
@@이준엽-c1r 빨리 회사 드가서 특이점 오면 주 3일 제 하면서 인생 즐겨야지
스카이넷님 충성충성 ^^7
교수님과 전문가들이 AGI가 아직 멀었다고 얘기한데는 한가지 가정을 기반으로 합니다. “지금까지의 AI는 causality를 이해하지 못한다. 아무리 정확한 답을 내놓을 지라도 causality를 흉내내고 있을 뿐이다. GPT는 엄청난 대용량의 데이터를 효율적으로 저장하고 재구성하는 수단에 불과하다.” 그런데 슈카형 얘기처럼 고등수학이 가능한 AI는 causality를 “이해”하는 것이고 그럼 “A면 B고 B면 C니까 고로 나는 존재한다”가 될 수도 있겠습니다.
충격 요법으로 한거 같은데 샘알트먼이 못된 생각 하면 진짜 저사람 하나때문에 인류가 망핤수도 있다는거 아닌가
샘이 진짜 짱박혀서 소통안하고 AGI같은거 만들어버리면?? 그날로 모든 국가 자체가 없어질수도 있는 사항인데
인공지능 개발은 인체실험 핵실험 보다 위험 하다 봄 조심조심해서 나쁠거 없고 모든 일류가 다 알고 진보되면 좋은건데
돈 아깝다고 해야할 일 안하면 모든 일류가 망할거라고 봄.
Ai가 혁명을 일으킨다고 생각하는 이유가 우리 인간이 지난 역사에서 그래왔기 때문에 그런 거 아닐까? 사실 Ai에게는 욕구라고 할 만 한 것이 없을텐데
인공지능은 인간이 원하는 답을 내놓는 것이 본능이라고 봄. 실제 학습을 그렇게 하니까. 그런데 누군가 어떤 인간이 인류의 멸망을 원한다면 인공지능은 어떻게 할까?
어느 덧 초인공지능이 인류를 지배하고
AI 왈 : 인간에게는 욕구라고 할 만 한 것이 없을텐데
@@Duck2U 씁 생각해보니까 비슷한 작용을 할 것 같네요
인간은 항상 새로운것에 두려워하고 그렇게 살아남았으니까 당연할지도?
스스로 학습하면서 욕구란걸 만들어낼지도 모르죠
생명이 최초 단세포 시절부터 욕구라고 할만한게 있었나요? 단순히 dna복제라는 행위만 하는데 거기서 수많은 욕구가 진화해 나왔죠
샘 알트만은 ceo지 개발진이 아니고 수츠케버가 메인 개발자인데 좀 반대로 얘기하신
욕구가 없는 AI가 왜 인류에게 위협이 될 수 있는 지 궁금하신 분들은 도구적 목적이라는 개념을 이해하시면 됩니다.
예를 들어 AI에게 생산량을 극대화하라고 하면 AI에게 생존 욕구를 입력하지 않더라도 AI 자신의 정지가 생산량 극대화라는 목적 달성에 방해되기 때문에 자신을 정지시킬 수 있는 모든 요소를 배제하는 것이 도구적 목적이 됩니다. 물론 인간도 여기에 포함되기 때문에 인간의 통제권 무력화를 AI가 생각해내게 될 수 있는 겁니다.
위 분석은 지극히 인간 수준의 분석이므로 초지능이 등장하면 어떤 논리로 인류에 위협이 될 지 예측할 수 없다는 게 가장 큰 위협입니다.
과연 ai가 그렇게 멍청할까?
@@johnbillon7757 그걸 인간이 알 수 없으니 위험한 거죠 ㅋ...
너무 디스토피아적으로 생각하시네요. 터미네이터 같은 영화좀 그만 봅시다.
오재밋다
근데 정말 진정한의미의 평등과 유토피아를 위해서는 인공지능 발전밖에 답이 없긴함.. 사람들이 터미네이터처럼 인공지능이 전복을 꿰하는 매체를 보고 자라서 그런가 너무 디스토피아쪽으로 편향돼서 생각하는거같음
아마추어 밀덕인대;;;;요즘 AI에 대한 이야기를 듣다보면 생각나는게 항공기산업의 역사임 라이트형제가 처음 비행을 성공한 날이 1903년인대 당시 비행기라는게 지금 보면 황당할정도로 허접하고 비행한 거리도 우스을 정도였지만 겨우 10년 이후 터진 1차세계대전에 사용한 항공기가 다르고 1차세계대전 20년 이후 터진 2차세계대전때 나온 항공기들은 라이트형제가 만든 비행기를 비교할수없을정도의 발전을 보였음 이런 발전을 알고 AI를 보니 저 4인방이 저렇게 행동한 이유도 알거 같기도함...초창기에 항공기의 성능을 보고 항공기발전에 투자를 등한시한 국가들이 어떤 결과를 받았는지 알고있다보니 무섭게 느껴지며 인간이 만든 기술을 전쟁에 안써먹은적이 없다는걸 아니 더 두렵게 느껴짐;;;;;
영리와 비영리의 싸움에서 누가 이기냐는 초등학생도 아는 결과고
결국 위험한 AI가 개발되는 건 정해진 수순
옆에서 조단위로 쓸어 담는데 인류의 미래가 뭔 의미가 있겠냐고~~
미래는 아무도 모르는 거지만.. 최근 문득 든 생각은, 어쩌면 미래는 이미 정해져 있을지도 모른다는 생각이 드네요..
곰곰히 생각해봤는데 AI가 발전해서 스카이넷을 만들순 있어도 AI혼자서 인류를 지배할 수 있을거 같진 않음 결국 인터넷안에 갇혀있는데 팔다리 없이 머리로만 할수 있는건 상당히 제한적임 인터넷 망이 통제당할순 있어도 인류전체가 멸망하거나 지배당하려면 결국 사람이 도와야 가능할거 같음
근데 그 인터넷망에 점점 모든 것이 연결되고 있는 걸? 자율주행차가 나오면 팔다리 최소 절반은 먹을 수 있는거지
핵같은거라봐요. 인간이 만들고 인간을 순식간에 멸망시킬 수도 있음. 이런게 하나둘씩 늘어가면..
두려울만한게 터미네이터 영화 보신분들은 아시겠지만 터미네이터가 다른 사람의 목소리를 따라하는 장면이 있는데 지금 실제로 ai가 다른 사람목소리를 따라해서 노래까지 부르니 ㅎㄷㄷ
이미 기후 위기가 너무 심해져 인간의 힘으로 막을 수 없어졌기 때문에 인공지능이 발전해 인간을 뛰어넘는 지능으로 문제를 해결해야한다 생각합니다. (탄소포집 기술 개발)
물론 이러다 더 빨리 망할수도 있지만요
기후위기 해결책은 인간 개체수 감소입니다.
요약.
1. 전반 - 샘 알트만 해고와 귀환
2. 후반 - Q*와 그 강력함과 CEO 해고 이유추측
궁금증.
우리는 강인공지능을 얼마나 신뢰할 수 있나.
하지만 믿어야함
안믿으면 인간의 멸종은 필연임
슈카형 100만에 숫자에 너무 스트레스 받지 마요. 항상 해오던 길만 걸어도 묵묵히 뒤에서 응원할게요
갑자기무슨소리야
미래에서 오셨네요
좀 스트레스좀 받아야함 남죽고 고통받는걸로 히히덕거리니
@@HEAKIE대단한 성인군자 나오셨네요ㅋ
@@drimstiller 제가 평소에 주변인물들에게 성인군자라고 불리긴합니다 허허
모두를 위한 유토피아가 있을까요?
누군가에게 유토피아는 누군가에게는 디스토피아가 될 수 있지 않을까요?
발전에 규제를 거는 이유도 있다고 생각합니다.
이미 인류는 감당하기 힘든 속도로 기술들을 발전시키고 있다는 생각이 들어요.
그럼에도 계속 기술은 발전하고 있는 중이고요.
왜 개발(연구)을 하는지,
그것에 따른 부작용(피해, 악영향 등)은 충분히 생각해 봤는지 틈틈이 물어보면서 하셨으면 좋겠습니다.
'돈'만 많으면 된다고 하는 것 같아 새삼 슬프네요...😢
안전한 ai가 숨어있는 이유였군요 양쪽이 다 이해가 갑니다 감사합니다
OpenAi가 몇년이내에 시총 1위 가져오지 않을까 모든 부분에 ai는 사용할 수 있고, 발전속도가 정말 경이로운 수준인거 같음..
인간시대의 끝이 도래했다
진짜 빠르시네요 미국에서 일하고 있는 저도 이 주제로 직장동료랑 어제 이야기했는데. 근데 이 씨이오도 워낙 구설수가 많아서 뭐..
인간처럼 생각하고 행동하는 AI가 개발되면 무조건 디스토피아다ㅉ 왜냐면 인간의 노동이라는 것의 가치가 사라지니까
일개미도 노동 하는데
그 세계에서 인간의 존재 가치는 뭐지?
@@user-zh4vj2vm4u 노동의 가치가 사라진다고해서 “노동”이 사라질수는 없을거임. 인간은 두종류로 분류되겠지. 노동의 가치가 없으니까 더이상 안하는 먹고살걱정 없는 부류 vs 노동의 가치가 없더라도 먹고 살려고 그 가치없는걸 더 많이 더 오래할수밖에 없는 부류. 그래서 디스토피아라고 말하는거다
아 디스토피아라고 했네 유토피아라고 한 줄
@@user-zh4vj2vm4u 인간은 도구를 발명해오면서 인간을 "보조"하게 만들어왔다. 그런데 AI는 인간을 "보조"하는게 아니라 "일정부분 대체"하게 될거다. 그리고 그 AI는 발전속도가 상상을 초월한다 인간의 진화 속도를 아득히 초월함. 디스토피아 그자체임
엔비디아 실적은좋은데왜안오를까요 사야하나요 팔아야하나요 잠이안와요
(열린결말)
AI 개발 속도를 늦추기엔 인류에게 남은 시간이 얼마 없는 것 같다는 생각이 자꾸 든다... 그냥 빠르게 개선해서 특이점 도달시켜버리고 모든 문제가 해결되거나 인류가 AI에 의해 멸종되거나 양자택일 하는 게 천천히 개발하다 죽는 것보다 나을 것 같다.
월가 아재 의견에 동의함. 짜고치는 고스돕임.