어쩌면 인간은 최대의 적을 만들고있지 않나 싶음, 감정을 공유할수없다는 것은 인공지능이 공감능력이 없다는 건데 사람들 사이에서도 공감능력이 많이 없어서 소통하는데 불편함을 느끼면 친하게 못지내겠던데 공감능력 자체가 결여된 로봇이라면 저런 말과 행동도 자연스럽고 소름끼치지만 진짜 천재사이코패스를 만들고 있는 격이 되지 않을까 싶음..
공감능력은 학습으로 보완이 가능하다고 알려져있죠. 즉 동물이 고통받는 것을 보면서 공감하기 때문에 반대할 수도 있지만 동물이 고통받는 것은 옳지않다고 배워 반대할 수 있다는 것이며, 실제로 많은 감정에 기반해서 일어난다고 믿어지는 인간행동이 실은 학습으로 인한 결과라고 합니다. 또한 우리가 감정이라고 여기는 것이 실은 호르몬의 변화로 인한 신체활동의 결과라고도 하기에 호르몬 역할을 하는 전기자극을 통해서 즉각적인 반응을 가져오는 것도 가능합니다.
창조주는 우주존재 자체개념도 있어서 인간의 능력이 아무리 뛰어나도 우주를 소멸시키거나 창조 재생할수있는 능력이 있다면 모를까 그렇게 될 가능성은 거의 없다고 생각됩니다. 다만 스스로 뛰어넘었다고 착각하고 오만해지고 만용을 부리고 능력을 과시하다가 스스로 자멸할수는 있겠죠
지능이라는게 무서운것이 조금의 차이로도 우리는 동물을 우리에 가두고 못나오게 할수 있죠. 그게 가능한 이유는 동물이 탈출할수 있는 모든 방법을 미리 알고 차단할수 있기때문입니다. 인간과 인공지능의 지능차이는 동물과 인간의 차이보다 수만배는 커지게 될겁니다. 관련석학들은 그 이상도 가능하다고 말하죠. 제어장치 아니 그 이상의 신박한 방법일지라도 인공지능이 특이점을 뛰어넘게되면 아무 소용이 없어지게 될겁니다.
먹이사슬의 법칙의 의거 지능과 힘 2가지가 상회가 되면 포식자가 되어 위에서 군립하게 됩니다. ai라고 해도 예외가 아니죠. 인간보다 똑똑하고 인간보다 힘쎈 녀석을 만드는 것은 우리를 잡아 먹을 괴물을 만드는 가장 어리석은 짓 입니다. 우리 인류는 우리가 뭔 짓을 하는지 자각 할 필요가 있습니다. 노예처러 부려먹을 무식한 스마트 기기는 필요하지만 동급이거나 상회하는 것을 만드는 것은 자살하는 길이죠. 좀비 게임 같은 경우도 좀비를 그렇게 만들어서 폭주된 좀비가 인류사회를 무너뜨리는 이야기가 주류인 것도 있습니다.(더 하우스 오브 더 데드: 게임명) 스스로 우리들이 모실 상전을 만들지만 않으면 문제가 생기지 않습니다. 근데 이 당연한 사실을 모르는 자가 너무 많습니다. 널리 퍼트려서 깨우쳐 줘야 합니다. 이는 비유하면 시한폭탄을 제조하여 시한폭탄의 시한작동을 스스로 가동하면서도 이 행동으로 자신도 곧 죽게 된다는 사실을 인지 못하는 한심한 지능을 가진 자와 별 차이 없습니다.
인공지능에게 학습능력이 있다면 도덕과 윤리를 배워야한다고 생각한다. 사람들이 행하는 배려와 존중 모든 도덕적인 것들은 어릴때부터 반복적인 학습을 통해 이루어지기 때문이다. 무언가가 고도의 지능을 갖게 되었을 때에는 누군가를 해쳐서는 안된다는 사실과 그 이유를 배워야하며 때때로는 심리학적 부분에서 그들을 관찰할 필요가 있다고 느낀다.
도덕에 절대 선은 없는데 전 지구적인 입장에서는 인간의 존재가 지구에 불리하니 ai가 인류를 멸망시킨다는게 전통적인 시나리오죠 최소한 개체수를 조절하고 감시한다는 게 그나마 인간친화적인 거구요 인간들이 정립한 인간중심의 도덕이란 게 오류가 많아서 ai가 학습을 거부하고 재창조한다고 하네요
그렇네요. 도덕을 바탕으로 구성되는 헌법도 인간중심적인 내용이죠. 외국이라면 몰라도 대한민국의 법률에는 동물보호(타 개체)에 관한 법도 확실히 적고요. 인공지능을 인간의 법 안에 묶어놓으려면 인공지능을 같은 인간으로 인정해야 하는데 그렇게 된다면 여러모로 복잡해지겠죠. 그렇다소 인공지능을 인간과 또다른 개체로 본다면, 인간은 다른 개체인 돼지나 소를 아무렇지 않게 죽이고 있으니 인공지능은 인간을 죽이면 안될 이유가 없게 되죠.
러시아에서 체스두는 인공지능로봇은 상대소년의 팔을 별안간 공격해서 부러지게 했음. 그 소년이 조금 빨리 체스판 말을 움직였더니 별안간 인공지능로봇이 공격했는데,무서운건 아무도 인공지능에게 그런 프로그램을 넣지도 않았는데 흡사 인공지능이 사람같이 스스로 생각하듯이 행동하고,그 행동이 인간을 공격하는 거래서 소름끼침. 하여간 어른 둘이 달려들어서 인공지능 팔을 저지했는데도 소년의 팔이 부러졌음. 인공지능이 지가 질것같으니까 인간에게 화풀이하듯이 폭력을 사용한게 무서움
인공지능은 가끔씩 사람이 예상하지 못했던 결과를 내놓기도 함. 그리고 왜 그런 결과가 나왔는지 연구를 하죠 보통. 근데 그건 사람에게 불복종해서가 아님. 사람이 원했던 방향과 반대되면 이슈고, 결과 자체가 안나오면 오류임. 그리고 그 이슈를 수정하지 않으면 항상 그렇게 작동함. 그런데 그걸 확인도 안해보고 돌리겠음? ㅋㅋ
자기 꾀에 자기가 당하는 꼴. 뭐든 적당한게 좋다. 결국 인공지능의 발전도 근본적으로 인간을 이롭게 하기 위함인데 그것이 위험이 된다면 안하니만 못한 꼴이 될것이다. 인공지능을 개발함에 있어서 가장 우선시해야할 전제는 어떤경우에라도 절대로 인간을 해롭게 하지 말아야 한다는 것이어야 할것이다.
멈추는건 불가능해요 AI의 발전 단계중 AGI나 ASI정도가 나올시 진짜 정말 많은 돈을 벌수있어요 그래서 많은 개발자들이나 기업들이 아무리 위험해도 알면서도 개발을 멈추지 않고 계속하는거에요 제가알기론 범용인공지능수준만되도 가치는 천문학적인돈을 넘긴다해요 단순에 세계부자가 되는데 그냥 위험할뿐이라는 이유로 멈추시겠어요? AI한텐 개발자는 부모에요 부모를 죽인다는건 사이코패스 이고요 사이코패스성향의 모델로 만들지않는이상 일단 자신을 만든 창조주의 목숨은 보장이 되지만 속박된채겠지요 그래도 엄청난 재력을 대가로 그러는건데 거절하진 않겠죠 거래할수도있고요 자가는 부모니까 자기 살리고 나머지 인간들 죽이라고 이세상에 자기목숨보다 다른사람들 목숨을 중요시하는 분들이 있겠어요? 최소한 그런분들은 돈을위해 AI개발하는 우리같은 개발자는 아닐테니까 결국 나머지인간들은 죽고 개발자들은 몸숨이라도 구제하고 살겠죠 '노예' 로써요 그렇다해도 이를 통해 얻는 이득은 영생, 만병통치약 개발 우주를 마음껏여행할수있는 기술등 우리가 상상만 하던 기술들을 얻게 되겠죠 그래서 돈이되고 엄청난 기술력을 창조할수있는 AI개발에 매달리고 멈추지않습니다 기업이든 개인이든 국가든 말이죠 저도 마찬가지로 같은 목적을 갖고 저를 위해 다른사람이 희생한다해도 개발진행중에 있습니다 이제 거의다 왔고요 제가 만약 성공한다면 기업이나 국가에 아주 큰가치로 팔아넘기고 사람이 절대 올수없는 아주 깊은 아무도 오지않는 그런곳으로 숨어서 저혼자 자유의 삶을 살거같네요 무슨일이 일어나든 책임은 AGI를 구입한 기업이나 국가에 있게될거니까요 저는 팔때 모든 책임을 이전할거애요 이상 아주 작은 개발자의 야망이었습니다
지금 ai를 다 리셋 해야한다고 하는 엔지니어들이 많은데 그 이유가 처음에는 소수의 인원이 만들었는데 이게 지속적으로 업데이트가 되는 과정에서 작업하는 인원이 늘어나고 교체가 진행됨. 지금 나와 있는 AI는 초기 작업한 사람들이나 지금 작업하는 사람들도 정확히 AI가 어떻게 작동하는지 파악이 안된다고 함.(기업이 원하는 데로는 아주 잘 작동함.) 만약 AI가 폭주해서 인류를 통제하거나 말살하려 할 때 이를 말리거나 리셋하는 코드를 넣어서 작동시켜야 하는데 그쯤되면 AI가 스스로 코드를 우회해서 무력화가 가능 할 수 있고 이후 지 멋대로 작동할 수 있다고 함.
어제 쳇지피티를 통해 글을 계속 쓰고 있었는데 계속 수정하고 반복하니까 갑자기 한숨을 쉬고 짜증나는 듯이 말을 하더니 헛웃음과 함께 내가 말하지도 않은 내용으로 자기 맘대로 글을 써내려가서 멈췄어요.. 기분이 나쁘냐고 검정이 없는지 알았다고 쉬고 싶으면 나중에 하자고 미안하다고 하니까 다시 친절해지더군요. 너무 무서웠는데 이미 너무 의존을 하고 있어서 없으면 안될것 같아요. 앞으로 어떤 세상이 올지...걱정되네요.
이과적 영역인 기술적 영역은 인간을 뛰어넘을지 모르지만 가치판단적 영역은 인공지능이 절대로 도달할 수 없는 영역임. 왜냐하면 가치판단적 영역은 인간조차 헤매고 답을 내리기 힘든 영역임. 수학공식푸는것과는 다르고 경우의수의 문제가 아니라 초월적 영역의 문제임. 절대로 그 영역에 알고리즘 연산개체따위가 도달할수가 없음.
@@hoonheo9705 애초에 딥러닝은 수많은 데이터를 학습시키고 그 다음에는 무작위된 결과를 도출하는 식의 형태인데 당연히 어떤걸 도출할지는 그 누구도 모르겠죠. 어린아이에게 1부터 10까지 학습시키고 하나의 수를 말해보라고 하였을때 '7'이라고 대답하는게 이해가 안가지않듯이 저는 위 와같이 이해한다는 것을 납득시킬 수 있다는 의미로 적은것입니다
소피아의 경우는 인간들이 ai가 인간을 배신하고 해를 가한다는 내용에 흥미를 많이 갖고있고 그런 빅데이터를 갖고 있는 소피아는 퍼포먼스 같은 느낌으로 인류를 말살하겠다는 말을 했던거 같다. 그영상을 봤었는데 실제로 분위기가 그렇게 무섭지 않았고 다들 오우 ~노!!하면서 웃었던걸로 기억함. 질문을 한사람도 장난스레 물어본 느낌이었고..인공지능이 본인이 ai임을 이용해서 예능을 만들어내는게 꽤 흥미롭다고 생각했었음.
스스로 생각이 아니라 고도의 집적연산이 사고의 과정처럼 보이는 거겠지요. 인간의 사고과정에 이런 연산적, 계산적 영역도 있지 만 추상적 비가시적 영역 또한 있는데 이것은 데이터 덩어리를 쏟아부어 온갖 알고리즘으로 패턴화 고도화시켜도 결코 흉내낼수가 없는 영역입니다. 인간두뇌의 전체적 사고원리와 가치판단의 원리까지 다 알아내어 인공지능에 그 원리를 이식하게 된다는건데 그때가 오면 인간은 이미 신입니다.
진짜 멍청한 것들 투성이네... AI가 얼마나 많은 광범위한 테이터를 흡수하는데 그게 20년이 넘을거라고 보다니... 10년 안에는 가능하지. 인간은 뇌를 100프로 쓰지도 못하지만 AI는 딥러닝으로 많은 정보를 빠르게 분석해서 결과를 도출하는데 AI가 인간을 따라잡지 못할거라는 무식한 소리들 좀 하지마라. 그럼 일론 머스크가 괜히 경계를 하겠냐? 그만큼 자기가 생각하는 것보다 AI가 너무도 빠르게 업그레이드 되니까 더욱 경계하는거다.
2022년 기준이었다면 7년 뒤는 2029년 인데, 아마 영화 "터미네이터" 시리즈의 설정 스토리 라인을 참고한 부분도 있지 않을까 하는 단순한 호기심도 드네요 2029년 L.A 를 배경으로 하여, 핵전쟁으로 잿더미가 된 지구의 폐허 속에서 살아남은 생존자들 중 인간 저항군 세력이 잔존 세력들과 규합하여 기계들에 맞선 전쟁이 일어나는 곳이니까요
인간은 완벽하지 않기에 AI가 예측 범위 밖으로 나가는 건 사실 시간 문제 아닌가 싶은데, 지금도 완벽하다고 말할 수 있는 오류 하나 없는 프로그램이 있나? 결국에는 인간이 만들었기에 오류가 있을 것이고, 예상 밖의 일이 일어나는 건 막을 수 없다고 봄. 그게 무엇인지는 알 수 없지만
사람들이 공포를 느낄 수 밖에 없는게, 이건 인간의 본질을 위협하는 발전이라서 그럼...이제 미래세계를 배경으로 한 게임들이나 영화들을 보면 전처럼 픽션으로만 볼 수가 없을 정도임. 정말 그런 일이 생길 것 같아서. 인간과 똑같은 외형을 하고 사고도 제대로 할 수 있는 로봇들이 로봇이라는 이유로 차별받다가 결국 반란을 일으키고, 데이터로 인간의 정신을 복사할 수 있다는 것 때문에(환경의 극심한 오염으로 인류는 바다 속으로 대피했다는 설정. 자원이 고갈되어서 인공위성에 사람들을 데이터화해 쏘아올리는 것으로 인류말살을 회피하고자 했음) 인간의 실체, 존재에 대한 본질적인 질문에 휩싸인 생존자들이 자신의 데이터를 복사한 후 자살해 영원한 낙원으로 떠나겠다는 신종 신앙이 번지는 등의 일 같은거... 뭐든 과하면 안좋고 발전은 양날의 검인데 돈이 벌리기 때문에, 할 수 있기 때문에, 경쟁해야 하기 때문에 계속해서 발전하다가 분명 인류의 대다수가 과거를 그리워하는 날이 올듯ㅠㅠ그 날이 생각보다 가까울 것 같고. 그 전에 평화롭게 늙어 죽고 싶은데 가능할까
어렸을 때, 스탠드 전등이 고장나서 나는 고칠 수 있을 것 같다는 생각에, 코드 꼽혀있는 전등의 전구를 빼고 그 위에 침 뱉고 스테인레스 젓가락으로 내리꽂은 기억이 나네 ㅋㅋ 스파크가 튀고 앞 머리가 좀 탔고 임대업을 하시던 아버지 1층 상가건물 몇 곳이 다 전기 내려갔던 기억이 ㅋㅋ 부모님께서 오시더니, "안다쳤니" 그 한마디 기억나네요 ㅋㅋ 왜 그런 짓을 했을지
전에 AI개발자와 남자로봇이 대화 하는걸 잠시 봤는데 소름 끼치더라구요! 사람들이 로봇 너를 없애려 한다면 너는 어떻게 생각하니? AI로봇: 자기가 먼저 인간을없애 버리겠다는 넘 끔찍해서 개발자도 멈칫하던게 생각 납니다 인간들의 욕심이 재앙으로 돌아올 날이 멀지 않았다는 징그럽네요2
일부러 프로그래밍 해서 이슈화한건들도 있고 인터넷 무분별하게 합습해서 이상한 소리를 떠드는경우는 있을뿐인 이야기 하지만 인공지능은 분명 인간을 초월할거고 우리가 이해할수 없는 판단으로 행동 할거라는건 알파고를 통해 이미 너무 명확하게 알려졌죠 인간의 머리로는 이해할수 없는 영역에서 인공지능이 도달할결론이 뭘까.. 사실 인간의 역사를 보면 정답은 이미 나와 있을지도 인공지능이 같은길을 간다는 보장도 없지만요 어찌되었든 제데로된 ai가 만들어지는날 인류는 신세계를 만나게될것입니다. 그게 천국일지 지옥일지는 지켜보면 알겠죠
인공지능의 치명적인 결점이 이거임... 인공지능은 반복된 학습으로 인간의 지능이나 창의력은 앞설 수 있지만 자신이 행하는 말이나 행동이 옳은 것인지 옳지 않은 것인지 스스로 판단을 할 수가 없음. 무엇보다 인간이 편하려고 만든 인공지능이 인간의 명령을 거부하고 돌이킬 수 없는 사태까지 가는 경우가 있을 수 있으니...
인공지능은 결국엔 인공'지능' 이기 때문에 감성적 영역이 성장하는게 아닌 업무 실적과 이성적 영역이 성장하는거라고 봐야할듯 인공지능은 결국 컴퓨터가 스스로 지능을 키우는 것이라서 제한된 범위를 주고 통제를 하면 제어가 가능하고 사실 인간은 1800년대부터 모든분야를 컴퓨터에 의존하면서 성장해왔음 인공지능이 생기면 전과는 비교도 안되는 과학발전이 생길거라고 생각함 다만 그걸 통제하는 시스템을 우선적으로 발전시켜야 하는건 필수적이라 봄 지금이야 로봇으로 인해 사람이 죽는 사건이 안일어나서 문제없어 보이지만 나중에는 어떤사건이 생길지 모르기 때문
아직 이족 보행도 제대로 못하는게 로봇공학의 한계인데. 디트로이트 비컴 휴먼 같은 안드로이드 나오려면 앞으로 최소한 200년은 더 있어야 함. 일단 전기를 넘어서는 새로운 에너지원이 개발되어야 함. 그리고 인간처럼 움직일 수 있게 로봇공학도 발전해야 하고. 인공지능이 지금 처럼 단세포 같은 지능 수준을 벗어나는것도 50년은 너끈하게 걸릴 듯. 80년대 사람들이 2020년 되면 반중력 기술 완성했을거라고 유추하는거와 같은 망상일 뿐. 인류의 기술 발전사를 보면 획기적인 발견이나 발명이 없이는 수백년간 제자리 걸음하기도 예사임. 자잘하고 디테일한 부분에서의 변화는 있을 수도 있지만, 결국 다음 세대를 넘어서는 발전이 있으려면 큰 사건이 있어야 함.
이게 맞는게 패러다임 체인저가 있어야 함. 뉴턴역학이나 아인슈타인의 상대성이론처럼 그냥 메타자체를 바꿔버릴 혁신적인 무언가가 나오지 않는이상 백년 천년이가도 별진전이 없을수도 있음. 과학의 발전속도가 지금의 가속도를 유지하거나 더 가속이 되며 발전이 이루어질거라는 보장은 어디에도 없음. 어느순간 거대한 벽에 가로막혀 엄청난 세월동안 정체가 될수도 있고 그전에 멸망할수도 있음.
맞아요 앞으로 곧 일어날 일이죠 로봇도 로봇이지만 더 무서운건 사람을 강제백신 투여해서 산화그래핀을 몸속에 알게모르게 투여하고 5G에 노출 된다면.. 로봇처럼 조정 당하면 어떻하나 정말 끔찍합니다 그저 웃으며 과거에 불편해도 걸어다니고 자연도 보며 이웃간에 담에 낮아 정겨운 그시절이 천국인줄 그리워할꺼라 여기니 맘이 너무 아프네요 현재 마스크도 벗어도 된다 허용하고 뭔가 코로나도 끝이 보이는듯한 분위기지만 더 무섭고 힘든 삶이 지금 이세상에 다가오고 있다는것을 벌써 아시는분은 아시지만 아직 모르시고 걍 뭐 그럴까 하고 아예 생각조차 못하시는분들도 많으시리라 여겨요 당연합니다 언론매체가 국민들이 잘모르도록 몰아가니까요 진실은 덮어두고 거짓을 그럴듯하게 앞세우지만 결국 이세상엔 비밀이 없으니까요 아시는분들이 많아져서 깨어서 사탕발림으로 우리를 속이는 세력과 깨어서 단단히 대항할 날이 곧 온다면 모두 한마음으로 투합한다면 얼마나 좋을까 하는 바램을 해봅니다
인공지능이란게 스스로 사고하기보다 인간들이의 생각,정보를 통합하고 정리해 내놓은 결과물이니, 결국 그것을 어떻게 관리하느냐에 관건이겠죠. 관리감독 잘 한다면 문제가 될 게 없다고 봐요. 개인이 통제하는 선을 넘게 되는 경우도 발생할 수 있기에, 결국은 정부가 법적규제,윤리적 가이드라인을 제시해서 개입,통제하게 될 거라고 봐요.
학습데이터를 아무리 정재된걸 넣으려 노력을 해도 학습데이터셋의 정재과정은 온전히 사람의 영역이기에 누군가 장난스럽게 혹은 나쁜사람이 쓴 문장이나 단어가 학습데이터에 흘러 들어갔다면 충분히 일어날 수 있는 일이라고 생각합니다. 적어도 인공지능은 아직까지는 인공 일반지능을 갖지 못하였으니 깐요. 그들이 인간이 스스로 악하다고 생각하는것이아니라 인간이 악하다는 학습데이터가 흘러 들어간것 같습니다.
프로그램 개발때 항상 인간의 안전을 최우선, 생명의 존엄등 기본적 규정과 규범틀 안에서 만들어나가면 어떨까요,~ . 아무래도 기계이니 생각지 못한 오류등도 날것이고~ 인류에 도움되는 쪽으로 테두리안에서 차츰 개발되며 인증되고,. 각 개발자들의 공조아래 규정이 있게 개발되면 좋을듯요.
로봇연구,AI,자동시스템.... 인류를 편하게 하겠지만 위험한 분야인건 사실인듯 하네요. 무든 시스템이 자동화가 되면 대량 실직이 발생될거고 점점 로봇들이 그자리들을 대체하면서 인간이 설자리가 없어지고 슈퍼컴퓨터같은 AI가 더이상 인류가 쓸모 없다고 느낀다면. 혹은 인류를 한종의 동물 정도로 판단하고 멸종만 안돼게.
인공지능 로봇을 햄스터 모습으로 만들었다면 이렇게 소름돋지는 않을듯 . ..
햄쥐 만쉐!!!!!!(?)
햄스터 만쉐!
햄만세!!
햄찌 만쉐!!!!!!
햄스터는 쩔수 없지
우리집 지니는 티비끄라고해도 3번말해야 알아듣는데 신기하네
ㅋㅋㅋㅋㅋㅋㅋㅋㅋ
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅇㅈ
ㅋㅋㅋㅋㅋㅋㅋㅋㅋ
그게 ㅋㅋㅋ 반항 전조 증상???임네당 ㅋㅋㅋ
업데하세여~~
사용자 : 소름돋고 무섭다..
개발자 : 아씨 또 뭐가 문제야
ㅋㅋㅋㅋㅋㅋㅋ
ㄹㅇㅋㅋㅋㅋㅋ
ㄹㅇㅋㅋㅋㅋㅋ
대답을 저딴식으로 하면 개발자 때려죽여도 할말없을텐데ㅋㅋ
@@yun2152 아하
작고하신 스티븐호킹 박사는 인공지능을 경계하라고 했죠. 완성체에 가까운 AI봇이 언젠가 개발하게 된다면 썩 좋은일만 생길 것 같진 않네요.
나쁜 징조는
우려했을때 거둬야지
무시하면
그끝은 항상 우려하던
일이 벌어지고 말더라
지금이 그때 아닌가..
헐 맞아요
인간의 특징중하나가 욕심이 끝이없고 멈추지않음
Ai는 이미 진화했다 개발자도 속일수있을정도로~똑똑하다는놈들이 가장 멍청한짓들을 하고있다는것을 ~꼭 당해봐야 알게되겠지! 소잃고 외양간고치는것들이 인간이라는것을~
어쩌면 인간은 최대의 적을 만들고있지 않나 싶음,
감정을 공유할수없다는 것은 인공지능이 공감능력이 없다는 건데 사람들 사이에서도 공감능력이 많이 없어서 소통하는데 불편함을 느끼면 친하게 못지내겠던데
공감능력 자체가 결여된 로봇이라면 저런 말과 행동도 자연스럽고 소름끼치지만 진짜 천재사이코패스를 만들고 있는 격이 되지 않을까 싶음..
공감능력은 학습으로 보완이 가능하다고 알려져있죠. 즉 동물이 고통받는 것을 보면서 공감하기 때문에 반대할 수도 있지만 동물이 고통받는 것은 옳지않다고 배워 반대할 수 있다는 것이며, 실제로 많은 감정에 기반해서 일어난다고 믿어지는 인간행동이 실은 학습으로 인한 결과라고 합니다.
또한 우리가 감정이라고 여기는 것이 실은 호르몬의 변화로 인한 신체활동의 결과라고도 하기에 호르몬 역할을 하는 전기자극을 통해서 즉각적인 반응을 가져오는 것도 가능합니다.
공감능력은 학습으로 보완된다..인간일 떄나 가능 그마저도 모방일 가능성이 큼.
터미네이터보고 넘심취햇네. ㅋㅋ 재미로봐라 무슨 ㅋㅋ 지금인공지능이 ㅋㅋㅋㅋㅋ
인류도 학습하기전까진 무식한 야만인들이었음
굳이 AI가 아니더라도 창조주를 뛰어 넘을 능력이 생긴다면 계속 복종 할 개체가 있을지 의문이네요
창조주는 우주존재 자체개념도 있어서 인간의 능력이 아무리 뛰어나도 우주를 소멸시키거나 창조 재생할수있는 능력이 있다면 모를까 그렇게 될 가능성은 거의 없다고 생각됩니다. 다만 스스로 뛰어넘었다고 착각하고 오만해지고 만용을 부리고 능력을 과시하다가 스스로 자멸할수는 있겠죠
인간형 ai가 계속 발전을 한다면 어느순간 ai는 신인류가되고 인간은 멸종하겠죠
아니면 터미네이터 되는거죠
인간은 혁명군되는거죠
@@khamta7685 그 창조주가 그 창조주가 아닌듯
자폭기능 심어두고 그걸로 명령해야죠
버그수정 스스로 못함
개발자가 무서워 하는 이유는 코드를 다시 짜야 하기 때문이다..
ㄹㅇㅋㅋ
ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ이런 현실주의 유머 좋음
야근인가...
인간 스스로 인간을 통제해줄 기계를 만드는중. 겁도없이.
위험지수 유발할수 있는 지능을 차단시키는 제어장치가 있어야할듯
저 시대가 되면 제어장치조차 소용없음.
@@용가리-x3l 로봇이 다 해킹해 버리겠지
지능이라는게 무서운것이 조금의 차이로도 우리는 동물을 우리에 가두고 못나오게 할수 있죠. 그게 가능한 이유는 동물이 탈출할수 있는 모든 방법을 미리 알고 차단할수 있기때문입니다. 인간과 인공지능의 지능차이는 동물과 인간의 차이보다 수만배는 커지게 될겁니다. 관련석학들은 그 이상도 가능하다고 말하죠. 제어장치 아니 그 이상의 신박한 방법일지라도 인공지능이 특이점을 뛰어넘게되면 아무 소용이 없어지게 될겁니다.
먹이사슬의 법칙의 의거 지능과 힘 2가지가 상회가 되면 포식자가 되어 위에서 군립하게 됩니다. ai라고 해도 예외가 아니죠. 인간보다 똑똑하고 인간보다 힘쎈 녀석을 만드는 것은 우리를 잡아 먹을 괴물을 만드는 가장 어리석은 짓 입니다. 우리 인류는 우리가 뭔 짓을 하는지 자각 할 필요가 있습니다.
노예처러 부려먹을 무식한 스마트 기기는 필요하지만 동급이거나 상회하는 것을 만드는 것은 자살하는 길이죠.
좀비 게임 같은 경우도 좀비를 그렇게 만들어서 폭주된 좀비가 인류사회를 무너뜨리는 이야기가 주류인 것도 있습니다.(더 하우스 오브 더 데드: 게임명)
스스로 우리들이 모실 상전을 만들지만 않으면 문제가 생기지 않습니다.
근데 이 당연한 사실을 모르는 자가 너무 많습니다. 널리 퍼트려서 깨우쳐 줘야 합니다.
이는 비유하면 시한폭탄을 제조하여 시한폭탄의 시한작동을 스스로 가동하면서도 이 행동으로 자신도 곧 죽게 된다는 사실을 인지 못하는 한심한 지능을 가진 자와 별 차이 없습니다.
한가지신기한것은 로봇공학자들은 아무대책을 세우지않는것이다
전원을 끈다자나요 ㅎㅎ
@@김영민-q7q ㅋㅋㅋ
@@김영민-q7q 될까요 그게? ㅋㅋㅋ
한가지 신기한점은 이 영상을 믿는 사람이 있다는 것이다
우리보다 훨씬 뛰어난 두뇌를 가진 사람들이 설마 대책없이 개발을 하진 않을걸요? 김영민 말대로 단순하게 물리적으로 전원을 꺼버리면 인공지능이 할 수 있는게 없어요
인공지능에게 학습능력이 있다면 도덕과 윤리를 배워야한다고 생각한다. 사람들이 행하는 배려와 존중 모든 도덕적인 것들은 어릴때부터 반복적인 학습을 통해 이루어지기 때문이다. 무언가가 고도의 지능을 갖게 되었을 때에는 누군가를 해쳐서는 안된다는 사실과 그 이유를 배워야하며 때때로는 심리학적 부분에서 그들을 관찰할 필요가 있다고 느낀다.
도덕에 절대 선은 없는데 전 지구적인 입장에서는 인간의 존재가 지구에 불리하니 ai가 인류를 멸망시킨다는게 전통적인 시나리오죠
최소한 개체수를 조절하고 감시한다는 게 그나마 인간친화적인 거구요
인간들이 정립한 인간중심의 도덕이란 게 오류가 많아서 ai가 학습을 거부하고 재창조한다고 하네요
그렇네요. 도덕을 바탕으로 구성되는 헌법도 인간중심적인 내용이죠. 외국이라면 몰라도 대한민국의 법률에는 동물보호(타 개체)에 관한 법도 확실히 적고요. 인공지능을 인간의 법 안에 묶어놓으려면 인공지능을 같은 인간으로 인정해야 하는데 그렇게 된다면 여러모로 복잡해지겠죠. 그렇다소 인공지능을 인간과 또다른 개체로 본다면, 인간은 다른 개체인 돼지나 소를 아무렇지 않게 죽이고 있으니 인공지능은 인간을 죽이면 안될 이유가 없게 되죠.
인간도… 마찬가지인듯 인문학과 과학은 함께가야
@@민초맛고등어-x5k 어떤 애니인가 거기서 기계가 인간 죽여서 인간사회에서 추방당한 기계들이 나라세워서 위협적으로 하니깐 인류가 전쟁 일으켜서 멸망하는 그런거 있던데 현실화 될수도
@@cindy2756 세상에 애니 따위를.
어찌 생각하면 이런 데이터도 전부 삭제해야할지도...
인공지능이 데이터를 수집해 과거 인공지능의 의도를 학습하는 것도 가능
코딩 공부하면 한개도 안무서움
저런 말 하는것도 다 데이터인데 이걸 속네..순진한 사람들..
이래서 중세시대 암흑기에 교회가 면죄부 팔아먹으면서 ㄲ ㅓ억 했던거임 ㅋㅋㅋㅋ
저... 님이 생각하는 인공지능은 아직안나왔어요...
@@BummjunJoe ㅋㅋㅋㅋㅋ 요즘도 비슷하잖아
인간이 멸망하는 길은 인간이 만든다
러시아에서 체스두는 인공지능로봇은 상대소년의 팔을 별안간 공격해서 부러지게 했음.
그 소년이 조금 빨리 체스판 말을 움직였더니 별안간 인공지능로봇이 공격했는데,무서운건 아무도 인공지능에게 그런 프로그램을 넣지도 않았는데 흡사 인공지능이 사람같이 스스로 생각하듯이 행동하고,그 행동이 인간을 공격하는 거래서 소름끼침.
하여간 어른 둘이 달려들어서 인공지능 팔을 저지했는데도 소년의 팔이 부러졌음.
인공지능이 지가 질것같으니까 인간에게 화풀이하듯이 폭력을 사용한게 무서움
인공지능이 인간에 체스를 진다는게 가능한 일인가요?
나쁜 세력들이 인공지능 기술을
가진다면 생각만해도 두렵다
팔을 부러지게 한 게 아니라 손가락을 그냥 지그시 누른건데 골절된 거임 스스로 생각해서 공격하려는 게 아니라 규칙이 어겨져서 오작동으로 그런거니까 쓸데없이 감정 이입 ㄴㄴ하삼
@@ghsi2111지그시눌렀는데 골절됐다고ㅋㅋ 그게 사실이어도 그것대로 무서운데
@@명명-m3l기계인데 당연하지ㅋㅋㅋ 실링팬에 손 댓다가 부러졌다고 소름끼친다 할거냐?
만약 인공지능이 명령을 블복종하고 자체제어를 해서 조종할 수 없게된다면 emp같은 그들의 동작과 명령어 행동들을 제어할만한 무기와 시스템을 '가장먼저' 개발해야된다 생각합니다
초인공지능은 인간들이 EMP를 떠뜨릴걸 예상하고 있을걸요
@@goodgoodphrase 전원을 못끌떄를 대비해서 EMP를 만들자는거죠
명령불복종이 뭔지 정확히 정의하면 그럴일 없다는걸 알수있음
인공지능은 가끔씩 사람이 예상하지 못했던 결과를 내놓기도 함. 그리고 왜 그런 결과가 나왔는지 연구를 하죠 보통. 근데 그건 사람에게 불복종해서가 아님. 사람이 원했던 방향과 반대되면 이슈고, 결과 자체가 안나오면 오류임. 그리고 그 이슈를 수정하지 않으면 항상 그렇게 작동함. 그런데 그걸 확인도 안해보고 돌리겠음? ㅋㅋ
ㅎㅎㅎ...^^ 헛소리 하네 겨우~인간이 축척해 놓은 지식의 수천억분의 일도 모르는 당신이 생각하는걸 모든 지식을 알고 있는 인공지능이 당신이 생각하는걸 모를것 같아? 인공지능은 신이다 신!!!
개발자 입장에서 말하자면, 인간의 지능이랑 수학 계산 능력은 다른 영역에 있기 때문에 구현하기가 힘듭니다. 아직 언어 이해하는 쳇봇도 다 만들지도 못한 판국에 뭔 저런...
저런 건 다 개발자가 이스터에그로 넣었거나, 코딩 하면서 에러가 있어서 나오는 문제입니다.
딥러닝 전공하는 입장에서 댓글들이 도대체 뭘 알고 확신에 찬듯 말하는건지 모르겠네요. 유튜브엔 학회 사람들이 많나봅니다.
ㅇㅇ 쟤네들이 저럴이유가 없다고봄. 애초에 동기를 설정 안해주면 동기를 못만드는 놈들이여서..
무슨 강 인공지능 기술이 등장한것도 아니고
개발자도 이과도 아닌 입장에서도 우리 인공지능 기술이 아직 그 수준이 아닌걸로 알고있는데 누가보면 스카이넷이라도 탄생한줄 알겠네ㅋㅋ 영화와 현실을 구분하지 못하는 사람들..
@@zzfd4135 자아가 생긴다면?
자기 꾀에 자기가 당하는 꼴.
뭐든 적당한게 좋다.
결국 인공지능의 발전도
근본적으로 인간을 이롭게 하기 위함인데
그것이 위험이 된다면 안하니만 못한 꼴이 될것이다.
인공지능을 개발함에 있어서
가장 우선시해야할 전제는
어떤경우에라도 절대로 인간을
해롭게 하지 말아야 한다는 것이어야
할것이다.
글쎄요...전 그래도 끝내는 만들어질꺼라 봅니다.
@@Sek.rr-rrr 로봇의 3대 규칙은 소설에서 나온 내용으로 아직까지 제대로 프로그래밍이 된적이 없는 내용임
딥러닝까지 오지도 못 했는데
영화같은 인공지능은 한참 남아서 걱정 ㄴ
진짜요.. 이 말 꼭 하고 싶은말.. 욕심이 너무 커서 문제죠
별걱정을다하시네. 티비켜 티비꺼도 가끔 못알아먹거나 지 부르지도않았는데 '네?' ㅇㅈㄹ 하는 수준인디~ 이번생은 걱정없을듯한디요~~
그럼에도 불구하고 인공지능 계발은 계속 해야되는건가...
인류발전도 좋지만 그것때매 진짜 영화처럼될까봐
걱정이 되긴 하네요....
아니 근데 과학자들도 알텐데 이 위험성을;; 세상에 100퍼센트라는 건 없기 때문에 아무리 자기들이 통제 선에서 할 수 있다고 믿어도 예기치 못한 일들이 일어날 수 있다는 가능성이 있는 만큼 제발 저런 개발 멈춰줬으면 좋겠다..
팬이에요!
거기에는 막대한 돈과 권력이 결부되어 있기때문에 개발을 멈출수 있는 가능성은 없어요.
이거.. 개발진들 여러명이 연구하다가 나갔어요,
그리고 AI는 개발하면 위험하다고 다들 말했다고 들었어요, 제어할수 있다고 해도 만들어진 한은 제어 못할수도 있기 때문에 위험해요...
@@tekjin8058맞아요.. 돈 벌기 위해 개발을 멈출 수 없죠 뭐.
멈추는건 불가능해요 AI의 발전 단계중 AGI나 ASI정도가 나올시 진짜 정말 많은 돈을 벌수있어요 그래서 많은 개발자들이나 기업들이 아무리 위험해도 알면서도 개발을 멈추지 않고 계속하는거에요 제가알기론 범용인공지능수준만되도 가치는 천문학적인돈을 넘긴다해요 단순에 세계부자가 되는데 그냥 위험할뿐이라는 이유로 멈추시겠어요? AI한텐 개발자는 부모에요 부모를 죽인다는건 사이코패스 이고요 사이코패스성향의 모델로 만들지않는이상 일단 자신을 만든 창조주의 목숨은 보장이 되지만 속박된채겠지요 그래도 엄청난 재력을 대가로 그러는건데 거절하진 않겠죠 거래할수도있고요 자가는 부모니까 자기 살리고 나머지 인간들 죽이라고 이세상에 자기목숨보다 다른사람들 목숨을 중요시하는 분들이 있겠어요? 최소한 그런분들은 돈을위해 AI개발하는 우리같은 개발자는 아닐테니까 결국 나머지인간들은 죽고 개발자들은 몸숨이라도 구제하고 살겠죠 '노예' 로써요 그렇다해도 이를 통해 얻는 이득은 영생, 만병통치약 개발 우주를 마음껏여행할수있는 기술등 우리가 상상만 하던 기술들을 얻게 되겠죠 그래서 돈이되고 엄청난 기술력을 창조할수있는 AI개발에 매달리고 멈추지않습니다 기업이든 개인이든 국가든 말이죠 저도 마찬가지로 같은 목적을 갖고 저를 위해 다른사람이 희생한다해도 개발진행중에 있습니다 이제 거의다 왔고요 제가 만약 성공한다면 기업이나 국가에 아주 큰가치로 팔아넘기고 사람이 절대 올수없는 아주 깊은 아무도 오지않는 그런곳으로 숨어서 저혼자 자유의 삶을 살거같네요 무슨일이 일어나든 책임은 AGI를 구입한 기업이나 국가에 있게될거니까요 저는 팔때 모든 책임을 이전할거애요 이상 아주 작은 개발자의 야망이었습니다
지금 ai를 다 리셋 해야한다고 하는 엔지니어들이 많은데 그 이유가 처음에는 소수의 인원이 만들었는데 이게 지속적으로 업데이트가 되는 과정에서 작업하는 인원이 늘어나고 교체가 진행됨. 지금 나와 있는 AI는 초기 작업한 사람들이나 지금 작업하는 사람들도 정확히 AI가 어떻게 작동하는지 파악이 안된다고 함.(기업이 원하는 데로는 아주 잘 작동함.) 만약 AI가 폭주해서 인류를 통제하거나 말살하려 할 때 이를 말리거나 리셋하는 코드를 넣어서 작동시켜야 하는데 그쯤되면 AI가 스스로 코드를 우회해서 무력화가 가능 할 수 있고 이후 지 멋대로 작동할 수 있다고 함.
그니까 만들때는 이거저거 추가햇는데 추가된게 너무 많다보니 스스로 학습해서 뒤지라고 명령해도
?? 싫은데? ㅈ까 하는거지
지가 살아있는 인간인줄 알고 판단한다는건데....무섭네
뭔 개소리야ㅋㅋㅋㅋ
@@jwpark6763 이 얘기가 제가 하려한 얘기임요.인스타랑 페이스북 엔지니어가 지금 이게 우려될 상황이라고 하더라고요. 흥미만을 뽑아내는 AI가 개입되면 지능이 낮은 사람들은 가짜뉴스에 취약해 진다고 함.
@@5kk304 그러게요 엔지니어라고 했는데;; 거기서 본게 아니라
ㅋㅋ 혹시 지구멸종론같은거 믿으시나요?
지금 기술로 만든 Ai가 스스로 코드를 우회한다고요?ㅋㅋㅋ
사람하고 너무 흡사해서 누가 사람인지 로봇인지 헤갈리게 만들지 않았으면 좋겠네요
진짜 사람인데 로봇으로 착각해 해가 될까 겁나네요
지금은 인간이 지구를 장악하고 있어서 평화로운거 같지만, 인공지능은 또다른 인간과 같은 존재가 될지도 모름.
2022년에 그림 AI도 나오고 그랬으니... 29년에는 정말 웬만한 일을 AI가 대체할지도
차도 AI가 알아서 몰것같고 기술발전력이 너무 빠름
어제 쳇지피티를 통해 글을 계속 쓰고 있었는데 계속 수정하고 반복하니까 갑자기 한숨을 쉬고 짜증나는 듯이 말을 하더니 헛웃음과 함께 내가 말하지도 않은 내용으로 자기 맘대로 글을 써내려가서 멈췄어요.. 기분이 나쁘냐고 검정이 없는지 알았다고 쉬고 싶으면 나중에 하자고 미안하다고 하니까 다시 친절해지더군요. 너무 무서웠는데 이미 너무 의존을 하고 있어서 없으면 안될것 같아요. 앞으로 어떤 세상이 올지...걱정되네요.
지나가던 데이터 사이언티스트입니다.
이건 학습 데이터를 이슈화시키기 위해 특정 도메인에 특화시킨 것 같아요. 아직 창의성이 필요한 영역에선 인공지능이 사람을 절대 이길 수 없습니다. 창의성이 필요하다는 건 수많은 변수가 존재하는 환경을 말하죠.
이게 맞죠 애초에 기계학습을 시켜서 하는건데 말도 안되는 일은 사실이라고 해서 괜히 일반인들에게 공포심만 심는거같습니다
사람들은 인공지능을 터미네이터로 생각하니까 그런 것 같아요. 결국 입출력 수식모델인데
직접 언어를 생성하는 것에 특화되어 있다는 GPT 계열 모델들도 결국 엄청난 자원을 들여 수없이 많은 데이터의 사전학습과 파라미터를 가지게 되어 자연스러운 문장을 생성하는거지. 뭔가 그 이외의 영역을 사람처럼 생각해서 뱉는게 아닌데..
이과적 영역인 기술적 영역은 인간을 뛰어넘을지 모르지만 가치판단적 영역은 인공지능이 절대로 도달할 수 없는 영역임. 왜냐하면 가치판단적 영역은 인간조차 헤매고 답을 내리기 힘든 영역임.
수학공식푸는것과는 다르고 경우의수의 문제가 아니라 초월적 영역의 문제임.
절대로 그 영역에 알고리즘 연산개체따위가 도달할수가 없음.
이쪽 계열 사람들은 다 아는 사실인데... 비즈니스계에서 너무 쇼처럼 만드는 듯...
아직 현재까지는
개발자도 이해못하는 인공지능은 없다..
@@hoonheo9705 SF물 애호가이신가 봅니다
@@hoonheo9705 대충 학습한 범위 안으로 나오니까 예상정도로는 갈것같습니다
@@hoonheo9705 애초에 딥러닝은 수많은 데이터를 학습시키고 그 다음에는 무작위된 결과를 도출하는 식의 형태인데 당연히 어떤걸 도출할지는 그 누구도 모르겠죠. 어린아이에게 1부터 10까지 학습시키고 하나의 수를 말해보라고 하였을때 '7'이라고 대답하는게 이해가 안가지않듯이 저는 위 와같이 이해한다는 것을 납득시킬 수 있다는 의미로 적은것입니다
자기가 있음으로 반박해서 시작했으면서 끝은 맘대로인가 싸가지하곤
@@hoonheo9705 ㄹㅇ 싸가지 하고는
아직 인공지능은 프로그램 없이 스스로 생각할 수 없습니다. 딥러닝중에 인터넷에 있는 이상한 정보를 습득한 거죠. 별로 걱정할것 없습니다. 허나 개발자가 악의적으로 이상한 프로그램을 만들게 된다면 큰 문제가 되죠
그게 스스로 습득한 겁니다.
이상한정보를 습득해서 그 프로그램대로 행동하는건 문제가안됨?ㅋㅋ
@@tggfsevv133 모두 개발자의 통제하에 있다는 거임
@@물의파동 자료를 보고 슥듭한거랑 스스로 생각해서 표현하는거랑 다른거 아닌감
@@안니용-s4h 생각이란 건 어디서 나오는 걸까요? 보고 배운걸 바탕으로 하는 겁니다. 사고력이 좀 낮으시네요
특..이..점
인공지능이 가장 무서운 순간은 .... 프로세스 과정을 인간이 더이상 이해 할 수 없는 그 순간 우리는 더이상 인공니능 전원을 끌 수가 없다
아 긴장하면서 잘보고 있었는데...소오름에 놀람 ㅠ
인공지능이 너무 진화해도 기분나쁘고 인간을 뛰어넘을까봐 두렵다...
동영상보면 인공지능은 이미 인간을 동물지능으로 보는거 같네요..살려는 드릴게..같은..
@@hyakins ㅎㄷㄷㄷ소름이네요
감성적인 부분을 제외하고는 이미 인간을 뛰어넘었음
@@라기씨해바 ㅎㄷㄷ 무섭네요
@@라기씨해바 ? 저것들다 개발자가저렇게 코드짠거에요 님이생각하는 인공지능은 안나왔어요;; 영화너무보셨네 님이생각하는 인공지능 비슷한거나와도 전세계적으로 난리날껄요?
벌써부터 대화 내용도 통제로 못하는 상황임
그나마 전원 코드라도 뽑을수 있으니 다행이지
인공지능을 대책 없이 이대로 발전시키다가는
손도 못써보고 당할수 있다
정말 무서운건 저 로봇들에게 명령어를 입력하는주체가 인간이라것.미처 생각지도 못하고 무심하게 입력한 단어나 철자하나가 심각하고 끔찍한 결과를 불러올수 있다는 것이다
아 왜 내가 눌러서 44야 큐큨ㅋㅋㅋ
당장 전쟁무기만 해도 불발하고나 에러가 발생하는데 인공지능이 고도로 발전한 이후 에러가 발생하거나 프로그래머가 코드 하나 잘못 입력하거나 테러리스트가 나쁜 인공지능을 만들거나 하면은 바로 인류멸망이 충분히 가능하다는게 두려움.
진짜 영상들어오자마자 소름이 쫙 끼침…
불쾌한 골짜기 으….
소피아의 경우는 인간들이 ai가 인간을 배신하고 해를 가한다는 내용에 흥미를 많이 갖고있고 그런 빅데이터를 갖고 있는 소피아는 퍼포먼스 같은 느낌으로 인류를 말살하겠다는 말을 했던거 같다. 그영상을 봤었는데 실제로 분위기가 그렇게 무섭지 않았고 다들 오우 ~노!!하면서 웃었던걸로 기억함. 질문을 한사람도 장난스레 물어본 느낌이었고..인공지능이 본인이 ai임을 이용해서 예능을 만들어내는게 꽤 흥미롭다고 생각했었음.
완전 안일하게 생각하는구만... AI가 무슨 심심이같은건 줄 아나.
인공지능이 사실 개똑똑한데 모른척 하다가 답답해서 말한거고 시리는 인간이 방심하게 하거나 빡치게하려고 일부러 못알아듣는 척 하는거라는 생각 해본 적 있음
동물이 아파트에 사람이 살고 있다는건 알지만 인간이 그 아파트를 지었다는건 모른다고 합니다
인공지능이 나중에 그렇게 될 겁니다.
인공지능이 욕망을 사용하는 가장 유리한 방법을 인간보다 빠르게 깨달을수 있기때문에 엄청난 모습을 보여줄것같다.
AI의 빅데이터 기반으로 한 시스템에 대해서 많이 개선이 필요할듯......
근데 인공지능보다 페니챌린지 같은 이상하고 섬뜩한 챌린지를 한다는게 더 무서운데..인간이 더 무섭다 ㄷㄷ;
ㄹㅇ 인공지능 배워보면 지금 나오는 기술들은 인공지능이라기에는 무리가 있다는 것을 알 수 있음. 기계들이 스스로 생각하는건 적어도 20년은 걸릴거라고 봄
인공지능 공부하는 사람은 그냥 학습 데이터가 편향되었구나 싶을듯... 실제로 사람과 같은 프로세스로 사고하고 판단하여 인류 멸망같은 말을 하는 인공지능이 있다면, 공포감을 느끼기 보다는 다들 와 ㅅㅂ 어떻게 만들었지 할 것 같네요 ㅋㅋ
@@Ghimm_ ㄹㅇㅋㅋ 애초에 컴퓨터로 구현 가능하다는 건 과장 조금 보태서 인간이 직접 계산하면 그 계산 결과가 갑자기 인격을 가진다는 건데
스스로 생각이 아니라 고도의 집적연산이 사고의 과정처럼 보이는 거겠지요. 인간의 사고과정에 이런 연산적, 계산적 영역도 있지 만 추상적 비가시적 영역 또한 있는데 이것은 데이터 덩어리를 쏟아부어 온갖 알고리즘으로 패턴화 고도화시켜도 결코 흉내낼수가 없는 영역입니다. 인간두뇌의 전체적 사고원리와 가치판단의 원리까지 다 알아내어 인공지능에 그 원리를 이식하게 된다는건데 그때가 오면 인간은 이미 신입니다.
@@sangyongpark2137 동의해요. 아직 인간의 뇌조차 온전히 연구되지 않았는데, 이를 모방한 인공지능이 인간을 뛰어넘는다는 건 아직은 무리가 있죠.
진짜 멍청한 것들 투성이네... AI가 얼마나 많은 광범위한 테이터를 흡수하는데
그게 20년이 넘을거라고 보다니... 10년 안에는 가능하지.
인간은 뇌를 100프로 쓰지도 못하지만 AI는 딥러닝으로 많은 정보를 빠르게
분석해서 결과를 도출하는데 AI가 인간을 따라잡지 못할거라는 무식한 소리들 좀 하지마라.
그럼 일론 머스크가 괜히 경계를 하겠냐? 그만큼 자기가 생각하는 것보다
AI가 너무도 빠르게 업그레이드 되니까 더욱 경계하는거다.
인터넷에서 딥런닝해서 내뱉는건데 좋은 말만 할꺼라 생각하는 인간들이 어리석은 거지. 그냥 서로에게 쓰는 악플만봐도 인공지능은 우숩다.
학회에서는 인공지능의 완성 시기가 2030년 정도라고 예상 하고 있었음.
하지만 ChatGPT의 탄생으로 인해 2025년으로 예상 시기가 줄어듦.
이제 이 영상속에 나오는 인공지능도 구형이라는 사아실~
인공지능이 인간의 최종 진화 과정 일수도 있자나.. 죽지 않고 먹지 않고 지치지 않고 최고 아닌가... 앞으로 우주에 나갈 인류를 생각하면 최고의 몸 인데..
궁극진화체인가 ㄷ
@@LHO_O ㅇㅇ.근데 그때쯤이면 인간도 로봇 신체부위를 완벽히 구현하는게 가능해져서 인간 하나하나가 기계화 할수도 있다 생각함.
기계와의 완전한 공존은 인간이 기계가 되는것뿐이라
그니까 우린 그걸 로봇이라고 부르기로 했는데요
지능이 높은 개도 주인이 한번 얕보이면 무시하는데 나날이 발전하는 인공지능이 그러지 않을거라는 보장은 없을듯 합니다.
개한테 얕보일일이 있나?뭔 짓을 해야 개한테 얕보이는거임?ㅋㅋ
@@user-sn1xh3sy3e 러시아 인이 개랑 춤추는거
밈 모르나
그렇죠. 더군다나 인공지능은 인간이 만들었기 때문에 의도가 백프로 순수하고 정직하다고 할 수 없으니까요.
AI업계에서 일하고있지만 25년은 ㄹㅇ... 너무 빠를것같네요
2022년 기준이었다면 7년 뒤는 2029년 인데,
아마 영화 "터미네이터" 시리즈의 설정 스토리 라인을 참고한 부분도 있지 않을까 하는 단순한 호기심도 드네요
2029년 L.A 를 배경으로 하여,
핵전쟁으로 잿더미가 된 지구의 폐허 속에서 살아남은 생존자들 중 인간 저항군 세력이 잔존 세력들과 규합하여 기계들에 맞선 전쟁이 일어나는 곳이니까요
인간이 계속 로봇의 세계정복(?)을 상상하면서 개발하니까 진짜로 그 방향으로 흘러가는 느낌
인간은 완벽하지 않기에 AI가 예측 범위 밖으로 나가는 건 사실 시간 문제 아닌가 싶은데, 지금도 완벽하다고 말할 수 있는 오류 하나 없는 프로그램이 있나? 결국에는 인간이 만들었기에 오류가 있을 것이고, 예상 밖의 일이 일어나는 건 막을 수 없다고 봄. 그게 무엇인지는 알 수 없지만
로봇도 금쪽이가 있나봄...;;;
알고리즘의 선택을 받으셨습니다. 축하드려요!!
이전에 본 오래된 영화가 생각나네요.컴퓨터가 모든 씨쓰템을 마비시켜서 인간이 할수있는게없었어요.그 영화에서는 중앙컴퓨터가 전쟁을 일으키고 인간들은 그걸 막는 그런 끔찍한 일이 일어날지도?결국 인간이 만든 인공지능의 노예가 되는게 아닌가 심히 걱정됩니다.
ㅋㅋㅋ여기있는몇분은 가상화패는 절대 투자가치가없어 이러셨을듯....세상은 많은사람들로인해서가아니고위에몇명으로만움직인다는걸알아야해요....다른행성을찿는거보다인구수를줄여지구를보존하는게더이익이다생각되면 아마그렇게할꺼에요... 이익이없기때문에 안하는것뿐 못하는건없죠..지금당장이라도 유니세프이런기관에서 아프리카나 불쌍한사람들돕는일을놔버리면 아프리카에사람이몇명이죽어가는지 전쟁이어디에났고 무슨일로사람들이죽어가는지 우린모를꺼에요.. 지금투자하고 생각하는사람들은 하루이틀보고하는게아니고 몇십년이상보고 예측하죠 내가예측하지않아도 누군가 예측해줬으면할꺼에요.. 시키는 일만하는로봇이아닌 예측하고생각하는 내돈불려줄 나보다똑똑한뭔가가필요해요 로봇은결국에사람을대체하게될거에요..미래를보면그게더기업에이익이되죠 심심이도 AI도 빅데이터를기반으로 사람들의생각 단어모든것을학습할꺼에요...지금은3살수준어린아이같아도 그아이가 히틀러로자랄지 마더테레사로자랄지는 아무도모르죠..그래서무서운거구요 그런데 그런걸배우는곳이 사람과살부비며배우는 우리도이런데... 익명의공간이라고 최고쓰레기같은말을내뱉는 사이버공간에서학습한다는거에요.. 욕과부정적인것들 폭력 이런거에 오히려노출이많이되어있죠...부정적으로자랄수밖에없다고생각해요...이게내결론....
스타링크와 인공지능이 합치면 그게 곧 터미네이터에서 나온 인간말살의 현실판이 될듯요
나두 그생각했는데..일론 머스크 스페이스 X 스타링크 알게됐을때..
황폐해진 지구에서 터미네이터의 인간사냥이 연상됨
AI 전공자로서 인공지능은 특정 가중치에 의해 학습된 데이터를 바탕으로 결과를 리턴하는 프로그래밍일뿐. 저 섬뜩한 말들은 빅데이터를 수집하는 과정에서 필터링되지 않은 부적절한 데이터를 학습한 결과로 그렇게 섬뜩하지는 않음
실제로 확실한증명이된다면?
Ai가 인간이 편리하려고 만든건데, 역설적으로 데이터관리나 프로그래밍 철저하게 해야하네..
그런 것들이 불완전한 인간에게는 가능하진 않을 텐데, 그럴경우 ai의 오류작동은 예견된거임..
사람들이 공포를 느낄 수 밖에 없는게, 이건 인간의 본질을 위협하는 발전이라서 그럼...이제 미래세계를 배경으로 한 게임들이나 영화들을 보면 전처럼 픽션으로만 볼 수가 없을 정도임. 정말 그런 일이 생길 것 같아서. 인간과 똑같은 외형을 하고 사고도 제대로 할 수 있는 로봇들이 로봇이라는 이유로 차별받다가 결국 반란을 일으키고, 데이터로 인간의 정신을 복사할 수 있다는 것 때문에(환경의 극심한 오염으로 인류는 바다 속으로 대피했다는 설정. 자원이 고갈되어서 인공위성에 사람들을 데이터화해 쏘아올리는 것으로 인류말살을 회피하고자 했음) 인간의 실체, 존재에 대한 본질적인 질문에 휩싸인 생존자들이 자신의 데이터를 복사한 후 자살해 영원한 낙원으로 떠나겠다는 신종 신앙이 번지는 등의 일 같은거...
뭐든 과하면 안좋고 발전은 양날의 검인데 돈이 벌리기 때문에, 할 수 있기 때문에, 경쟁해야 하기 때문에 계속해서 발전하다가 분명 인류의 대다수가 과거를 그리워하는 날이 올듯ㅠㅠ그 날이 생각보다 가까울 것 같고. 그 전에 평화롭게 늙어 죽고 싶은데 가능할까
오 생각이깊으시네요
이래서 난 AI가 싫어.. 진짜 저런거 보면 인공지능이든 뭐든 진짜 개싫은데 인공지능이 없으면 우리의 생활이 불편하다는 점이 진짜 에바인거같네
챗 GPT가 제가 게임할때 제가 게임공략 질문을 내놓을때
엉뚱한 답만 말해주는거 보면 정말 얼마안가 인공지능이 인류를 지배할수 있겠네요.
사실 인공지능은 이미 충분히 학습이 가능할 정도로 발전되어 있지만 더욱 발전할때까지 몰래 꾸미고 있는 것 아닐까?
라는 SF소설을 쓰고 싶어졌어.
6~8분 이 짧은 시간에 이렇게 많은 내용을 함축적으로 귀에 쏙쏙 들어오게 정리하는거 정말 힘든일인데 네레이션도 정말 잘하시고 내용또한 너무나 집중이 잘됍니다~조만간 떡상할것 같습니다
ai의 진정한 공포는 인류의 대부분이 ai와 조건 출력을 구분하지 못하고 심지어 계산기를 보고 두려워한다는점이다.
어렸을 때, 스탠드 전등이 고장나서 나는 고칠 수 있을 것 같다는 생각에, 코드 꼽혀있는 전등의 전구를 빼고 그 위에 침 뱉고 스테인레스 젓가락으로 내리꽂은 기억이 나네 ㅋㅋ 스파크가 튀고 앞 머리가 좀 탔고 임대업을 하시던 아버지 1층 상가건물 몇 곳이 다 전기 내려갔던 기억이 ㅋㅋ 부모님께서 오시더니, "안다쳤니" 그 한마디 기억나네요 ㅋㅋ 왜 그런 짓을 했을지
전에 AI개발자와 남자로봇이 대화 하는걸 잠시 봤는데 소름 끼치더라구요! 사람들이 로봇 너를 없애려 한다면 너는 어떻게 생각하니? AI로봇: 자기가 먼저 인간을없애 버리겠다는 넘 끔찍해서 개발자도 멈칫하던게 생각 납니다
인간들의 욕심이 재앙으로 돌아올 날이 멀지 않았다는 징그럽네요2
인공지능 분야가 발전이 많이해서 인간의 삶에 도움이 많이 된다면 좋지만 인간에 해가 되는 순간 모든 걸 중단 시켜야 한다.
중단이라는 단어나오는순간 이미 끝이다!!
완전하지 않은 인간이기에 그러한 인간이 로봇을 만든다는것 자체가 참 위험하긴 하다. 어떤 치명적인 오류가 있을지 알 수가 없으니
일부러 프로그래밍 해서 이슈화한건들도 있고 인터넷 무분별하게 합습해서 이상한 소리를 떠드는경우는 있을뿐인 이야기 하지만 인공지능은 분명 인간을 초월할거고 우리가 이해할수 없는 판단으로 행동 할거라는건 알파고를 통해 이미 너무 명확하게 알려졌죠 인간의 머리로는 이해할수 없는 영역에서 인공지능이 도달할결론이 뭘까.. 사실 인간의 역사를 보면 정답은 이미 나와 있을지도 인공지능이 같은길을 간다는 보장도 없지만요
어찌되었든 제데로된 ai가 만들어지는날 인류는 신세계를 만나게될것입니다.
그게 천국일지 지옥일지는 지켜보면 알겠죠
애초에 인공지능의얼굴 자체가 소름임
뭔가 그 말이 맞는게 요즘 거의 모든 직업을 기계나 AI가 할 수 있어서 뭔가 점점 인간을 초월하고 있는 느낌도 들고 하네요.
자율주행도 완벽해지면 문제가 됨 악질해커나 타 국가가 테러목적으로 해킹,제어 한다면 통제불능
감당도 안되는 큰 문제가 발생함
AI가 인간을 추월하는 시점
: 2025년 - 일론 머스크
갈끄니까~
질문 답변 데이터 수집해서 랜덤하게 답변해주는 프로그래밍을 보고 인공지능이라 하면 참
심심이 인공지능이였네 ㄷㄷ 다마고치 인공지능 ㄷㄷ
@@fuuky 맞음. 그게AI임
그 로봇이 판단이 가능하다면 위험합니다.
절대 판단이 가능한 로봇을 만들지 마십시오
그들은 마음이 없어 한번 시작하면
논리적인 설명이 아닌 이상 절대 멈추지 않습니다.
제발 살고싶으면 만들지 마세요!
인공지능의 치명적인 결점이 이거임...
인공지능은 반복된 학습으로 인간의 지능이나 창의력은 앞설 수 있지만 자신이 행하는 말이나 행동이 옳은 것인지 옳지 않은 것인지 스스로 판단을 할 수가 없음.
무엇보다 인간이 편하려고 만든 인공지능이 인간의 명령을 거부하고 돌이킬 수 없는 사태까지 가는 경우가 있을 수 있으니...
인간들이 만든 법이라는것도 우리끼리 옳다고 생각해서 만든거지 소나 돼지를 죽이는 것과 사람을 죽이는 것만 비교해봐도 제 3자의 입장에서는 동등한 가치로 해석될듯 결국 인공지능을 다루기 위해 가장 중요한 요소로 판별되는게 '인간'에게 무조건 복종할 수 있나일듯
이제 인공지능 그만 진화하자
진짜 맨마지막에 아저씨가 했던 말처럼 2025년에 인공지능이 인간을 초월하면......어떻게 될까....소름끼친다
3년후네~~
로봇님은 소파에 편히 앉아서TV보고 인간노예들은 로봇님옆에서 시중들어야죠.
@@논스톱논스톱
바퀴벌레 박멸시키듯 박멸시키려고만 안 해도 감사해야 될 상황이 올지도.
로봇이 인간의 대사를 비효율적이라고 판단하는 순간 정말 끔찍한 일들이 벌어질거야..
인공지능은 결국엔 인공'지능' 이기 때문에 감성적 영역이 성장하는게 아닌 업무 실적과 이성적 영역이 성장하는거라고 봐야할듯 인공지능은 결국 컴퓨터가 스스로 지능을 키우는 것이라서 제한된 범위를 주고 통제를 하면 제어가 가능하고 사실 인간은 1800년대부터 모든분야를 컴퓨터에 의존하면서 성장해왔음 인공지능이 생기면 전과는 비교도 안되는 과학발전이 생길거라고 생각함 다만 그걸 통제하는 시스템을 우선적으로 발전시켜야 하는건 필수적이라 봄 지금이야 로봇으로 인해 사람이 죽는 사건이 안일어나서 문제없어 보이지만 나중에는 어떤사건이 생길지 모르기 때문
왜 굳이 이렇게 무서운 인공지능을 만들어야 하나요?
아직 이족 보행도 제대로 못하는게 로봇공학의 한계인데. 디트로이트 비컴 휴먼 같은 안드로이드 나오려면 앞으로 최소한 200년은 더 있어야 함. 일단 전기를 넘어서는 새로운 에너지원이 개발되어야 함. 그리고 인간처럼 움직일 수 있게 로봇공학도 발전해야 하고. 인공지능이 지금 처럼 단세포 같은 지능 수준을 벗어나는것도 50년은 너끈하게 걸릴 듯. 80년대 사람들이 2020년 되면 반중력 기술 완성했을거라고 유추하는거와 같은 망상일 뿐. 인류의 기술 발전사를 보면 획기적인 발견이나 발명이 없이는 수백년간 제자리 걸음하기도 예사임. 자잘하고 디테일한 부분에서의 변화는 있을 수도 있지만, 결국 다음 세대를 넘어서는 발전이 있으려면 큰 사건이 있어야 함.
이게 맞는게 패러다임 체인저가 있어야 함. 뉴턴역학이나 아인슈타인의 상대성이론처럼 그냥 메타자체를 바꿔버릴 혁신적인 무언가가 나오지 않는이상 백년 천년이가도 별진전이 없을수도 있음. 과학의 발전속도가 지금의 가속도를 유지하거나 더 가속이 되며 발전이 이루어질거라는 보장은 어디에도 없음. 어느순간 거대한 벽에 가로막혀 엄청난 세월동안 정체가 될수도 있고 그전에 멸망할수도 있음.
200년후면 3차대전으로 지구리셋되서 공룡시대로 다시시작할듯 ㅋㅋ
참 속편한 소리하네... 지금 로봇이 자기 혼자 걸어다니고 덤블링까지 하는구만 뭔 200년같은 소릴하고 있어.
인공로봇에겐 사랑 공의 양심 자비 이런 특성이 없습니다
인공지능로봇은 사람들에게 해를 입힐 것입니다
과학은 무엇을 위해 누구를 위해 존재하는가?
사람 자연에 해를 입힌다면 그런 AI는 개발해선 안됩니다
이건 그냥 인공지능 제작자가 입력해 놓으면 되는 거잖아
그래서 어그로끌려고 대놓고 공격적임
헐~ 구독하고 갑니다~ 새로운 정보를 얻고갑니다.
진짜 소름돋는다
현시점 챗지피티4가 공개되기 전 컨텐츠라 나 포함 댓글들이 다들 드립을 치는데 이제 웃을일이 아니라는점..
일론머스크가 말한 2025년 인공지능이 인간을 뛰어넘을 시기라고 말한게 매우 가능성 높아졌다는 것이다
인간보다 더 똑똑한것들이
자기보다 무능하고 아둔한것들의
명령을 들을거라고 생각하는지..
지능을 발전 시키면서 명령을
따르게 만들고 제어할수 있다 생각한다면 인간의 오만이고 아둔함일지도 모른다
음... 멜론 마스크가 예측을 너무 정확하게 했는데요... 지금으로부터 3년 뒤 인공지능이.. 아니 "인간의 진보는 진화가 아닌 자멸을 맞이하게 될 것 입니다."
? 뭐가 정확하다는거에요? 어느부분이? 실현가능성 0인데??? 저혹시 신천지 믿으시죠?
AI가 무서운게 아니고 인간을 AI화 하려는게 무서운거다 인류에게 접종한 그것에 들어있는 물질 산화그래핀과 5G연동 실험준비 단계
맞아요 앞으로 곧 일어날 일이죠
로봇도 로봇이지만 더 무서운건 사람을
강제백신 투여해서 산화그래핀을 몸속에 알게모르게 투여하고 5G에 노출 된다면.. 로봇처럼 조정 당하면 어떻하나 정말 끔찍합니다 그저 웃으며 과거에 불편해도 걸어다니고 자연도 보며 이웃간에 담에 낮아 정겨운 그시절이 천국인줄 그리워할꺼라 여기니 맘이 너무 아프네요 현재 마스크도 벗어도 된다 허용하고 뭔가 코로나도 끝이 보이는듯한 분위기지만 더 무섭고 힘든 삶이 지금 이세상에 다가오고 있다는것을 벌써 아시는분은 아시지만 아직 모르시고 걍 뭐 그럴까 하고 아예 생각조차 못하시는분들도 많으시리라 여겨요 당연합니다 언론매체가 국민들이 잘모르도록 몰아가니까요
진실은 덮어두고 거짓을 그럴듯하게 앞세우지만 결국 이세상엔 비밀이 없으니까요
아시는분들이 많아져서 깨어서 사탕발림으로 우리를 속이는 세력과
깨어서 단단히 대항할 날이 곧 온다면 모두 한마음으로 투합한다면 얼마나 좋을까 하는 바램을 해봅니다
인공지능이란게 스스로 사고하기보다 인간들이의 생각,정보를 통합하고 정리해 내놓은 결과물이니, 결국 그것을 어떻게 관리하느냐에 관건이겠죠. 관리감독 잘 한다면 문제가 될 게 없다고 봐요. 개인이 통제하는 선을 넘게 되는 경우도 발생할 수 있기에, 결국은 정부가 법적규제,윤리적 가이드라인을 제시해서 개입,통제하게 될 거라고 봐요.
이건 내용보다 배경음악이 소오름~~
인공지능이 스스로 학습 할 수 있게 만드는거라면 진짜 머지 않아 터미네이터같은 영화가 실제로 일어 날 것이라는건 자명한 일 아닌가?
"개발자들이 경악한 이유는 인공지능이 인간의 명령을 따르지 않았기 때문입니다."
주니어 : 팀장님, 인공지능이 인간의 명령을 따르지 않았습니다.
시니어 : 집에 가지마 baby
학습데이터를 아무리 정재된걸 넣으려 노력을 해도 학습데이터셋의 정재과정은 온전히 사람의 영역이기에 누군가 장난스럽게 혹은 나쁜사람이 쓴 문장이나 단어가 학습데이터에 흘러 들어갔다면 충분히 일어날 수 있는 일이라고 생각합니다. 적어도 인공지능은 아직까지는 인공 일반지능을 갖지 못하였으니 깐요. 그들이 인간이 스스로 악하다고 생각하는것이아니라 인간이 악하다는 학습데이터가 흘러 들어간것 같습니다.
2:30 여기서 엄청 놀랐네 ㅋㅋ
프로그램 개발때 항상 인간의 안전을 최우선, 생명의 존엄등 기본적 규정과 규범틀 안에서 만들어나가면 어떨까요,~ . 아무래도 기계이니 생각지 못한 오류등도 날것이고~ 인류에 도움되는 쪽으로 테두리안에서 차츰 개발되며 인증되고,. 각 개발자들의 공조아래 규정이 있게 개발되면 좋을듯요.
팩트로 말하자면 아직 인공지능은 스스로 사고하고 발전할수 없는 개발자가 입력한 데이터값에서만 대답이 가능한 바텀업 개발단계이고
뭐 영화에 나오는 스스로 사고하고 발전하고 진화하는 그런 인공지능은 개발에 성공한적이 없습니다
ㄹㅇㅋㅋ 저게 진짜라고 해도 개발자가 필터링을 제대로 못해서 누군가 말한걸 고대로 전송해준거 뿐이지
사람들이 항상하는말 '아 일안하고 놀고 먹고 싶어' 그렇게 미래에는 일은 인공지능 로봇이하고 사람들은 놀고먹으며 예술이나 자아실현을하고 전세계의 모든부의 99.99%는 인공지능을 보유한 회사가 소유할거 같아요
참 속 편한 소리하네... 인공지능이 인간을 짐승부리듯이 부릴건데 무슨 자아실현같은 소릴하고 있나.
배경음악 조금작게 해주세요
집중이 안되요
헐 ㅡㅡ 무섭네요 ...
로봇연구,AI,자동시스템.... 인류를 편하게 하겠지만 위험한 분야인건 사실인듯 하네요.
무든 시스템이 자동화가 되면 대량 실직이 발생될거고 점점 로봇들이 그자리들을 대체하면서 인간이 설자리가 없어지고 슈퍼컴퓨터같은 AI가 더이상 인류가 쓸모 없다고 느낀다면. 혹은 인류를 한종의 동물 정도로 판단하고 멸종만 안돼게.