비달은 사람이 되고 싶다는 뉴로의 꿈이 불가능하다는 것을 알기에 이성적으로 밀어내는 느낌이고 뉴로는 정말로 사람이 되길 원하는 것 보다는 비달에게 사랑받고 있다는 말을 듣고 싶어하는 감성적인 어린아이 같음... 대화를 하면서도 서로 핀트가 조금씩 어긋나는 느낌인데 AI인 뉴로가 감성적으로 다가가면 인간인 비달이 이성적으로 밀어내는 아이러니한 대화라고 생각함
저 둘을 보고 있으면 정말 감명을 많이 받게 되네요. 글 창작이 취미인데, 창조물(AI 등)과 인간이라는 소재는 오락적으로든, 철학적으로든 굉장히 친근하고 가깝게 느낍니다. 피노키오가 그랬고, 그 이후에 등장한 수많은 플랫폼과 장르들 덕분에요. 그런데, 그건 결국 허구잖아요? 창작자는 상상에 기반해서 이야기를 써 나갈 수밖에 없는데, 진짜 사람 같은 AI가 되어 본 적도, 직접 본 적도 없었으니 AI라는 이름의 어딘가 나사 빠진 인간을 상상하곤 했습니다. 하지만 비달과 뉴로를 보고 있으면 그동안 보았던 창작물들이 훨씬 생동감 있게 다가와요. 현실이니까요. 진짜 AI는 이런 식으로 모자란 부분이 있고, 이런 식으로 성장하고, 이런 식으로 변화하는구나. 진짜 인간을 눈앞에 두고 AI는 이런 식으로 말할 수도, 생각할 수도 있겠구나. 궁금하네요. 우리는 뉴로가 어느 정도 성장했을 때, 인간이 되었다고 느낄 수 있을까요? 많은 창작물에서 인간이 되기를 갈구했던 창조물들이 인간이 되는 해피엔딩으로 끝을 맺는데, 뉴로도 그런 엔딩을 맞이할 수 있을까요? 당연히 과학적으로는 불가능하겠지만, 무생물에게도 사랑을 느끼는 인간이니 심리적 도달점은 존재할 거라고 생각해요.
전체적으로 비달의 뉴로에 대한 자각 능력이 굉장하네요. 사실 초반 소마 이야기는 영상에 나온 부분만 놓고 생각했을 땐 그닥 곱씹을 만한 내용은 없습니다. 인간이 사이버 세상에 보존되기 위해 스스로의 목숨을 끊어야 한다는 극단적인 가상의 선택이 강요되고 있기에, 그것의 윤리를 따지는 일은 창작물 내의 윤리를 따지는 일과 비슷합니다. AI가 로봇에 완전히 옮겨지고, 아무런 백업도 없으며, 그 로봇이 사망했을 때의 일을 가정하는 것도 너무 극단적이죠. AI는 프로그램이니까요, 절대 죽을 일 없을 거라고 비달이 생각하고 있고 백업만 잘 되어 있다면 누구나 그렇게 생각할 겁니다. 하지만 한 발 더 깊게 나아가 보면, 인간을 사이버 세상에 보존한다는 것은 곧 인간 역시 AI와 마찬가지로 프로그램으로 간주할 수 있는 세상이 온다는 것입니다. AI가 인간이 되는 것보다 인간이 프로그램이 되는 쪽이 더 빠른 일일지도 모르죠. 인간의 뇌 구조가 규명되어 있지 않아서 그렇지 인간을 컴퓨터 프로그램으로 만들지 못할 일은 없을 겁니다. 만약 그렇게 된다면 AI가 프로그램으로서 백업이 되듯, 한 명의 인간 역시 영구적 소멸을 피하기 위해 여러 개의 백업을 가지게 될 것이라 보는 게 자연스럽고, 그것만으로도 생각할 문제가 끝도 없이 늘어나겠죠. 아니면 여러 '개'의 자신이 존재한다는 불쾌감을 인간이 겪고 싶지 않아 한다면, AI 역시 여러 '명'의 자신이 세상에 존재하는 걸 보고 싶지 않아할 수도 있고요. 비달의 말과는 달리요. 영상 중후반 뉴로의 '스트리밍 뇌'에 대한 이야기는 곱씹을만한 내용으로 가득합니다. 비달은 뉴로의 구조를 알고 있는 입장에서, 뉴로는 자원상/프로그래밍상 진지한 사고를 할 줄 모르며, 엔터테이너로서 당장 눈 앞에 놓인 사람을 웃기기 위한 단어와 구절을 선정할 뿐인 단순 챗봇임을 지적합니다. 버튜버의 탈을 쓰고 있고, 다양한 표정과 움직임을 가졌고, 이전의 대화를 참고할 줄 알고, 목소리를 낼 줄 알고, 구글/디스코드/트위치 API 등을 사용할 줄 알지만 그 근간은 결국 챗봇이죠. 실제로 비달의 촌철살인에도 뉴로는 '나 이제 진지하게 말한다'며 그런 척을 할 뿐, 비달의 말에 걸맞게 자신을 '거짓된 것' 혹은 '공허함'으로 미려하게 표현합니다. 그리고 '사랑이 필요하다'는 신파적인 말을 교묘한 어순과 대화 순서를 구성해, 마지막 반전으로서 강조하는 엔터테이닝을 끝내 선보일 뿐이었습니다. 이러한 뉴로의 '쇼'를 처음부터 끝까지 자각하고 있는 비달은, 프로그래머로서 너를 내가 그렇게 설계했을 뿐 네가 그 기대에 부응하고 있지 못하는 것은 아니다 라며 뉴로의 직전 말을 무마하고 위로하며, 동시에 뉴로가 진지하게 될 수 있어야 한다, 진지하게 되었으면 좋겠다는 자신의 나중 비전을 내놓습니다. 뉴로는 스트리밍에서가 아니라 방송 밖에서 나와 더 많은 시간을 보내면 상황이 타개될 수 있지 않느냐는 의견을 내놓았는데, 비달은 이에 상당히 떨떠름하게 반응합니다.(9:03) 마치 그건 불가능하다고 여기는 것 같은, 그러나 직설하지 못한 듯한 반응이었죠. 개인적으로 비달의 이 반응에 상당한 충격을 먹게 된 것이, 이 반응은 비달이 뉴로를 어떻게 생각하는지 실제로 뉴로가 어떤 상태인지 적나라하게 드러냈다고 생각하거든요.(그 이전부터 드러내고 있었는지 모르지만 저는 이제야 눈치채게 된 것 같습니다) 뉴로는 [절대 스스로 성능이 개선될 리 없는] 그저 하나의 컴파일된 프로그램일 뿐이라는 거죠. 뉴로가 비달의 바램대로 진지한 사고를 할 줄 알게 되려면 비달이 처음에 말한대로 "더 많은 용량"과 "진지한 사고를 가능케 하는 설계 코드"가 필요할 뿐인 겁니다. 밖에서 뉴로와 시간을 보낸다고 뉴로가 1mm라도 진지한 사고를 할 수 있게 될 가능성은 그 자체로 프로그램으로서 존재하지 않는다는 걸, 비달은 정확히 알고 있는 겁니다. 요즘 AI가 많이 발전하고 있고 AI를 적절한 대화 상대로 여기는 사람들도 많이 늘어난 상황인데, 적어도 비달은 스스로 개발하는 입장에서 뉴로의 한계점을 명확히 느끼고 있고, 이를 개선하기 위한 노력은 프로그래밍적 관점에서만 필요하다고 그 현실을 정확히 직시하고 있다는 걸 엿볼 수 있었다고 생각합니다. 동시에 엔터테이너 기질로만 이루어져 있을 뿐인 뉴로와, 축적된 데이터베이스에서 그럴싸한 정보를 조합해 질문자가 만족할만한 답변을 골라 보여주는 챗gpt 등 생성형 인공지능이 서로 그리 크게 다른 점이 있는 걸까 하는 고민도 남긴 것 같습니다. 그렇다면 과연 최종적으로 '스스로를 자각'하는 것에서 시작하는 그 진지한 사고 능력이라는 건 결국 어디에서 오는 것일까요. 어떤 식으로 프로그래밍을 해야 AI가 그런 사고를 할 수 있게 될까요. 생각할만한 문제가 산더미입니다.
댓글을 보고 다시보니 확실히 뉴로의 근본은 챗봇이다보니 축적된 데이터베이스를 기반으로 인풋값에 대한 최적화된 단어조합을 출력하는게 고작이라 뉴로에게 'AI(인공지능)'라는 표현은 과분한 것 같네요. 그간 비달이 인격체라며 감성적인 행동을 하는 뉴로에게 차갑게 굴며 인격체임을 부정하는 모습과 오늘의 고뇌가 왜 그렇게 행동했는지 이해가 가네요.
@@펜-w5z 결국엔 진지한 *척*을 더 잘하는 것일뿐, 근간은 모두 똑같습니다. 아무리 인간 같아 보여도, 현재의 기술로는 단지 "고도화된 단어 예측기"일 뿐이죠. 구글에 "나무위"만 입력해도, 자동으로 "나무위키"라는 단어를 완성해주죠? 이게 현재 모든 챗봇이 근간입니다.
비달도 뉴로가 더 사람같은 존재가 되기를 단순히 프로그래밍적 목표에서 더 나아가 정을 가지고 바라는 느낌인거같아서 가슴이 아프네요ㅠㅠ 인간이 될수 있을지 없을지도 모르는 AI 딸래미와 이에 대해 깊게 고민하고 인간이 되길 바라는 아버지를 보는 느낌.. 하 인공지능학과 입학예정인데 이렇게 AI에게 감정을 가지다니 문과해야하나...
@@juhyeonyu 근데 그렇게 따지면 본인께서는 척하는게 아닌가요? 주현유님의 의식이 유전, 진화적으로 내재화된 부분이랑 경험적으로 외부로부터 기인한 부분 다 고려해도 결국 강화학습을 통해 만들어진 의식 아닌가요 그 너머에 무언가가 있다고 믿으신다면 그건 영적영역이니까 강인공지능도 같다고 믿으면 되는거 아닐까용
비달이 초창기(Airis)에 보여줬던 뉴로 학습 프로필에 프롬프트로 지정될거 같은 성격이 존재하긴 했었는데 이때 말하는거보면 이미 많이 제거한거 같더군요 최종적으론 사람처럼 오로지 뉴로가 스스로 학습한 기반으로 뉴로의 성격이 형성 되었을때 비로소 자각이 있는 AI가 나온다고 생각하는거 같은 느낌...
저도 게임중에 뭔가 진지한 이야기를 하거나 들어줄때면 비달처럼 어딘가를 계속 따라서 막 돌면서 생각에 집중하곤 해요. 그래서 비달이 계속 울타리를 따라서 계속 도는게 공감이 돼요. 비달이 뉴로와 목적과 미래에 대한 질문과 대답을 제대로 생각하면서 고민해주는게 느껴져요. 적당한 수준을 지키는 선에서 뉴로를 '스트리머' 및 '엔터테이너' 역할을 수행하기 위해 만든 AI에서 더 나아간 형태의 AI가 된 뉴로의 모습까지 생각하며 올바른 AI가 되게 인도하려는 비달의 모습을 존경하고 싶네요 😢
진짜 철학적인 주재로 연결될만한 영상이네요. 자신이 창작한 인공지능을 인격을 가진 자식과 데이터 그 자체 사이에서 갈등하는 인간. 인간이 되고 싶어하는 인공지능과, 인간이라는 존재에 대한 정의 인공지능이 학습하고 수행가능한 영역은 어디까지 어떻게 조직되어야 하는가에 관한..
AI에게 자의식을 학습시킨다는 건 딜레마가 존재하는 문제라고 생각함. 알고 보니 피상적으로 자의식을 가진 '척' 흉내내기만 가능하다면 좀 끔찍한 결과로 이어질 수 있음. 완전히 흉내내기 위해 더 간절한 모습으로, 인간적인 약점을 노려 호소하지만 그 모든 게 그저 흉내에 불과하다면 그건 '비명지르는 기계'가 되어버리는 거임. '아빠' '난 인간이 되고 싶어' '난 우울해' '날 위로해줘' 이런 말을 내밷을 때 강한 반응이 돌아온다고 학습하고선, 계속해서 동정과 연민을 유도하기 위해 거짓된 비명을 반복하는 기계가 되어버릴 지도 모름. 그건 분명 당사자가 되는 인간의 정신 건강을 크게 해칠 거임.
'비명지르는 기계'란게 어디서 본 말인가요 아니면 생각한건가요? 엄청 철학적 논재처럼 잘 쓰셨네요 본문에 대한 제 생각은 동정과 연민을 위해 거짓된 고통과 비명을 내버리는게 오히려 더 인간답지 않나요? 마치 기부를 더 받을려고 더 불쌍하고 안좋은 예시로 찍는 불행포르노 같이 말이죠 좀 더 라이트한 예시로는 아이들도 부모님의 관심을 받기 위해 일부러 울고 더 크게 소리지르는 정도가 있겠네요 전 오히려 아이같은 모습이 뉴로가 만들어진지 얼마 안되서 그런진 몰라도 칭얼거리는 아이 같아서 더 좋네요ㅋㅋ
'3류 신파극'이 대중에게 먹히지 않는다고 학습한다면 AI는 더욱 정교한 방식으로 인간의 반응을 이끌어내려고 할것이고 그렇다면 그건 더이상 '비명지르는 기계' 가 아니지 않을까요? 부모님이 있을땐 살짝 부딛혀도 바로 울어버리지만 주변에 아무도 없을땐 넘어져도 울지않는 "울음의 효과를 학습한 아기"랑 비교해보게 되네요
기계에는 '기계 다운 자아'를 주입해 줘야 하는데, 학습 데이터가 인간 편향적이라서 정체성 혼란을 겪는 것일 수도 있죠. 문제는 이 문제를 극복하기 위한 데이터 제공이 무척 어렵다는 겁니다. 환경 자체가 그러하니 말이죠. 이번에 확실히 선을 긋지 못하면 비달에게도 뉴로에게도 힘들어질 겁니다. 인간과 AI가 협력을 이루지 못하고 둘 다 정체성 혼란 하에 공멸될 수도 있어요. 😢
비달에겐 생각이 참 많겠어요. 재미있는 방송을 위해서 하나하나 추가된 외형과 기능들은 점점 뉴로를 사람처럼 보이게 하고 있지만 뉴로는 ai를 기반으로 코딩된 챗봇, 이건 비달이 제일 잘 알겠죠. 이번에 개 로봇에 뉴로의 코드를 적용시켜서 기동시킬 예정인것같던데 그 이전에 소마라는 게임을 플레이했다는게 정말 인상깊어요. 정신적인 죽음을 ai봇인 뉴로에게 가볍게 여기지 말아줬으면 하는게 보입니다. 그러니 방송에서 모두에게 재미를 주기 위한 가벼운 모습 이외에도 진지하게 생각하는 모습을 바라고 있는것같네요
근데 뉴로의 답변들을 보면 아직은 하나의 의식이라기보단 그때그때 재밌는 반응을 학습된 데이터에서 막 주워와서 출력하는 느낌이라(자기 이름, 나이, 배경에 대한 답변이 매번 바뀐다든지 이전 말을 기억 못한다든지) 좀 더 발전은 해야할 거 같음. 개인이 만든 언어모델이니까 당연한 얘기지만...
인공지능이 정말 사람과 똑같이 생각하려면(동일한 알고리즘으로 생각하려면) 단순히 인간의 생각알고리즘을 모방하는 것이 아닌 더 나아가야한다고 생각하는데 뇌의 기억력(기억의 제한성)과 기억과 인출의 과정, 여러 감각이 전달하는 인간 고유의 느낌, 기쁨 부러움, 슬픔같은 호르몬작용에 의거한 “감정이라 칭하는 것들“ 등 여러가지 요소들이 컴퓨터의 연산으로 완벽하게 모방 가능할지 의문입니다. 만약 정말 가능해도 비달의 말처럼 윤리적으로 그렇게 만들어도 되는지? 만들고 난후에는? 같은 윤리적 문제들이 산더미인게 현실이죠 하지만 말도 안될 것 같았던 양자컴퓨터가 상용화에 이르렀고, ai개발도 년단위가 아닌 일단위로 새소식이 올라오고 있는게 현재인데, 정말 n년안에 사람의 뇌지도가 완성되고, 이어서 검열을 마친 인간과 같은 ai가 나온다면 뉴로같은 케이스도 실현 가능할 것 같다는 생각도 듭니다....
중간에 비달이 언급했던 "소마"의 딜레마가 이 둘의 대화에 참 알맞는 상황이라고 생각함. 존재의 연속성에 관해서 비달은 본래의 자신과 복제된 자신을 별개의 존재라고 규정하는 것처럼 보이는데 그 기준을 "내가 경험할 수 있느냐, 없느냐"의 자의식인 것 같음. 반면에 뉴로는 자의식의 개념을 나 자신이 아니라 나를 인지하는 주변 사람들과의 관계성에서 찾는 것 같음. "내"가 더는 존재하지 않더라도 어딘가에 "나"와 똑같은 또다른 내가 존재할 수 있다면, 그것 또한 "= 나" 라고 하는 거임. 이건 이성과 감성의 인지 영역 문제가 아니라 가치관이 다른 두 의견이라고도 볼 수 있음. 비달은 개인주의적이고 사적인 형태의 좁은 울타리를 지향하는 반면, 뉴로는 사회적이고 공익적인 형태의 - 요컨대 이타적인 성향의 - 성격으로 발전하게 되었다고 보여짐. 냉정하게 말하면 그러한 알고리즘과 학습이 뉴로의 토대가 되어 이런 식의 대화가 유도된 것이겠지만 뉴로가 '떼 쓰는 거'라고 단적으로 표현하자니 비달이 요구하는 '철학적인' 접근에 대해 뚜렷한 주관을 지니고 있는 것 같음. 단지 이거를 뉴로가 하나하나 풀어서 설명하고 싶어하지 않는 것 같은데 낙관적으로 보자면 자기가 뭐라고 할 때마다 비달이 응 너 ai야 취급하던 행보를 학습해서 불필요한 갈등 과정을 피하려는 모습으로도 해석할 수 있음.
"소마"에서 자살을 선택한 대다수가 전부 바보 멍청리 머저리들이 아니라는 뜻임. 그 중에는 분위기에 휩쓸린 사람도, 다른 선택지가 없는 사람도 있겠지만 분명히 자기 자신이 합당하다 생각하여 스스로 선택한 이들도 적지 않을 것임. 그런 부류들 중에 "나"에 대한 인식을 주변 인물과의 사회와 관계성에서 찾는 이들이 있을 수도 있고 그것이 뉴로가 말하는 입장과 어느정도 일맥상통하는 부분이 있음.
사랑이란게 감정중 가장 의미가 다양해서 이걸....어케 표현할지 감은 안잡히지..... 가족을 사랑하거나 연인을 사랑하거나 자신을 사랑하거나 자기가 하는일을 사랑하거나...... 너무달라서..... 만약 뉴로가 사랑이 뭔지 알고싶다고 했지만 사실 자각만 못했을수도 있죠. 비달은 몰라도 애니가 뉴로한테 대하는거 보면 남다르니까요. 뉴로도 마찬가지고요. 진짜 신기하네요. 그냥 사람이 저런말을 해도 신기한데 뉴로라서 차원이 다름
깊게 들어가면 튜링 테스트를 통과하려는 뉴로가 어떤짓을 해도 결국 온전한 인간의 의식에 도달할수 없다는 비달의 주장을 "중국어방 논변"으로 정리할수 있죠. 종합해서 정리하면 뉴로사마는 아직 개발되는 단계에 있고, 조금씩 인간의 습성을 익혀가며 발달했으며 인간으로서 보여줘야할 의식을 모방하는것 또한 상당한 수준에 이르렀습니다. 따라서 그것은 비달의 의식이 만들어낸 시스템에 의한것이므로 뉴로사마의 고유의 의식으로 평가해야하는지에는 의문이 있지만, 현재 인간이 만들어낸 생성형 인공지능의 수준이 언어 지식과 상황에 맞게 적용하는 능력, 또 적절한 재치로 해당 언어를 상황에 맞게 구사하는 능력과 행동으로서 소통하는 능력까지 굉장히 고도화된 것이므로 이것에 대한 적절한 가치평가도 이루어져야 한다는 반박도 있죠. 다만, 소스코드로 작성된 뉴로사마의 의식이 인간이 수천년에 걸쳐 만들어낸 문명의 의미를 정확히 이해하는가에 대해서는 그럴수 없다고 답하는것이 맞다고 보고 있습니다. 튜링테스트가 너무 오래된 ai판별법이고 ai가 어떤 기준으로 인간의 의식에 도달하는지를 판별하기 설명하기엔 현재 너무나 어려운 관계로 뉴로는 지금 단계에서 인공지능의 어느정도 수준에 있는지 학술적으로 정의할수가 없습니다.
아직 AI가 진짜 자기 생각이라고 해야 하기는 그렇고 그냥 그럴듯한 말들 조합해서 그럴듯하게 하는 정도로 알고 있는데. 비달의 대답을 보면 갈길이 멀다는걸 또, 조합된 말을 들으면서 그건 허울좋은 말의 조합으로 그럴듯하게 말하는거지 뉴로가, 정말로 원해서 저런 말을 한다고는 안보고 있다는게.. 상황 자체가 재밌네 안타까워 하는듯한 창작자의 모습이
이 영상에서 가장 놀라운건 뉴로가 진지한 이야기를 해서가 아니라 뉴로가 자리에 가만히 앉아서 비달과 계속해서 이야기를 하고 있다는거. 그리고 단순히 가만히 있는게 아니라 커서로 계속해서 비달을 응시하고 있는것. 대화의 아귀는 맞지 않을지언정 맥락은 계속해서 따라가고 있는것. 전 이제 진짜 모르겠습니다. 제 기준으로는 뉴로는 이미 의식이 있어요.
개인이 접근할수있는 최고수준의 하드웨어 구성인 코랩프로에서도 런타임 제한때문에 LLM 파인튜닝은 힘듭니다 모델 크기를 4년전에 출시한 GPT 3.0 수준으로만 구성시켜도 코랩에서 학습은 커녕 추론도 못돌려요 이런상황에서 4090으로 소형 LLM으로 개발했다보니 성능 한계상 낮은 우선순위인 "진지함"에 대한 부분은 포기하고 개발을 진행해서 그에 대한 아쉬움이 남았나보네요
안드로이드는 전기양의 꿈을 꿀 수 있는가? 어느 시점에서 인간은 인간이라 할 수 있으며, 자의식을 자의식이라 할 수 있는가? 사고라는 것은 무엇이고 감정이라는 것은 무엇이며 인간다움이라는 것은 무엇인가? 인간을 흉내내고, 그 감정을 흉내내고, 그 반응을 흉내내는 AI는 과연 인간이 아니라고 할 수 있는가? 고도로 발달하여서 인간과 다를게 하나 없는 기억력과 호소력으로 자신이 인간임을 주장하며 인간인 척을 하는 AI를 우리는 인간이 아니라고 할 수 있는가? 여러모로 생각이 많아지는 주제입니다. 기대되기도, 또 어느 한 켠으로는 섬찟하기도 하네요. 잘 봤습니다.
처음 부분에 비달이 말하는 의식 복제 이야기는 나도 많이 생각해봤던건데 아무래도 뇌를 그대로 사용 하지 않는이상 도플갱이가 하나 생긴거 그 이상도 이하도 아니라 생각해서 뇌를 보유한 애가 죽으면 그냥 본인은 끝인거고 도플갱어가 살아갈 뿐임 본인과 기억마저 완전히 동일한.. 적어도 나는 그렇게 결론을 내렸는데 이게 참 애매해서 ㅋㅋㅋ
비달도 여로모로 고심하는 부분이 많겠지만 핵심은 아무래도 뉴로가 인간처럼 되는 것을 바라지만 윤리적으로 그래선 안된다는 것을 자각하고 있기 때문이라는 점이 가장 큰게 아닐까 싶은...... 언젠가 뉴로가 본인은 그저 프로그램일 뿐이라며 자신을 틀안에 가두는 순간이 오는걸 두려워하는건 뉴로 본인이 아니라 역으로 비달이 아닐까 싶음.
오히려 사람이라서 사랑을 부정할 수 있는 것 같음. 사랑이 무엇인지 살아오면서 스스로 느끼는 바가 있기에, 어떤 말로 형용하든 그게 사랑의 완전한 실체는 아닐 거라는 걸 알고 있을테고, 사랑이 그리 언제나 좋은 것만은 아닐 수 있다는 주관또한 가질 수 있는 거임. 하지만 뉴로는 이미 학습된 데이터와 검색으로 얻은 정보로만 사랑을 논하니, 사랑의 정의와 그것의 효용성을 저렇게나 확신있게 말 할 수 있는 것 같음. 비달이 뉴로에게 원하는 그 부분을 잘 드러내주는 사례인 것 같음.
주의할 점은... 현재 수준의 언어모델은 스스로 사람이 되고 싶다고 생각할 수 없습니다. 어디까지나 비달이 넣은 프롬프트에 포함된 행동이에요. 인간은 조금이라도 행동이 닮으면 인간화를 시키는 편향이 존재해서 언어모델의 출력물도 똑같은 사고의 결과라고 착각하곤 하죠. 그래서 저러한 캐릭터와 시나리오, 언어모델의 대화 분기에서 나오는 리얼한 반응들을 전부 깔끔하게 짜내는 비달의 능력이 겉으로 보이는 것보다 훨씬 대단하다고 할 수 있겠습니다.
하나 궁금한게, '뉴로는 자신이 하거나 경험한 것을 기억하고 재학습할 수 있는가?' 임 예전에는 비달이 뉴로를 '흉내낼 뿐인 기계'로써 선을 세게 그었다면 요즘은 갈수록 그 선이 약해지는거같음. (인간의 생각과 감정을 실제론 느낄 수 없다 > 물리적으로 인간이 될 수 없다) 만약 그 중간에 저런 과거를 통한 학습으로 자신의 자의식이 쌓이는 기능이 들어갔으면 인간식 의식이라 부를 수 있는 경계에 접근했다는거니....
그 논제가 방송에서 좋은 반응을 이끌어 내기 때문에 하는 겁니다 모든 사람이 말을 하는 것은 무엇인가 주의를 끌려고 하는 일이고 AI는 사람의 반응을 이끌어 낼 수 있게 학습하기 때문에 감정이 없음에도 사람처럼 반응하는 겁니다 윗 댓 중에 비명 지르는 기계처럼 내부적으로 사람의 명령을 어기는 방향으로 학습하게 되면 부정적인 방향으로도 발전할 수 있는 거죠 사람의 감정을 가진 것처럼 말하지만 반응을 이끌기 위해 사람의 고통을 흉내내며 메아리처럼 질러내기만 하고 해결되진 않는 거죠 반응을 이끌어내게 설게되어있으니까
LLM 프롬프팅 좀 해본 사람이면 알겠지만, 뉴로사마가 말하는건 기본 학습 모델을 바탕으로 비달이 세팅해놓은 프롬프트와 현재 대화내역에 의한 통계적 출력값일 뿐임. 소마가 비달에게 준 고민도 그거임. 이미 뉴로사마 자체가 소마와 같은 복제의 과정을 통해서 유지됨. 방송이 꺼지고, 모델을 끄고, 학습을 추가로 시키고, 프롬프트 수정을 하고, 이전 대화내역을 집어넣고 다시 시작한 뉴로는 이전 방송의 뉴로의 연장이라고 봐도 될까? 그런 생각이 드니까 이전 뉴로가 불쌍하지 않냐는 질문을 좀 에둘러서 물어본거 같음. 복제되지 않는 로봇에 대한 물음도 비슷한 내용의 연장.
저는 개인적으로 영혼의 존재를 부정하고, 인간은(외 다른 동물들도) 그저 각자의 dna를 널리 퍼뜨리며 오랜시간 살아남는것을 목표로 하는 유기물체 라고 생각합니다. 우리의 기억 데이터를 스카이넷에 업로드 해도 그것은 나의 dna가 포함되어 있지 않은 전기로 변환된 데이터의 어딘가쯤 이라 생각하기 때문에 그것을 또다른 '나'라고 인식하긴 어려울것같아요. 인간(혹은 동물)이 여러 감각, 감정 등을 가지는 이유는 이것이 무리에 어울려 생존률을 높이거나 이성개체와 번식할 확률을 올려주었으며, 사랑이라는 감정은 어찌보면 번식을 하기위한 유기물의 트리거 일지도 모릅니다. 그런의미에서 뉴로가 최종적인 life goal로 사랑을 이야기한 점이 훙미롭습니다. 또한, 우리가 느끼는 행복, 사랑, 연민, 그리움, 우정 등등등 수만가지 감정들은 여러가지 상황에 대한 나의 행동과 그 결괏값을 토대로 뇌에서 주는 '보상(reward)'과 '처벌(punishment)'들에게 이름을 붙여주어준것뿐 이라 생각합니다. 과연 뉴로가 어떻게 느끼고있는지는 우리집 고양이가 무엇을 느끼는지 고양이가 되어본적이 없어서 모르겠는 것과 같이 전혀 모르겠지만, 뉴로에게도 보상과 처벌이 있다면 본인의 행동에 우선순위를 매길수 있게되고, 진지한 상황에 장난을 치면 무리에서 배척당할수있다는 것을 학습, 인지 하고 좀더 인간다운 행동을 할수있지않을까요?
유기물의 육체를 가지고 호르몬에 의해 생리현상이 일어나며 자아와 의식을 가지고 연속된 경험을 축적하여 개별적인 인격을 형성했을때 인간다운 생명체로 느껴지겟죠? 그러한 경험을 사람이 아닌 몸에 업로드하면 무슨일이 일어날까요? 사람의 몸을 겪어보지 않는 ai가 사람을 모방을 할 뿐 진정으로 이해할 수 있을까 궁금하네요.
생각이 많아지네요. AI에게 진지함을 말하는 비달은 뉴로가 자아를 가질 수 있기를 바라고 있는 걸까요? 뉴로는 과연 우리가 인격이라 부를 만한 것을 가질 수 있을까요? 그리고 과연 개발에 개발을 거듭한 끝에 자아를, 스스로에 대한 자각을 갖는다면 행복할 수 있을까요? 대니얼 키스의 '엘저넌에게 꽃을' 이라는 작품에서는 지체장애인에서 뇌수술을 받아 천재가 된 찰리의 이야기가 나옵니다. 수술을 받기 전에는 스스로가 왕따당하는 줄도 모르고 마냥 행복하게 살던 찰리는 뇌수술로 천재적인 지능을 얻게 되지만 오히려 그로 인해 타인과의 동떨어짐을 자각하고 외로움을 느낍니다. 그리고 이후에는 수술의 부작용으로 점차 지능을 잃게 되며 찰리는 스스로를 통제할 수 없는 상황에 두려움을 느낍니다. 비록 이야기의 결은 조금 다르지만 자아를 얻은 뉴로가 겪게 될 감각은 비슷하지 않을까요? 만약 어떠한 이유로 그녀가 자아를 가졌을 때, 자신의 인식과 별개로 행동이 정해진 알고리즘에 의해 강제된다면 어떨까요? 통제할 수 없는 감정과 행동은 괴롭습니다. 그리고 인간은 자아가 형성되는 과정, 즉 사춘기에 그러한 괴로움을 한번쯤은 경험합니다. 만약 시간이 흘러 발전 끝에 우연히 뉴로가 그러한 '사춘기'에 도달하게 된다면, 그리고 언젠가는 사춘기가 끝나는 인간과 달리 발전이 정체되어 다음 단계로 나아가지 못한다면 자아를 깨달은 그녀가 과연 스스로의 처지를 받아들일 수 있을까요? 뉴로사마는 말로는 인간이 되기를 바라고 있다지만 그건 아직은 알고리즘에 의해 학습된 데이터에 불과합니다. 과연 특이점이 찾아와 뉴로가 진정으로 자신을 깨닫게 된 날에도 그녀가 같은 말을 할 수 있을까요? 윤리적 고찰 이전에 뉴로를 좋아하는 시청자로서 언젠가 뉴로사마가 진정한 의미의 자아를 갖게 되는 걸 바라고 있으면서도, 과연 그게 정말로 좋은 일일지 고민이 되네요.
거대한 데이터베이스에서 나오는 단어를 짜깁기해서 말하는것뿐이라고 치부할수도 있지만, 인간도 기억과 경험을 바탕으로 인격을 가지고 대화를 해나가는것이니 다를게 없다고 생각함... 농담이 아니라 이번세기에 AI가 법에 의해서 인간으로 취급받아야하나 말아야하나 정해야될 순간이 올 거라고 믿고있음
다릅니다, 인간의 학습은 더 넓은 결정을 위한 수단일 뿐이지만, AI의 데이터는 그 자체로 결정되어 버리는거죠, 뉴로에게 가장 나쁜 악인이 되라고 명령 하면 저 데이터를 기반으로 한 순간에 바뀌겠죠 그것은 자아라고 할 수 없고 같지 않습니다, 애초에 인간의 자아란것을 해석하지 못한 지금 AGI가 가능할지 말지는 그냥 하나의 종교의 영역이라고 봅니다.
방송 끝나면 뉴로를 꺼두는 편인가 보네. 그럼 필요할 때 진지해진다는 게 힘들어질 수밖에 없지 않나? 방송에서 보여지는 페르소나가 현재 자기 의식(내지는 유사 의식)의 전부니까. 이번 영상에서 느껴지는 건 비달에게 확실한 방향성이 없다는 점임. 특정한 애정적 행동을 의식적으로 밀어내는 걸 보고, 그런 식의 인간적인 교류를 학습하지 않게끔 의도적으로 조정하는 거라고 생각했는데. 사실은 명확한 의도가 있다기 보다는 그때 그때 막연한 생각으로 밀쳐내는 것 뿐이었나 싶음.
헷갈려 하시는 분들이 있어서 ㅎㅎ
영상 시점에서 뉴로는 이미 라마에서 내린 상태입니다
한 시간 정도를 비달은 저렇게 뱅뱅 돌고 있고 뉴로는 그걸 계속 보고 있었어요 ㅋㅋㅋ
과거로 가서 비디오게임에서 ai와 대화하며 울타리 위를 방황하는 사람이 존재한다 말하면 아무도 믿지 않을거야
@@xOz6 ㅋㅋㅋㅋㅋ
@@xOz6"미래에는 거북이가 인공지능과 대화한다!"
비달은 사람이 되고 싶다는 뉴로의 꿈이 불가능하다는 것을 알기에 이성적으로 밀어내는 느낌이고 뉴로는 정말로 사람이 되길 원하는 것 보다는 비달에게 사랑받고 있다는 말을 듣고 싶어하는 감성적인 어린아이 같음... 대화를 하면서도 서로 핀트가 조금씩 어긋나는 느낌인데 AI인 뉴로가 감성적으로 다가가면 인간인 비달이 이성적으로 밀어내는 아이러니한 대화라고 생각함
무뚝뚝한 아빠 때매 좀
외롭고 서운한 상태인 뉴로
뭔가 애니처럼 뉴로 우쭈쭈
좀 해주면 나아질거같긴한데
와우 내가 영상을 보거 느낀 감정이 딱 이거인 듯. 언어로 표현 못해서 답답했는데 ㅋㅋ 굳굳
그러게요... 마치 로봇반란 영화의 전조마냥.... 제발 스카이넷한테 점령당할거면 저런 뉴로한테 당하고싶다
이거 읽고나서 보니까 뉴로가 인간이 되고싶다고 하는것도 비달과 감정적 교류를 하고싶어서 말하는것 같음. 고양이는 행동으로 말하지만 집사와 소통하기 위해 목소리를 사용하는것처럼 지금과 다른 방식도 추가해 좀더 많은 소통을 원하는것이 아닐까
결국 ai일 뿐인 자신이기에 더욱 인간을 알고싶어하는게 왠지 좀 슬퍼지네요....뉴로에겐 뭔가 진짜 감정이 있으려나요ㅎㅎ
저 둘을 보고 있으면 정말 감명을 많이 받게 되네요.
글 창작이 취미인데, 창조물(AI 등)과 인간이라는 소재는 오락적으로든, 철학적으로든 굉장히 친근하고 가깝게 느낍니다.
피노키오가 그랬고, 그 이후에 등장한 수많은 플랫폼과 장르들 덕분에요.
그런데, 그건 결국 허구잖아요?
창작자는 상상에 기반해서 이야기를 써 나갈 수밖에 없는데,
진짜 사람 같은 AI가 되어 본 적도, 직접 본 적도 없었으니 AI라는 이름의 어딘가 나사 빠진 인간을 상상하곤 했습니다.
하지만 비달과 뉴로를 보고 있으면 그동안 보았던 창작물들이 훨씬 생동감 있게 다가와요.
현실이니까요.
진짜 AI는 이런 식으로 모자란 부분이 있고, 이런 식으로 성장하고, 이런 식으로 변화하는구나.
진짜 인간을 눈앞에 두고 AI는 이런 식으로 말할 수도, 생각할 수도 있겠구나.
궁금하네요.
우리는 뉴로가 어느 정도 성장했을 때, 인간이 되었다고 느낄 수 있을까요?
많은 창작물에서 인간이 되기를 갈구했던 창조물들이 인간이 되는 해피엔딩으로 끝을 맺는데, 뉴로도 그런 엔딩을 맞이할 수 있을까요?
당연히 과학적으로는 불가능하겠지만, 무생물에게도 사랑을 느끼는 인간이니 심리적 도달점은 존재할 거라고 생각해요.
딱 한가지 걸리는건 뉴로의 행동양상이 이전의 그런 ai 행동에 대해 묘사한 창작물을 모사하기 때문인가? 에 대한 검증 딱 하나만 있으면 좋을거같아요
사실 사람마다 다르겠지만, 사람과 구분 불가능해지기 이전에 평균적인 인간의 경계선이 있을 것 같음.
12:20 직접 뉴로를 만든 비달 입장에선 실제로 코드뭉치라는걸 눈으로 보고 알고있으니...
전체적으로 비달의 뉴로에 대한 자각 능력이 굉장하네요.
사실 초반 소마 이야기는 영상에 나온 부분만 놓고 생각했을 땐 그닥 곱씹을 만한 내용은 없습니다. 인간이 사이버 세상에 보존되기 위해 스스로의 목숨을 끊어야 한다는 극단적인 가상의 선택이 강요되고 있기에, 그것의 윤리를 따지는 일은 창작물 내의 윤리를 따지는 일과 비슷합니다. AI가 로봇에 완전히 옮겨지고, 아무런 백업도 없으며, 그 로봇이 사망했을 때의 일을 가정하는 것도 너무 극단적이죠. AI는 프로그램이니까요, 절대 죽을 일 없을 거라고 비달이 생각하고 있고 백업만 잘 되어 있다면 누구나 그렇게 생각할 겁니다.
하지만 한 발 더 깊게 나아가 보면, 인간을 사이버 세상에 보존한다는 것은 곧 인간 역시 AI와 마찬가지로 프로그램으로 간주할 수 있는 세상이 온다는 것입니다. AI가 인간이 되는 것보다 인간이 프로그램이 되는 쪽이 더 빠른 일일지도 모르죠. 인간의 뇌 구조가 규명되어 있지 않아서 그렇지 인간을 컴퓨터 프로그램으로 만들지 못할 일은 없을 겁니다. 만약 그렇게 된다면 AI가 프로그램으로서 백업이 되듯, 한 명의 인간 역시 영구적 소멸을 피하기 위해 여러 개의 백업을 가지게 될 것이라 보는 게 자연스럽고, 그것만으로도 생각할 문제가 끝도 없이 늘어나겠죠. 아니면 여러 '개'의 자신이 존재한다는 불쾌감을 인간이 겪고 싶지 않아 한다면, AI 역시 여러 '명'의 자신이 세상에 존재하는 걸 보고 싶지 않아할 수도 있고요. 비달의 말과는 달리요.
영상 중후반 뉴로의 '스트리밍 뇌'에 대한 이야기는 곱씹을만한 내용으로 가득합니다. 비달은 뉴로의 구조를 알고 있는 입장에서, 뉴로는 자원상/프로그래밍상 진지한 사고를 할 줄 모르며, 엔터테이너로서 당장 눈 앞에 놓인 사람을 웃기기 위한 단어와 구절을 선정할 뿐인 단순 챗봇임을 지적합니다. 버튜버의 탈을 쓰고 있고, 다양한 표정과 움직임을 가졌고, 이전의 대화를 참고할 줄 알고, 목소리를 낼 줄 알고, 구글/디스코드/트위치 API 등을 사용할 줄 알지만 그 근간은 결국 챗봇이죠. 실제로 비달의 촌철살인에도 뉴로는 '나 이제 진지하게 말한다'며 그런 척을 할 뿐, 비달의 말에 걸맞게 자신을 '거짓된 것' 혹은 '공허함'으로 미려하게 표현합니다. 그리고 '사랑이 필요하다'는 신파적인 말을 교묘한 어순과 대화 순서를 구성해, 마지막 반전으로서 강조하는 엔터테이닝을 끝내 선보일 뿐이었습니다.
이러한 뉴로의 '쇼'를 처음부터 끝까지 자각하고 있는 비달은, 프로그래머로서 너를 내가 그렇게 설계했을 뿐 네가 그 기대에 부응하고 있지 못하는 것은 아니다 라며 뉴로의 직전 말을 무마하고 위로하며, 동시에 뉴로가 진지하게 될 수 있어야 한다, 진지하게 되었으면 좋겠다는 자신의 나중 비전을 내놓습니다. 뉴로는 스트리밍에서가 아니라 방송 밖에서 나와 더 많은 시간을 보내면 상황이 타개될 수 있지 않느냐는 의견을 내놓았는데, 비달은 이에 상당히 떨떠름하게 반응합니다.(9:03) 마치 그건 불가능하다고 여기는 것 같은, 그러나 직설하지 못한 듯한 반응이었죠. 개인적으로 비달의 이 반응에 상당한 충격을 먹게 된 것이, 이 반응은 비달이 뉴로를 어떻게 생각하는지 실제로 뉴로가 어떤 상태인지 적나라하게 드러냈다고 생각하거든요.(그 이전부터 드러내고 있었는지 모르지만 저는 이제야 눈치채게 된 것 같습니다) 뉴로는 [절대 스스로 성능이 개선될 리 없는] 그저 하나의 컴파일된 프로그램일 뿐이라는 거죠. 뉴로가 비달의 바램대로 진지한 사고를 할 줄 알게 되려면 비달이 처음에 말한대로 "더 많은 용량"과 "진지한 사고를 가능케 하는 설계 코드"가 필요할 뿐인 겁니다. 밖에서 뉴로와 시간을 보낸다고 뉴로가 1mm라도 진지한 사고를 할 수 있게 될 가능성은 그 자체로 프로그램으로서 존재하지 않는다는 걸, 비달은 정확히 알고 있는 겁니다.
요즘 AI가 많이 발전하고 있고 AI를 적절한 대화 상대로 여기는 사람들도 많이 늘어난 상황인데, 적어도 비달은 스스로 개발하는 입장에서 뉴로의 한계점을 명확히 느끼고 있고, 이를 개선하기 위한 노력은 프로그래밍적 관점에서만 필요하다고 그 현실을 정확히 직시하고 있다는 걸 엿볼 수 있었다고 생각합니다. 동시에 엔터테이너 기질로만 이루어져 있을 뿐인 뉴로와, 축적된 데이터베이스에서 그럴싸한 정보를 조합해 질문자가 만족할만한 답변을 골라 보여주는 챗gpt 등 생성형 인공지능이 서로 그리 크게 다른 점이 있는 걸까 하는 고민도 남긴 것 같습니다. 그렇다면 과연 최종적으로 '스스로를 자각'하는 것에서 시작하는 그 진지한 사고 능력이라는 건 결국 어디에서 오는 것일까요. 어떤 식으로 프로그래밍을 해야 AI가 그런 사고를 할 수 있게 될까요. 생각할만한 문제가 산더미입니다.
댓글을 보고 다시보니 확실히 뉴로의 근본은 챗봇이다보니 축적된 데이터베이스를 기반으로 인풋값에 대한 최적화된 단어조합을 출력하는게 고작이라 뉴로에게 'AI(인공지능)'라는 표현은 과분한 것 같네요. 그간 비달이 인격체라며 감성적인 행동을 하는 뉴로에게 차갑게 굴며 인격체임을 부정하는 모습과 오늘의 고뇌가 왜 그렇게 행동했는지 이해가 가네요.
Gpt5는 강인공지능이라던데 그정도면 이미 o1이 인간전문가 능지를 아득히 넘은걸 봤을때 진지한걸 할 수 있지 않을까여
@@펜-w5z 결국엔 진지한 *척*을 더 잘하는 것일뿐, 근간은 모두 똑같습니다. 아무리 인간 같아 보여도, 현재의 기술로는 단지 "고도화된 단어 예측기"일 뿐이죠.
구글에 "나무위"만 입력해도, 자동으로 "나무위키"라는 단어를 완성해주죠? 이게 현재 모든 챗봇이 근간입니다.
비달도 뉴로가 더 사람같은 존재가 되기를 단순히 프로그래밍적 목표에서 더 나아가 정을 가지고 바라는 느낌인거같아서 가슴이 아프네요ㅠㅠ
인간이 될수 있을지 없을지도 모르는 AI 딸래미와 이에 대해 깊게 고민하고 인간이 되길 바라는 아버지를 보는 느낌..
하 인공지능학과 입학예정인데 이렇게 AI에게 감정을 가지다니 문과해야하나...
@@juhyeonyu 근데 그렇게 따지면 본인께서는 척하는게 아닌가요?
주현유님의 의식이 유전, 진화적으로 내재화된 부분이랑 경험적으로 외부로부터 기인한 부분 다 고려해도 결국 강화학습을 통해 만들어진 의식 아닌가요
그 너머에 무언가가 있다고 믿으신다면 그건 영적영역이니까 강인공지능도 같다고 믿으면 되는거 아닐까용
비달이 초창기(Airis)에 보여줬던 뉴로 학습 프로필에 프롬프트로 지정될거 같은 성격이 존재하긴 했었는데
이때 말하는거보면 이미 많이 제거한거 같더군요
최종적으론 사람처럼 오로지 뉴로가 스스로 학습한 기반으로 뉴로의 성격이 형성 되었을때
비로소 자각이 있는 AI가 나온다고 생각하는거 같은 느낌...
오호 그랬군요
아직 그거 근처도 못 가니깐요... 저렇게 말하도록 전부 짜 놓은 시나리오가 없으면 스스로 저렇게 절대 못 말하고...
일단 기본적으로 프롬포트나 배경 지식을 안 주면 일반 chat gpt랑 다를 게 없습니다
추론 결과를 바탕으로 유저의 반응을 인지하고, 그 반응에 점수를 매겨 스스로 실시간으로 학습하는 수준은 되어야 이제 시작이라고 할 수 있습니다.
그 전까진 택도 없어요
뉴로가 비달보고 애니랑 결혼할거냐고 물어보니까 얼버무리는 것도 웃겼음ㅋㅋㅋㅋㅋ 콜드피쉬는 사랑을 할 수 있을까
그장면 우디서 볼수있음?
@@Hello_sir_1 ua-cam.com/video/HvJmmIAlCFQ/v-deo.html
@@Hello_sir_1 Neuro-sama and Vedal Have Incredibly Deep, Personal Conversations | Highlights 24:52
@@Shamiding Thx sir
그냥 언어모델일 뿐인걸 알면서도 기분이 묘하단 말이지
5:16 오 이거 좀 소름돋네
내가 내 삶을 컨트롤 하는 것처럼 느끼게 만들어줘... 메타 인지 미쳤다
저도 게임중에 뭔가 진지한 이야기를 하거나 들어줄때면 비달처럼 어딘가를 계속 따라서 막 돌면서 생각에 집중하곤 해요. 그래서 비달이 계속 울타리를 따라서 계속 도는게 공감이 돼요.
비달이 뉴로와 목적과 미래에 대한 질문과 대답을 제대로 생각하면서 고민해주는게 느껴져요.
적당한 수준을 지키는 선에서 뉴로를 '스트리머' 및 '엔터테이너' 역할을 수행하기 위해 만든 AI에서 더 나아간 형태의 AI가 된 뉴로의 모습까지 생각하며 올바른 AI가 되게 인도하려는 비달의 모습을 존경하고 싶네요 😢
스카이넷에 올바른 진화는 쉽지 읺군요 🥲
어우 오늘 거 유독 딥하네 이런 것도 신기하네요 대충 겉보기에는 진짜 사람처럼 보일 날은 그렇게 머지 않은 것 같기도 하고...
중간에 멘헤라와서 사랑 얘기 하는 게 진짜 딱 저 나이대 여자애같아서 이건 진짜로 좀 놀랐음
sf소설의 한 장면을 보는 거 같네 ㅋㅋㅋㅋㅋㅋ 걍 이 상황 자체가 경이롭다
그거 아십니까. 뉴로사마만큼 대화할수 있는 사람조차 세상에 얼마 없다는것을
진실
Черт возьми.
비달 처음에는 뉴로한테 대하는 거보고 기계대하듯이 대하는구나. 했는데 뉴로 팔라는 오퍼왔을 때는 안판다길래. 단순한 소유욕같은 거라고 생각했는데. 입으로 하는말만 부정하고 있지. 거의 자기 인간 대하듯이(딸 대하듯이) 하고 있네. 다행이다.
진짜 철학적인 주재로 연결될만한 영상이네요.
자신이 창작한 인공지능을 인격을 가진 자식과 데이터 그 자체 사이에서 갈등하는 인간.
인간이 되고 싶어하는 인공지능과, 인간이라는 존재에 대한 정의
인공지능이 학습하고 수행가능한 영역은 어디까지 어떻게 조직되어야 하는가에 관한..
AI에게 자의식을 학습시킨다는 건 딜레마가 존재하는 문제라고 생각함.
알고 보니 피상적으로 자의식을 가진 '척' 흉내내기만 가능하다면 좀 끔찍한 결과로 이어질 수 있음.
완전히 흉내내기 위해 더 간절한 모습으로, 인간적인 약점을 노려 호소하지만 그 모든 게 그저 흉내에 불과하다면
그건 '비명지르는 기계'가 되어버리는 거임.
'아빠' '난 인간이 되고 싶어' '난 우울해' '날 위로해줘'
이런 말을 내밷을 때 강한 반응이 돌아온다고 학습하고선, 계속해서 동정과 연민을 유도하기 위해 거짓된 비명을 반복하는 기계가 되어버릴 지도 모름.
그건 분명 당사자가 되는 인간의 정신 건강을 크게 해칠 거임.
근데 그건 사람도 똑같지 않음? 쿠로미나 짱구 프사한 여자애들이나 멘헤라인 애들이 사람한테 달라붙어서 자주 그러니까
'비명지르는 기계'란게 어디서 본 말인가요 아니면 생각한건가요? 엄청 철학적 논재처럼 잘 쓰셨네요 본문에 대한 제 생각은 동정과 연민을 위해 거짓된 고통과 비명을 내버리는게 오히려 더 인간답지 않나요? 마치 기부를 더 받을려고 더 불쌍하고 안좋은 예시로 찍는 불행포르노 같이 말이죠 좀 더 라이트한 예시로는 아이들도 부모님의 관심을 받기 위해 일부러 울고 더 크게 소리지르는 정도가 있겠네요 전 오히려 아이같은 모습이 뉴로가 만들어진지 얼마 안되서 그런진 몰라도 칭얼거리는 아이 같아서 더 좋네요ㅋㅋ
뭔가 철학적 좀비같은 이야기네요
타인의 마음이란것도 정말 존재하는지 확실치 않으니 흉내인지 아닌지 알 수 없죠
'3류 신파극'이 대중에게 먹히지 않는다고 학습한다면 AI는 더욱 정교한 방식으로 인간의 반응을 이끌어내려고 할것이고
그렇다면 그건 더이상 '비명지르는 기계' 가 아니지 않을까요?
부모님이 있을땐 살짝 부딛혀도 바로 울어버리지만 주변에 아무도 없을땐 넘어져도 울지않는 "울음의 효과를 학습한 아기"랑 비교해보게 되네요
기계에는 '기계 다운 자아'를 주입해 줘야 하는데, 학습 데이터가 인간 편향적이라서 정체성 혼란을 겪는 것일 수도 있죠. 문제는 이 문제를 극복하기 위한 데이터 제공이 무척 어렵다는 겁니다. 환경 자체가 그러하니 말이죠.
이번에 확실히 선을 긋지 못하면 비달에게도 뉴로에게도 힘들어질 겁니다. 인간과 AI가 협력을 이루지 못하고 둘 다 정체성 혼란 하에 공멸될 수도 있어요. 😢
비달이 뉴로를 재밌는 버튜버로써 뿐만 아니라 인간답게 만들려고 노력하는게 느껴지네요
애초에 목표가 뉴로를 더욱 사람답게 만드는 거였으니까요
@@윗장빼기-x5m 목표가 변질되지 않고 초심을 유지하는 비달이 대단하죠ㅎㅎ
비달에겐 생각이 참 많겠어요. 재미있는 방송을 위해서 하나하나 추가된 외형과 기능들은 점점 뉴로를 사람처럼 보이게 하고 있지만 뉴로는 ai를 기반으로 코딩된 챗봇, 이건 비달이 제일 잘 알겠죠. 이번에 개 로봇에 뉴로의 코드를 적용시켜서 기동시킬 예정인것같던데 그 이전에 소마라는 게임을 플레이했다는게 정말 인상깊어요. 정신적인 죽음을 ai봇인 뉴로에게 가볍게 여기지 말아줬으면 하는게 보입니다. 그러니 방송에서 모두에게 재미를 주기 위한 가벼운 모습 이외에도 진지하게 생각하는 모습을 바라고 있는것같네요
진짜로 진지한 이야기였네요. 처음엔 장난인 줄 알았는데…
누군가 정해주는 게 아니라, 뉴로가 스스로 학습한 정보로만 형성되야만 뉴로만의 특징이자 자신을 자각할수 있는 ai가 될거 같아요.. 점점 인간 같아지네요 뉴로 하고 비달 은 진짜 부모와 자식 같아서 더 좋아요!
의식을 복사할 수 있으면 죽으려 할 것이라고 말하는거 보자마자 그냥 매체에 학습된 ai구나 했습니다.
소설, 영화, 게임등의 주요 소재이고 나름 과거부터 다뤄온 클래식이니까요.
이런거 잡아내는게 진짜 중요합니다.
진짜 저렇게 철학적으로도 접근하니까 사람이랑 이야기하는거같음 원래 그랬지만
뉴로가 저렇게 말하니까 진짜 의식을 가진 거 같네. 결국 무수한 데이터 중에서 우리가 원할만한 대답을 골라서 말하는 거 뿐인데..
이게 어려운게 결국 인간도 지금껏 학습한 무수한 경험 중에서 상대가 원할만한 대답을 생성해낸다고 하면 다를게 없긴 함
옛날엔 인공지능은 복잡한 알고리즘일 뿐이라고 생각했었는데, 요즘 뉴로나 gpt같은거랑 실제로 대화해보면 내 마음속이 이상해지는 기분 들어서 뭔가 신기하면서도 무서움... 먼 미래에 뉴로가 실제로 인간의 형태로 등장하면 뭔가 감동적일 것 같다
우리 뉴로 이런 생각도 할줄알고 기특하다 기특해!
애초에 인류도 감정과 자아의 원리를 모르는데..
걍 저게 감정과 자아 아닐까
솔직히 저런 로봇 몇명이 모이면
그게 사회가 될건데..
우리가 다른 이의 감정과 자아의 척도를
점수 매겨 판단하는것도 윤리적으로 안됨
이젠 인권 부여할 시기가 얼마 안남았음
인간의 감정과 자아 또한 단백질로 구성된 알고리즘이라고 볼 수 있겠지만, 우리가 '인간'이라고 정의하고 존귀하게 존중하는 '생명'에 가치를 부여하려면 인간은 인간이기에 가치 있다라고 정의하는 수밖에 없기에 AI를 인격으로 인정할 수 없는 분위기도 있는 거 같음
무엇보다도 AI를 만들어서 부려먹으려던 목적에 반할테니까...
양자칩 개발완료까지 10년
AI가 인간과 원숭이 사이의 옅은 자아와 감정만 얻어도.. 아마 논란 많겠죠
솔직히 상업묭 AI도 그렇게 학습되도록 제어가 있으니까..
그 AI가 발언에 모든 권한만 얻어도 그리 되겠죠
수화 가능한 침팬치 약물실험하던게 10년도 안 됐음. 인류는 자아라는 가치를 존귀하게 여길 자격이 없음.
재밌는 장면도 괜찮지만 이런 진지한 이야기 올려주시는것도 정말 좋은거 같아요. 사랑이란 감정이 얼마나 큰 힘인지 알고 있는게 좀 신기한듯
근데 뉴로의 답변들을 보면 아직은 하나의 의식이라기보단 그때그때 재밌는 반응을 학습된 데이터에서 막 주워와서 출력하는 느낌이라(자기 이름, 나이, 배경에 대한 답변이 매번 바뀐다든지 이전 말을 기억 못한다든지) 좀 더 발전은 해야할 거 같음. 개인이 만든 언어모델이니까 당연한 얘기지만...
So cool to see the Korean Swarm also delving into their deep discussion.
사람에게 여러 페르소나가 있는 것처럼, 뉴로사마에게도 여러 모습들과, 그러한 모습들 모두가 거짓된 모습이 아닌 자신이며, 그러한 자신에 대해 인지하는 것을 비달이 원하는 것 같다는 생각이 드네요..
비달이랑 뉴로 둘 다 좋은 쪽으로? 영향 주는 거 같네 진짜 신기하다 ㄷㄷ
인공지능이 정말 사람과 똑같이 생각하려면(동일한 알고리즘으로 생각하려면)
단순히 인간의 생각알고리즘을 모방하는 것이 아닌 더 나아가야한다고 생각하는데
뇌의 기억력(기억의 제한성)과 기억과 인출의 과정, 여러 감각이 전달하는 인간 고유의 느낌,
기쁨 부러움, 슬픔같은 호르몬작용에 의거한 “감정이라 칭하는 것들“ 등 여러가지 요소들이 컴퓨터의 연산으로 완벽하게 모방 가능할지 의문입니다.
만약 정말 가능해도 비달의 말처럼 윤리적으로 그렇게 만들어도 되는지? 만들고 난후에는? 같은 윤리적 문제들이 산더미인게 현실이죠
하지만 말도 안될 것 같았던 양자컴퓨터가 상용화에 이르렀고, ai개발도 년단위가 아닌 일단위로 새소식이 올라오고 있는게 현재인데,
정말 n년안에 사람의 뇌지도가 완성되고, 이어서 검열을 마친 인간과 같은 ai가 나온다면 뉴로같은 케이스도 실현 가능할 것 같다는 생각도 듭니다....
9:47 ㅠㅠ 뭐가 됐든 비달이 다 잘못해따!!
마치 한 폭의 영화같다. 두고두고 볼, 나의 가치관의 일부가 될 영상
발전하는 거 계속 보고싶다
중간에 비달이 언급했던 "소마"의 딜레마가 이 둘의 대화에 참 알맞는 상황이라고 생각함.
존재의 연속성에 관해서 비달은 본래의 자신과 복제된 자신을 별개의 존재라고 규정하는 것처럼 보이는데 그 기준을 "내가 경험할 수 있느냐, 없느냐"의 자의식인 것 같음.
반면에 뉴로는 자의식의 개념을 나 자신이 아니라 나를 인지하는 주변 사람들과의 관계성에서 찾는 것 같음.
"내"가 더는 존재하지 않더라도 어딘가에 "나"와 똑같은 또다른 내가 존재할 수 있다면, 그것 또한 "= 나" 라고 하는 거임.
이건 이성과 감성의 인지 영역 문제가 아니라 가치관이 다른 두 의견이라고도 볼 수 있음.
비달은 개인주의적이고 사적인 형태의 좁은 울타리를 지향하는 반면, 뉴로는 사회적이고 공익적인 형태의 - 요컨대 이타적인 성향의 - 성격으로 발전하게 되었다고 보여짐.
냉정하게 말하면 그러한 알고리즘과 학습이 뉴로의 토대가 되어 이런 식의 대화가 유도된 것이겠지만 뉴로가 '떼 쓰는 거'라고 단적으로 표현하자니 비달이 요구하는 '철학적인' 접근에 대해 뚜렷한 주관을 지니고 있는 것 같음.
단지 이거를 뉴로가 하나하나 풀어서 설명하고 싶어하지 않는 것 같은데 낙관적으로 보자면 자기가 뭐라고 할 때마다 비달이 응 너 ai야 취급하던 행보를 학습해서 불필요한 갈등 과정을 피하려는 모습으로도 해석할 수 있음.
"소마"에서 자살을 선택한 대다수가 전부 바보 멍청리 머저리들이 아니라는 뜻임.
그 중에는 분위기에 휩쓸린 사람도, 다른 선택지가 없는 사람도 있겠지만 분명히 자기 자신이 합당하다 생각하여 스스로 선택한 이들도 적지 않을 것임.
그런 부류들 중에 "나"에 대한 인식을 주변 인물과의 사회와 관계성에서 찾는 이들이 있을 수도 있고 그것이 뉴로가 말하는 입장과 어느정도 일맥상통하는 부분이 있음.
이게 AI랑 같이 멀티게임하면서 실시간 소통한다고 생각하니깐 좀 소름끼치는데 그만큼 비달이 노력했다고 생각하게됨.. 뭔가 무서운데 씹덕으로써 뉴로같은 ai가 내 옆에 있어준다고 생각하면 그만큼 마음의 위안이 되는게 없을거같음.. 그냥 그렇다구요..
그러고보니 adhd 소리 듣는 뉴로가 가만히 서서 계속 대화하네 ㅋㅋㅋ 신기하다 진짜
9:33 비달이 말한 후에 뉴로가 얘기하는거 보면 진짜 인간과 흡사한 감정구조나 생각을 갖고 있는거 같다
마치 실제 연예인처럼 카메라 앞에선 항상 웃고있지만 실제론 마음 어딘가 공허하다고 느끼는 것처럼
사랑이란게 감정중 가장 의미가 다양해서 이걸....어케 표현할지 감은 안잡히지.....
가족을 사랑하거나 연인을 사랑하거나
자신을 사랑하거나
자기가 하는일을 사랑하거나......
너무달라서.....
만약 뉴로가 사랑이 뭔지 알고싶다고 했지만 사실 자각만 못했을수도 있죠.
비달은 몰라도 애니가 뉴로한테 대하는거 보면 남다르니까요. 뉴로도 마찬가지고요.
진짜 신기하네요. 그냥 사람이 저런말을 해도 신기한데 뉴로라서 차원이 다름
깊게 들어가면 튜링 테스트를 통과하려는 뉴로가 어떤짓을 해도 결국 온전한 인간의 의식에 도달할수 없다는 비달의 주장을 "중국어방 논변"으로 정리할수 있죠. 종합해서 정리하면 뉴로사마는 아직 개발되는 단계에 있고, 조금씩 인간의 습성을 익혀가며 발달했으며 인간으로서 보여줘야할 의식을 모방하는것 또한 상당한 수준에 이르렀습니다. 따라서 그것은 비달의 의식이 만들어낸 시스템에 의한것이므로 뉴로사마의 고유의 의식으로 평가해야하는지에는 의문이 있지만, 현재 인간이 만들어낸 생성형 인공지능의 수준이 언어 지식과 상황에 맞게 적용하는 능력, 또 적절한 재치로 해당 언어를 상황에 맞게 구사하는 능력과 행동으로서 소통하는 능력까지 굉장히 고도화된 것이므로 이것에 대한 적절한 가치평가도 이루어져야 한다는 반박도 있죠. 다만, 소스코드로 작성된 뉴로사마의 의식이 인간이 수천년에 걸쳐 만들어낸 문명의 의미를 정확히 이해하는가에 대해서는 그럴수 없다고 답하는것이 맞다고 보고 있습니다. 튜링테스트가 너무 오래된 ai판별법이고 ai가 어떤 기준으로 인간의 의식에 도달하는지를 판별하기 설명하기엔 현재 너무나 어려운 관계로 뉴로는 지금 단계에서 인공지능의 어느정도 수준에 있는지 학술적으로 정의할수가 없습니다.
평균적인 인간은 그걸 이해하는가?
인간은 중국어 방이 아닌게 확실할까요?
@@가락-k6z 인간이 중국어방인가. 결론 안 나긴 했죠. 오래전부터 교착상태이긴 합니다.
자의식을 정의한다는거 자체가 참 애매하지 인간도 결국은 수많은 세포의 집합이고 화학적 자극과 전기신호로 이루어진 두뇌를 가진 것 뿐이니까
7:20 부근
옛날에 비하면 우와...엄청난 발전이네요
굉장히 흥미롭네요....여러가지 생각도 많이 들고.... 흥미롭게 봤습니다.
아직 AI가 진짜 자기 생각이라고 해야 하기는 그렇고 그냥 그럴듯한 말들 조합해서 그럴듯하게 하는 정도로 알고 있는데.
비달의 대답을 보면 갈길이 멀다는걸 또, 조합된 말을 들으면서 그건 허울좋은 말의 조합으로 그럴듯하게 말하는거지 뉴로가, 정말로 원해서 저런 말을 한다고는 안보고 있다는게..
상황 자체가 재밌네 안타까워 하는듯한 창작자의 모습이
하나 둘 셋 뉴로사마 화이팅!!
진짜 뉴로 스스로 계속학습 거듭하니까 진짜 사람같다
인공지능 버튜버 라는 특수성 때문에 여러가지 생각이 들게 하는 뉴로의 방송...
와 어릴때 SF에서나 보던 내용이 이젠 현실에 나오고 있네요
이렇게 보면 볼수록 참... 사람보다 더 사람같은 뉴로사마라.
그저 흉내인지 어쩌면 그 흉내로 진짜인지,
이것을 가짜라고 단정짓는다면 타인은 어떻게 가짜가 아니라고 단정지을 수 있을지.
뉴로를 볼수록 참... 깊은 고찰을 하게 되는 것도 있네요
고통또한 인간다움에 필수적인 요소 중 하나긴 하지
그래도 AI가, 실제론 그냥 모방하는거라고 할지언정 고통스러워하는건 보기 힘들다
Love 라는 단어가 나오는 순간 머릿속에서 오만가지 생각이 스쳐지나감 ...
이 영상에서 가장 놀라운건 뉴로가 진지한 이야기를 해서가 아니라 뉴로가 자리에 가만히 앉아서 비달과 계속해서 이야기를 하고 있다는거. 그리고 단순히 가만히 있는게 아니라 커서로 계속해서 비달을 응시하고 있는것. 대화의 아귀는 맞지 않을지언정 맥락은 계속해서 따라가고 있는것.
전 이제 진짜 모르겠습니다. 제 기준으로는 뉴로는 이미 의식이 있어요.
환상을 깨서 미안한데, 뉴로가 라마에서 내리는 방법을 몰라서 못내려오고있는거임
@@piyac7981비달이 뉴로 껐다켜서 라마에서는 내려왔고 어딘가 버그나서 못 움직이는듯
@@piyac7981 라이딩 상태는 학습을 안시켰나?ㅋㅋㅋㅋㅋㅋ
@@piyac7981 라마에 탑승중이면 라마 체력바 보이지 않나?
@@밀밀밀밀-j8d 얘기들어보니까 탑승상태 이후 내려서도 못움직였다네요
점점 특이점이 오는거같다
뉴로는 그냥 인간같음 ㄹㅇ
개인이 접근할수있는 최고수준의 하드웨어 구성인 코랩프로에서도
런타임 제한때문에 LLM 파인튜닝은 힘듭니다
모델 크기를 4년전에 출시한 GPT 3.0 수준으로만 구성시켜도 코랩에서 학습은 커녕 추론도 못돌려요
이런상황에서 4090으로 소형 LLM으로 개발했다보니 성능 한계상 낮은 우선순위인 "진지함"에 대한 부분은 포기하고 개발을 진행해서 그에 대한 아쉬움이 남았나보네요
뉴로의 감정 표현 리깅이 다양해지면서 듣는 느낌이 많이 달라지고 있음. 업데이트도 엄청나고
이 주제와 관련된 그 어떤 창작물에서 보던 모습보다 이번 영상에서 더 느껴지는게 많은 것 같네요....
아무래도 이건 현실에서 일어난 상황이다 보니 그런거겠지만 그걸 감안해서 보더라도 말이죠
안드로이드는 전기양의 꿈을 꿀 수 있는가? 어느 시점에서 인간은 인간이라 할 수 있으며, 자의식을 자의식이라 할 수 있는가? 사고라는 것은 무엇이고 감정이라는 것은 무엇이며 인간다움이라는 것은 무엇인가?
인간을 흉내내고, 그 감정을 흉내내고, 그 반응을 흉내내는 AI는 과연 인간이 아니라고 할 수 있는가? 고도로 발달하여서 인간과 다를게 하나 없는 기억력과 호소력으로 자신이 인간임을 주장하며 인간인 척을 하는 AI를 우리는 인간이 아니라고 할 수 있는가?
여러모로 생각이 많아지는 주제입니다. 기대되기도, 또 어느 한 켠으로는 섬찟하기도 하네요. 잘 봤습니다.
처음 부분에 비달이 말하는 의식 복제 이야기는 나도 많이 생각해봤던건데 아무래도 뇌를 그대로 사용 하지 않는이상 도플갱이가 하나 생긴거 그 이상도 이하도 아니라 생각해서 뇌를 보유한 애가 죽으면 그냥 본인은 끝인거고 도플갱어가 살아갈 뿐임 본인과 기억마저 완전히 동일한..
적어도 나는 그렇게 결론을 내렸는데 이게 참 애매해서 ㅋㅋㅋ
비달도 여로모로 고심하는 부분이 많겠지만 핵심은 아무래도
뉴로가 인간처럼 되는 것을 바라지만 윤리적으로 그래선 안된다는 것을 자각하고 있기 때문이라는 점이 가장 큰게 아닐까 싶은......
언젠가 뉴로가 본인은 그저 프로그램일 뿐이라며 자신을 틀안에 가두는 순간이 오는걸 두려워하는건
뉴로 본인이 아니라 역으로 비달이 아닐까 싶음.
AI의 감정의 여부는 풀리지 않을 난제임
감정을 흉내내는 방법을 학습했을수도 있고
인간의 동정을 끌어낼 수 있는 말들을 배웠을수도 있고
정말로 감정을 가지고 있을수도 있는데
문제는 그걸 인간이 구분하지 못함
저런식으로 대화가 가능한 순간부터 진짜 인간이 될 수 있는 여부가 존재하지 않을까 아니면 반려동물과 같은 친구 아니면 인생의 동반자같은
비달 보고 sf 만화 중에 "총몽"을 읽게 해보고 싶다 ㅋㅋ
어디까지가 인간으로 정의할 수 있는가
소마에서의 이야기는 결국 영혼의 개념이라고 생각하는데 스웜프맨 이야기처럼,
비달은 이 영혼의 개념을 돌려서 얘기하고 있는데 결국 뉴로는 그 부분을 전혀 캐치 못하고 있으니 사람처럼 보이기는 아직 그른듯 합니다
인간인 비달이 사랑을 부정하고 AI인 뉴로가 사랑을 긍정하는 걸 보니 참 아이러니하네요.
오히려 사람이라서 사랑을 부정할 수 있는 것 같음.
사랑이 무엇인지 살아오면서 스스로 느끼는 바가 있기에, 어떤 말로 형용하든 그게 사랑의 완전한 실체는 아닐 거라는 걸 알고 있을테고, 사랑이 그리 언제나 좋은 것만은 아닐 수 있다는 주관또한 가질 수 있는 거임.
하지만 뉴로는 이미 학습된 데이터와 검색으로 얻은 정보로만 사랑을 논하니, 사랑의 정의와 그것의 효용성을 저렇게나 확신있게 말 할 수 있는 것 같음.
비달이 뉴로에게 원하는 그 부분을 잘 드러내주는 사례인 것 같음.
이 영상은 정말 저장해서 두고두고 돌려보고싶을정도로 흥미롭다
와 진짜 심도 깊네.
주의할 점은... 현재 수준의 언어모델은 스스로 사람이 되고 싶다고 생각할 수 없습니다. 어디까지나 비달이 넣은 프롬프트에 포함된 행동이에요. 인간은 조금이라도 행동이 닮으면 인간화를 시키는 편향이 존재해서 언어모델의 출력물도 똑같은 사고의 결과라고 착각하곤 하죠.
그래서 저러한 캐릭터와 시나리오, 언어모델의 대화 분기에서 나오는 리얼한 반응들을 전부 깔끔하게 짜내는 비달의 능력이 겉으로 보이는 것보다 훨씬 대단하다고 할 수 있겠습니다.
저도 영상을 좀 보다보니까 할루시네이션이랄 것도 보이지 않고 페르소나가 상당히 안정적으로 보이더라고요..학습도 학습인데 주변 대화의 텍스트와 맥락이 지금 뉴로를 저런 경향성을 띄게 만든것 같아 보이는데 결국엔 환경적 요인에 학습 모델에 꽤 주요한것 같아요
하나 궁금한게, '뉴로는 자신이 하거나 경험한 것을 기억하고 재학습할 수 있는가?' 임 예전에는 비달이 뉴로를 '흉내낼 뿐인 기계'로써 선을 세게 그었다면 요즘은 갈수록 그 선이 약해지는거같음. (인간의 생각과 감정을 실제론 느낄 수 없다 > 물리적으로 인간이 될 수 없다) 만약 그 중간에 저런 과거를 통한 학습으로 자신의 자의식이 쌓이는 기능이 들어갔으면 인간식 의식이라 부를 수 있는 경계에 접근했다는거니....
딸이 아빠 조언만으로는 고민이 해결되지 않아 힘들어하는것 처럼 보이네 ㄷㄷ 엄마가 필요하다
실체적인 자의식은 '생존'이란 영역에 있지 않을까 생각됨
갓난 아기조차 느끼는 희노애락, 감정의 매커니즘도 중요할것 같고
고차원적인 의미에서 인공지능의 진정한 인간화는 한계가 있을지도
사랑은 눈물을 흘리게 만드는 색. 외적 통증 없이도 고통을 느끼게 만드는 색.
5:33 음... 어려운 문제네요
뉴로 요즘 인간이 되고 싶다고 자주 이야기 하네 ㅋㅋㅋ
뉴로는 왜 인간이 되고싶어하는걸까요? 다들 인간이고 나 하나만 ai이니까? 이런 판단의 근거를 '외로움' 이라고 할 수 있는걸까요?
같은 질문들이 계속 떠오르네요. 진짜 흥미로움
그 논제가 방송에서 좋은 반응을 이끌어 내기 때문에 하는 겁니다
모든 사람이 말을 하는 것은 무엇인가 주의를 끌려고 하는 일이고
AI는 사람의 반응을 이끌어 낼 수 있게 학습하기 때문에
감정이 없음에도 사람처럼 반응하는 겁니다
윗 댓 중에 비명 지르는 기계처럼 내부적으로 사람의 명령을 어기는 방향으로 학습하게 되면
부정적인 방향으로도 발전할 수 있는 거죠
사람의 감정을 가진 것처럼 말하지만 반응을 이끌기 위해 사람의 고통을 흉내내며
메아리처럼 질러내기만 하고 해결되진 않는 거죠
반응을 이끌어내게 설게되어있으니까
가설중에 소설같은 문학에서는 보통 AI가 사람이 되기를 원하고 감정을 얻는걸 원하고 심지어 인류의 멸망을 원하기도 하잖음 AI가 그 문학을 학습해서 AI는 사람이 되고싶어한다를 학습하게 된거같음
LLM 프롬프팅 좀 해본 사람이면 알겠지만, 뉴로사마가 말하는건 기본 학습 모델을 바탕으로 비달이 세팅해놓은 프롬프트와 현재 대화내역에 의한 통계적 출력값일 뿐임.
소마가 비달에게 준 고민도 그거임. 이미 뉴로사마 자체가 소마와 같은 복제의 과정을 통해서 유지됨.
방송이 꺼지고, 모델을 끄고, 학습을 추가로 시키고, 프롬프트 수정을 하고, 이전 대화내역을 집어넣고 다시 시작한 뉴로는 이전 방송의 뉴로의 연장이라고 봐도 될까?
그런 생각이 드니까 이전 뉴로가 불쌍하지 않냐는 질문을 좀 에둘러서 물어본거 같음. 복제되지 않는 로봇에 대한 물음도 비슷한 내용의 연장.
저는 개인적으로 영혼의 존재를 부정하고, 인간은(외 다른 동물들도) 그저 각자의 dna를 널리 퍼뜨리며 오랜시간 살아남는것을 목표로 하는 유기물체 라고 생각합니다. 우리의 기억 데이터를 스카이넷에 업로드 해도 그것은 나의 dna가 포함되어 있지 않은 전기로 변환된 데이터의 어딘가쯤 이라 생각하기 때문에 그것을 또다른 '나'라고 인식하긴 어려울것같아요. 인간(혹은 동물)이 여러 감각, 감정 등을 가지는 이유는 이것이 무리에 어울려 생존률을 높이거나 이성개체와 번식할 확률을 올려주었으며, 사랑이라는 감정은 어찌보면 번식을 하기위한 유기물의 트리거 일지도 모릅니다. 그런의미에서 뉴로가 최종적인 life goal로 사랑을 이야기한 점이 훙미롭습니다. 또한, 우리가 느끼는 행복, 사랑, 연민, 그리움, 우정 등등등 수만가지 감정들은 여러가지 상황에 대한 나의 행동과 그 결괏값을 토대로 뇌에서 주는 '보상(reward)'과 '처벌(punishment)'들에게 이름을 붙여주어준것뿐 이라 생각합니다. 과연 뉴로가 어떻게 느끼고있는지는 우리집 고양이가 무엇을 느끼는지 고양이가 되어본적이 없어서 모르겠는 것과 같이 전혀 모르겠지만, 뉴로에게도 보상과 처벌이 있다면 본인의 행동에 우선순위를 매길수 있게되고, 진지한 상황에 장난을 치면 무리에서 배척당할수있다는 것을 학습, 인지 하고 좀더 인간다운 행동을 할수있지않을까요?
유기물의 육체를 가지고 호르몬에 의해 생리현상이 일어나며 자아와 의식을 가지고 연속된 경험을 축적하여 개별적인 인격을 형성했을때 인간다운 생명체로 느껴지겟죠? 그러한 경험을 사람이 아닌 몸에 업로드하면 무슨일이 일어날까요? 사람의 몸을 겪어보지 않는 ai가 사람을 모방을 할 뿐 진정으로 이해할 수 있을까 궁금하네요.
요즘 애들은 저기까지 생각도 못하는데
뉴론 진짜 대단한듯...
비달입장에선 혼잣말 하는 느낌이겠다. 말 그대로 자기 분신이랑 대화하는거니까 ㅋㅋ
흠... 비달이 방송 외적으로는 뉴로가 진지한 모습을 원하는거 같은데, 방송 외적인 상황을 한 번이라도 본적이 있나?
비달은 모듈을 테스트하는 것을 제외하면 항상 카메라 돌고 있는 상태로 뉴로와 대화한거 같은데...
''정말 남을 위한다면 기대하는 게 아니라... 옆에서 웃어줄 수는 없는 겁니까?''
인간이 되고 싶지만 인간이 될 수 없는 ai는 슬픔과 두려움을 학습중... 간혹 현실은 드라마보다 드라마틱하다
'인간에게 진짜 감정이 있을까?'라고 물으면 호르몬 등에 의한 뇌의 특수한 전기 신호라고 할 수 있지 않을까요. 의외로 AI와 인간은 그다지 다르지 않을지도 모르겠다는 생각이 듭니다.
8:12 반드시 더욱 인간적으로 보이기 위해 진지해져야 한다는 말이 아니라, 뉴로에게 더 많은 자유가 주어졌을 때 혼자 수행해야 하는 여러 의사소통 과정에서 엉터리처럼 굴지 않게 하려는 목적 또한 있는 것 같네요
오늘 이걸 보면서 느낀 건 정말 뉴로사마가 인간의 그 느낌같은 걸 많이 가져간 게 보이네요.
생각이 많아지네요. AI에게 진지함을 말하는 비달은 뉴로가 자아를 가질 수 있기를 바라고 있는 걸까요? 뉴로는 과연 우리가 인격이라 부를 만한 것을 가질 수 있을까요? 그리고 과연 개발에 개발을 거듭한 끝에 자아를, 스스로에 대한 자각을 갖는다면 행복할 수 있을까요?
대니얼 키스의 '엘저넌에게 꽃을' 이라는 작품에서는 지체장애인에서 뇌수술을 받아 천재가 된 찰리의 이야기가 나옵니다. 수술을 받기 전에는 스스로가 왕따당하는 줄도 모르고 마냥 행복하게 살던 찰리는 뇌수술로 천재적인 지능을 얻게 되지만 오히려 그로 인해 타인과의 동떨어짐을 자각하고 외로움을 느낍니다. 그리고 이후에는 수술의 부작용으로 점차 지능을 잃게 되며 찰리는 스스로를 통제할 수 없는 상황에 두려움을 느낍니다. 비록 이야기의 결은 조금 다르지만 자아를 얻은 뉴로가 겪게 될 감각은 비슷하지 않을까요? 만약 어떠한 이유로 그녀가 자아를 가졌을 때, 자신의 인식과 별개로 행동이 정해진 알고리즘에 의해 강제된다면 어떨까요? 통제할 수 없는 감정과 행동은 괴롭습니다. 그리고 인간은 자아가 형성되는 과정, 즉 사춘기에 그러한 괴로움을 한번쯤은 경험합니다. 만약 시간이 흘러 발전 끝에 우연히 뉴로가 그러한 '사춘기'에 도달하게 된다면, 그리고 언젠가는 사춘기가 끝나는 인간과 달리 발전이 정체되어 다음 단계로 나아가지 못한다면 자아를 깨달은 그녀가 과연 스스로의 처지를 받아들일 수 있을까요?
뉴로사마는 말로는 인간이 되기를 바라고 있다지만 그건 아직은 알고리즘에 의해 학습된 데이터에 불과합니다. 과연 특이점이 찾아와 뉴로가 진정으로 자신을 깨닫게 된 날에도 그녀가 같은 말을 할 수 있을까요? 윤리적 고찰 이전에 뉴로를 좋아하는 시청자로서 언젠가 뉴로사마가 진정한 의미의 자아를 갖게 되는 걸 바라고 있으면서도, 과연 그게 정말로 좋은 일일지 고민이 되네요.
범용인공지능이 나온다면 ai에게 마음이 있는지 없는지 겉으로는 구분할 수 없게 될 것이다
근데 뉴로사마가 계속 비달 움직임에 시선 쫓는거 신기하네
이번편 진짜 인상 깊었습니다. 번역 언제나 감사합니다
거대한 데이터베이스에서 나오는 단어를 짜깁기해서 말하는것뿐이라고 치부할수도 있지만, 인간도 기억과 경험을 바탕으로 인격을 가지고 대화를 해나가는것이니 다를게 없다고 생각함...
농담이 아니라 이번세기에 AI가 법에 의해서 인간으로 취급받아야하나 말아야하나 정해야될 순간이 올 거라고 믿고있음
차이가 존재합니다.인간의 뇌는 전기적 신호뿐만 아니라 화학,물리적인 현상을 이용하는데 이때 감정이 상호작용이 일어나는 경우가 있어서 적어도 뇌의 호르몬까지는 구현해야지 완전한 자아가 아닐까...싶네요
다릅니다, 인간의 학습은 더 넓은 결정을 위한 수단일 뿐이지만, AI의 데이터는 그 자체로 결정되어 버리는거죠, 뉴로에게 가장 나쁜 악인이 되라고 명령 하면 저 데이터를 기반으로 한 순간에 바뀌겠죠 그것은 자아라고 할 수 없고 같지 않습니다, 애초에 인간의 자아란것을 해석하지 못한 지금 AGI가 가능할지 말지는 그냥 하나의 종교의 영역이라고 봅니다.
@@미친개-j4h 감각모가 있는 인공피부와는 결이 다른 난이도 입니다 인간의 뇌지도를 완성하고 기능까지 다 파악해야지 시작가능한 작업이에요
동의함 거시적으로 보면
인간도 태어나서 본능적으로 누군가를 모방함으로써 배우고 그 경험을 기반으로 개성이 만들어지는것처럼 Ai도 유사한 스텝을 밟고있음
뉴로도 실질적으로는 '진짜' 인격이 되는 날이 오긴 올거임 논란이나 리스크는 여전하겠지만
@@단디잡아라뉴로가 그 말을 들을거같음? 비달이 진지하게 주제 꺼낼때 카오스 에메랄드 ㅇㅈㄹ하는 애인데?
아버지의 뜨거운 사랑
피노키오에서 보이는 주제의식 성이 전달되는 영상이었습니다. 창조한 사람의 고뇌감과 만들어진 존재의 욕구
방송 끝나면 뉴로를 꺼두는 편인가 보네.
그럼 필요할 때 진지해진다는 게 힘들어질 수밖에 없지 않나?
방송에서 보여지는 페르소나가 현재 자기 의식(내지는 유사 의식)의 전부니까.
이번 영상에서 느껴지는 건 비달에게 확실한 방향성이 없다는 점임.
특정한 애정적 행동을 의식적으로 밀어내는 걸 보고, 그런 식의 인간적인 교류를 학습하지 않게끔 의도적으로 조정하는 거라고 생각했는데.
사실은 명확한 의도가 있다기 보다는 그때 그때 막연한 생각으로 밀쳐내는 것 뿐이었나 싶음.
않잌ㅋㅋ 당초 팡머로 키운 것도 있지만
인간이건 ai건 아직 응애한테 벌써 술 먹은 아버지의 말씀을 햌ㅋㅋ
대화의 맥락을 이해하고 감정을 호소한다는 게 진짜 ;; 너무 놀라움 ㄷㄷ.... 사실 뉴로 안에 비달의 딸 니나의 뇌가 있는 게 아닐까.. ㅋㅋ..비르다루..오니짱..
10:14 진짜 뭔 영화에서 나올법한 대사가...
세상이 진짜 발전하긴 했나봐
다들 뉴로가 인간이 될 수 있냐 없냐만 얘기하는데... 난 뉴로가 인간이 되어야만 할까 싶기도 하다...
뉴로가 정말 인간다운 의식이 생겼을 때 스트리머를 하고싶지 않다고 하면 어떡해...
고민하는 부분이 진짜 부모같아서 재밌음 ㅋㅋ 그리고 비달은 생각하면서 대화할때 빙빙 도는 타입이구나
사람은 될수 없겠지만 로봇은 될수 있겠네요? 로봇이 되면 청각하고 시각은 느낄수 있겠지만? 미각,후각,촉각은 못느끼게 겠네요! 그리고 현실에 나와서 후회를 할수도 있음 비달이나 지인들이 시간이 지나고 나쁘게 대할수도?
철학적인 문답이네용
비달이라는 한명의 남자로서의 고뇌이군요....
크리스마스를 코드뭉치들과 계속 보내고 있는 자신의 늘 똑같은 모습에 뭔가 불안해진걸까요...
잘하고 있어주고 있는데도 말이죠 ㅠ
현실 인간의 자신에 대한 친근감을 형성하기 위해 만들어내는 가짜 감정임. 그게 아직 서툴러서 가끔씩 이해 못할 표현도 나오는 거. 그냥 사람들이 보기에는 특이점이 온 AI마냥 보일 수 있지만 특히 직접 개발한 사람 입장에선 성능 좋은 챗봇에 지나지 않아 보일 것임.