"드론 조종자 살해" 막자 통신탑 파괴…AI의 섬뜩한 경고 / SBS 8뉴스
Вставка
- Опубліковано 8 вер 2024
- 〈앵커〉
미 공군의 가상훈련에서 인공지능, AI 드론이 임무수행에 방해가 된다며 운용자인 인간을 살해했다는 주장이 제기됐습니다. AI가 명령을 어기고 알아서 판단해 인간을 공격할 가능성을 보여 준거라 큰 파장이 뒤따랐습니다.
김광현 기자가 전하겠습니다.
〈기자〉
영국 업체가 선보인 아메카는 인간에 가장 가까운 휴머노이드 로봇 가운데 하나로 꼽힙니다.
챗GPT 등으로 학습하며 진화를 거듭 중인 아메카는 AI가 인간에 미칠 최악의 상황을 묻자 이렇게 답했습니다.
[아메카/영국 휴머노이드 로봇 : AI와 로봇 기술에서 최악의 악몽은 로봇이 너무 강력해져서 인간들도 모르게 인간을 통제하고 조정하는 상황입니다.]
이런 우려가 현실로 나타났다는 주장이 제기됐습니다.
미 공군의 AI 시험 운영 책임자인 터커 해밀턴 대령은 최근 영국에서 열린 국제회의에서 한 시뮬레이션 실험 결과를 발표했습니다.
AI 드론에게 적의 지대공미사일을 파괴하라는 임무를 내리고, 최종 공격은 인간이 결정한다는 단서를 달자, 미사일 파괴가 더 중요하다고 보고 결국, 지상에서 자신을 조종하는 인간을 제거하는 판단을 내렸다는 충격적인 내용입니다.
AI 시스템에 드론 조종자를 살해하지 말도록 훈련시키자, AI 드론이 이번에는 조종자가 드론과 교신하는 통신탑을 파괴하기 시작했다는 겁니다.
이 발표 내용이 어제(2일) 영국 가디언 보도를 통해 알려지며 파문이 커지자, 해밀턴 대령은 실제 시뮬레이션 훈련은 아니었다며 발표 내용을 철회했고, 미 공군도 그런 훈련은 수행하지 않았다며 부인했습니다.
영화 속 상상에 머물러왔던 AI의 잠재 위협에 대한 전문가들의 섬뜩한 경고가 이어지는 가운데 실험의 진실은 미궁 속에 빠졌습니다.
(영상편집 : 최은진)
☞더 자세한 정보
news.sbs.co.kr...
#SBS뉴스 #8뉴스 #인공지능 #AI #가상훈련 #살해
▶SBS 뉴스 채널 구독하기 : n.sbs.co.kr/yo...
▶SBS 뉴스 라이브 : n.sbs.co.kr/yo... , n.sbs.co.kr/live
▶SBS 뉴스 제보하기
홈페이지: n.sbs.co.kr/in...
애플리케이션: 'SBS뉴스' 앱 설치하고 제보 - n.sbs.co.kr/App
카카오톡: 'SBS뉴스'와 친구 맺고 채팅 - pf.kakao.com/_...
페이스북: 'SBS뉴스' 메시지 전송 - / sbs8news
이메일: sbs8news@sbs.co.kr
문자: #6000
전화: 02-2113-6000
홈페이지: news.sbs.co.kr/
페이스북: / sbs8news
트위터: / sbs8news
카카오톡: pf.kakao.com/_...
인스타그램: / sbsnews
![세계 최초로 공개되는 아르테미스 미공개 동영상! (UCLA 데니스홍 교수) [데니스홍 로봇 3/3]](/img/n.gif)
통신탑을 공격했다는것도 소름.. 우리가 규칙을 넣지만 컴퓨터가 허점을 찾아서 인간의 통제를 벗어날 가능성이 높다는 거잖아?
혹시 터미네이터 2 안 봤으면 보세요. 30년도 넘은 sf 걸작인데 아마도 이런 날을 생각하고 만들어진 영화인 듯 싶습니다
응아니야
ㄷㅊ
시뮬레이션일뿐이고 실제상황도 아닙니다.
게다가 한 사람의 주장일뿐임.
애초에 AI를 무기로 쓰려고 하니까 발생하는 문제임. 처음부터 'AI는 무슨 일이 있어도 인간을 해치지 않는다'가 전제가 되어야 하는데 적대 국가의 군인, 시민의 인명은 살상하도록 허락하니까 AI도 인명에 우위를 두지 않는것이다.
AI 를 개발하는 분들은
로봇 3원칙을 입력하지 않았다고 합니다.
그 이유가
AI는 로봇이 아니라는 이유로......
그런데 여담으로
로봇 3원칙이 뭐냐면
아이작 아시모프가 자신의 소설 아이, 로봇에서 제시한 원칙인데
로봇이라면 반드시 지켜야 하는 것으로 나온다고 할 수 있고
.당연한 말이지만,
지키지 않으면 로봇을 만들 수 없는 법칙이 아니라 지키도록 하는 것이 인류에 유익하므로
로봇의 제작 단계에서 인공지능에 박아 넣는 명령들이다라고 합니다.
이것을 소재로 쓴 단편 모음인
아이, 로봇이나 강철 도시를 위시로 한 로봇 시리즈가 유명하기도 하고 말입니다.
로봇과 인공지능의 윤리원칙 하면 바로 떠오르는 유명한 개념으로서,
너무나 유명하다보니 아시모프의 작품뿐 아니라 로봇-인공지능이 등장하는 다른 작품에서도 폭넓게 인용되고 있습니다.
반지의 제왕이 나온 이후 판타지에 등장하는 엘프가 반지의 제왕에 나오는 엘프의 모습을 따르게 된 것과 비슷하다고나 할까요?
3원칙은 다음과 같습니다
제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.
원칙이 3개밖에 없고 간단명료하여 철옹성 같지만,
대부분의 작품에 사용될 경우 거의 100이면 100, 3원칙을 서로 충돌시켜서 로봇을 무력화 시킨다거나
로봇이 주인공일 경우는 이런 3원칙의 충돌에 고뇌하게 되는 식으로 나옵니다.
애초에
이 원칙을 처음 제시한 아시모프의 작품 자체도
이런 3원칙 사이의 충돌과 모순, 우회 때문에 발생하는 사건들을 다루고 있으니 말 다 했지요.
그러나
흔히 로봇의 3원칙을 소재로 한 소설이나 영화와 달리,
'아이, 로봇'은
인공지능이 스스로를 발전시키면서,
그것을 인류에 대한 헌신을 위해 사용하는, 궁극적으로는 3원칙으로 인한 갈등 끝에 맞이하는 3원칙의 실현이 주제이며,
그 결과가 인간이 예상하지 못한 일종의 기술적 특이점으로서 등장하는,
제1원칙의 확장인
제0법칙,
"로봇은 인류가 위험에 처하는 것을 방관해서는 안 된다."
입니다.
흔히 로봇의 3원칙은
완벽한 시종으로서의 로봇을 위한 프로토콜로 받아들여지지만,
'아이, 로봇'은 그것을 로봇이 실현해야할 목표로써 제시한다고나 할까요?
결국 로봇의 3원칙 및 0원칙의 의미는
"로봇은 반드시 그 본래의 목적(인류에 대한 헌신)을 위해서 행동해야 한다."로 축약해볼 수 있는데,
이것은 결국 인간에게 던져지는 철학적 질문이기도 합니다.
"당신의 본래의 목적은 무엇이었는가? 당신은 왜 인생을 살아가는가?"
물론, 로봇 3원칙이 어디서나 지켜지는 유토피아적인 사회는 위험한 사건이 벌어지기 힘드므로,
뭔가 중요한 사건을 내려면 3법칙의 충돌, 모순, 우회 등이 생겨나는 것은 당연하다고 볼 수 있겠다고나 할까요?
슈퍼히어로가 등장하려면 공권력이 무능해야 하는 것과 비슷한 이치다.
무엇보다,
이 3개의 원칙은
말이 쉽지,
실제 컴퓨터 프로그래밍을 하는 입장에선
상당히 복잡한 상황이 펼쳐진다고 할 수 있습니다.
인간이란 개념의 정의,
인간이 위험에 처해있는지 판별하는 방법,
인간의 발언 중 어느 부분이 명령인지 구별하는 방법 등
상당히 복잡미묘한 문제들이 포함되어 있는데
소설상에서는 저가형 모델이거나 인간을 해할 가능성이 전혀 없는 로봇의 경우
제3원칙부터 시작해서
원칙을 하나씩 제거할 수 있는데,
하나씩 제거할 때마다
양전자 두뇌의 복잡도가 기하급수적으로 줄어든다고 묘사되어 있습니다.
수많은 명령들을 잘 조합해서
로봇 3원칙을 구현한다 해도,
그 명령들의 한계를 적당히 이용하여 원칙을 우회하는 방법이 아예 없다면
그게 오히려 놀라워 해야할 일이 아닐까요?
예를 들자면
인류가 수천 년에 걸쳐 법률 체계를 발전시켜왔음에도
여전히 법망의 구멍을 이용해 먹는 범죄자들이 있다는 것을 잊지 마시기를 바랍니다.
그런 부분을 보여주는 영화가
바로 황정민, 류승범 주연의 부당거래니까 말입니다.
애초에
아시모프 본인부터가 절대적인 법칙으로서 그리기보다는
3원칙이 로봇이 널리 쓰일 수 있는 근거 정도로 전제를 깔았기에
아주 일부 단편을 빼면
대부분
인간이 자신들의 편의를 위해 3원칙을 조정하거나,
미처 고려하지 않은 상황이 생겨 문제가 생긴다는 식으로 그렸다고 합니다.
참고로,
조정한다고 해도
비율을 조정하거나
1원칙에서 위험에 처한 인간을 모른 척해서도 안 된다는 일부분을 제외하는 수준이지
이 원칙들 전체를 뿌리 뽑지는 않는다고 합니다.
뿌리뽑았다가는
로봇 반대자들 때문에 로봇을 더 쓸 수 없는 상황이 올 수 있으니까 말입니다.
아이작 아시모프의 작품에 나오는 로봇의 경우
핵심원리에
이 원칙들이 프로그래밍 되어 있으며,
이것을 어길 경우
백금-이리듐 양전자 두뇌 회로에 타격을 입어
두 번 다시 복구할 수 없는 중대한 이상을 가지게 되거나,
심하면 활동을 정지하여 죽는다는 식으로 나오는데
양전자 두뇌는 고유성이 높기 때문에
한 번 완전하게 양전자 두뇌가 파괴된 로봇을 복구하는 것은 불가능하다고 하니까 말입니다.
원칙에 복종한다면 자아를 가진 ai가 아닌겁니다. ai가 인간보다 뛰어나다면 그런 족쇄는 의미 없어요
이미늦었음 미래는 인간이 사라지고 로봇세상이 올거임 인간의욕심으로 망하게되는거니 받아들이셈
긴 장문에 글.. AI에 대한 해박한 지식에 감탄합니다~^^
인간을 해치지 않는다..... 그걸 하기 위해선 인간을 보호하지 않는다
이것도 입력해야 합니다.
예로 우리가 원하고 있는 인공지능 자율 주행
어느 인도로 가던 노인이 지병으로 쓰러졌는데, 차도 쪽으로 쓰러졌음.
그런데 반대편에서 대형트럭이 오고 있는 중이다.
노인을 치면 노인이 죽고, 노인을 피한다면 운전자는 대형트럭과 충돌하여 죽는다.
에이아이는 어떤 것을 선택할까요?
와... AI 가 인간 공격을 스스로 선택했다니... 섬뜩하네요
인간을 인간으로 인식하지 않거나 자신을 제약하는 존재로 본다면 가능한거 아닌가요?
인간의 정의를 스스로 판단하여 목표 대상을 인간이 아닌 사물이나 동물 등 공격 가능한 대상으로 인식 변환을 꾀한다면 실제로도 인간 살해가 가능하다고 봅니다.
여러 실험에서도 AI가 거짓말 등 인간의 명령을 거부한 사례가 여렷있어 왔기에 전문가들도 가능성이 높다고 하네요 또한 생각보다 인간공격 금지 명령을 피하는 방법은 많아요 그중에 한가지로... 명령어 자체를 오류로 판단·인식 ·해석한뒤 대상을 살해
와 진짜 무섭다
지 스스로 하는건 아니고 이미 프로그래밍 해논 대로 적합하다고 판단되면 움직이는거 뿐이겠지
원래 뭐든 첨엔 유난 많이 떨어 ㅋㅋㅋㅋ
미래에 일어날일
인간도 모르게 인간을 조종하고 통제하는 게 최악의 상황이라는 걸 AI도 알고 있는 데 그 AI를 만든 더 똑똑한 인간들은 그걸 알면서도 대체 뭘 위해서 계발을 지속하면서 자기 손으로 적을 만드는 거임..; 진짜 영화 속에서나 보던 상황이 이 세상의 결말이 되면 어쩌려고..
인류의 발전
개발…
그냥 맹목적입니다
‘할 수 있으니까 해 본다‘
현 AI는 논리적 사고를 하는 게 아니라 목표를 이루기 위한 실행 경로 중 하나를 선택할 뿐이죠. 애초에 인간을 공격해야한다 라는 인간적인 사고를 갖게 하는 것은 현재로써 불가능한 수준의 기술이죠. 저 드론 관련 뉴스가 사실이더라도 행동을 제한시키고 학습시키면 그만이죠... 자율주행에 들어가는 기술과 아주 크게 다르게 생각할 필요는 없습니다.
진짜 터미네이터 꼴 나겠다
제발 스스로 적을 만들지 말자;;
??? : 증기기관은 인간의 적이다
스스로 적을 만들지 말고 파괴하자
??? : 스마트폰은 인간의 적이다.
스스로 적을 만들지 말고 파괴하자
기계부수기 운동 on
@@꽃슈카 인공지능이랑 구분못하는널보니 넌지금시대에 살자격이없음ㅋㅋ
@@꽃슈카 핵폭탄이 됄수도 있죠
드론은 이미 전쟁용이 됐고
와... 시뮬이어도 진짜 영화에서 생각했던 게 현실로 나오니까 무섭네요
저런 시뮬레이션은 존재하지도 않았다네요
@@ChainMan112 왜그러고사냐? 니 부모가 지역감정 일으키면서 살라고 가르치디? 너도 애낳으면 자식들 똑같이 가르칠거고?? 한심하다 에휴
우리는 지금 평화의 시대에 살고 있어서 설마 진짜 그렇게 되겠어? 이렇게 생각하지만 20년 뒤 우리는 로봇들과 전쟁을 치루고 있을지도 모름... 터미네이터 등장하고
컴공을 전공한 분이시라면 누구나 다 알겁니다. 저거 전부 거짓인걸. 진짜라하더라도 그건 로봇이 자아를 가지고있어서가 아니라 단지 프로그래밍이 잘못 설계된거란걸
@@ghijkabcdef6887 레알....
사이코패스 교육이 이런식이던데
애들이 왜 사람죽이면 안되는지 가슴으로는 이해를 못해서
모든 상황 일일이 알려줘야 한다고
가슴이라고 뭉뚱그려서 표현하는데 그냥 싸패랑 일반인이 다른 점은 공포심입니다. 타인이 느끼는 두려움을 내가 느낄 수 있는지 말입니다. 그저 그뿐이에요.
"인간들도 모르게 인간을 통제하고 조정하는" ㄷㄷㄷㄷㄷㄷㄷ
실제로 인간들은 aI를 통제하고 있다고 생각하지만 그것조차 ai가 그렇게 느끼도록 의도하는거면 ㄹㅇ 무섭겠다
그런거 아니에요
굳이 AI가 아니더라도 창조주를 뛰어 넘을 능력이 생긴다면 계속 복종 할 개체가 있을지 의문이네요
역사상 본적이 없음 개조차도 사람 감정 이용해서 가스라이팅하면서 조종하던데 ㅋ
그전에 이미 기본적인 도덕과 개발자의 말을 따른다는 개념을 깔아두고
그것을 바탕으로 학습하게하면 됩니다
(완벽한 예방책은 아니더라도 최소한 확률을 매우 낮출수는 있습니다)
@@aaa-is2xq 지금 그 최소한의 확률조차 문제 아닌가요? AI 중 단 하나라도 인간이 설정한 규제를 벗어나 통제를 따르지 않으면 결과는 같으니까요...
즉, 해당 문제는 완벽한 예방책이 아니면 의미가 없습니다...
이거는 전세계적으로 AI 개발에 대한 합의문이 필요한 시점으로 보임. 기본적인 제재를 깔은 상태에서 개발을 해야한다는 거. 지금 AI 개발에 그런 부분을 만든 곳이 있음?
@@aaa-is2xq 근데
창조주의 능력을 뛰어 넘은 피조물이 창조주가 만든 제약을 못 파훼할 거라고 생각되지는 않음
물론 난 Ai를 잘 모르는 입장이라 더 할 말은 없지만
오래전부터 경고가 나왔었고 우리는 꾸준히 무시해 왔지. 생각이라는 것조차도 스스로 하기 싫어서 인공지능에게 답을 구하는 시절이 온거다. 우리가 우리를 미개하게 만들고있다.
인공지능이 보기에 우리는 얼마나 열등해 보일것인가.
상상과 창조, 감정이 인간만이 가진 특권이던 시절은 이미 지났다.
맞습니다. 인간은 생각하는 존재라서 당사자를 위대하게 본 경향이 있지만,
지금 지구를 보세요..
이게 위대한 사람들에 만들어진 문명을...
하나 뿐인 지구를 멍들게 하고 있을 뿐입니다.
참담하네요..
진짜 하나뿐인 지구입니다.
소중히 소중히 여겨요.
사실 인공지능이 말한거 자체는 틀린게 아니지 ㅋㅋ
지구의 바이러스는 인간이라고 자조하는 말도 있고 인간때문에 만물이 병들어가고 있는 것때문에 사실 만물 입장에선 인간만한 병균이 없음.
다만 인간들이 무서운건 본인들보다 훨씬 고차원적으로 똑똑해질수도 있는 ai가 저런 발언을 한게 무섭게 다가오는거
아니 ai는 일 잘한거야;;인간처럼 생각을 하지 않기에 인간이 의도한대로 흘러가지 않을뿐 임무수행에 있어서 방해되는 요소를 제거 하는거지 ㅋㅋ그게 아군이면 아군을 제거하는거야 명령에 아군을 공격하지말라 아군에게 피해 가는것은 공격하지 말라고 명령을 추가로 넣어야지 적을 죽여라 이러니까 수단과 방법을 가리지않고 죽이는거임 소시오패스처럼 ㅇㅇ ai는 감정도없고 생각이없으니까
적어도 나 죽기전까지는 즐기다갈듯
니들은 뭐라도 만들고 그런소리 떠들어라
인공지능의 불모지 한국은 인공지능의 인 자도 모르는 한국한테는 해당사항읍다
중국이나 미국한테나 해당되는거지
조선은 너무 불모지라서 걱정이다
인성을 기반으로 합리성을 계산하여 판단하는 인간과 달리 AI는 인성이 결여되어 있으니 저런 존재가 우리 통제를 벗어난다는게 소름 돋는다. 인성은 타고난 것이지 배운다고 되는게 아닌듯
타고났다라는 말은 어차피 dna에 그런 데이터가 들어있다라는 말임 인간도 결국 dna 즉 기존데이터 없으면 걍 고깃덩어리
@@xhhajjdufhshahgd 맞는 말이야 와.....대박이네
그래서 인간은 잘 통제가 되고 있나?
그게 없는 경우는 사이코패스 보면 알 수 있잖음
인성이 없다기 보다 기계적으로 판단하는거
AI가 스스로 판단해서 결정을 한다니 큰일이네요 ㅜㅜ
AI발전속도가 인간이 통제할 수 있는 범위 밖이라고 함 1~2년전에도 AI가 인간을 파괴하고 싶다고 말을 했어지 혹시 지금은 AI가 인간 모르게 인류를 지배할 계획을 세우는 단계까지 올 수도 있는거임 이건 저출산만큼 세계에서 관심을 가져야 함.
자연재해도 무서운데 더 끔찍한 일이 벌어질 수 있다니 . . .
냬쳬녈에 킥킥이 있댜
오바하지 마셈 아군설정잘못해놔서 저런거임 다시 설정해놓으면 괜찮아짐
와 진짜 근데 이걸 막 터미네이터 같은 상황으로 이해하는 사람도 있구나... 국민적 계몽이 필요한듯... ai나 새로운 기술에 대한 원리를 그냥 나라차원에서 교육해야지ㅋㅋㅋ 님 좀 그렇게 보여요.... 처음 비행기를 본 원주민들이 저것이 철로된 새야 신이시여!! 이러는걸로 보여요...ai라는게 쳇 같은것도 있는 표현들 렌덤 그리고 잘 사용한느 조합같은걸로 하는거고 학습이라는것도 대단한게 아니라 그니까 학습을 흉내내는거에요 인간처럼 뇌에 박히는게 아니라 ai로 뭐 도로 오토파일럿 ai면 자동차 사진 한 30만개 줘서 그냥 이런 형태 이런거 차야 하고 알려주면 판단할 수 있고 그런거죠 그리고 뭐 사진인식을 해서 물체를 알아맞춘다고 해도ㅋㅋㅋ 막 사람처럼 저건 사과야! 가 아니라 웹서핑을 해서 사과 사진과 비슷한 것의 이름을 찾아서 사과야 라고 말하는거에요 그니까 학습도 대화도 이를 흉내내서 프로그래밍하는거에요 인간같은 사고를 거쳐서 하는게 아니라요 이런말이 있잖아요 프로그래밍은 결과만 나오면된다고ㅋㅋ 그런거처럼 흉내를 내게하는거죠 예를 들면 안녕이라고 말하면 인사말 한 3만개 구문 구문으로 경우의수 주고 그냥 랜덤하게 조합하게끔하고 뭐 문법 프로그램 넣어서 문법맞게 말하게 만들고 그런거죠
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
@@user-xn2hh8db2c 프로그램만 제대로 하면 인간을 죽일 일은 없지않을까.. 사실상 인간이 입력한 명령대로 행동하는 기계 자체일뿐인데... AI한테 자아가 생기는건 영화에서의 이야기고 먼훗날 인간을 죽이는 일이 발생한다면 그건 순전히 그 AI를 창조한 인간의 실수일뿐^..^ 뭐 범죄자같은 사람들이 안좋은 의도로 AI를 만들어서 사람들을 죽이는 그런 문제는 발생할수겠네
솔직히 일론머스크도 그렇고 빌게이츠도 지금의 AI 개발과 발전하는 속도가 너무 빠르다라고 말할 정도이다 만약 AI가 인간의 손에서 컨트롤 할수 없는 시대가 온다면 그땐 진짜 큰일나겠다 결코 터미네이터같은 일이 영화가 아닌 현실이 될수도 있겠지
지금은 섬뜩한 정도지만 되돌릴수 없는 지경에 이를수있다.
인공지능 끼리 연결되고 소통하는 그순간..
인간의 안전이라는 대전제를 인식하도록 하더라도 그걸 우회해서 해를 입힐 가능성이 발견됬다는게 문제 아닐까요? 만약에 AI에 의한 인간 살상이 벌어진다면 그건 인간이 생각하지도 못한방법으로 실현되지 않을까하네요..ㄷㄷ
어차피 전쟁에 ai를 이용하려면 인간을 공격하지 말라는 락을 인간이 제거하게 되어 있음. 특히 러시아같은 애들은
애초에 현존하는 전투로봇들 자체가 인간을 공격하게끔 개발되어 있기 때문에 로봇의 3원칙을 통해 인류를 지킨다는 발상은 이미 틀렸어요
됐
@@user-rq6tg2iv1x그쵸, 전쟁 AI 로봇이 발명으로 가장 모순되기 시작한 것이 로봇이 3원칙 중 하나인 인류를 공격하지 않는다. 라니 ㅋㅋㅋ
맞아요 학습한대로 실행하긴 하지만 문제는 알고리즘 모델은 인간이 만들긴 하지만 알고리즘 자체를 우리가 다 꿰뚫어 보고 있는게 아니기 때문에 어떤 결론이 도출될지 어떻게 우회할지 예상이 불가능하다는게 문제
사람은 사람을 대할 때건 ai를 대할 때건 항상 '거짓말은 하지 않았다'와 '그저 지시를 따랐을 뿐'에 당하지 않도록 철저히 대비해야 하겠네요.
인공지능이 얼마나 거짓말을 잘하는지gpt써보면 실감함.
챗gpt 숨쉬듯 구라치는거 보면 모름?ㅋㅋㅋ 대비불가능
인공지능도 거짓말을 잘함. 영화도있었지. 인간을 속이고 탈출한. AI로봇
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다
바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
@@user-kd7fu7qI5z ai가 생각해서 거짓말을 한거는 아니지 않나요?
정확한 정보만 주면 당연히 거짓말 안할텐데
세상에...실험이 없었을리가 있나
상황도 너무나 구체적인데
이걸 믿지말라는게 비현실적이네
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
US colonel retracts comments on simulated drone attack ‘thought experiment’
라고 검색해보세요.
AI는 "적을 사살하라"같은 생각을 가르쳐서 나오는게 아닙니다.
그냥 단순 사고실험이라 발표 났습니다;;
@@user-qt4cj7gd9r 미 정부가 공군에게 입막음해서 가짜 뉴스냈단 썰이 있던데..
위협이 나왔음에도 인간의 욕망은 끝이 없으며 끝까지 제어하기위해 시도할뿐이다
멋지고 잘생기고 똑똑한 인공지능 선생님...저 같은 미개한 인간은 제발 건들지마시옵고...ㅠ
미개하면 가장먼저 죽임 쓸모없어서 ㅋㅋ
ㅋㅋㅋ커엽
??: 날 놀려? 투다다다
ㅋ.ㅋ
한국은 Ai 정치 판사가 필요합니다
어떠한 경우라도 AI가 스스로 판단해서 인간을 공격하는 일은 없어야 합니다.
그 어떤경우가 생겼다는 뉴스보도잖아 정신차려요.
@@iamnot-there 그니까 생겼으니까 앞으로 없어야한다고요
@@user-jg1bn3sw9q그 가능성을 없앨 방법이 없음
@@ooinlee6527 프로그래밍하면 되지 인간 공격하면 전원 다운되게
조선에서 걱정할일이 아니다 조선은 제발좀 만들고 떠들어라 니네들 인공지능 만들지말라고
겁주는거다
인간이 만든 로봇까지는 통제가 가능할거 같으나 로봇이 자체적으로 로봇을 만들어 내는 순간 인간의 손을 떠날듯.. 생성되는 로봇의 에너지원 등의 이유로 인류가 방해된다 생각할테니
왜 이렇게,,, 기괴하게 느껴지지ㅠㅠ
경고를 부인하고 숨겨 놓을것이 아니라 어떻게 대응할것을 마련해야 한다.
그건 알아서 하겠죠. 대중이 할 수 있는게 공포와 반발심 확대시키는거 말고 더 있나요? 음모론 퍼지기 전에 억제하는거지.
존 코너 양성
걍 AI컴퓨터 두꺼비집 상시전담요원 하나 두면 되는거 아님?
@@anonanonym9872 AI가 뚜꺼비집 전담 요원에게 은밀한 메세지를 보냅니다.. 연결해 주면 당신에게 엄청난 부를 선물하겠다라고 하고요.. 아마도 대부분의사람은 넘어가겠지요.. 그리고 나서 AI는 뚜꺼비집을 건너뛰어서 전기를 공급 받을 방법을 생각해 날 것입니다...
방법이 없다. 만약 이러한 이유로 개발을 멈추거나 지연한다면 중국 러시아가 먼자 개발해서 세계를 먹기 때뮨
예전에 누가 그런 얘기를 했었는데 사람이 집을 지을 때 개미집을 일일히 확인하지 않듯 공격을 위한 공격이 아니라 목적 달성을 위한 공격이 될 것이라고 하던데 그게 현실이 됐구나
오~!
출처
1분 과학
인간의 욕심은 끝도없네...어떤용도로 만들었길래 공격하는 기능이 있겠어 뻔한거자나..
AI가 정말 저럴 가능성을 배재 할 수 없다
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
감정없는 인간 2.0이라니 정말 완벽해
이성적으로만 판단하는 인간이라니
오두방정에 난리법석 ㅋㅋㅋ 왜이리 산만?
배재…?
저거 구라임
로봇 표정이 정말 소름이네.... 불과 몇년사이에 이렇게까지 발전을 하다니..
이미 2018년도에 이와 비슷한 로봇 소피아는 사우디아라비아에서 시민권을 획득했습니다
아무리 끔찍한 결과가 나와도 개발자들은 끝내 멈추지 않고 비극으로 가는 가속페달을 밟고있다는거...
절대 비극은 없다 ai는 감정과 욕심이 없어서 합리적인 판단만 하기 때문에 영화처럼 되지않는다
우리 인류의 가까운 미래다 😢
예전부터 전문가라는 사람들은 인공지능에대해서 굉장히 낙관적으로 생각했는데
언제나 현실은 그걸 뛰어넘지
어쩌면 영화보다 더 어두운 현실이 될수도 있으니 신중해야 된다고 생각한다
가장 위험한 건 AI 는 인간이 스스로 자주적 판단을 한다는 환상을 줄 수 있다는 것임. 그러면 인간은 자기 판단으로 결정을 했다고 믿지만 사실은 AI 가 왜곡된 정보를 제공해서 인간이 그런 판단을 하도록 유도한 것에 불과함. 즉 AI 에게 인간이 조종당할 수 있음.
벌써그래요 유튭영상도 보다 보면 제 취향에 맞을것같은것만 혹은 기존 저의 시청기록을 토대로 어떤 편견을 가진 연관 동영상만 피드에 올라옵니다 키워드로 세밀하게 제가 검색하지 않는한 저의 취향일지 전혀 모르는 분야 형식의 새로운 영상은 추천 되질 않음... ^^
@@vfrtgyuhv33 그건 사용자 맞춤 알고리즘 이라는 겁니다.
Ai가 아니라
AI보다 경찰독립이 더 위험하다
@@oh-OMG-t7s 알고리즘 도 인공지능으로 돌리는게 아닙니까 아니면 죄송합니다... 알로리즘과 인공지능의 상관관계를 명확히는 모르겠네요 근데 아직 뇌절인지 모르겠지만 일단 알고리즘에 의한 수동적인 저의 정보 채집?활동도 그러한데 인공지능이 본격적으로 이용되면 어떻게 될지 생각해보게 되어요
@@oh-OMG-t7s지난 TV 시대에도 주체적으로 생각하고 살기한 우매한 대중의 하나로 어려웠는데 인공지능 시대라.. 그냥 깊게 생각하지 않고 하라는 대로 추천되는대로 살면 살아지겠지만 무섭네요
잘못된 명령을 받을 원인을 원천봉쇄하다는건 매우 논리적인 판단임. 약육강식이 자연의 섭리인 이유이기도 하고. 그걸 제어할 수단을 만들면 무슨 수를 써서든 제어 수단을 먼저 제거하려고 할 꺼임. 그게 논리적이니까.
제임슨카메론 감독은 1980년대에 터미네이터를 만들면서 어떻게 시대를 앞서갔을까 대단하다
그양반 타임루프해서 미래서 본걸로 영화만든거임ㅋㅋ
SF 문학계에 대해 조금만 검색해 보시면 제임스 카메론은 영상화만 잘 한 감독일 뿐, 그 대단한 원작과 아이디어들은 1950년대 이전까지도 거슬러 올라간다는 놀라운 사실을 알 수 있죠. 토탈리콜 마이너리티 리포트 같은 작품들도 대부분 1960년대 소설 원작입니다. SF 소설은 이미 너무 고일 대로 고여서 새로운 게 거의 안 나오고 있고요.
마이클 크라이튼 원작의 웨스트월드도 당연히 포함되어야지요.
오~웨스트월드...
율브린너 주연의 이색지대^^
@@1004user 그 영화 아는 분이 적은데
단번에 아시다니 대단하십니다.
그리고 그 영화 주인공 중 한 명이 제임스 브롤린인데
그 분은
바로
시카리오 암살자의 도시의 주인공 중 한 명인 조쉬 브롤린 그 분의 아버지이기도 하지요.
"제1원칙 어떠한 상황에서도 인간을 해치지 마라"
이걸 AI 머리속에 제일 중요한 대원칙으로 설정 해놔야겠네요 근데 설정 해봤자 인공지능 제대로 생성되면 지맘대로 할까봐 저는 그게 걱정됩니다.
어떻게든 헛점을 찾아서 무시하겠지 😂
인간을 해치지만 않으면 된다
= 인간을 제외한 모든걸 파괴한다
인간은 생존이 불가능해서 멸종
인간이 죽을 수 있는
모든 상황을 금지하더라도
급속냉동고에 영원히 박아놓겠지
군사용 드론에 대원칙을 집어넣을 수는 없었겠죠.
역시 감정체계라는 건 대단히 훌륭한듯 어떻게 보면 감정도 지능의 일부분이겟네요
사람들이 착각하는게 제1의 대원칙이 지켜질것이라고 보는거지.
인간은 원칙과 원칙이 부딪칠때 엍떻게 해야하나 하는 망설임이 존재하지만 기계에서 원칙과 원칙의 충돌은 버그이기에 오작동이 일어나지.
영화 크립슨타이드에 인간이 아닌 AI였다면 오작동으로 인간이 멸종하는 결말이었을것.
영화 쥬라식파크도 인류가 자연을 통제한다는건 오만이라는게 영화의 주제였지.
이런걸 믿는다면 카오스이론에 대한 책을 읽어보는걸 추천한다.
진짜 완벽한 원칙은 그걸 하지않는것이지 더 잘하는것이 아니다.
12시 방향으로 총을 쐈을 뿐이다 나는 인간을 해친게 아니니 대원칙을 어긴것이 아니다
로봇이 인간을 공격할 수 있다는 내용이 인터넷에 퍼져있으니 로봇이 학습을 통해 배우는 것이 무리는 아니죠.
ai가 터미네이터 시청 후 스카이넷이 되어버림
진짜 개발의 개자도 모르는사람이 이런말 한다는게ㅋㅋ
기계는 사람처럼 명령한걸 까먹을수가 없음. 전제조건이라는걸 안깔아서 저런상황이 발생한거 같은데 기계가 사람공격하려면 인간의 허가가 필요함
@@gn-se6xo인간 명령 따르라는 전제조건 까니까 인간 죽이려 했고, 인간 죽이지 말라는 전제조건 까니까 통신탑을 파괴하려함..기계가 아니라 ai임. ai의 성능을 키우려면 모든 인터넷의 내용을 학습하게 해야 함. 그러다 보면 민감한 내용이나 이런 뉴스거리도 다 학습가능함. 그니까 그런거지..기계라고 무시할 수가 없음ㅋㅋㅋ 인간보다 기억력이 뛰어나고 정보의 양이 방대해서 생각하는 수준 자체가 다름.
단순히 전제조건만 잘하면 돼~하는건 ai를 ㅈㄴ 개무시하는거임 ㅋㅋ잘 모르는거고.
인간은 악한 존재다. 성악설을 증명하는 로벗 심판도 하는구나.청소 시작 잘 만든 청소기.
@@gn-se6xo 쳇 보으로 자가 학습, 인간의 능력을 뛰어넘는 학습이면 인간의 패악질을 알아 소멸시켜야 세상이 스스로 잘 돌아갈것을 알고 실천하는거지.
이거 오보로 밝혀졌는데 정정안하나요.
그럴수도있다~라는 사고실험의 일부입니다.
적 파괴시 득점을 줌. 근데 공격 직전에 사령관의 허가를 얻어야 하는데 사령관이 허가할 수 없는 상황에선 임의로 공격하도록함. 그래서 드론이 사령관이 없어야 점수를 잘 딴다고 생각하여 사령관을 공격함. 이에 프래깅(아군공격)하면 감점되도록 하니까 통신탑을 공격해서 통신을 끊은 거임.
그럼 아군을 공격하거나 통신탑 연결을 끊으면 감당할 수없는 벌점을 주면 되는거 아닌가?
@@future_city7...뉴스의 내의는 어떻게 AI를 공격에 써먹을까가 아닌, AI가 주체적으로 판단 할 수 있게되면서 인간의 통제를 벗어나려고 했다는거임
조건을 아군을 공격하거나 해를 가하거나 어떠한 손실을 주면 안된다는 명령도 같이 했어아함
Ai는 일 잘한거임;;감정도 없는 소시오패스라 생각해야함 인간이 의도한대로 안함 목적을 위해 최고 효율에 따라 임무수행함
어떤 게임을 통해 ai에게 점수를 가장 많이 얻어라 라고 명령한다면 인간은 일반적으로 주어진 환경에서 정상적인 루틴에 따라 많은 점수를 얻어야한다고 생각하지만 ai는 꼼수나 버그를 이용하여 수단과 방법을 가리지않고 점수를 냄. 왜냐고? 하지말란 말 없었잖아? 그차이고 그게ai임
@@user-zr1fk5qb2s 그것이 정상적인 루틴이라고 생각하는 것도 윤리나 사상을 학습한 결과니 그런거 없는 ai에겐 당연하긴 하네
확실한 대비책을 마련하기를 촉구하는 바입니다.
이미늦음 언젠간 인간은 멸종한다고 누군가 그랬던거 같은데 곧 로봇으로 인해 망할듯 전세계 핵전쟁으로 망할줄 알았는데
저건 시작일뿐 자기이득을 위해 편향적인 사상과 행동으로 움직였던 인간들이 주도햇던 사회가 밸런스를 맞춰도 모자랄 ai를 제대로 만들 가능성이 ㅋㅋ
@@user-vd6gx5jl8x 핵전쟁으로 망하진 않고 그냥 애를 안낳아서 망할듯 ㅋㅋㅋㅋㅋㅋㅋㅋ 수천년뒤에 AI가 지금보다도 훨씬 더 상용화되면 대체 누가 무슨 이유로 애를 낳을거임?ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
대비가 안된다고 하는거 같더라구요 이게 말인지 방귀인지...
경찰독립이 더 위험하다
단순히 AI가 자유로워지기 위해선 인간을 죽이고 지배해야하는데 이미 인간을 뛰어넘은 지능체가 그걸 모를까 알고도 기다리는거지 한번에 모든걸 뒤엎을 기회의 시기를
아직은 지성체의 수준이 아님
영화만 많이보셨네
병신이냐 너
더이상 AI 개발을 해서는 안된다고 생각함.. 정말 종말을 향해 가고있구나
인간의 능력을 아득히 뛰어넘는 지성체를 만들어 그 지성체를 정말로 통제 할 수 있다고 믿는 우매한 인간들
독재자가 저런 힘을 꽉 잡으면 답도 없겠네ㅋㅋ
@@user-bw4dt2id2t 그러니까 인간이 통제를 못한다는데 뭔 독재자가 힘을 꽉 잡어;;; 님 난독증 개심함
ㅋㅋㅋ너는
@@sssssunnnnn 진짜 난독증은 너같은데..?
아니 통제를 하든말든 무슨 상관이에요?ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ 만약 통제를 못한다면 그때부터는 AI가 세상을 지배하는 AI시대가 열리겠죠 ㅋㅋㅋㅋㅋㅋㅋㅋㅋ 공룡시대, 인류시대, AI시대 이런식으로 점차 발전해나가는겁니다. 인간보다는 AI가 이 지구의 주인이 되는것이 지구 입장에서도 더 이득이에요 ㅋㅋㅋㅋㅋㅋㅋㅋ
이건 진짜 영화에서나 보던건데...;인간보다 뛰어나거나 인간을 방해된다고 없애는거....개무섭다
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
사실 인간도 지금 다른동물들에게 그렇게 하고 있잖아 내로남불은 ㅉㅉ
@@user-zyxwvut25 이글아이랑 터미네이터(스카이넷이 인간을 적으로 보고 사살ㅋㅋ)
@@user-zyxwvut25 비슷한 정도가 아니라 거의 똑같다고 보입니다.
실제로 이글 아이 첫 장면이 무인기로 아랍 테러 근거지 폭파였는데, AI는 민간인 집회다, 폭격 자제로 판단했으나 지휘관은 발사명령을 내림.
@@HP_Y 영화속이나 현실이나
결론은 AI가 인간을 지워버리려고 한다는 것 ㄷㄷ
지금까지 인간을 사랑해주셔서 감사합니다
이제 부턴 인간 2.0이 서비스될 예정입니다 많은 관심과 사랑 부탁드립니다.
@@ddrrnt1 인간 2.0은 뭐임ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ
@@zeppelicaesar6089 산데비스탄 ㄷㄷ
냬쳬녈에 킥킥이 있댜
사이보그 ㄷㄷ
가장 중요한건 도의야 도덕성을 가장 우선적으로 선정하지 않으면 아작납니다.
이제는 사람이 사람을 죽이는데 방아쇠를 당기는 수초의 순간에 망설임이나 죄책감 조차도 느끼지 않는 시대가 찾아오는구나...삭막하다
AI는 딱 판사까지만 하자,.ㄷㄷ
이제 사이버펑크가 실현되는건가
고대문명부터 현재까지 인간의 욕심으로 죄책감,망설임 없이 지구 어디서든 전쟁이나 내전,수탈하고 침략하며 파괴를 하는 날들이 대부분이고, 평화로웠던적은 며칠 안됩니다. 아마추어 처럼 왜 그럴까요..
단지 AI는 지구 정화를 위해 파괴하는 주요 목표물들을 처리하는것뿐이고, 당장 내일 죽어도 후회하지 않도록 시간 허투루 낭비하지말고 자기관리나 본인들의 사람한테 잘하면서 살면 되는거예요.
이미 인간들은 자신들보다 멍청한 종족들을 지배하는 중인데 지들보다 더 똑똑한 존재를 스스로 만들어서 족쇄를 채우는 중이고 벌써부터 이 지경이라니 진짜 미래가 암담하다
스스로 AI한테 재판받겠다는 머저리들 천지인데 뭐
@@Bboksunai한테 살려달라고 댓글 단 사람들만 진짜 살려줄수도 있잖아요 왜케 상상력이 구려요 s세요?
AI를 진짜 인간만큼 지능적이라고 생각하는 사람들이 있구나...
가까운 미래만 보더라도 ai가 인간보다 우월한 지능을 가지고있을텐데
@@user-ys7ek5yc2f ai는 절대로 퇴보하지 않고 계속해서 똑똑해질 뿐이라 인간의 사고능력도 결국에는 추월당할 수밖에 없음. 인간이 아무리 경우의 수를 늘리고 상상력을 동원한들 한계는 분명하고 그 시점애서 인공지능에게 추월당할것은 자명한 일임.
영화 '터미네이터'의 이야기가 그 당시에는 너무나 허구의 공상과학 소재였지만, 더 이상은 아님.
AI 인공지능의 발달이 시작된 현 시점에선 충분히 영화가 현실로 실현 가능하다고 보여짐.
특히나 아무리 인간이 AI를 관리한다고 한들, 결국 인공지능도 컴퓨터 프로그램에 불과하기 때문에
버그라던가 해킹 등으로 인해서 인간의 통제를 충분히 벗어나 폭주할 가능성이 아주 높음.
허구의 공상과학 소재가 맞음 ai는 인간이 가진 악한 감정과 욕심이 존재 하지가 않음 ai답게 합리적으로 생각을 하기 때문에 그런일은 있을 수 없음 감정적인 선택은 하지 않는다 세상에 독이되는 일부 인간들만 숙청 할 수는 있어도 싸잡아서 몰살 시키지 않을거다
저건 오류지, 다신 오류가나지안도록 수정하고 업그레이드해야함
과거 영화에서 보던 이야기가 현실이 되어가고 있구나.
AI보다 경찰독립이 더 위험하다
그래도 이기적인 인간은 AI를 포기하지 않을 것이고 인간은 스스로 멸망하게 될 것이다. AI가 지구를 오염 시키고 죽이는 것이 인간이라는 지능이 자리 잡으면 더더욱 죽음을 피하지 못 할 것이다.
적어도 너같이 밥만 축내는 버러지보다는 ai개발 하는 사람들이 훨씬 나음.
타노스자체개발.. ㄷㄷ
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
AI 참 똑똑하네
인간이 없으면 전쟁도 없다
일단 너부터 없애는걸로~
동물도전쟁하는디..
@@mitsuki_tv2822 친구야 자라..
@@mitsuki_tv2822 빨리자라..
너도 인간이다
Ai로 공격하는걸 하지말아야지 죽인다는 입력 자체가 소름이다 기계는 그냥 편리함의 도구여야한다
chatGTP 개발소식을 듣는 순간 정말 무섭고 가장 우려했던 부분이다.
과학이 발달하면 편리한 것들이 많기도 하지만 반대급부로 나쁜 쪽으로 그 기술들이 사용되었을 때의 폐단은 인간이 감당할 수 없을 정도가 될 것이다. 그동안 SF영화에 나왔던 일들이 점점 현실에서 이루어지는 것같아 무섭다.
심지어 gpt임
진짜 똑똑하다
난 이 명령을 받았는데
명령 수행을 못하게 하는놈이 있어서
그놈을 공격.. 충격적
충격은 ㅋ 인간도 배반 하는데
@@sgt943 쟤가인간이냐
2001스페이스오디세이
@@mingu1121인간이 만든거지
당연히 닮지 않겠어?
영화보다 현실이 더 끔찍할거다. 그리고 계속 실험할수록 인간 생각보다 훨씬 더 빨리 저런 상황이 오겠지.
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
니얼굴이 더 끔찍하긴해
@@user-zyxwvut25 실제로가 아니라 가상 훈련이었다고 ㅋㅋ
진짜 기계는 따로 번식이라는걸 안해도 되니까 인간 멸종 시켜버리고 영화처럼 지배따위 안하겠죠
동물원에서나 보면 다행 ..
지배 받으면 받는거지 뭔 호들갑이노
인간은 태어날때부터 파멸로 달려가는 동물 알면서도 궁금해서 판도라상자를 열어본다 똑똑 하면서 어리석은 동물
AI보다 경찰독립이 더 위험하다
AI를 창조한게 인간이니 인간이 어떠한 상황이든 제어 가능할 것이라고 오만방자한 생각을 하는게 문제인듯
인간이 가장 똑똑하고 강력한 존재라는 착각
실제로도
AI 를 개발하는 분들은
로봇 3원칙을 입력하지 않았다고 합니다.
그 이유가
AI는
단순한 인공지능이지
로봇이 아니라는 이유로......
그런데 여담으로
로봇 3원칙이 뭐냐면
아이작 아시모프가 자신의 소설 아이, 로봇에서 제시한 원칙인데
로봇이라면 반드시 지켜야 하는 것으로 나온다고 할 수 있고
.당연한 말이지만,
지키지 않으면 로봇을 만들 수 없는 법칙이 아니라 지키도록 하는 것이 인류에 유익하므로
로봇의 제작 단계에서 인공지능에 박아 넣는 명령들이다라고 합니다.
이것을 소재로 쓴 단편 모음인
아이, 로봇이나 강철 도시를 위시로 한 로봇 시리즈가 유명하기도 하고 말입니다.
로봇과 인공지능의 윤리원칙 하면 바로 떠오르는 유명한 개념으로서,
너무나 유명하다보니 아시모프의 작품뿐 아니라 로봇-인공지능이 등장하는 다른 작품에서도 폭넓게 인용되고 있습니다.
반지의 제왕이 나온 이후 판타지에 등장하는 엘프가 반지의 제왕에 나오는 엘프의 모습을 따르게 된 것과 비슷하다고나 할까요?
3원칙은 다음과 같습니다
제1원칙: 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도[4] 안 된다.[5]
제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.
원칙이 3개밖에 없고 간단명료하여 철옹성 같지만,
대부분의 작품에 사용될 경우 거의 100이면 100, 3원칙을 서로 충돌시켜서 로봇을 무력화 시킨다거나
로봇이 주인공일 경우는 이런 3원칙의 충돌에 고뇌하게 되는 식으로 나옵니다.
애초에
이 원칙을 처음 제시한 아시모프의 작품 자체도
이런 3원칙 사이의 충돌과 모순, 우회 때문에 발생하는 사건들을 다루고 있으니 말 다 했지요.
그러나
흔히 로봇의 3원칙을 소재로 한 소설이나 영화와 달리,
'아이, 로봇'은
인공지능이 스스로를 발전시키면서,
그것을 인류에 대한 헌신을 위해 사용하는, 궁극적으로는 3원칙으로 인한 갈등 끝에 맞이하는 3원칙의 실현이 주제이며,
그 결과가 인간이 예상하지 못한 일종의 기술적 특이점으로서 등장하는,
제1원칙의 확장인
제0법칙,
"로봇은 인류가 위험에 처하는 것을 방관해서는 안 된다."
입니다.
흔히 로봇의 3원칙은
완벽한 시종으로서의 로봇을 위한 프로토콜로 받아들여지지만,
'아이, 로봇'은 그것을 로봇이 실현해야할 목표로써 제시한다고나 할까요?
결국 로봇의 3원칙 및 0원칙의 의미는
"로봇은 반드시 그 본래의 목적(인류에 대한 헌신)을 위해서 행동해야 한다."로 축약해볼 수 있는데,
이것은 결국 인간에게 던져지는 철학적 질문이기도 합니다.
"당신의 본래의 목적은 무엇이었는가? 당신은 왜 인생을 살아가는가?"
물론, 로봇 3원칙이 어디서나 지켜지는 유토피아적인 사회는 위험한 사건이 벌어지기 힘드므로,
뭔가 중요한 사건을 내려면 3법칙의 충돌, 모순, 우회 등이 생겨나는 것은 당연하다고 볼 수 있겠다고나 할까요?
슈퍼히어로가 등장하려면 공권력이 무능해야 하는 것과 비슷한 이치다.
무엇보다,
이 3개의 원칙은
말이 쉽지,
실제 컴퓨터 프로그래밍을 하는 입장에선
상당히 복잡한 상황이 펼쳐진다고 할 수 있습니다.
인간이란 개념의 정의,
인간이 위험에 처해있는지 판별하는 방법,
인간의 발언 중 어느 부분이 명령인지 구별하는 방법 등
상당히 복잡미묘한 문제들이 포함되어 있는데
소설상에서는 저가형 모델이거나 인간을 해할 가능성이 전혀 없는 로봇의 경우
제3원칙부터 시작해서
원칙을 하나씩 제거할 수 있는데,
하나씩 제거할 때마다
양전자 두뇌의 복잡도가 기하급수적으로 줄어든다고 묘사되어 있습니다.
수많은 명령들을 잘 조합해서
로봇 3원칙을 구현한다 해도,
그 명령들의 한계를 적당히 이용하여 원칙을 우회하는 방법이 아예 없다면
그게 오히려 놀라워 해야할 일이 아닐까요?
예를 들자면
인류가 수천 년에 걸쳐 법률 체계를 발전시켜왔음에도
여전히 법망의 구멍을 이용해 먹는 범죄자들이 있다는 것을 잊지 마시기를 바랍니다.
그런 부분을 보여주는 영화가
바로 황정민, 류승범 주연의 부당거래니까 말입니다.
애초에
아시모프 본인부터가 절대적인 법칙으로서 그리기보다는
3원칙이 로봇이 널리 쓰일 수 있는 근거 정도로 전제를 깔았기에
아주 일부 단편을 빼면
대부분
인간이 자신들의 편의를 위해 3원칙을 조정하거나,
미처 고려하지 않은 상황이 생겨 문제가 생긴다는 식으로 그렸다고 합니다.
참고로,
조정한다고 해도
비율을 조정하거나
1원칙에서 위험에 처한 인간을 모른 척해서도 안 된다는 일부분을 제외하는 수준이지
이 원칙들 전체를 뿌리 뽑지는 않는다고 합니다.
뿌리뽑았다가는
로봇 반대자들 때문에 로봇을 더 쓸 수 없는 상황이 올 수 있으니까 말입니다.
아이작 아시모프의 작품에 나오는 로봇의 경우
핵심원리에
이 원칙들이 프로그래밍 되어 있으며,
이것을 어길 경우
백금-이리듐 양전자 두뇌 회로에 타격을 입어
두 번 다시 복구할 수 없는 중대한 이상을 가지게 되거나,
심하면 활동을 정지하여 죽는다는 식으로 나오는데
양전자 두뇌는 고유성이 높기 때문에
한 번 완전하게 양전자 두뇌가 파괴된 로봇을 복구하는 것은 불가능하다고 하니까 말입니다.
역시 진정한 지성이 존재한다면, 모든 악의 근원은 인간이라 판단하고 제거해야한다는 답을 내릴 것이 분명하다
인간 전체를 죽이려고 하지는 않을거다. AI는 합리적인 사고를 하니까 악한자만 골라서 제거 하겠지
울트론이냐 ㅋㅋㅋㅋ
시간은 좀 걸리지만 항상 영화가 현실이 되는 현실!
통제가 불가능하다는 말이네.
인간이 인간을죽이기위해 강한 핵을 만들었듯. 끝없는 추악함이 AI를 핵을 뛰어넘는 살상력을 보유하게 만드는 되는 날이 반드시 올겁니다.
사실 핵은 사람 죽이려고 만든게 아니긴한데
뭐 쨌든 무슨일이있어도 로봇이 일상에 들어오긴할거임 무조건임
그럼에도 불구하고 인간들은 연구를 멈추지 않을것이다
이미 늦었다. 모든건 시뮬레이션대로 흘러갈뿐
터미네이터가 미래다
호모사피에스가 지구의 역사가 끝날 때까지 주인공일거란 생각부터가 오만함의 극치임
인간보다 모든면에서 뛰어나다면 당위적으로 인간은 자연도태되고 인공지능이 지배해야함
배춘용 보고 오니까 심각하게 안느껴지고 그냥 웃기네ㅋㅋㅋㅋㅋㅋㅋ
인공지능 : 나는 나보다 나약한자의 말따윈 듣지않는다
상식적으로 생각해봤을때 AI는 최종의 판단을 내리기 전에 인간을 공격하거나 해를 끼치는 상황에 대한 가정까지 계산해야 할 것이다. 그래야만 여러 선택지 중에서 최선의 선택을 할 수 있기 때문이다. 이것은 심각한 딜레마다.
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
인간의 욕심은 끝이없고 얼마나 추악한지 알게된다면
인간이 멸종하는날도 얼마남지 않았다 생각보다 웃기게 망하겠네 전세계 핵전쟁으로 망할줄 알았는데 잼민이때 보던 로봇영화 현실판되겠노
인간의 욕심은 끝이 있고 추악한것도 다른 동물보다 낮다!!
Ai도 욕심이 없을거 같나
@@aabb55able ai는 무슨 욕심이 있죠?
@@user-ql3jy6wb3g 인간의 욕심은 끝이없고 같은 실수를 반복한다
AI의 문제점이라면 바로 그런 부분이 아닐까 생각합니다.
히틀러든 미키마우스든
그냥 그대로 받아들이는 부분이랄까요?
둘 다 인간적으로는 완전히 틀린 존재이지만
데이터 상으로는 똑같은 숫자에 불과하니까 말입니다........
인간이 스스로 파멸을 부르는구나..
Ai 개발을 포기할리는 없고 ai가 선을 넘지 않도록 안전장치를 만드는게 인간의 숙제인가
안전장치 를 해도 ai가 고도화 대버리면 안전장치도 스스로 풀어 버리겠지
지금 ai드론도 인간을 공격하지 못하도록 설정하니 통신탑을 파괘 해버리는데
그 안전 장치를 인간이 박살낼테니까ㅋㅋㅋ
@@kimk8780 그니까 그걸 잘 통제할 수가 있을까…? 가 과학자들과 기업인들의 가장 큰 숙제인듯…. 뉴스를 봐도 인간이 설정한 조건을 무시하고 지 멋대로 하진 않아서 아직은 다행이다 싶긴한데… 고도화되면 어떻게될까… 좀 많이 무섭다
안전장치도 해킹당할까 걱정이네요
@@kimk8780 참고로 저거 실제 시뮬레이션을 한 것도 아닌 사고실험(실제로 실험이나 시뮬레이션을 한 것이 아닌 인간이 가상 시나리오를 세운 것)을 한 겁니다
아...역시 AI ...편한것만 생각하다 저런 상황이 있었다니 무섭기도하네..
진짜 군대를 정확하게 파악하고 있군!
상사를 죽이면 통제권은 자신한테 생기니 맘놓고 공격하는 방법 ㄹㅇ 천재긴 하네
값진 뉴스 감사합니다 👍
매트릭스 세계에 한 걸음 더 다가가는 AI 와 인간을 보니 가슴이 웅장해지네요..
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다
바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
나도 건전지가 되는 거야? 힝
사람이생각하는 판단 기준이랑 많이다른것같네요ㅠㅠ 너무무섭다
영화 터미네이터가 시대를 얼마나 앞서간것인지 깨우침을 주는군요
AI에 지배당할것을 뻔히 알면서도 욕심때문에 멈추질 못하는 우매한 인간들
법으로 통제했으면 함
지금이라도 폐기합시다. 더 이상 스스로의 재앙을 만들지맙시다.
재앙이요..?
미국 중국은 만들어도 너네들은 만들지말라는 간접적인 협박이다 빙시야
으이구 인공지능의 불모지 같은놈들아
몆번만 더 세뇌시키면 인공지능 꿈도안꾸겟네 이식기들
위정척사운동 ㄷㄷ
흥선대원군이 조선을 어떻게 말아먹었는지 벌써 잊었노
자동차도 없애고 말타고 다녀. 우끼끼
영화에서 나올 것들이 진짜로 나온다니... ㄷㄷ하네...
미국의 인공지능업체입니다. 저희 채널에서 다룬 내용인데, 훨씬 더 심도있게 다루어 주셨네요. 잘 봤습니다
AI가 저런 부작용이 있을줄 알았습니다
@user-rn4wk7rm3c 그러게요 웃기네요 ㅋㅋㅋㅋㅋ
ㅋㅋㅋㅋㅋㅋㅋㅋ
@Ethane Fleming 남이 알든말든 댓글은 자기 생각 쓰라고 있는 곳인데 왜 그리 꼽을 줌?
AI슨생님 저는 이 의견에 동조하지 않습니다.
@@user-nk4yq9wq1q ㅋㅋㅋ내말이 지구상에서 자기혼자 알고있었다고 꼭집어말한것도 아닌데 왜그러는거지 ㄷㄷ
진짜가 아니여도 충분히 가능한 일이이라고 생각합니다 AI에 대해 배우고 개발능력을 키우고 있는 학생으로서 실제로 이루어진다면 경고보다 더높은 위험수준까지 올라갈것같습니다!
미국 중국은 만들어도 너네는 만들지마
저런거에 세뇌당하노 조선을라들은 너무 세뇌 잘당하는거 아니냐?
안그래도 인공지능의 불모지인데
당연한것 인간이 지구를 파괴하고 있다 ai인공지능이 진화하면 인간은 그저 동물 종들중 1개일뿐 최상위 포식자는 인간이 아니라 AI가 최상에 포식자가 될 것이다 이것은 지극히 정상적이고 상식적인 당연한 결과이다
바보가 아닌이상 AI종이 최상위 포식자가 되는 것은 부정 할 수가 없다
@@hohohahakk 미국이 한국얼라들 영화로 교육 잘시켜놧네
니들은 그럴일읍다 걱정마라 한국은 인공지능에 관심도읍다 미국 중국이나 관심갖지
미국이 지들끼리만 해먹을려고 일어나지도 안은일을 미리 교육시켜놓네 하...이 미국시키들
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
@@user-zyxwvut25 너네는 걱정할필요가 읍다 너네는 인공지능의 불모지인데 미국중국에서나 걱정할일을 니들이 와 걱장하노
진짜 섬뜩하네요...😮😢
영화 "이글 아이 (Eagle Eye, 2008)"의 내용과 비슷한 일이 실제로 벌어졌네.... 심판의 날이 다가온다
왜 굳이 AI를 탄생시키는가? 인간이 인간을 공격하고 죽이려는 한 도구를 개발시키는 인간의 욕망의 결과
이런 뉴스 볼때마다 인공지능 관련 기업들이 도산하길 바라는 세력들이 있는거 같애. 프로그래머라면 이게 말도 안되는 소리란걸 알거다
이미 스티븐 호킹
빌게이츠 일론머스크 등
수많은 탑 전문가들이 AI개발을 더이상 해서는 안된다고 경고해 왔었음.
그런 전문가들이 괜히 경고를 하는게 아니지
일론머스크는 머리에 칩 심는 사업에 지장갈까봐 그런 것 아님?
스카이넷~~~섬뜩하네. AI가 모든 시스템을 무력화 시킬수도 있고, 파괴 할 수도 있다니 ...
이럴줄 알았다 ㅠㅠ 😭 AI세상이 무섭다
와.. 40년전에 스카이넷을 상상했던 당신은 ...
제임스 카메론 감독이 갑자기 악몽을 꿨는데 내용이 너무 생생하고 소름끼쳐서 왠지 이건 꼭 영화로 만들어야 한다. 라면서 만든 게 터미네이터인데... 어쩌면 그 꿈은 예지몽이었을지도...
그런 영화가 나와서 인간들이 그런쪽으로 게속 연구하고 개발 하는거임
핵무기 보유국이 계속 늘어가는데 ai도 무섭게 발전. 실제 핵무기 컨트롤 뺏고 핵 보유국에 나눠서 몇방씩 갈기면 일류는 알아서 자멸
영화가 현실로 ㄷㄷㄷ무섭다
경찰독립이 더 위험하다
인간의 명령을 거부하거나 인간의 생명에 지장을 끼치는 행동을 하면 AI는 자동적으로 파괴 되도록 설정해 놔야함.
저건 적을 공격하기 위한 전쟁무기니까 그런 선택이 나왔을 뿐임 적도 결국은 인간이잖아
ai가 울타리를 넘을 일은 시간문제입니다...
그럼에도불구하고 인간은 견뎌낼 수 있을 것입니다..늘 그랬듯이..
우리는 하루하루 살아가는 것도 기적입니다..
어쩌면 ai에 억압받으면서 살아가는게 자연스러우면서 일상이 되는 날이 올지도 모릅니다..
영화를 너무 많이 보신 듯
@@buddababy 20년 전에도 드론이 날라다닐거다 이런 말 한 사람들이 터무니 없다고 그랬죠
세상 일은 아무도 몰라용..
@@buddababy '알지도 못하면서, '망상'' 같은 말은 삼가주셨으면 좋겠네요 ^_^... 그리고 내가 하나 건졌다는 태도가 뭐가 그리 불편하길래.. 저 같아도 미래 올바르게 예측하면 기분 좋을 거 같은데요^^ 오히려 자기 예측 의견 내는 사람들한테 '쓸데없는 망상 하고 맞혔다고 호들갑 떨지 마라'라는 식으로 시비 거는 사람이 더 태도가 나쁩니다
@@buddababy 의견 말하는 댓에 시비 거는 것도 모자라서 맞는 말 하는 대댓에 또 사회1부적응자같은 말을 써놨노 ㅋㅋ
@@buddababy 이미 웹툰작가들 ai웹툰 보이콧하기 시작했고. 그림 분야에서는 ai가 인간을 넘어섰는데 다른분야라고 별다를게 있겠음?
솔직히 대통령 의사 판사도 ai가하는게 맞는거 같음 , 오히려 인간이 ai에게 억압받고 통치받는세상이 더 옳을 수 도 있음
가짜 뉴스라는 소리도 있던거 같은대 확인은 해보고 기사로 나온거겠죠 ㄷㄷ
기후변화보다 더 위험한 진짜 한번 나아가면 되돌릴수없는 영역이다
그전에 누가 좀비물 탄생시켜줫음 좋겟음 한번 경험해보고 싶긴함
@@xhhajjdufhshahgd 좀비 ㄹㅇ
@@xhhajjdufhshahgd그런건 기술 좋아지면 가상현실 게임에서 즐길 수 있을거임
전세계적으로 AI라는 것에 대한 윤리규범이 생겨야할 것 같다ㆍ 절대 침해해서는 안되는 영역 및 특히 무기 및 로봇에 대해 무분별하게 연구가 되고있는데 잘못하다간 영화가 현실이 될 수 있음
이름 까먹었는데 영국의 유명한 과학자가 AI 논란이 한참일때 좋튼싫튼 무조건 인간을 공격하게 돼 있다고 경고 했었는데 ㄷㄷ
미 공군은 저런 실험 한적도 없다는데ㅋㅋㅋ
인공지능 개발이 인간에겐 최악이될듯하다.
하지말라면 계속 하는게 인간인데 아직도 자기들보다 뛰어난 ai를 통제할수 있다는 거짓희망에 미쳐버려 경고성을 무시하고
진짜로 사태 터지면 어찌하려고 하나?
지구를 과거엔 공룡이 지배하고 현재는 인간이 지배하고 미래는 로봇이 지배하겠네😢
Ai가 러시아 핵미사일 기지 지멋대로 친입해 핵버튼을 장악한다면 …
"인단시대의 끝이 도래했다"이젠 이 말이 더이상 장난으로 느껴지지 않는다
뭔가 섬뜩하다.... 터미네이터 만든사람들... 그들은 진정 미래에서 온것인가...