지금은 아닌 것 같은데요. 한두달전만해도 빙에서 제가 질문을 하면, 빙에서 이미 Chat-GPT에 저랑 비슷한 질문을 했던 사람들의 질문과 답변을 볼 수 있었다라고 기억되는데요! 이때, 저도 보안면에서 깜짝 놀랐던! 요즘은 그렇게 안 하고 있는것 같더라고요! 전 Chat-GPT와 Bard 둘 다 사용하고 있는데.. 정확성은 확실히 Chat-GPT가 Bard보다 휠씬 높은데! 하루에 10번밖에 질문을 못 하고, 요즘은 한개의 질문당 간단한질문만 할 수 있는! 예전에는 질문하나에 (Q1),(Q2),(Q3) 등등을 달아서, 한번에 여러개를 같이 물어볼수 있었는데, 요즘은 안 되더라고요! 그리고, 요즘들어서 Chat-GPT 걸핏하면 답변 거부하고! MS는 손만 닿으면 수익의 뽕을 뽑을려고 달려드니... 쯥!
당시 문제가 일어 오픈AI 측에서 문제를 수정하였습니다. 민감 데이터가 노출안되게끔 막은 것이죠. 그런데 사람들과의 대화 내역을 훈련에 사용하는 것을 막았는지는 불분명합니다. 아울러 챗GPT 상 중대 버그나 오류 발생 시가 문제인데.. 그때 노출될 수 있습니다. 대개 일반 사이트는 신용카드 번호.. 중요 개인 정보는 암호화해서 저장합니다. 그런데 대화 내역에 그런 것들이 들어 있을 경우 암호화되지 않은 채 저장되죠. 어쨌든 오픈 AI 측도 이 문제를 심각하게 보고.. 기능을 강화하고 있습니다 ^^ 신용카드.. 계좌 정보 및 개인 사생활과 같은 정말 심각한 개인정보는 그래도 조심해야 될 거 같습니다. 단 1회성 누출로도 큰 피해가 있을 수 있으니까요. 최근 삼성에서 민감 정보에 특화된 자체 AI 챗봇을 개발 & 준비중이라는 뉴스가 떴습니다. 민감 데이터를 다루는 경우라면 이런 챗GPT의 약점이 너무 큰 단점이 되는 거죠
직원의 실수겠죠.. 한국에서는 간단히 언급된 기사인데... 해외 보안 뉴스에 뜬 내용이 있어 참조했습니다 www.cshub.com/data/news/iotw-samsung-employees-allegedly-leak-proprietary-information-via-chatgpt
유출된것을 어떻게 알까요?
챗GPT가 학습한 후.. 유저와 챗GPT 사이의 대화 중에 유출되는 것 같습니다. 영상 속에 삼성의 경우도 그렇구요.
지금은 아닌 것 같은데요. 한두달전만해도 빙에서 제가 질문을 하면, 빙에서 이미 Chat-GPT에 저랑 비슷한 질문을 했던 사람들의 질문과 답변을 볼 수 있었다라고 기억되는데요! 이때, 저도 보안면에서 깜짝 놀랐던! 요즘은 그렇게 안 하고 있는것 같더라고요! 전 Chat-GPT와 Bard 둘 다 사용하고 있는데.. 정확성은 확실히 Chat-GPT가 Bard보다 휠씬 높은데! 하루에 10번밖에 질문을 못 하고, 요즘은 한개의 질문당 간단한질문만 할 수 있는! 예전에는 질문하나에 (Q1),(Q2),(Q3) 등등을 달아서, 한번에 여러개를 같이 물어볼수 있었는데, 요즘은 안 되더라고요! 그리고, 요즘들어서 Chat-GPT 걸핏하면 답변 거부하고! MS는 손만 닿으면 수익의 뽕을 뽑을려고 달려드니... 쯥!
당시 문제가 일어 오픈AI 측에서 문제를 수정하였습니다. 민감 데이터가 노출안되게끔 막은 것이죠. 그런데 사람들과의 대화 내역을 훈련에 사용하는 것을 막았는지는 불분명합니다. 아울러 챗GPT 상 중대 버그나 오류 발생 시가 문제인데.. 그때 노출될 수 있습니다. 대개 일반 사이트는 신용카드 번호.. 중요 개인 정보는 암호화해서 저장합니다. 그런데 대화 내역에 그런 것들이 들어 있을 경우 암호화되지 않은 채 저장되죠.
어쨌든 오픈 AI 측도 이 문제를 심각하게 보고.. 기능을 강화하고 있습니다 ^^
신용카드.. 계좌 정보 및 개인 사생활과 같은 정말 심각한 개인정보는 그래도 조심해야 될 거 같습니다.
단 1회성 누출로도 큰 피해가 있을 수 있으니까요.
최근 삼성에서 민감 정보에 특화된 자체 AI 챗봇을 개발 & 준비중이라는 뉴스가 떴습니다. 민감 데이터를 다루는 경우라면 이런 챗GPT의 약점이 너무 큰 단점이 되는 거죠
삼성정도 되는 대기업이
회의를 몰래 녹음한다는게
말이 되는지....^^
직원의 실수겠죠..
한국에서는 간단히 언급된 기사인데... 해외 보안 뉴스에 뜬 내용이 있어 참조했습니다
www.cshub.com/data/news/iotw-samsung-employees-allegedly-leak-proprietary-information-via-chatgpt