아이디어 구체화: Chat GPT 보안 솔루션

서비스 개요

• ChatGPT 보안 솔루션은 기존의 Chat GPT 서비스에서 회사의 중요한 정보 또는 고객 정보의 유출을 막기 위해 개발할 인공지능 기반의 보안 솔루션입니다. 해당 서비스는 사용자가 채팅을 입력할 때 입력된 내용을 실시간으로 검토하여, 중요한 정보가 포함된 채팅을 차단하고 보안 상태를 유지할 수 있도록 합니다.

• 기업 정보나 고객 정보 등 중요한 정보들을 ChatGPT에게 직접 전달하지 않고 중간 서비스 단에서 글을 인식하고 원천 차단합니다.

서비스 목적

• ChatGPT 보안 솔루션은 고객들의 중요한 정보와 기업 정보 등을 안전하게 보호하고, Chat GPT 서비스를 보안적으로 안정화하는 것을 목적으로 합니다.

서비스 기능

• 금융권, 의료관련 등 도메인별로 고객 정보를 익명화하는 솔루션 제공

• 기업은 기존 ChatGPT URL을 막고, 우리 솔루션 url로 접근 가능하도록 변경, 특정 파라미터가 들어가면 결제를 받아야하는 검열 자동 시스템 도입

• 핵심 코드 변수 등을 등록하고, 보안 담당자는 결제 이력별로 질적 분석을 할 수 있는 시스템 도입

• 백엔드와 프론트, AI 개발을 통한 서비스 제공

비지니스 캔버스

보안 이슈

[단독] 우려가 현실로…삼성전자, 챗GPT 빗장 풀자마자 ‘오남용’ 속출

우려가 현실이 됐다.삼성전자가 디바이스솔루션(DS·반도체) 부문 사업장 내 챗GPT(ChatGPT) 사용을 허가하자마자 기업 정보가 유출되는 사고가 났다.

https://economist.co.kr/article/view/ecn202303300057?s=31

기업 민감 데이터를 ChatGPT에 입력해도 될까

오픈AI의 챗봇인 챗GPT의 잠재력과 유용성이 계속 대서특필되고 있다. 하지만 보안 분야는 민감한 비즈니스 데이터를 챗GPT에 입력하면 조직들이

https://www.itworld.co.kr/t/36/보안/284047

"내 개인정보가 위험하다"… 국내외서 '챗GPT 사용' 경계령 확산

오픈AI가 출시한 '챗GPT(chat Generative Pre-trained Transformer)'의 이용자가 빠르게 늘고 있는 가운데, 챗GPT가 정보주체 등에게 허락을 받지 않고 개인정보 등을 수집하는 점이 논란이 되고 있다. EU 등 주요 국가들은 개인정보 무단 수집과 활용 금지를 논의하고 있으며, 이러한 분위기가 전 세계로 확대되고 있다.우리나라에서도 챗GPT의 개인정보 수집 및 정보 유출을 우려하면서, 정부가 개인정보 무단 수집에 대한 규제 등을 마련할 필요가 있다는 목소리가 높아지고 있다.● 이탈리아 시작으로 유럽 등

http://news.koreanbar.or.kr/news/articleView.html?idxno=27243

AI: ChatGPT 오류 … 다른 사용자 대화 기록 유출 - BBC News 코리아

타인의 대화 기록을 볼 수 있는 오류가 발견되면서 ChatGPT 서비스는 지난 20일 잠시 중단되기도 했다. 사용자들은 사생활 침해 가능성을 우려하고 있다.

https://www.bbc.com/korean/articles/cje57559n90o

Oops: Samsung Employees Leaked Confidential Data to ChatGPT

Employees submitted source code and internal meetings to ChatGPT just weeks after the company lifted a ban on using the chatbot.

https://gizmodo.com/chatgpt-ai-samsung-employees-leak-data-1850307376

What is ChatGPT? | OpenAI Help Center

Commonly asked questions about ChatGPT

https://help.openai.com/en/articles/6783457-what-is-chatgpt

경쟁 서비스

"정보유출 없이 챗GPT 쓰세요" LG CNS, MS와 보안 사업 맞손

생성 AI·클라우드 보안 강화

https://www.mk.co.kr/today-paper/view/2023/5444016/

챗GPT 프롬프트 통한 민감 정보 유출 막기 위해 등장한 프라이빗GPT

직원들이 챗GPT를 업무에 활용한답시고 각종 민감 정보를 마구 입력하고 있다는 지적이 기업들 사이에서 나오고 있다. 그런 가운데 한 데이터 프라이버시 전문 기업이 이러한 위험으로부터 기업들을 어느 정도 자유롭게 해 주기 위한 도구를 개발해 발표했다. 챗GTP를 활용하다가 실수로 개인정보나 고객 정보가 노출되는 일이 발생하지 않도록 막아주는 역할을 할 수 있다고 한다.

https://www.boannews.com/media/view.asp?idx=117814

챗GPT, '유료 고객' 데이터는 학습 안 시킨다

챗GPT의 아버지인 샘 알트만 오픈AI CEO(최고경영자)가 더 이상 고객 데이터를 초거대 AI(인공지능) 언어모델 학습에 활용하지 않는다고 강조했다. 모델 학습 과정에서 개인정보나 기업 기밀이 유출될 수 있다는 우

https://n.news.naver.com/mnews/article/008/0004884150?sid=105

논문

학술논문검색사이트 KISS

https://kiss.kstudy.com/Detail/Ar?key=4006933

• 제목: 인공지능 관련 규범 수립의 국내외 현황과 과제

• ….인공지능은 급부행정이나 범죄예방 등에 유용하나, 과도한 개인정보 수집, 감시, 통제는 지양되어야 하고,…..

• ….기업들이 비식별화된 데이터를 공유, 거래, 교환 가능한 데이터 생태계를 구축할 수 있도록 법제를 마련하되, 재식별화 등 불법행위 방지 장치를 마련할 필요가 있다……

자료

11% of data employees paste into ChatGPT is confidential - Cyberhaven

Updated April 19, 2023 Since ChatGPT launched On November 30, 2022 it’s taken the world by storm. People are using it to create poems, essays for school, and song lyrics. It’s also making inroads in the workplace. According to data from Cyberhaven’s product, as of April 19, 9.3% of employees have used ChatGPT in the […]

https://www.cyberhaven.com/blog/4-2-of-workers-have-pasted-company-data-into-chatgpt/

• 제목: 직원들이 chat gpt에 붙여넣은 데이터의 11%는 기밀 자료입니다. (2023/04/19)

ChatGPT Bug Exposed Some Subscribers' Payment Info

Investigation into a bug that exposed chat history titles reveals additional issues.

https://www.cnet.com/tech/services-and-software/chatgpt-bug-exposed-some-subscribers-payment-info/

• 제목: chat gpt 버그로 일부 가입자들의 결제 정보 노출 및 채팅 제목 기록 노출

프로토타입