우리는 현재 인공지능(AI)의 시대에 살고 있습니다. 특히, 최근 전 세계의 기업들은 자사의 제품에 ‘생성형 인공지능’을 탑재하거나 개발하는데 많은 노력을 기울이고 있는데요. 대표적으로, 생성형 인공지능의 선두주자라고 할 수 있는 OpenAI의 ‘ChatGPT’나 구글의 인공지능 검색 엔진 서비스인 ‘Gemini’ 그리고 적은 개발 비용으로 화제가 된 ‘DeepSeek’ 는 이미 많은 사람들이 애용하고 있는 서비스이기도 합니다. 하지만 이러한 대화형 인공지능에 최근 ‘보안’ 이라는 새로운 문제가 대두되고 있습니다. 어떠한 이유에서인지 지금부터 알아보도록 할게요.
인공지능 제대로 알고 사용하자!
우리가 흔히 사용하는 ‘생성형 인공지능’은 컴퓨터가 인간의 언어를 이해하고 처리하는 ‘자연어 처리’ 기술을 기반으로 사용자와 인공지능 시스템이 인간과 같은 대화를 나눌 수 있는 기술을 말합니다. 쉽게 말해 인공지능이 인간의 언어를 한 문장에서부터 시작하여 한 단어까지 스스로 분석하고 해석하여 결과를 도출해내는 것을 말합니다.
이러한 자연어 처리 기술은 문서 처리나 콘텐츠 요약과 같은 반복적인 작업을 보다 손쉽게 처리할 수 있고, 콘텐츠 생성기능 역시 제공하여 콘텐츠 제작에 드는 시간과 노력을 절약할 수 있는 등 다양한 장점을 보유하고 있어 대학생을 비롯한 다양한 연령층에서 사용되고 있습니다. 특히, 이러한 생성형 인공지능은 다양한 사람들을 통해 사례를 학습하는 과정이 그 무엇보다 중요하므로 대부분 무료로 이용할 수 있는 경우가 많아 사용자 역시 빠르게 증가하고 있는 추세입니다.
하지만 편리하고 무료라는 이유만으로 자신의 신상정보나 개인정보 같은 민감한 정보를 넘겨서는 안 됩니다. 실제로 ChatGPT의 개발사 OpenAI의 개인정보 처리방침을 살펴보면, ‘OpenAI는 사용자의 성명, 연락처와 같은 개인정보와 사용자가 보내는 메시지의 내용을 수집할 수 있고 이렇게 수집한 개인정보는 신규 제품 기능 개발 등 서비스 개선·개발 및 연구수행 등에 이용할 수 있다’라고 되어 있습니다. 또한, 중국의 생성형 인공지능 DeepSeek의 경우, 사용자의 키보드 입력 패턴이나 IP주소 등 개인정보를 과도하게 수집하는 등 개인정보 수집 논란 역시 존재합니다.
현재 생성형 인공지능은 어떠한 상황일까?
이러한 생성형 인공지능의 허점이 발견되자 삼성전자 등의 민간 기업들은 기밀 유출 등을 이유로 직원들에게 생성형 인공지능의 사용을 금지하는 한편 산업통상자원부, 외교부, 국방부 등의 정부부처 역시 학습데이터를 과도하게 수집해 정보 유출의 가능성이 있다는 이유로 중국 생성형 인공지능 DeepSeek의 접속을 차단했습니다. 정부가 이렇게 발빠르게 규제를 취할 수 있는 제도적 배경은 무엇일까요? 우리나라는 「개인정보 보호법」을 통해 개인정보의 처리 및 보호에 관한 사항을 정함으로써 개인이나 단체의 권리를 보호하고 있기 때문이죠.
개인정보보호법
제63조의2(사전 실태점검) ① 보호위원회는 제63조제1항 각 호에 해당하지 아니하는 경우로서 개인정보 침해사고 발생의 위험성이 높고 개인정보 보호의 취약점을 사전에 점검할 필요성이 인정되는 개인정보처리자에 대하여 개인정보 보호실태를 점검할 수 있다.
② 보호위원회는 제1항에 따른 실태점검을 실시하여 이 법을 위반하는 사항을 발견한 경우 해당 개인정보처리자에 대하여 시정방안을 정하여 이에 따를 것을 권고할 수 있다.
…(이하생략) …
또한, 2024년 12월 26일 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)」’ 제정안이 의결되면서 생성형 인공지능의 투명성 확보 의무, 안전성 확보 의무, 사업자 책무를 규정한 법안이 2026년 1월부로 시행될 예정될 예정이기도 합니다.
개인정보를 지키기 위해 필요한 우리의 자세
제도적 장치가 있기는 하지만, 스스로도 개인정보를 지키기 위한 노력을 게을리 해서는 안 됩니다.
첫 번째로, AI 사용 전 ‘개인정보처리방침’을 확인해 사용자의 개인정보가 서비스 제공회사에 어느 정도 수집·저장되어 있는지 확인하고, 그 과정에서 서비스 제공회사가 사용자의 개인정보를 과도하게 수집한다고 판단 되는 경우에는 사용을 중지하는 자세를 가지는 것이 필요합니다.
두 번째로, AI의 입력창(프롬프트)에 이름, 전화번호, 주소, 주민등록번호, 계좌정보 등의 민감한 개인정보는 학습데이터로 사용되거나 제3자가 확인할 수 있는 만큼 입력하지 않는 것이 필요합니다.
세 번째로, 인터넷 브라우저 내에 쿠키를 주기적으로 삭제하거나 차단 또는 비활성화 하여 생성형 AI가 자동으로 정보를 수집하지 않도록 하는 것 역시 필요합니다.
최근 생성형 인공지능의 활용도가 증가하며 그러한 서비스를 잘 다루는 것이 하나의 기술인 시대가 되었습니다. 특히, 이러한 서비스를 잘 활용한다면 우리의 삶은 이전의 삶보다 훨씬 편안해 질 것입니다. 하지만 생성형 인공지능을 통한 개인정보유출은 절대 가벼운 일이 아니며 경각심을 가지고 개인정보 보호를 위해 노력해야 할 필요가 있습니다. 우리 모두 내 개인정보는 내가 지킨다는 마음으로 내 정보를 잘 지키는 똑똑한 사람이 될 수 있도록 노력해야 합니다.
글 = 제17기 법무부 국민기자단 박준혁(대학부)
'법블기 이야기 > 힘이되는 법' 카테고리의 다른 글
| 말다툼하다 상대를 때렸다면? (1) | 2025.04.17 |
|---|---|
| 자동차 등록번호판 봉인제도가 폐지되었습니다 (1) | 2025.04.16 |
| 불특정 다수를 향한 협박? 이제 제대로 처벌합니다! (0) | 2025.04.11 |
| 다시 시작하는 삶을 위해! 범죄피해자 원스톱솔루션센터가 함께합니다 (2) | 2025.04.08 |
| 대한민국 국적취득! A 부터 Z 까지! (2) | 2025.04.02 |