AI 심리상담 서비스, 법적으로 문제되지 않으려면?

*본 콘텐츠는 SOVAC Together 콘텐츠 파트너 법무법인 미션의 전문가 칼럼을 담고 있습니다.

1. 들어가며

생성형 AI의 확산과 함께 AI 심리상담 서비스가 빠르게 늘고 있습니다. 사용자는 익명성에 기대어 일상적 고민부터 정신건강과 관련된 내밀한 경험까지 자연스럽게 털어놓고, 서비스는 이러한 사용자와의 대화를 기반으로 정서적 공감이나 감정 정리와 같은 상담 기능을 제공합니다.

다만 이 과정에서 사용자가 채팅창에 입력하는 데이터는 개인의 정신적 상태, 대인 관계, 과거 경험 등 사생활의 핵심 영역에 해당하는 민감한 정보를 포함합니다. 따라서 이러한 정보가 관련 법령에 따라 적법하게 수집·처리·활용되지 않을 경우, 서비스 제공자는 예상치 못한 법적 리스크에 직면할 수 있습니다. 따라서 AI 심리상담 서비스는 기술적 완성도와 별개로, 서비스 설계 단계에서부터 수집되는 정보의 법적 성격과 적용 규율을 살피고 법적 리스크를 선제적으로 관리할 필요가 있습니다.

2. 사용자 입력 정보-민감정보 처리에 있어 유의할 점

사상·신념·노동조합·정당 가입 및 탈퇴, 정치적 견해, 건강, 성생활 등에 관한 정보, 그 밖에 정보주체의 사생활을 현저히 침해할 우려가 있는 개인정보로서 동법 시행령에 따라 정하는 정보는 개인정보 보호법에 따른 민감정보에 해당합니다(개인정보 보호법 제23조 제1항, 동법 시행령 제18조). 심리상담서비스에서 사용자가 입력하는 정보 중 개인의 사상이나 신념, 건강 등에 관한 내밀한 정보들은 개인정보 보호법에 따른 민감정보 해당성이 높습니다.

민감정보는 정보주체에게 수집이용 목적, 수집하는 항목, 보유 및 이용기간, 동의거부권 및 동의 거부에 따른 불이익이 있는 경우 그 내용을 알리고 다른 개인정보의 처리에 대한 동의와 별도로 동의를 받은 경우(개인정보 보호법 제23조 제1항 제1호), 또는 법령에서 민감정보의 처리를 요구하거나 허용하는 경우가 아니면 수집할 수 없습니다(동법 동조 동항 제2호). 따라서 AI 심리상담 서비스를 제공하려는 사업자는 일반 개인정보 처리 동의와는 별도로 민감정보 처리에 대한 별도의 명시적인 동의를 받아야 할 것입니다.

이때 개인정보 보호법은 개인정보의 이용을 원칙적으로 당초 고지한 수집 목적의 범위 내로 제한하고 있습니다(개인정보 보호법 제15조, 제18조). 당초 ‘서비스 제공 및 개선’을 목적으로 수집한 데이터를 새로운 AI 모델 개발에 활용하는 경우에는 목적 외 이용에 해당할 수 있음에 유의하고, 수집 목적을 정확히 기재하여 동의를 받아야 합니다.

3. 의료행위 해당 리스크를 낮추기 위하여 유의할 점

의료법상 의료인이 아니면 누구든지 의료행위를 할 수 없으며, 의료인도 면허된 것 이외의 의료행위를 할 수 없는 것이 원칙입니다(의료법 제27조 제1항). 보건복지부는 의료법상 의료행위란 의학적 전문지식과 기술에 기초하여 행하는 검사, 진단, 처방, 처치, 시술, 수술, 지도 등의 행위를 의미하며, 질환의 진단 후 질환의 관리를 위하여 의학적 지식에 기반하여 환자가 행해야 할 사항 등을 안내하여 주는 행위, 질환 예방을 위한 안내 행위 중 의학적 지식에 따른 판단을 필요로 하는 행위, 의학적 지식에 따른 판단을 기반으로 처치, 시술, 수술 후 부작용 발생가능성 및 관리 유의사항 등을 안내하여 주는 행위는 의료행위에 해당한다고 보고 있습니다. 이때 판단 기준은 (1) 의학적 전문지식이 필요한 행위, (2) 대상자의 상태에 따른 진단, 처방, 처치가 수반되는 행위, (3) 보건위생상 위해가 발생할 우려가 있는 행위인지 여부에 따르며, 이 중 1개라도 충족될 경우 의료행위에 해당한다고 보고 있습니다.

한편, 보건복지부는 건강의 유지, 증진과 질병의 사전예방, 악화 방지를 목적으로 위해한 생활습관을 개선하고 올바른 건강관리를 유도하기 위해 제공자의 판단이 개입(의료적 판단 제외)된 상담, 교육, 훈련, 실천 프로그램 작성 및 유관 서비스를 제공하는 행위를 “비의료 건강관리서비스”로 정의하고 의료행위와는 구분하고 있습니다. 이때 상담에 있어서는 운동, 영양, 수면 등 일상적 건강증진활동을 돕기 위한 교습 및 이행 프로그램 등을 제공하는 것은 비의료적 상담, 조언에 해당하며, 상담, 교육, 조언이 의료인의 진단, 처방 등 의료적 내용을 포함하지 않아야 한다고 보고 있습니다.

따라서AI 심리상담 서비스 운영사업자는 서비스의 실질적 내용이 의료법상 의료행위로 간주되지 않도록 유의할 필요가 있으며, AI답변을 통하여 사용자에게 직접적인 진단이나 처방 등을 제공하지 않도록 설계할 필요가 있습니다.

4. 결론

AI 심리상담 서비스는 접근성과 익명성을 바탕으로 빠르게 확산되고 있으나, 그 운영 과정에서는 개인정보 보호법과 의료법상의 규제 리스크가 수반됩니다. 따라서 서비스 기획 단계에서부터 이러한 리스크를 고려하여 법무 검토를 받아 구축하는 것이 장기적인 서비스 운영을 위한 핵심 과제라 할 수 있을 것입니다.

작성 : 박진우 인턴(성균관대학교 법학전문대학원)

검수 : 박신영 변호사(법무법인 미션)

출처 : (법무법인 미션)  [인턴 칼럼] AI 심리상담 서비스, 법적으로 문제되지 않으려면?