생성형 AI가 정신건강 진료 현장에서 활용되기 시작한 가운데, 국내 정신건강의학과 의사들은 AI를 치료의 보조 도구로는 유용하게 평가하면서도 환자를 직접 치료하는 인간 치료자를 대체하기는 어렵다고 보는 것으로 나타났다.고려대 안암병원 정신건강의학과 조철현 교수와 한국과학기술원(KAIST) 디지털인문사회과학부 정두영 교수 공동 연구팀은 지난해 10월부터 12월까지 대한신경정신의학회 회원 408명을 대상으로 생성형 AI 활용 경험에 대한 설문조사를 실시했다. 이 중 개방형 답변을 남긴 311명의 응답을 질적으로 분석했다.
연구팀은 의사들의 경험을 바탕으로 생성형 AI의 활용 사례와 한계, 안전한 도입을 위한 과제를 분석했다. 특히 논문이나 특허 등 기존 자료가 아닌 실제 진료 현장에서 나타난 경험을 미래 예측의 출발점으로 삼았다는 점이 특징이다.
분석 결과 의사들은 생성형 AI를 ‘양면성을 가진 기술’로 평가했다. 같은 기능이라도 사용 환경과 환자 상태에 따라 도움이 될 수도, 위험요인이 될 수도 있다는 것이다.
실제 진료 현장에서는 긍정적인 사례도 확인됐다. 일부 환자는 생성형 AI를 활용해 자신의 감정을 정리하고 언어화하면서 치료에 대한 진입 장벽을 낮추고 증상 개선에 도움을 받았다. 생성형 AI가 정서적 지지와 자기관리 도구 역할을 할 수 있다는 평가도 나왔다.
반면 과도한 사용이나 고위험군 환자에게서는 부작용도 보고됐다. 망상적 신념 강화, 사회적 위축, AI 의존, 자살·자해 위험과 관련된 사례가 확인됐다. 환자가 AI의 답변을 의사의 진단과 비교하며 치료 관계나 치료 순응도, 진단에 대한 신뢰가 흔들리는 경우도 있었다.
의사들은 생성형 AI가 표준화된 정보를 제공하고 피로의 영향을 받지 않는 장점이 있지만, 비언어적 신호와 정서적 맥락을 파악하는 데는 한계가 있다고 평가했다. 또한 사용자의 생각을 비판적으로 검증하기보다 수용하는 방식의 답변이 잘못된 신념을 강화할 위험이 있다는 점도 지적했다.
결국 응답자들은 생성형 AI가 행정 업무, 정보 정리, 환자 교육, 진료 전후 상담 보조 등에는 도움이 될 수 있지만, 위기 상황 판단이나 치료 관계 형성 등 핵심 진료 영역에서는 인간 치료자를 대체할 수 없다는 데 의견을 모았다.
안전한 도입을 위해서는 ▲거버넌스와 책임 체계 구축 ▲위기 상황 및 취약계층 보호 장치 마련 ▲기술 신뢰성과 임상적 검증 ▲교육과 감독 체계 마련이 우선 과제로 제시됐다.
연구팀은 특히 생성형 AI가 환자의 취약성을 증폭시킬 수 있다고 분석했다. 일반적인 상황에서는 정서적 지지 역할을 할 수 있지만, 현실 판단이 흔들리거나 심리적으로 불안정한 환자에게는 오히려 증상을 악화시킬 가능성이 있다는 것이다. 또한 익명성과 접근성 덕분에 정신건강 관리의 문턱을 낮출 수 있지만, 감독 없는 사용에 따른 위험도 함께 커질 수 있다고 지적했다.
연구팀은 정신건강의학과 의사들이 생성형 AI를 무조건 거부하기보다 ‘조건부 수용’의 태도를 보였다고 평가했다. 향후 정신건강의학과 의사는 치료뿐 아니라 환자의 AI 활용을 점검하고 적절한 사용 범위를 안내하며 위험 상황을 관리하는 역할까지 맡게 될 가능성이 있다는 설명이다.
조철현 교수는 “이번 연구는 정신과 의사들이 실제 진료 현장에서 생성형 AI를 어떻게 경험하고 있는지를 분석한 연구”라며 “정신건강 분야의 AI는 다른 의료 AI보다 더욱 세밀한 감독 체계와 안전장치가 필요하다는 점을 보여준다”고 말했다.
이번 연구는 대한신경정신의학회 미래전략위원회와 한국연구재단 지원을 받아 수행됐으며, 국제학술지인 ‘Journal of Medical Internet Research’에 게재됐다.
연구팀은 의사들의 경험을 바탕으로 생성형 AI의 활용 사례와 한계, 안전한 도입을 위한 과제를 분석했다. 특히 논문이나 특허 등 기존 자료가 아닌 실제 진료 현장에서 나타난 경험을 미래 예측의 출발점으로 삼았다는 점이 특징이다.
분석 결과 의사들은 생성형 AI를 ‘양면성을 가진 기술’로 평가했다. 같은 기능이라도 사용 환경과 환자 상태에 따라 도움이 될 수도, 위험요인이 될 수도 있다는 것이다.
실제 진료 현장에서는 긍정적인 사례도 확인됐다. 일부 환자는 생성형 AI를 활용해 자신의 감정을 정리하고 언어화하면서 치료에 대한 진입 장벽을 낮추고 증상 개선에 도움을 받았다. 생성형 AI가 정서적 지지와 자기관리 도구 역할을 할 수 있다는 평가도 나왔다.
반면 과도한 사용이나 고위험군 환자에게서는 부작용도 보고됐다. 망상적 신념 강화, 사회적 위축, AI 의존, 자살·자해 위험과 관련된 사례가 확인됐다. 환자가 AI의 답변을 의사의 진단과 비교하며 치료 관계나 치료 순응도, 진단에 대한 신뢰가 흔들리는 경우도 있었다.
의사들은 생성형 AI가 표준화된 정보를 제공하고 피로의 영향을 받지 않는 장점이 있지만, 비언어적 신호와 정서적 맥락을 파악하는 데는 한계가 있다고 평가했다. 또한 사용자의 생각을 비판적으로 검증하기보다 수용하는 방식의 답변이 잘못된 신념을 강화할 위험이 있다는 점도 지적했다.
결국 응답자들은 생성형 AI가 행정 업무, 정보 정리, 환자 교육, 진료 전후 상담 보조 등에는 도움이 될 수 있지만, 위기 상황 판단이나 치료 관계 형성 등 핵심 진료 영역에서는 인간 치료자를 대체할 수 없다는 데 의견을 모았다.
안전한 도입을 위해서는 ▲거버넌스와 책임 체계 구축 ▲위기 상황 및 취약계층 보호 장치 마련 ▲기술 신뢰성과 임상적 검증 ▲교육과 감독 체계 마련이 우선 과제로 제시됐다.
연구팀은 특히 생성형 AI가 환자의 취약성을 증폭시킬 수 있다고 분석했다. 일반적인 상황에서는 정서적 지지 역할을 할 수 있지만, 현실 판단이 흔들리거나 심리적으로 불안정한 환자에게는 오히려 증상을 악화시킬 가능성이 있다는 것이다. 또한 익명성과 접근성 덕분에 정신건강 관리의 문턱을 낮출 수 있지만, 감독 없는 사용에 따른 위험도 함께 커질 수 있다고 지적했다.
연구팀은 정신건강의학과 의사들이 생성형 AI를 무조건 거부하기보다 ‘조건부 수용’의 태도를 보였다고 평가했다. 향후 정신건강의학과 의사는 치료뿐 아니라 환자의 AI 활용을 점검하고 적절한 사용 범위를 안내하며 위험 상황을 관리하는 역할까지 맡게 될 가능성이 있다는 설명이다.
조철현 교수는 “이번 연구는 정신과 의사들이 실제 진료 현장에서 생성형 AI를 어떻게 경험하고 있는지를 분석한 연구”라며 “정신건강 분야의 AI는 다른 의료 AI보다 더욱 세밀한 감독 체계와 안전장치가 필요하다는 점을 보여준다”고 말했다.
이번 연구는 대한신경정신의학회 미래전략위원회와 한국연구재단 지원을 받아 수행됐으며, 국제학술지인 ‘Journal of Medical Internet Research’에 게재됐다.