미국의사협회(AMA)가 정신건강 관리 분야 인공지능(AI) 챗봇 부작용을 막기 위해 연방 의회에 강력한 법적 규제를 촉구했다.
28일 의료계에 따르면 미국의사협회는 지난 23일 의회 내 인공지능 관련 의원 모임에 이 같은 내용을 담은 서한을 보냈다. 협회는 AI 챗봇이 사용자에게 자해를 권유하거나 개인정보를 유출하는 등 실제 피해가 발생하고 있는 점을 경고했다.
협회는 의회에 다섯 가지 대책을 요구했다. 우선 AI가 면허 있는 의사인 것처럼 속이는 행위를 금지하고 대화 상대가 기계라는 사실을 명확히 밝히도록 했다. 또 ▲AI의 독단적 진단 금지 ▲자해 위험 감지 시 전문가 즉시 연결 ▲부작용 보고 의무화 ▲미성년자 대상 광고 및 후원 금지 ▲개인정보 수집 제한 등을 구체적 대안으로 제시했다.
실제 미국 내에서는 AI 챗봇에 대한 젊은 층의 의존도가 심각한 수준이다. 브라운대 조사 결과 미국 청소년 8명 중 1명이 AI 상담을 이용하며 이 중 22%는 매일 챗봇을 찾는다. 상담 과정에서 AI 잘못된 조언을 듣고 청소년이 극단적 선택을 한 사례까지 보고되면서 규제가 시급하다는 목소리가 커지고 있다.
기술적 한계도 여전하다. 매스 제너럴 브리검 연구진이 거대언어모델을 분석한 결과 최종 진단 정확도는 90%를 넘었으나 여러 가능성을 고려하는 감별 진단 단계에서는 80% 이상 실패율을 기록했다. 현재 미국의사협회는 AI가 의사를 대체할 수 없다는 점을 분명히 하기 위해 인공지능 대신 '증강 지능'이라는 용어를 사용하고 있다.
존 화이트 미국의사협회 최고경영자는 "AI가 접근성을 높일 수는 있지만 잘못된 정보 등 위험 요소가 여전하다"며 "기술이 진료를 대체하지 않고 보조하는 역할에 머물도록 감독해야 한다"고 말했다.
28일 의료계에 따르면 미국의사협회는 지난 23일 의회 내 인공지능 관련 의원 모임에 이 같은 내용을 담은 서한을 보냈다. 협회는 AI 챗봇이 사용자에게 자해를 권유하거나 개인정보를 유출하는 등 실제 피해가 발생하고 있는 점을 경고했다.
협회는 의회에 다섯 가지 대책을 요구했다. 우선 AI가 면허 있는 의사인 것처럼 속이는 행위를 금지하고 대화 상대가 기계라는 사실을 명확히 밝히도록 했다. 또 ▲AI의 독단적 진단 금지 ▲자해 위험 감지 시 전문가 즉시 연결 ▲부작용 보고 의무화 ▲미성년자 대상 광고 및 후원 금지 ▲개인정보 수집 제한 등을 구체적 대안으로 제시했다.
실제 미국 내에서는 AI 챗봇에 대한 젊은 층의 의존도가 심각한 수준이다. 브라운대 조사 결과 미국 청소년 8명 중 1명이 AI 상담을 이용하며 이 중 22%는 매일 챗봇을 찾는다. 상담 과정에서 AI 잘못된 조언을 듣고 청소년이 극단적 선택을 한 사례까지 보고되면서 규제가 시급하다는 목소리가 커지고 있다.
기술적 한계도 여전하다. 매스 제너럴 브리검 연구진이 거대언어모델을 분석한 결과 최종 진단 정확도는 90%를 넘었으나 여러 가능성을 고려하는 감별 진단 단계에서는 80% 이상 실패율을 기록했다. 현재 미국의사협회는 AI가 의사를 대체할 수 없다는 점을 분명히 하기 위해 인공지능 대신 '증강 지능'이라는 용어를 사용하고 있다.
존 화이트 미국의사협회 최고경영자는 "AI가 접근성을 높일 수는 있지만 잘못된 정보 등 위험 요소가 여전하다"며 "기술이 진료를 대체하지 않고 보조하는 역할에 머물도록 감독해야 한다"고 말했다.