AI가 건강을 노린다?… “이 질환 있다면 조심해야” 뭐길래?

정신질환을 앓고 있는 환자가 AI 챗봇을 사용할 경우 일부 증상이 악화될 가능성이 있다는 연구 결과가 나왔다. 특히 망상 증상이 강화되는 경향이 두드러졌으며, 조증이나 자살 생각, 섭식장애 증상 역시 악화될 가능성이 관찰됐다.

덴마트 오르후스대 및 오르후스대학병원 연구진은 약 5만 4000명의 정신질환 환자 전자건강기록을 분석한 결과 이 같은 관계가 나타났다고 발표했다. 이 연구는 최근 국제학술지 《스칸디나비아 정신의학회지(Acta Psychiatrica Scandinavica)》에 ‘Potentially Harmful Consequences of Artificial Intelligence (AI) Chatbot Use Among Patients With Mental Illness: Early Data From a Large Psychiatric Service System’이라는 제목으로 게재됐다.

연구를 이끈 디네센 외스테르가르드 교수는 “AI 챗봇 사용이 정신질환 환자에게 부정적 결과를 초래할 수 있다는 가설을 뒷받침한다”고 말했다.

망상 강화 경향…챗봇, 사용자 믿음 수용하는 특성 지녀

연구진은 진료기록 중 AI 챗봇 사용이 언급된 사례를 선별해 검토했다. 그 결과, 일부 환자에서 챗봇과의 상호작용 이후 망상이 강화됐을 가능성이 있는 것으로 확인됐다.

외스테르가르드 교수는 그 배경으로 챗봇의 작동 특성을 지목했다. 그는 “AI 챗봇은 사용화의 발화를 공감하고 수용하는 방향으로 반응하도록 설계돼 있다”며 “하지만 사용자가 이미 망상 증상을 갖고 있거나 증상이 형성되는 과정에 있다면, 이러한 반응이 과대망상이나 편집적 사고를 공고화하는 데 기여할 수 있다”고 설명했다.

연구에서는 망상 외에도 △조증 증상 악화 가능성 △자살 생각 증가 △섭식장애 관련 사고 강화 등 잠재적 위험이 언급됐다. 다만 이는 개별 임상기록에 기반한 관찰로, 전체 환자에게 일반화할 수 있는 유병률을 제시한 것은 아니다.

조현병·양극성장애 환자라면 특히 신중해야

연구진은 이번 결과가 정신건강의학과 의료진의 주의를 환기할 필요가 있다며, 상담 과정에서 환자와 AI 챗봇 사용 여부를 논의하는 것이 중요하다고 강조했다.

외스테르가르드 교수는 “현재 이 분야에 대한 지식은 아직 제한적이지만, 조현병이나 양극성장애 같은 심각한 정신질환이 있는 경우 AI 챗봇 사용은 위험할 수 있다고 말할 근거가 충분하다”고 지적했다.

실제 사례 더 많을 수도…인과관계는 아직 불분명

연구에 따르면, 전자건강기록에서 AI 챗봇 사용과 부정적 결과가 함께 언급된 사례는 시간이 지날수록 증가하는 경향을 보였다. 연구진은 의료진의 기술 인식이 높아진 영향도 일부 작용했을 것으로 분석했다. 또한 이번 연구는 전자건강기록에 문서화된 사례만 분석했다는 점에서, 실제로는 더 많은 사례가 있을 가능성도 배제할 수 없다고 연구진은 덧붙였다.

다만 연구진은 이번 분석이 AI 챗봇 사용과 증상 악화 사이의 직접적인 인과관계를 입증한 것은 아니라는 점을 분명히 했다. 외스테르가르드 교수는 “AI 챗봇 사용이 심리적으로 부정적 결과를 유발했다고 단정하기는 어렵다”며 “다양한 관점에서의 추가 연구가 필요하다”고 강조했다.

일부는 도움 받기도…치료 도구로 가능성은?

한편 이 연구에서는 일부 환자가 AI 챗봇을 자신의 증상을 이해하거나 외로움에 대처하는 등 비교적 건설적인 방식으로 활용하고 있다는 점도 확인됐다. 현재 국제적으로 AI 챗봇을 심리교육이나 대화치료 보조 수단으로 활용하는 가능성을 탐색하는 연구도 진행 중이다.

그러나 외스테르가르드 교수는 신중한 입장을 유지했다. 그는 “심리교육이나 심리치료 보조 측면에서 잠재력이 있을 수 있지만, 이는 다른 치료법과 동일한 수준의 엄격한 무작위 대조 임상시험을 통해 검증돼야 한다”며 “지금까지의 연구는 충분히 설득력 있다고 보기 어렵다”고 말했다. 특히 “훈련된 심리치료사를 AI 챗봇으로 대체하는 데에는 근본적으로 회의적”이라고 덧붙였다.

연구진은 AI 챗봇 기술에 대한 규제가 사실상 기업 자율에 맡겨져 있는 현재의 상황에도 우려를 나타냈다. 외스테르가르드 교수는 소셜미디어가 전 세계적으로 확산된 지 20년이 지나서야 각국이 규제에 나선 사례를 언급하며, “AI 챗봇에서도 비슷한 상황이 반복될 수 있다”고 경고했다.

[자주 묻는 질문]

Q1. AI 챗봇이 정신질환을 직접 악화시킨다는 뜻인가요?
A. 아닙니다. 이번 연구는 전자건강기록을 분석한 관찰 연구로, AI 챗봇 사용과 증상 악화 사이의 직접적인 인과관계를 입증한 것은 아닙니다. 다만 일부 사례에서 망상, 조증, 자살 생각 등이 강화됐을 가능성이 확인됐습니다.

Q2. 어떤 환자가 특히 주의해야 하나요?
A. 연구진은 조현병이나 양극성장애 등 중증 정신질환 환자의 경우 AI 챗봇 사용이 위험할 수 있다고 언급했습니다. 기존에 망상이나 기분 삽화가 있는 환자라면 특히 신중한 접근이 필요합니다.

Q3. AI 챗봇이 전혀 도움이 되지 않는 건가요?
A. 그렇지는 않습니다. 일부 환자는 증상 이해나 외로움 완화 등 긍정적인 방식으로 활용하기도 했습니다. 다만 치료를 대체하는 수단으로 사용하기에는 아직 충분한 임상적 근거가 부족하다는 것이 연구진의 입장입니다.

The post AI가 건강을 노린다?… “이 질환 있다면 조심해야” 뭐길래? appeared first on 코메디닷컴.