챗GPT 의료분야 활용 경고한 글로벌 유력기관 왜?

WHO, 성명 통해 AI 기반한 언어 모델(LLM) 주의 촉구  
"잘못된 의료정보로 사망 초래"…美 FDA도 LLM 규제 예고

최성훈 기자 (csh@medipana.com)2023-05-23 06:02

[메디파나뉴스 = 최성훈 기자] 세계 유력기관들이 인공지능(AI) 생성 대규모 언어 모델 도구(LLM)에 대한 의료 분야 활용을 경고했다. 

의사들의 진단 보조 도구로 챗(Chat)GPT가 진단을 수행하는 시대가 올 것이란 예측 속에 제동을 거는 모습이어서 주목된다. 

23일 세계보건기구(WHO)는 최근 성명을 통해 인간의 복지, 안전, 자율성을 보호·증진하고, 공중보건 보존을 위해 AI를 기반으로 한 LLM 사용에 주의를 기울일 것을 촉구했다. 

그러면서 WHO는 해당 프로그램으로 챗GPT나 Bard, Bert 등을 꼽았다. 

AI 언어 모델 도구는 의료분야에서 획기적으로 쓰일 거라 업계에서도 주목하고 있는 상황.

오픈AI의 AI 챗봇 챗GPT가 미국 의사면허시험(USMLE)을 무난히 통과하면서다. 실제 미국 의료 스타트업 앤서블 헬스(Ansible Health) 연구팀이 챗GPT에게 USMLE 305문항을 풀게 한 결과 정답률은 약 60%였다. 푸는 시간 역시도 단 5초 만에 끝내 의료계를 경악시켰다.  

또 최근에는 암 환자와 간병인을 위한 실시간 대화형 AI 챗봇도 등장했다. 미국 헬스테크 기업 비롱라이프(Belong.Life)가 최근 출시한 AI 멘토 '데이브(Dave)'는 자사 앱을 통해 암 환자에게 즉각적이고 맞춤화된 정보를 제공한다.

이 앱은 수년간의 환자-의사 및 환자-환자 상호 작용에서 수집한 방대한 데이터를 바탕으로 머신러닝(ML) 및 LLM, 자연어 처리(NLP) 등을 사용해 구축됐다. 

하지만 WHO는 AI 훈련에 사용되는 데이터가 편향돼 자칫 부정확한 정보를 생성할 수 있다고 밝혔다.  

LLM은 최종 사용자에게 권위 있고 그럴듯하게 보일 수 있는 응답을 생성하지만, 건강 관련 응답의 경우 정확하지 않거나 심각한 오류를 포함할 수 있다는 것.

또한 LLM은 사용자가 응답을 생성하기 위해 애플리케이션에 제공하는 민감한 데이터(건강 데이터 포함)를 보호하지 않을 수 있다고도 했다. 

WHO는 유튜브나 팟캐스트를 통한 건강 컨텐츠 제작에서도 악용될 우려가 있다고 경고했다.  

WHO는 "LLM은 텍스트, 오디오 또는 비디오 콘텐츠의 형태로 매우 설득력 있는 허위 정보를 생성하고 유포하는 데 오용될 수 있다"면서 "각국 정책 입안자들이 환자의 안전과 개인보호를 보장하도록 노력할 것을 권장한다"고 밝혔다. 

여기에 미국 식품의약국(FDA)은 WHO보다 한 발 더 나아갔다. 

FDA 수장인 로버트 캘리프(Robert Califf) 국장은 지난 9일 2023 환자 참여 과학 심포지엄 연설에서 처음으로 AI 언어 모델에 대한 규제를 예고했다.

그는 "대규모 언어 모델의 사용과 규제에 민첩하지 않으면 우리가 거의 이해하지 못하는 무언가에 빠르게 휩쓸리게 될 것"이라면서 "대규모 언어 모델의 규제가 우리의 미래에 매우 중요하다고 생각한다"고 말했다. 

이어 "많은 미국인들이 잘못된 선택이나 오해의 소지가 있는 정보로 인해 매년 사망하거나 심각한 질병을 경험한다"며 "이러한 추세는 소셜 네트워크가 사회적 커뮤니케이션을 주도함에 따라 가속화됐다"고 지적했다. 

즉 대규모 언어 모델과 같은 기술은 대중들에게 딥 페이크(조작된 이미지와 음성)를 생성할 가능성을 제공할 거란 예측이다. 

이에 캘리프 국장은 "디지털 건강 기술의 엄청난 잠재력을 실현하고, 더욱 혁신적인 솔루션을 볼 수 있기를 희망하지만 위험도 미리 예방하는 것이 좋을 것"이라고 강조했다. 

한편 챗GPT의 열풍으로 최근 주목받고 있는 국내 의료AI 업계 역시 기술 맹신을 경계했다. 

의료AI 업계 한 임원은 "생성형 인공지능 기술은 빅데이터에 기반을 한다 해도 전문적인 데이터인데다 민감한 개인정보를 다루기 때문에 유용성 문제가 불거질 수 있다"면서 "의료 전문가를 통한 게이트키핑 여부가 향후 쟁점으로 부각될 수도 있을 것"이라고 말했다.    

이런 기사
어때요?

실시간
빠른뉴스

당신이
읽은분야
주요기사

독자의견

작성자 비밀번호

0/200

메디파나 클릭 기사

독자들이 남긴 뉴스 댓글

포토