의료는 '복잡다단(複雜多端)'하고, 기술이나 의술에만 기댈 수 없으며 사회와 소통하는 역동적인 학문이다. 한 쪽을 방치하면 다른 쪽이 악화되고, 한 쪽을 잡으면 다른 쪽도 해결되는 등 상상 밖의 일이 일어난다.
예를 들어 국가 차원에서 당뇨병을 예방하고 관리하는데 성공한다면, 국가적으로 실명하는 환자들은 줄어든다. 또 만약 고혈압을 잘 관리하는 국가가 있다면 뇌출혈 발병률은 줄어들 것이다.
이처럼 복잡한 의학의 새로운 화두로 지난 10여 년간 수없이 많은 연구가 지속된 신분야는 단언컨데 의료 인공지능이다. 의료에 도입되는 모든 기술이 그러하듯, 인공지능 또한 예상치 못한 상황을 만들었다. 그럼에도 인공지능 제품 또한 윤리적 문제를 피해갈 수 없다.
인공지능 역시 과학 기술이기 때문이다. 과학 기술의 발전은 현대에 와서 탈중앙화를 가속화시킨다. 가령 유전자 검사와 같은 기술들은 연구실에서 벗어나 규제를 통과해 소비자들에게 직접 전달되고 있다. 디지털치료기기와 같은 기술도 국가나 의사가 처방을 내리는 것이 아닌, 소비자들이 직접 어플리케이션을 다운받아서 디지털을 통한 치료를 수행하고 있다.
전통적으로 이어져 온 규제나 법적 이슈들은 더 이상 이러한 현실을 마주하기에 최적의 수단이 아니게 된 셈이다. 결국 탈중앙화되는 과학기술은 약한 규제에 더 크게 의존할 수밖에 없다.
이러한 상황은 '콜린그릿지(Collingridge) 딜레마'를 야기할 수 있다. 콜린그릿지 딜레마란 기술 발전 초창기에 근거가 부족해 예상되는 해악이나 부작용을 예측하지 못할 때 발생한다.
이에 따른 정치적 의사결정이 규제냐 진흥이냐의 기로에서 더뎌지지만, 한 번 그 해악성이 나타나고 나면, 그 때는 정치적 의사결정을 하기에 너무 늦다는 개념이다.
하지만 앞서 말한 기술의 해악은 모두에게 해를 끼치지는 않을 것이다. 누군가는 과학기술의 발전으로 이득을 보거나 목숨을 건지지만, 또 다른 누군가는 손해를 보거나 건강이 악화될 수도 있다.
심지어 다른 사람들은 아무런 이득이나 손해도 보지 못한 채 돈만 쓸 수 있으며, 가장 중요한 대부분의 인류는 그러한 과학기술을 접할 기회조차 없을 것이라는 것(개발도상국, 후진국의 인구들)은 큰 문제다. 즉, 과학은 평등하지만 동시에 과학은 평등하지 않다.
인공지능 이야기를 하면, 대규모 데이터셋이나 연구들은 대부분 백인 혹은 서양인 기준으로 정비돼 있다. 폐암 검진에서 가장 유명한 데이터인 National Lung Cancer Trail (NLST) 데이터만 하더라도 백인이 91%, 흑인이 5%이하, 아시아인이 2% 남짓밖에 되지 않는다.
위암(gastric cancer)은 서양에서는 거의 수술할 줄 아는 의사가 없을 정도로 적게 발병하지만, 한국에서는 아주 큰 비율을 차지하는 암이라 국제 학회에서 큰 비중을 차지하지 못하는 점도 또 다른 예시다.
이러한 맥락에서 과학은 우리가 무엇을 할 수 있는지를 알려주고 가끔은 무엇이 안전한지를 알려주지만, 우리가 무엇을 해야 하고 어떻게 해야 하는지에 대해서는 과학만으로 해결되지 않는다.
미국 보건복지부(Department of Health and Human Services, DHHS) 역시 이러한 문제점을 인식하고 있고, 지난 2022년 7월 '이러한 인종적 차별에 맞서 싸울 것'이라는 글을 기고하기도 했다.
실제 많은 임상 알고리즘들은 특정 인종에만 맞춰져 있다. 예를 들면 알츠하이머를 진단하는 머신러닝 알고리즘이 특정 악센트를 구사하는 집단에서는 다른 결과를 낸다는 것이나, 소득이 낮은 집단은 병원에 노쇼(no-show)를 할 가능성이 높기 때문에 특정 알고리즘은 중위 소득 이상에서만 결과를 잘 낸다.
따라서 임상의사들에게 신기술을 쓰게 장려하는 것은 의학 발전을 위해 필수적이지만, 동시에 이러한 차별성을 경계하게 한다. 이 두 가지는 양날의 검이다.
DHHS가 FDA와 긴밀히 협력해 임상 알고리즘에서 최적의 검증 수단을 찾아야 하는 까닭도 이런 이유 때문이다. FDA는 의료기기를 통제하기 때문에 소프트웨어도 당연히 규제 대상에 포함된다.
이에 FDA는 510(k)와 같은 규제에 대해서 의료 소프트웨어 기기 회사들, 특히 AI나 머신러닝을 통해 진단 보조를 하려는 회사들에게 가이드라인을 제시해야 한다. 더불어 DHHS는 임상의사들에게 어떻게 해야 숨어있는 bias를 찾아낼 수 있을지 그에 대한 방법론 교육 및 가이드라인 역시 제시해야 한다.
다만 문제는 biased된 알고리즘이 차별을 하는 것을 막기 위한 필요조건밖에 되지 못한다는 것이고, CDSS(Clinical Decision Support Software)과 같은 소프트웨어는 FDA의 규제 범위 바깥에 있기 때문에 이러한 노력이 물거품이 될 가능성도 있다.
이상적인 말을 하자면, 종래에는 이러한 규제 기관 및 규제 정책들이 다 갈아엎어져야 한다는 말까지도 극단적으로 해 볼 수 있겠다.
그리고 정밀 의료
폐암을 생각해 보자. 폐암은 다 똑같을 것만 같지만 소세포암, 비소세포암으로 구분되고 비소세포암은 편평상피암, 선암, 거대세포암으로 구분되며 이들은 분자나 유전자 돌연변이에 따라 수많은 종으로 구분된다.
인류가 이를 처음부터 알지는 않았을 것이다. 의학이 발전하며 폐암을 세분화하게 되고 이러한 세분화가 진단과 치료에 영향을 줘 비소세포암과 소세포암의 치료가 달라지는 등 점점 복잡해지고 다양한 과학적 발견들이 진행되고 있다.
현대 의학은 근거 중심 의학(EBM; Evidence-Based medicine)이라고 불린다. 통계적 방법론을 동원해 어떤 약, 치료가 좋다는 것을 과학적으로 입증하고 이것을 바탕으로 표준 치료 방침이 수행된다.
이 과정은 이제 의학 연구의 표준으로 자리 잡았다. 사람들은 그 다음 의학이 나아가야 할 방향으로 눈을 돌리기 시작했고, 그것이 바로 정밀의료(precision medicine)다.
사실 정밀의료는 과거부터 있었다. 아니, 사실은 의학 통째로가 정밀 의료로 나아가고 있었다고 해도 과언이 아니다. 비슷한 증상을 보이는 환자들을 묶어 하나의 질환으로 생각했다가, 시대가 지나고 의학이 발전하며 비슷한 증상이지만 원인이 다른 환자들을 구분할 수 있는 방법론 및 진단기준이 생기고, 그것이 다시 또 세분화되고, 세분화되고, 세분화되고…를 반복하는 것이다.
이러한 정밀의료가 의료 인공지능 윤리와 어떤 연관이 있을까. 바로 bias가 없는 완벽한 모델의 탄생은 정밀의료의 궁극적 목적과 맞닿아있기 때문이다.
의학의 발전은 의학의 말소에 있다. 의학의 궁극적 목표인 인류의 무병, 불로장생에 대해 만약 모든 사람이 무병, 불로장생한다면 의학이 더 이상 필요가 없어지는 날이 올 것이기 때문이다. 그렇다고 의학이 의미없다고 주장하는 사람은 이 세상에 없을 것이다. 자신의 소멸을 위해 끊임없이 노력하는 의학은 실제로 사람들을 살리고 생명을 연장시켜 주기 때문이다.
이처럼 어찌 생각하면 순전히 무지개만 좇는 인공지능의 윤리, 혹은 그와 동치일지도 모르는 정밀의료는 사실상 구현이 불가능할 것이다.
중요한 것은 달성 가능하냐가 아니라, 우리가 어디까지 노력했냐가 아닐까 싶다. 위대한 천문학자 수브라마니안 찬드라세카르(Subrahmanyan Chandrasekhar)의 장례식에서 에드워드 윌슨(Edward O.Wilson)이 했던 말을 인용하며 글을 마친다.
Let us see how high we can fly before the sun melts the wax in our wings.
태양빛이 우리 날개의 밀랍을 녹이기 전 까지 어디까지 날 수 있는지 한 번 날아나 보자(크레타 섬을 탈출하는 이카루스 신화를 언급하며).
[기고] 코어라인소프트 장령우 전임 연구원
영남대학교 의과대학 졸업
울산대학교 의과대학 의공학 석사, 공학 석사.
-----*-----
※본 기고는 메디파나뉴스의 편집 방향과 일치하지 않을 수도 있습니다.
![[포토] '바이오 코리아 2024' 첫째날 현장 스케치](/upload/editor/20240508203457_ECB3E.jpg)
![[현장] 젊은 에너지로 활기 찾은 '대한약학회 춘계국제학술대회'](/upload/data/photo_direct/202404/20240419124353_ED11C.jpg)
독자의견
작성자 비밀번호
0/200
hcc***2024.05.07 10:03:32
좋은 의견입니다. 관심있게 잘 보았습니다.
작성자 비밀번호
0/200