이형기 서울대학교 융합과학기술대학원 교수는 13일 한국FDC규제과학회 추계학술대회에서 "(의료제품 개발 시 인공지능을 활용할 때) 규제과학 관점에서 가장 중요한 건 표준을 정하는 것"이라고 강조했다.
이날 이 교수가 표준 정립을 언급한 이유는 의료제품 성능이 중요하지만, 안전성을 입증하지 않은 상태에서 업데이트(Update)나 업그레이드(Upgrade) 후 대중이 사용하는 건 문제라고 볼 수 있어서다.
미국 식품의약국(FDA) 사례는 해당 내용을 설명한다. 이 교수는 "흔히 엔지니어링을 하시는 분들은 얼마든지 소프트웨어(SW) 버전을 바꾸는 게 가능하나, 규제기관 관점에선 전혀 그렇지 않다"고 말했다.
이어 "실시간은 아니지만, 애플 워치처럼 신체 변화를 알려주는 메디컬 디바이스(Medical device)에 내재된 소프트웨어를 회사가 임의로 허가받은 것과 다르게 업그레이드하고 그냥 배포했는데, FDA가 경고했다"고 부연했다.
그러면서 "엔지니어가 볼 땐 얼마든지 일어날 수 있는 일이지만, FDA 관점에선 아무리 기술적, 기계적으로 업데이트가 된 것이라도 실제 성능, 안전성이 입증되지 않은 상태에서 사용하는 걸 문제라고 본 것"이라고 덧붙였다.
표준희 한국제약바이오협회 AI신약융합연구원 부원장은 같은 장소에서 표준 정립이 의료제품 평가 시 중요하다는 데 동의하며, 의약품 개발 시 인공지능 활용을 규제기관이 어떻게 평가할 것인지 대비해야 한다고 피력했다.
발표자로 나선 표 부원장은 "기업에서 개발자가 독성을 예측하거나 상호작용을 개선하기 위해 인공지능을 활용하는 경우가 있는데, 실험을 그런 기술로 대체했을 때 평가하는 게 굉장히 어렵다"며 평가 기준 필요성을 강조했다.
이어 "미국 FDA는 의약품을 개발할 때 인공지능으로 일부 대체한 경우, 해당 모델과 데이터까지 모두 받아서 한 번 더 검증을 거친다"면서 "심지어 모델 등을 제출한 업체에 개선안까지 코멘트한다"고 설명했다.
표 부원장은 의약품 개발뿐 아니라 제조 공정도 마찬가지라고 덧붙였다. 이날 표 부원장은 "의약품을 제조하는 과정에서 합성 자동화, 공정 연속화 등 다양한 AI 기술이 본격적으로 들어오는 중"이라고 말했다.
아울러 "그런 부분과 관련해 품질 관리 측면에서 과거와 달리 어떤 기준을 마련할 것인지 고민이 필요한 것 같다"고 제언했다.
정규환 삼성융합의과학원 교수는 두 발표자 발언과 비슷한 의견이라면서, "규제기관이 너무 많은 우려를 갖고 아주 타이트한 규제를 만들기보다 유연하고 포괄적인 규제를 정립해야 한다"고 주장을 펼쳤다.
AI 의료기기 개발 관련 내용을 발표한 정 교수는 소프트웨어 의료기기 중 생성형 AI를 활용한 제품이 기존 의료기기와 다른 게 있다고 설명하며, 안전성 측면에서 우려가 있는 건 사실이라고 운을 뗐다.
정 교수는 "어차피 똑같은 인공지능이니까 비슷한 거 아니냐고 볼 수 있겠지만 아웃풋이 비정형이기 때문에, 안전성 측면에서 오용할 여지가 있고, 유효성 평가도 상당히 어려운 점이 있다"고 설명했다.
그러면서 "특정 프로덕트(Product)만으로 평가하기엔 기술이 꾸준히 발전할 것이기에 어려울 것이라고 본다"면서 "인공지능 기술에 대해 좀 더 유연하고 빠르게 대응할 수 있어야 한다"고 덧붙였다.
또한 "결과물에 대해서만 평가하는 게 아니라, 미국 FDA처럼 미리 가정하고 개발을 비롯해 검증 등 전체적인 절차에 대해 좀 더 구체적인 관심을 두면서 관리하는 게 낫다"고 말했다.