생의학 AI 연구 203편을 통해 본 활용 분야와 검증의 빈틈

생의학 분야에서 인공지능은 하나의 도구 이름으로만 쓰이지 않습니다. 영상에서 패턴을 찾는 모델, 심전도와 같은 신호를 분류하는 모델, 여러 생체 자료를 합치는 모델, 약물 전달체를 설계하는 모델은 입력 자료와 출력이 서로 다릅니다. 따라서 “AI가 의료를 바꾼다”는 문장만으로는 어떤 문제를 어떤 자료로 풀었는지 알기 어렵습니다.

이 글에서 다루는 연구는 새로운 환자 자료를 분석한 실험이 아니라, 2010년부터 2025년까지 발표된 생의학 AI 연구를 체계적으로 정리한 문헌고찰입니다. 연구진은 나노의학, 심장학과 의료영상, 신경학·신경퇴행, 간장학이라는 네 영역을 중심으로 활용 사례와 보고 방식을 살폈습니다.

먼저 알아둘 기술 용어

머신러닝은 자료 속 반복되는 패턴을 사람이 정한 규칙만으로 직접 작성하지 않고, 학습 자료를 이용해 모형의 매개변수를 조정하는 계산 방법입니다. 딥러닝은 여러 층의 신경망을 사용해 입력 자료에서 표현을 단계적으로 만들어 가는 머신러닝의 한 범주입니다. 신경망은 입력과 출력 사이의 관계를 여러 계산 층으로 표현하는 모형 구조를 가리킵니다.

학습 자료와 평가 자료를 나누는 것도 중요합니다. 훈련 자료는 모형의 매개변수를 조정하는 데 사용하고, 검증 자료는 설계나 설정을 고르는 데 활용하며, 별도의 시험 자료는 최종 성능을 확인하는 데 사용합니다. 외부 검증은 학습에 쓰지 않은 다른 기관, 시기, 장비 또는 인구집단의 자료에서 모델이 어떻게 작동하는지 확인하는 절차입니다. 학습 자료 안에서만 성능이 높아도 외부 환경에서 같은 성능이 유지된다고 단정할 수 없습니다.

설명가능성은 모델이 어떤 입력과 처리 결과를 근거로 출력을 냈는지 사람이 이해할 수 있도록 돕는 여러 방법을 뜻합니다. 설명이 있다고 해서 모델의 출력이 자동으로 옳아지는 것은 아닙니다. 설명가능성은 성능 검증, 자료 품질, 외부 검증과 함께 읽어야 합니다.

문헌고찰은 어떻게 진행됐나

연구진은 주요 생의학 데이터베이스에서 2010년부터 2025년까지 영어로 발표된 원저 연구를 검색했습니다. PRISMA 2020 기준에 따라 203편을 포함했고, 새 환자 데이터셋을 만들어 분석한 것이 아니라 기존 연구를 질적으로 종합했습니다. 즉, 203편이라는 수는 고찰에 포함된 논문 수이지, 하나의 통합 실험에 참여한 환자 수가 아닙니다.

고찰에서는 성능 지표를 얼마나 자세히 보고했는지, 외부 검증이 있었는지, 자료와 코드가 공개됐는지, 모델의 처리 과정이 투명하게 기록됐는지 등을 살폈습니다. 연구 과제를 하나의 숫자로 합치는 메타분석이 아니므로, 서로 다른 입력·목표·자료·모델의 정확도를 하나의 순위표로 만들 수 없습니다.

어떤 생의학 문제에 활용됐나

고찰에 포함된 사례에는 약물을 운반하는 나노구조 설계, 의료영상과 심전도 해석, 여러 생체표지 자료를 함께 사용하는 분석, 수술이나 모니터링을 돕는 시스템 등이 소개됐습니다. 이 예시들은 AI가 사용된 연구 질문의 범위를 보여주지만, 각 시스템이 사람의 진료에서 안전하게 작동한다는 결론은 아닙니다.

문제의 형태에 따라 필요한 평가도 달라집니다. 영상에서 특정 소견을 분류하는 과제는 민감도와 특이도 같은 분류 지표가 중요할 수 있고, 연속적인 값을 추정하는 과제는 오차와 보정 상태를 따져야 합니다. 여러 자료를 합치는 경우에는 자료가 같은 사람과 시점에 연결됐는지, 한 기관의 특성이 모델에 과도하게 반영되지 않았는지를 확인해야 합니다. 이런 해석은 고찰이 강조한 성능 보고와 외부 검증의 필요성을 기술적으로 풀어쓴 것입니다.

성능 수치만으로는 부족한 이유

포함된 연구 중 대략 절반은 정확도, 민감도, 곡선하면적(AUC) 같은 성능 지표를 자세히 제시했습니다. 반면 일부 연구는 수치보다 서술 중심으로 결과를 보고했습니다. 이 비율은 고찰에 포함된 연구의 보고 양식을 요약한 것이며, 특정 질환을 진단할 확률이나 의료 시스템 전체의 평균 성능을 나타내는 통계가 아닙니다.

외부 검증도 일관되게 보고되지 않았고, 재현을 위한 절차나 공개 코드 공유를 명시한 연구는 소수였습니다. 같은 데이터에서 학습과 평가를 반복하거나, 특정 기관의 촬영 장비와 환자 구성에만 맞춘 모델이라면 다른 환경에서 성능이 달라질 수 있습니다. 따라서 AI 연구를 읽을 때는 가장 높은 수치보다 자료 분할, 외부 검증, 누락 자료, 기준선 비교, 코드와 데이터의 재현 가능성을 먼저 확인해야 합니다.

기술적 해설: 모델이 만드는 것은 판단이 아니라 계산 결과다

모델의 출력은 입력 자료와 학습 절차에 의해 계산된 결과입니다. 사람이 보기에는 그럴듯한 패턴이라도 자료에 포함된 편향이나 측정 오류를 함께 배웠을 수 있습니다. 반대로 중요한 신호가 자료에 충분히 들어 있지 않으면 복잡한 모델을 사용해도 해결되지 않습니다.

이 때문에 설명가능성은 “왜 이 답을 냈는가”를 묻는 출발점이지, 결과를 승인하는 도장이 아닙니다. 모델이 무엇을 입력으로 사용했는지, 학습에 쓰인 자료와 외부 평가 자료가 얼마나 다른지, 실패 사례가 어떤 집단에 몰렸는지, 사람이 어느 지점에서 확인하고 수정할 수 있는지를 함께 기록해야 합니다. 이 기술적 해설은 생의학 AI의 연구 설계를 이해하기 위한 것이며, 특정 시스템의 의료적 성능이나 사용을 주장하지 않습니다.

거버넌스 자료와 연결해 읽기

세계보건기구는 보건 분야 AI를 다룰 때 사람의 감독, 안전, 투명성, 책임성, 포용과 형평성, 지속적인 평가를 함께 고려해야 한다고 설명합니다. 미국 국립표준기술연구소의 AI 위험관리 프레임워크는 타당성과 신뢰성, 안전, 보안, 책임성, 투명성, 설명가능성, 개인정보 보호, 공정성을 신뢰할 수 있는 AI의 관점으로 제시합니다.

이 두 자료는 특정 모델이 안전하다고 확인해 주는 연구가 아닙니다. 생의학 AI 연구에서 성능 수치와 함께 어떤 위험을 기록하고 어떤 관리 지점을 둘지 생각하는 공통 언어에 가깝습니다. 자발적이고 용도에 구애받지 않는 프레임워크라는 점도 함께 기억해야 합니다. 임상 검증이나 규제 심사를 대신하지 않습니다.

이 고찰이 보여준 연구적 의미

203편을 한데 모은 고찰의 의미는 생의학 AI의 활용 분야가 넓다는 사실만이 아니라, 연구 보고의 질과 비교 가능성이 아직 균일하지 않다는 점을 함께 드러냈다는 데 있습니다. 분야가 빠르게 확장될수록 모델 이름이나 최신성만으로 연구를 평가하기 어렵습니다. 어떤 자료를 사용했고, 목표를 어떻게 정의했으며, 어떤 외부 환경에서 다시 확인했는지를 기록해야 다른 연구자가 결과를 재현하거나 반박할 수 있습니다.

한계와 아직 남은 질문

첫째, 검색은 영어로 발표된 원저 연구와 네 개의 선택된 영역에 한정됐습니다. 그러므로 모든 생의학 AI 연구나 다른 언어의 문헌을 대표한다고 볼 수 없습니다. 둘째, 과제, 자료, 모델, 평가 방식이 서로 달라 수치를 직접 비교하기 어렵습니다.

셋째, 외부 검증, 자료 공개, 코드 공유가 일관되지 않았습니다. 이 문제는 모델을 다른 병원이나 다른 장비에 옮겼을 때 같은 결과가 나올지 판단하기 어렵게 만듭니다. 넷째, 질적 종합은 연구 흐름과 보고 빈틈을 보여주지만, 개별 모델의 환자 편익, 임상 유효성, 규제 준비 상태를 결정하지 못합니다.

다섯째, 편향, 개인정보, 데이터 품질, 설명가능성, 책임 소재가 여전히 남아 있습니다. 앞으로는 성능 지표만 늘리는 것보다 외부 검증의 설계, 실패 사례의 공개, 데이터 계보와 버전 관리, 사람이 개입하는 절차를 함께 보고하는 연구가 필요합니다. 그 과정에서도 “연구에서 계산이 가능했다”와 “현장에서 안전하게 쓸 수 있다” 사이의 간격을 유지해야 합니다.

출처와 근거의 범위

• Trasca DM, Dorin PI, Sirbulet C, Varut RM, Singer CE, Radivojevic K, Stoica GA. Artificial Intelligence in Biomedicine: A Systematic Review from Nanomedicine to Neurology and Hepatology. Pharmaceutics. 2025;17(12):1564. DOI: 10.3390/pharmaceutics17121564, PubMed, PMC 원문.
• World Health Organization. Ethics and governance of artificial intelligence for health. 2021. 공식 자료.
• Tabassi E. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. 2023. NIST 공식 자료, DOI.

이 글은 생의학 AI 문헌고찰의 범위와 보고 방식, 그리고 기술 거버넌스 자료의 역할을 설명합니다. 특정 모델이 진단이나 치료에 적합하다고 주장하지 않으며, 연구 종합의 수치를 개인이나 의료 현장의 결정으로 옮겨 쓰지 않습니다.