[Research & Insight]망막 혈관을 더 가늘게까지 잡아내는 AI — '스케일-공간 이론'으로 다시 설계한 분할 신경망 (CMPB 2019 리뷰)
망막 혈관을 더 가늘게까지 잡아내는 AI — '스케일-공간 이론'으로 다시 설계한 분할 신경망 (CMPB 2019 리뷰) — 핵심 요약*Computer Methods and Programs in Biomedicine* 2019년 연구 리뷰 (Noh·Park·Lee)
안저사진 속 머리카락보다 가느다란 망막 혈관을, AI는 어떻게 하면 더 정확히 그려낼 수 있을까? 이 연구의 답은 의외로 "신경망이 영상을 줄이는 방식을 바꾸자"였다 — 기존 딥러닝이 무심코 써 온 '다운샘플링(영상 축소)' 단계를 신호처리·스케일-공간 이론으로 되짚어, 정보 왜곡을 줄이는 새 구조(SSANet)를 제안했다. 그 결과 가는 혈관·혈관 갈림목·혈관 반사선처럼 종래 방법이 자주 놓치던 부분에서 분할 정확도를 끌어올렸다. 화려한 신기능이 아니라 기존 구조의 숨은 결함을 이론으로 짚어 고친 점이 이 2019년 *CMPB* 논문의 핵심이다.
🔎 이해상충 투명 고지: 본 논문의 교신저자(Sang Jun Park)는 본 플랫폼 운영사(CLOP) 관계자입니다. 본 논문은 망막 영상의 혈관 분할 '방법론(알고리즘)' 연구로, 논문 자체에는 상업적 이해상충 표기가 없으며 한국연구재단(NRF) 정부 연구비로 수행되었습니다. 이 글은 학술 정보 제공을 목적으로 하며, 특정 제품·의료기관·진료의 권유가 아닙니다.
서지정보 · *Computer Methods and Programs in Biomedicine* 2019;178:237–246 · PMID 31416552 · DOI 10.1016/j.cmpb.2019.06.030
핵심 요약
- 무엇: 안저사진에서 망막 혈관을 픽셀 단위로 그려내는(분할, segmentation) 딥러닝의 내부 구조 자체를 새로 설계. 이름은 SSANet(scale-space approximated CNN, 스케일-공간 근사 CNN).
- 어떻게 다른가: 기존 CNN은 영상을 줄일 때 '서브샘플링+데시메이션'으로 곧장 절반으로 줄여 고주파 정보(가는 혈관·경계)가 손상된다. 이 연구는 그 단계를 '줄였다가 보간으로 다시 부드럽게 펴는'(scale-space approximation, SSA) 방식으로 바꿔 가우시안 흐림에 가깝게 만들었다.
- 이론적 근거: 코엔데링크·린데베르크의 스케일-공간 이론을 CNN 안에서 처음 적용하고, 주파수 영역 분석으로 기존 다운샘플링이 "사실상 영상을 축소하지 못한다"는 점을 보였다. 여기에 잔차 블록(residual block)을 더해 깊이를 키웠다.
- 성능(공개 데이터 4종): DRIVE·STARE·CHASE_DB1·HRF에서 최신(SOTA) 또는 동급. CHASE_DB1에서 ROC AUC 0.9916으로 최고치. 2위 대비 오차를 DRIVE 10.4%, CHASE_DB1 16.0% 줄임.
- 의미: 특히 가는 혈관·갈림목·혈관 중앙 반사선의 분할이 좋아짐. 망막 혈관은 당뇨병·고혈압·심뇌혈관 질환의 단서가 되는 바이오마커여서, 정밀한 혈관 지도는 후속 정량분석의 토대가 된다.
이 연구가 한 일은?
안저사진(눈 안쪽 망막을 찍은 사진)에서 혈관만 골라 픽셀 단위로 까맣게 칠해 지도를 만드는 작업을 '혈관 분할(vessel segmentation)'이라고 한다. 그동안 이 작업에 쓰던 딥러닝(CNN)은 대부분 사진 분류용으로 만들어진 구조를 그대로 빌려다 쓰는 것이었다. 이 연구는 그 빌려 쓴 구조 안에 숨은 약점을 신호처리 이론으로 들춰냈다. CNN이 영상을 단계마다 절반으로 줄이는(다운샘플링) 흔한 방식이, 알고 보면 가는 혈관과 경계 같은 세밀한 정보를 깎아 먹는다는 것이다. 그래서 '줄이기'를 '줄였다가 보간으로 다시 펴기'로 바꾼 새 구조(SSANet)를 제안하고, 공개 데이터 4종에서 기존 최고 성능과 견주거나 앞섰다.
왜 (지금) 이 논문이 의미가 있나?
[먼저, 쉽게] 2016년 무렵부터 딥러닝이 망막 혈관 분할에 들어오면서(DRIU·DeepVessel 등), 손으로 설계한 필터로 혈관을 찾던 시대를 빠르게 대체했다. 다만 이 딥러닝 모델들은 사진을 '분류'하기 위해 만들어진 신경망(VGG·U-Net·ResNet 계열)의 뼈대를 거의 그대로 가져다 썼다. 분류는 사진 전체를 하나의 답(예: 개/고양이)으로 압축하므로 영상을 점점 줄여 나가는 것이 자연스럽다. 하지만 혈관 분할은 한 픽셀 한 픽셀이 답이라서, 영상을 줄이는 과정에서 잃는 디테일이 곧 정확도 손실이 된다.
[조금 더 깊이] 이 논문의 통찰은 그 '줄이기' 단계를 주파수 영역에서 다시 본 것이다. 기존의 서브샘플링+데시메이션은 신호의 대역폭을 오히려 두 배로 늘릴 뿐, 스케일-공간 이론이 말하는 진짜 '축소(가우시안 흐림)'를 하지 못한다 — 저자들의 분석에 따르면 이 과정은 사실상 "어떤 식으로도 신호를 축소하지 못한다." 그래서 서브샘플링 뒤에 이중선형 보간(bilinear interpolation)을 넣으면, 그 합성 효과가 가우시안 필터(정확히는 2차 이항 필터, σ²=1/2)에 매우 가까워진다. 이것이 스케일-공간 근사(SSA)다. 코엔데링크(1984)와 린데베르크(1994)의 스케일-공간 이론을 CNN 내부의 다중스케일 표현에 처음 적용한 것이 이 논문의 이론적 신규성이다. 곧 새 트릭을 더한 게 아니라, 모두가 당연하게 여기던 구조를 이론으로 의심하고 고친 작업이다.
어떻게 했나? — 데이터와 방법
- 데이터(공개 표준 4종): 망막 혈관 분할 연구의 사실상 표준 벤치마크인 DRIVE(40장)·STARE(20장)·CHASE_DB1(28장)·HRF(45장). 모두 전문가가 혈관을 손으로 그린 정답 마스크가 딸려 있고, 첫 번째 주석자의 마스크를 정답으로 삼았다. 영상 해상도는 데이터셋마다 다르다(HRF는 3504×2336 고해상도).
- 핵심 아이디어(SSA 층): 기존 CNN이 '서브샘플링→데시메이션'으로 곧장 절반으로 줄이던 자리를, '서브샘플링→이중선형 보간으로 다시 부드럽게 펴기'로 교체했다. 이로써 영상이 가우시안 흐림에 가깝게 처리되어, 가는 혈관 경계의 앨리어싱(계단 모양 왜곡)을 줄인다(논문 Fig. 2·4). 보간을 여러 번 쌓을수록 가우시안에 더 가까워진다(2·4·6차 이항 필터).
- 줄어든 시야(receptive field) 보완: 보간을 넣으면 신경망이 한 번에 보는 범위가 줄어드는 부작용이 있다. 이를 메우려 He 등의 잔차 블록(residual block)을 도입해 신경망을 깊게 만들었다(깊이 34). 혈관은 가늘고 모양이 일정해, 넓은 시야보다 세밀한 다중스케일 표현이 더 중요하다는 판단이다.
- 메모리 절충: 해상도를 유지하면 메모리가 늘어나므로, 일부 층만 SSA로 바꾸거나 보간 순서를 조절해 메모리·시야·정확도를 저울질하는 설계를 함께 제시했다.
- 구현·검증: PyTorch, NVIDIA 1080ti GPU 4장. 학습은 DRIVE·STARE 4시간 미만, CHASE_DB1 6시간 미만, HRF 18시간 미만. 기존 강자 DRIU를 기준선으로 두고, 같은 학습 조건에서 직접 비교(쌍체 t-검정)했다.
결과는? — 숫자로
- DRIU 직접 비교(Table 1): 네 데이터셋 모두에서 SSANet이 AUC·F1 모두 우세, 모든 p<0.05(쌍체 t-검정). 예) DRIVE AUC 0.980→0.983, STARE 0.907→0.935, CHASE_DB1 0.887→0.903, HRF 0.884→0.910.
- 최신 기법 대비(Table 2): DRIVE에서 AUC 0.9820·정확도 0.9569로 최고, STARE에서 AUC 0.9921·정확도 0.9764, CHASE_DB1에서 AUC 0.9916(ROC 최고치)·정확도 0.9778.
- 오차 감소량: 2위 기법 대비 1.0−AUC로 본 오차가 DRIVE 10.4%, CHASE_DB1 16.0% 감소. 정확도(Acc) 기준 오차는 DRIVE 7.3%·STARE 12.9%·CHASE_DB1 3.5% 감소.
- 어디서 좋아졌나(정성): 배경의 거짓 양성 잡음이 줄고, 전문가 주석에 더 가까운 미세한 출력을 냈다. 결론적으로 가는 혈관, 혈관 갈림목(junction), 혈관 중앙 반사선(central vessel reflex)의 분할이 특히 개선됐다.
- 무엇이 효과의 근원인가(절제 분석): SSA 층 추가, 데시메이션 제거, 잔차 블록 도입의 기여를 따로따로 검증해, 성능 향상이 단순히 '해상도를 높여서'가 아니라 SSA의 다중스케일 표현 자체에서 온다는 점을 보였다.
이 논문의 중요성 — 4가지 관점
① 분야 흐름에서의 위치 — '빌려 쓴 구조'를 처음으로 의심한 이론적 전환점. 2016~2018년 망막 혈관 분할 딥러닝(DRIU·DeepVessel·VGAN 등)은 거의 모두 분류용으로 개발된 CNN의 다운샘플링 관행을 그대로 물려받았다. 이 논문은 그 관행을 신호처리·스케일-공간 이론으로 정면 분석해, 서브샘플링+데시메이션이 "스케일-공간 표현과 무관하다"는 점을 증명했다(직전 표준 대비 새로운 지점은 '더 큰 모델'이 아니라 '다운샘플링의 이론적 재해석'이다). 이후 다중스케일 분할 구조를 설계할 때 참조할 좌표를 만들었다.
② 논문 자체의 기여 — 코엔데링크/린데베르크 스케일-공간을 CNN 안에 처음 이식. 본질적 신규성은 가우시안 흐림을 이중선형 보간(2차 이항 필터)으로 근사해 CNN의 다중스케일 단계에 스케일-공간 이론을 직접 구현한 SSA 블록이다. 이를 절제 분석으로 분해해 효과의 출처를 SSA 자체로 못박았고, 표준 벤치마크에서 CHASE_DB1 ROC AUC 0.9916이라는 당시 최고치와 2위 대비 최대 16.0% 오차 감소라는 숫자로 뒷받침했다. 공개 데이터·공개 기준선(DRIU)·쌍체 t-검정으로 재현·비교가 투명하다는 점이 신뢰의 근거다.
③ 임상·응용 현장에서의 의미 — '진단 도구'가 아니라 그 앞단의 정밀 측정 인프라. 이 모델은 환자를 진단하지 않는다. 안저사진에서 혈관 지도를 더 정확히 그리는 전처리·정량분석의 토대다. 가는 혈관과 갈림목까지 잘 잡아내면, 혈관 굵기·휘어짐·분기각 같은 망막 혈관 바이오마커(당뇨병·고혈압·심뇌혈관 위험과 연관) 측정의 신뢰도가 올라간다. 다만 검증이 소규모 공개 데이터(40·20·28·45장)에 한정되고 전향적 임상 검증은 별개 과제이므로, 임상 도입은 더 큰 실데이터 검증을 거쳐야 한다 — 이 논문의 자리는 '도구의 정밀도를 높이는 엔진'이지 '진료 의사결정' 자체가 아니다.
④ 한국 + AfterNOON 관점. 망막 영상 알고리즘 연구가 국내 안과 임상 연구진(분당서울대 안과)과 공대(국민대 전자공학)의 협업으로 상위 방법론 저널에 실린 사례라는 점이 한국 의료 AI 생태계 측면에서 의미가 있다. 혈관 분할 같은 기초 영상기술은 국가검진에서 대량 생산되는 안저사진을 분석 가능한 데이터로 바꾸는 출발점이기도 하다. AfterNOON의 안과 네트워크·당뇨망막병증 스크리닝·RWD 관점에서 보면, 정확한 혈관 분할은 향후 망막 바이오마커 기반 정량지표를 검진·연구 데이터로 활용하기 위한 기반 기술에 해당한다.
짚어둘 한계는?
- 소규모 벤치마크 의존: 검증이 DRIVE·STARE·CHASE_DB1·HRF 등 수십 장 규모의 공개 데이터에 한정된다(혈관 마스크를 전문가가 일일이 그려야 해 대규모 구축이 비싸다는 한계는 논문도 명시). 대규모·다기관 실데이터 일반화는 후속 과제다.
- 시야(receptive field) 축소의 트레이드오프: SSA가 다중스케일 표현을 얻는 대신 신경망의 시야를 줄이며, 이를 잔차 블록·깊이로 보완한다. 분류·큰 구조 분할처럼 넓은 시야가 중요한 과제에는 그대로 적용하기 어려울 수 있다.
- 메모리·연산 비용: 해상도를 유지하면 메모리 요구가 커져, 실제로는 일부 층만 SSA로 바꾸는 절충이 필요하다.
- 데이터셋 의존성: 데시메이션 제거의 효과가 데이터셋(특히 고해상도 CHASE_DB1·HRF)에 따라 달라져, 일반화는 영상 특성에 민감하다.
- 임상 단계 아님: 이 연구는 영상 분할 알고리즘의 성능 평가이며, 환자 대상 전향적 안전성·유효성 검증과는 단계가 다르다.
그래서 무엇을 시사하나?
"AI에 분류용 구조를 빌려다 쓰되, 그 구조가 우리 과제에 정말 맞는지 이론으로 따져 보라" — 이 논문이 주는 가장 큰 메시지다. 망막 혈관처럼 가늘고 경계가 중요한 대상에서는, 모델을 무작정 키우기보다 영상을 줄이고 키우는 방식 자체를 신호처리 관점에서 다듬는 것이 더 효과적일 수 있음을 보였다. 임상적으로는, 더 정밀한 혈관 지도가 망막 혈관 바이오마커 측정의 신뢰도를 높여 후속 연구·정량분석의 토대가 된다. 다만 이는 진단 도구가 아니라 그 앞단의 측정 인프라이며, 실제 활용은 더 큰 데이터에서의 검증과 함께 설계되어야 한다.
자주 묻는 질문 (FAQ)
Q1. '혈관 분할(segmentation)'이 정확히 무엇인가요?
안저사진에서 혈관에 해당하는 부분만 픽셀 단위로 골라내 혈관 지도를 만드는 작업입니다. 사진에 '이 픽셀은 혈관, 저 픽셀은 배경'이라고 일일이 칠하는 것에 가깝습니다. 이 지도가 정확해야 혈관의 굵기·휘어짐 같은 정량 측정이 신뢰할 수 있게 됩니다.
Q2. 이 AI가 병을 진단하나요?
아닙니다. 이 연구의 AI는 진단 도구가 아니라, 혈관 지도를 더 정확히 그리는 영상 분석 기술입니다. 혈관 모양을 정밀하게 측정하기 위한 앞단 작업이며, 질병 진단은 별개의 연구·검증 단계가 필요합니다.
Q3. '스케일-공간 근사(SSA)'를 한 줄로 설명하면요?
신경망이 영상을 줄일 때 곧장 절반으로 깎아 내면 가는 혈관·경계 같은 세밀한 정보가 손상됩니다. SSA는 '줄였다가 보간으로 다시 부드럽게 펴는' 방식으로, 그 손상을 줄이고 사진을 더 자연스럽게(가우시안 흐림에 가깝게) 축소합니다.
Q4. 'AUC 0.9916' 같은 숫자는 무슨 뜻인가요?
AUC는 분할·분류 성능을 0~1(또는 0~100%)로 나타내는 지표로, 1에 가까울수록 정확하고 0.5면 무작위 추측 수준입니다. 0.9916은 해당 공개 데이터(CHASE_DB1)에서 혈관과 배경을 매우 잘 구분했다는 의미입니다. 다만 이는 특정 벤치마크에서의 값으로, 다른 환경의 데이터에서는 달라질 수 있습니다.
Q5. 왜 '가는 혈관'을 잘 잡는 게 중요한가요?
망막의 가느다란 혈관과 갈림목은 당뇨병·고혈압·심뇌혈관 질환의 변화가 일찍 나타날 수 있는 부위입니다. 분할이 부정확하면 이런 미세 구조를 놓쳐, 이후의 혈관 정량분석 신뢰도가 떨어집니다. 가는 혈관까지 정확히 잡는 것은 망막을 '혈관 바이오마커'로 활용하기 위한 기초가 됩니다.
Q6. 이 기술을 지금 동네 안과에서 바로 쓸 수 있나요?
이 논문은 공개 데이터로 알고리즘 성능을 평가한 연구 단계 결과입니다. 실제 진료 활용은 더 큰 실제 데이터에서의 검증, 그리고 검사·판독 동선과 책임 체계가 함께 갖춰져야 하며, 별도의 임상 검증이 필요합니다.
더 알아보기
눈 건강과 안과 검사·망막 영상에 대한 더 많은 연구 리뷰·정보는 AfterNOON Insights에서 확인하실 수 있습니다 → afternoon.clop.ai
진단과 치료에 대한 판단은 담당 안과 전문의와 상의하세요. (본 글은 학술 정보로, 진단·치료의 근거가 아닙니다.)
출처 (Sources)
- Noh KJ, Park SJ, Lee S. Scale-space approximated convolutional neural networks for retinal vessel segmentation. *Computer Methods and Programs in Biomedicine*. 2019;178:237-246. doi:10.1016/j.cmpb.2019.06.030 (PMID 31416552)
- Maninis KK, Pont-Tuset J, Arbeláez P, Van Gool L. Deep Retinal Image Understanding (DRIU). *MICCAI*. 2016:140-148. doi:10.1007/978-3-319-46723-8_17
- Koenderink JJ. The structure of images. *Biological Cybernetics*. 1984;50(5):363-370. doi:10.1007/BF00336961
- Lindeberg T. *Scale-Space Theory in Computer Vision*. Kluwer Academic Publishers; 1994.
- He K, Zhang X, Ren S, Sun J. Deep Residual Learning for Image Recognition. *CVPR*. 2016:770-778. doi:10.1109/CVPR.2016.90
- Son J, Park SJ, Jung KH. Towards Accurate Segmentation of Retinal Vessels and the Optic Disc in Fundoscopic Images with Generative Adversarial Networks. *Journal of Digital Imaging*. 2018. doi:10.1007/s10278-018-0126-3
함께 보면 좋은 글
- 중심망막동맥폐쇄와 뇌졸중 평가: 의심되면 어떤 안과 검사가 필요할까
- 혈압 변동과 망막 및 시신경이 의심되면 어떤 안과 검사가 필요할까
- 미숙아망막병증 선별검사, 언제 시작하고 왜 놓치면 안 될까요?
참고 자료
이 글은 안과 전문의 박상준(분당서울대학교병원 안과)의 감수를 받았습니다.
본 콘텐츠는 일반 건강정보이며, 진단과 치료는 담당 안과 전문의와 상담하세요.
