.svg)
AI 솔루션 문의하기
인공지능 기반 의료기기는 학습데이터가 쌓이고 알고리즘이 개선되면서 성능이 지속적으로 향상되는 특성을 지니고 있습니다. 이전에는 이런 변경이 발생할 때마다 제조업체가 매번 별도의 허가나 심사를 다시 받아야 했습니다.
최근 제정된 변경관리 관련 가이드라인에 따라 제조업체가 허가 이후 예상되는 변경사항과 검증 방법, 안전성 영향 평가 계획을 담은 계획서를 사전에 제출해 승인받으면 그 승인된 범위 안에서는 추가 허가 없이 변경사항을 곧바로 반영할 수 있게 되었습니다. 이 변화는 의료 AI 모델의 안전성 검증이라는 작업 자체의 성격을 근본적으로 바꾸어 놓았습니다.
검증의 초점이 옮겨간 지점은 명확합니다. 이제는 특정 변경 하나가 안전한지를 매번 개별적으로 심사하는 대신, 실제로 이루어진 변경이 사전에 승인받은 계획서의 범위 안에 있는지를 확인하는 작업이 새로운 검증 절차의 중심이 됩니다.
이 네 가지가 자동으로 확인되면, 제조업체는 매 변경마다 처음부터 다시 서류를 작성하고 심사를 기다리는 대신, 승인된 범위 안에서 훨씬 신속하게 개선을 반영할 수 있습니다.
변경관리 계획서에는 예상되는 변경 항목과 변경 방법, 위험과 이익에 대한 분석, 변경 이후 관리 사항 같은 세부 내용이 포함됩니다. 자동화된 검증 시스템이 이 계획서의 내용을 정확히 반영하고 있어야, 실제 변경이 발생했을 때 그 변경을 계획서와 자동으로 대조하는 작업이 의미를 지닙니다. 계획서에 기재된 항목이 모호하거나 지나치게 포괄적으로 작성되어 있으면, 자동화 시스템이 판정 기준을 명확히 세우기 어려워집니다.
인공지능 기반 의료기기를 평가하는 과정에는 학습데이터의 품질관리와 비식별화 조치, 모델의 설계와 구현, 주기적인 성능 모니터링이 함께 포함됩니다. 이 항목들은 한 번의 허가 시점에만 확인하고 끝나기보다, 모델이 재학습을 거듭하는 동안 계속 반복적으로 확인되어야 하는 대상입니다. 자동화된 검증 프로세스는 이 반복적인 확인을 사람이 매번 손으로 점검하지 않아도 되도록 뒷받침하는 역할을 맡습니다.
성능 개선은 물론 전자적 보안을 위한 업데이트도 인공지능 기반 의료기기에서 자주 발생하는 변경 유형입니다. 보안 업데이트는 모델의 판단 결과 자체에 영향을 주지 않는 경우가 많지만, 그럼에도 불구하고 시스템 전체의 안정성에 영향을 미칠 수 있어 성능 관련 변경과는 별도의 기준으로 검증되어야 합니다. 자동화된 검증 시스템은 두 유형의 변경을 구분해 각각 다른 검증 절차를 적용할 수 있도록 설계되어야 합니다.
승인된 계획서의 범위를 벗어나는 변경이 발견되면, 그 변경은 자동으로 반영되지 못하고 별도의 심사 절차로 넘어가야 합니다. 이 경계를 정확히 판별하는 일이 자동화 검증의 가장 중요한 과제 가운데 하나입니다. 경계 판별이 지나치게 엄격하면 사소한 변경까지 매번 별도 심사로 넘어가 제도 도입의 취지가 무색해지고, 반대로 지나치게 느슨하면 실제로는 안전성에 영향을 미칠 수 있는 변경이 검증 없이 그대로 반영되는 위험이 생깁니다.
경계 판별의 정확도를 높이기 위해 검토되는 방식은 다음과 같습니다.
이와 유사한 방식으로 사전에 승인된 변경 계획 범위 안에서 재허가 없이 수정을 반영하는 제도는 다른 나라의 규제기관에서도 채택되고 있습니다. 지속적인 학습을 통해 성능이 향상되는 인공지능 기반 의료기기의 특성을 고려하면, 매번 개별 심사를 거치는 방식보다 사전에 정해진 범위 안에서 자동화된 검증으로 신속하게 대응하는 방향이 여러 규제 체계에서 공통적으로 나타나는 흐름입니다.
의료 AI 모델의 안전성 검증 프로세스가 자동화되어야 하는 이유는, 사전에 승인된 계획서와 실제로 이루어지는 변경 사이의 간격을 사람이 매번 손으로 확인하는 방식으로는 늘어나는 변경의 빈도를 따라가기 어렵기 때문입니다.
계획서에 담긴 조건을 정확히 코드화하고, 그 조건과 실제 변경을 자동으로 대조하는 체계가 갖추어질 때, 제조업체는 승인받은 범위 안에서 개선을 신속하게 반영하면서도 그 반영이 계획을 벗어나지 않았다는 근거를 함께 남길 수 있게 됩니다.
.svg)
.svg)
