고영향 AI 판단기준

타임라인

주요 변화

• [신설] 고영향 인공지능 해당 여부 확인 절차 신설: 사업자가 과학기술정보통신부장관에게 확인을 요청할 수 있으며, 장관은 사람의 생명·신체의 안전 및 기본권에 초래할 수 있는 위험의 영향, 중대성, 빈도를 고려하여 30일 이내에 결과를 회신하여야 합니다. 이의가 있는 사업자는 회신일로부터 10일 이내에 재확인을 요청할 수 있습니다.
• [신설] 고영향 인공지능 사업자 책무 이행 조치 규정: 고영향 인공지능 또는 이를 이용한 제품·서비스를 제공하는 사업자는 안전성·신뢰성 확보 조치를 이행하고 그 근거를 문서로 보관하여야 합니다. 별표 1에 따른 조치를 이행한 경우 법률상 의무를 이행한 것으로 간주합니다.
• [강화] 고영향 인공지능 영향평가 시 인공지능 취약계층의 특성이 반영될 수 있도록 하는 의무가 추가되었습니다.
• [신설] 고영향 인공지능 또는 생성형 인공지능을 이용한 제품·서비스를 제공하는 사업자는 해당 사실을 제품, 계약서, 사용 설명서 등에 기재하거나 이용자 화면에 표시하는 방법으로 사전에 고지하여야 합니다.

이해관계자

• 의료·금융·채용·교육 분야 인공지능 서비스 제공 사업자 - 고영향 인공지능 해당 가능성이 높아 직접적인 관리 의무 대상이 됩니다.
• 인공지능 스타트업 및 중소 사업자 - 판단기준 모호성과 대응 인력·자금 부족으로 이행 부담이 집중됩니다.
• 대형 통신사·플랫폼 기업 - 자사 서비스의 고영향 인공지능 해당 여부를 자체 판단하고 대외 입장을 표명해야 하는 상황에 놓여 있습니다.
• 과학기술정보통신부 - 고영향 인공지능 확인 요청에 대한 회신 의무를 지며, 계도 기간 운영 및 지원 데스크를 통해 현장 혼선을 관리합니다.
• 인공지능 서비스 이용자 및 취약계층 - 고영향 인공지능 영향평가 시 취약계층 특성 반영 의무의 보호 대상이 됩니다.

기업 대응

• 자사 인공지능 서비스가 의료·금융·채용·교육 등 고영향 인공지능 적용 가능 분야에 해당하는지 검토하고, 불확실한 경우 과학기술정보통신부에 확인 요청 절차를 활용하여 해당 여부를 조기에 확정하는 것이 중요합니다.
• 고영향 인공지능으로 판단되거나 판단될 가능성이 있는 서비스에 대해서는 안전성·신뢰성 확보 조치 이행 내역을 문서로 보관하는 체계를 지금부터 갖추어 두어야 합니다.
• 계도 기간 중 과학기술정보통신부가 운영하는 지원 데스크와 하위 가이드라인 업데이트를 지속적으로 모니터링하여 판단기준 구체화 동향에 맞추어 내부 대응 기준을 보완하여야 합니다.