〈정책 노트〉 AI를 안심하고 쓰기 위한 기본 규칙¶

회사 책상 앞에서 손이 멈칫하는 순간을 줄이기 위해 정부는 AI 기본법이라는 큰 틀 위에 시행령과 각종 세부 규정을 만들고 현장에서 궁금한 점이 생기면 문의할 수 있는 지원 체계를 마련했습니다.

앞에서 AI 관련 규칙, 고영향 AI 10개 영역, 사업자에게 책임을 두는 기본 원칙을 살펴보았는데요. 이번 정책 노트에서는 그 원칙들이 실제로 어떤 논의를 거쳐 만들어졌는지, 고영향 AI 10개 영역은 어떻게 분류되는지, 그리고 현장에서 궁금한 사항이 생겼을 때 어디에 문의하면 되는지를 조금 더 자세히 살펴보겠습니다.

현장의 의견으로 다듬은 하위법령

정부는 산업계와 학계, 시민단체의 전문가 약 80명이 참여하는 하위법령 정비단을 구성했습니다. 산업계의 비중이 가장 컸으며 학계와 시민단체도 함께 참여해 다양한 관점이 반영될 수 있도록 했습니다. 정비단은 2025년 3월부터 12월까지 약 9개월 동안 70여 차례 회의를 진행했습니다. 한 달에 평균 일곱 차례 이상 회의가 열린 셈입니다. 논의는 의료, 채용, 신용, 인프라 같은 분야별 분과를 중심으로 이루어졌고, 각 분과의 논의 결과가 모여 최종 시행령으로 정리되었습니다.

특히 의료와 채용 분야에서 가장 많은 논의가 이루어졌습니다. 의료 분야에서는 AI가 진단을 지원해도 최종 판단은 반드시 의료인이 내려야 한다는 원칙을 제도화하는 방법이 핵심 쟁점이었습니다. 그 결과 의료 진단 보조 AI를 고영향 AI에 포함하되 인간의 최종 판단과 책임을 의무화하는 방향으로 기준이 마련되었습니다.

채용 분야 역시 논의가 길어졌습니다. 지원자에 대한 설명권을 어디까지 보장할 것인지가 주요 쟁점이었습니다. 최종적으로는 모든 채용 결정을 일일이 설명하도록 요구하기보다, AI가 채용 과정에서 결정적인 영향을 미친 경우 지원자의 질문에 답할 수 있어야 한다는 방향으로 의견이 모아졌습니다.

생명, 권리, 안전에 중대한 영향을 미치는 열 개의 영역

사람의 생명, 신체의 안전, 그리고 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI를 ‘고영향 AI’라고 부릅니다. 현재 고영향 AI로 분류되는 영역은 모두 열 개입니다. 앞에서 살펴본 열 개의 영역을 성격에 따라 나눠 보면 네 가지 범주로 정리할 수 있습니다.

네 가지 범주에 공통적으로 적용되는 원칙은 사람의 최종 판단 의무와 결과 설명 의무입니다. AI는 옆에서 한 번 더 살펴보고 필요한 정보를 제공하는 역할에 머물지만 최종 결정과 그에 따른 책임은 사람의 몫입니다. 채용에서 떨어진 지원자, 대출이 거절된 신청자, 진단 결과를 받은 환자가 “왜 그런 결과가 나왔는지” 묻는다면 이에 답할 수 있어야 합니다. 중요한 결정에 AI가 활용될수록 그 결정의 이유를 설명할 수 있어야 한다는 요구도 함께 커지고 있습니다. 설명 가능성은 단순한 절차가 아니라 신뢰와 책임의 출발점이기 때문입니다.

중소기업 상담 제도

새로운 규제가 도입되면 법을 지키고 싶어도 무엇을 어떻게 해야 하는지 알기 어렵고 자칫 기업의 영업비밀 노출을 우려해 문의 자체를 망설이는 경우가 있습니다. 이를 위해 정부는 익명으로 상담할 수 있는 전담 컨설팅 창구를 운영하고 있습니다. 바로 ‘AI 기본법 지원데스크’입니다. 법 시행 이후 첫 두 달 동안 수백 건의 문의가 접수되었고 그중 절반 정도는 제31조 투명성 확보 의무와 관련된 내용이었습니다. 이를 통해 많은 기업이 규제를 피하기보다 정확히 이해하고 준수하기를 원한다는 것을 알 수 있었습니다.

정부는 상담 창구 운영뿐 아니라 스타트업과 지역 중소기업을 위한 맞춤형 설명회도 전국적으로 확대하고 있습니다. 앞으로 학부모와 교육 현장을 대상으로 별도의 설명회 마련하는 방안도 검토되고 있습니다.

AI 규제는 한국만의 고민이 아닙니다. 세계 각국에서도 기술 혁신과 안전 사이에서 균형점을 찾기 위해 다양한 시도를 이어 가고 있습니다. 2026년 2월 인도 뉴델리에서 열린 인공지능 영향 정상회의에서도 이러한 논의가 주요 의제로 다뤄졌습니다. 회의에서는 안전을 최우선 가치로 두고 위험도가 높은 AI에 대해서는 충분한 검증이 이루어질 때까지 신중하게 접근해야 한다는 의견이 제시되었습니다. 그 결과 일부 고위험 AI 규제의 적용 시점이 2027년 12월까지 유예되었습니다. 법과 제도를 마련하되 산업과 사회가 준비할 수 있는 시간도 함께 확보한 것입니다.

한국은 조금 다른 길을 선택했습니다. 기술 진흥에 무게를 두면서도 사회적 신뢰를 위해 필요 최소한의 규제는 먼저 시행한다는 접근입니다. 혁신과 안전을 대립적인 가치로 보기보다 함께 추진해야 할 과제로 본 것입니다. 같은 정상회의 기간 동안 정부는 글로벌 AI 기업들과도 의견을 나누었는데 오픈AI, 앤트로픽, 구글 딥마인드를 비롯한 주요 기업들과의 대화에서 공통된 인식 하나를 확인했습니다. 사회에 미치는 영향력이 큰 AI일수록 더 큰 책임이 뒤따라야 한다는 점이었습니다.

사람의 시간과 일상, 그리고 중요한 의사결정에 영향을 미칠 수 있는 기술이라면 그만큼 높은 수준의 안전성과 투명성을 갖춰야 합니다. 결국 AI 정책 방향은 국가마다 조금씩 다를 수 있지만 책임 있는 혁신이라는 원칙만큼은 세계가 함께 공유하고 있는 약속에 가깝다는 생각입니다.