AI 기본법 시행 정리, 고영향 인공지능과 생성형 표시 의무
규칙이 먼저 서고 기술이 뒤따르는 자리
2026년 1월 22일. 인공지능 기본법이 시행된 날이다. 그로부터 일곱 달이 지났고, 세부 기준을 담은 시행령은 지금도 손질 중이다.
정식 명칭은 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법이다. 2024년 12월 국회를 통과해 2025년 1월 공포됐고, 공포 1년 뒤 시행이라는 일정이 그대로 지켜졌다.
이 법은 산업을 키우는 조항과 위험을 관리하는 조항을 한 법률 안에 같이 담았다. 그래서 읽는 사람의 위치에 따라 진흥법으로도, 규제법으로도 불린다.
📌 10초 요약
이 법의 핵심은 모든 인공지능을 규제하는 것이 아니라, 위험이 큰 쓰임과 사람을 속일 수 있는 결과물에만 별도 의무를 붙인 데 있다.
- 적용 대상은 인공지능을 개발하거나 이를 이용해 서비스를 제공하는 사업자다. 국내 이용자를 상대하면 해외 사업자도 포함된다.
- 사람의 생명·신체 안전이나 기본권에 큰 영향을 줄 수 있는 쓰임은 고영향 인공지능으로 따로 묶인다.
- 생성형 인공지능의 결과물에는 인공지능이 만들었다는 사실을 표시해야 한다.
- 세부 기준은 시행령이 정한다. 의무의 범위는 아직 확정 과정에 있다.
이 법이 실제로 정한 것들
먼저 용어부터 정리한다. 법은 사업자를 두 갈래로 나눈다. 인공지능을 만들어 제공하는 개발사업자, 그리고 그것을 가져다 자기 서비스에 쓰는 이용사업자다.
둘의 의무는 같지 않다. 모델을 만든 쪽에 요구되는 것과 그것을 상담 창구에 붙여 쓰는 쪽에 요구되는 것이 다르기 때문이다.
다음은 적용 범위다. 국내에 사업장이 없더라도 국내 이용자를 대상으로 서비스하면 이 법의 적용을 받는다. 일정 기준을 넘는 해외 사업자는 국내대리인을 지정해야 한다.
진흥 쪽 조항도 분량이 적지 않다. 국가 차원의 인공지능 정책을 심의하는 위원회, 학습용 데이터 기반 조성, 안전성 검증을 담당하는 전담 조직이 법에 근거를 두게 됐다.
"규제만 늘어난 법인가?"
그렇게 보기는 어렵다. 조문 수만 놓고 보면 지원·육성 조항이 더 많다. 다만 언론과 산업계의 관심이 의무 조항에 몰렸을 뿐이다.
참고로 유럽연합이 2024년 인공지능법을 확정한 뒤, 국가 단위의 포괄 입법으로는 한국이 이른 축에 든다는 평가가 나왔다. 다만 규제 강도와 적용 시점은 두 법이 서로 다르다.
고영향 인공지능은 어떤 기준으로 갈리나
기준은 기술의 성능이 아니라 쓰이는 자리다.
같은 모델이라도 사진 보정에 쓰면 일반 인공지능이고, 채용 심사나 의료 판단에 쓰면 고영향으로 분류될 수 있다.
법은 사람의 생명과 신체 안전, 기본권에 중대한 영향을 미칠 우려가 있는 영역을 열거하는 방식을 택했다. 보건의료, 에너지, 채용과 인사 평가, 대출 심사, 공공 서비스 결정 같은 분야가 대표적으로 거론된다.
고영향으로 분류되면 붙는 의무는 이렇다.
| 구분 | 사업자가 해야 하는 일 |
|---|---|
| 사전 고지 | 고영향 인공지능이 쓰인다는 사실을 이용자에게 미리 알린다 |
| 위험 관리 | 위험을 식별하고 줄이는 체계를 갖춘다 |
| 설명 자료 | 판단 근거를 설명할 수 있도록 자료를 확보하고 보관한다 |
어느 서비스가 여기 들어가는지는 사업자가 스스로 판단하기 어렵다. 그래서 소관 부처에 확인을 요청할 수 있는 절차가 함께 마련됐다.
생성형 결과물에는 표시가 붙는다
두 번째 축은 표시 의무다. 결과물이 사람의 창작물이 아니라 인공지능의 산출물이라는 사실을 알 수 있게 하라는 요구다.
표시의 강도는 두 단계로 갈린다. 일반적인 생성 결과물은 인공지능이 만들었다는 사실을 알 수 있는 방식이면 되고, 실제와 구분하기 어려운 가상의 결과물은 이용자가 명확히 인식할 수 있는 방식으로 표시해야 한다.
후자가 이른바 딥페이크 영상과 합성 음성이 놓이는 자리다.
"개인이 올린 게시물도 대상인가?"
법이 의무를 지운 상대는 사업자다. 다만 생성 도구를 제공하는 쪽이 표시를 붙이도록 설계하면, 그 도구로 만든 결과물에는 결과적으로 표시가 따라붙는다.
예컨대 경기 장면을 인공지능으로 새로 만들어 올린 영상이라면 표시가 필요한 쪽에 가깝다. 실제 중계 화면을 잘라 붙인 경기 하이라이트 영상을 모아 둔 곳의 자료와는 성격이 다르다.
표시 의무를 어기면 과태료가 부과된다. 언론에 공개된 시행령 초안 기준으로 상한은 3천만원이다.
이 법이 기대만큼 작동하지 않을 조건은 무엇인가
지금 시점에서 확실하지 않은 대목이 셋 있다.
첫째, 세부 기준이 시행령에 넘겨져 있다. 어느 서비스가 고영향인지, 표시를 어떤 형태로 붙여야 하는지가 하위 법령으로 정해진다. 개정 작업이 이어지는 이유다.
둘째, 국외 사업자에 대한 집행력이다. 국내대리인 지정 의무가 있지만, 실제로 시정 요구가 얼마나 이행될지는 사례가 쌓여야 확인된다.
셋째, 평가가 갈린다. 산업계는 기준이 모호하면 개발 단계에서 비용이 먼저 발생한다고 본다. 반대편에서는 의무 대상이 좁고 제재 수준이 낮아 이용자 보호에 미치지 못한다고 지적한다. 두 주장은 같은 조문을 근거로 삼는다.
법령 원문은 국가법령정보센터의 기본법 본문에서 볼 수 있고, 시행령 본문과 법제처 입법예고 페이지에서 개정 경과를 따라갈 수 있다.
자주 묻는 질문
Q. 회사에서 챗봇을 도입해 쓰는 것만으로도 의무가 생기나?
A. 이용사업자에 해당한다. 다만 쓰임이 고영향 영역인지에 따라 의무의 범위가 달라진다. 사내 문서 요약 정도라면 표시·고지 의무가 중심이다.
Q. 표시는 워터마크여야 하나?
A. 법은 표시 방식을 하나로 정하지 않았다. 화면에 보이는 문구, 파일에 담기는 정보 등 여러 방식이 논의됐고 구체적 요건은 하위 법령에서 정한다.
Q. 시행 전에 만들어 둔 서비스는 어떻게 되나?
A. 시행일 이후 제공되는 서비스가 기준이다. 이미 운영 중인 서비스라도 요건에 해당하면 의무가 적용된다.
🧩 남은 질문
👉 고영향 판단을 부처에 확인 요청했을 때 회신에 걸리는 시간
👉 국외 사업자에 대한 시정 요구가 실제로 집행된 첫 사례
👉 표시 방식이 서비스마다 제각각일 때 이용자가 이를 알아보는가
댓글
댓글 쓰기