AI가 만들었으면 표시하라…‘AI 기본법’ 시행이 바꾸는 것들

오늘(22일)부터 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」, 이른바 AI 기본법이 동법 시행령과 함께 효력을 갖는다. 2025년 1월 국회 본회의에서 여야 합의로 통과된 지 1년 만이다. 

유럽연합(EU)이 2024년 세계 첫 포괄적 AI 규제법을 제정했지만 고위험 AI 규정 시행 시점을 단계적으로 미루고 있는 것과 달리 한국은 고영향 AI를 포함한 규제 전반을 오늘 일괄 적용한다. 실질적으로 AI 규제를 전면 시행하는 국가 중 한국이 가장 이른 사례가 될 수 있다는 평가도 나온다.

법의 규제 대상은 인공지능을 기반으로 제품이나 서비스를 제공하는 사업자다. AI로 만든 이미지나 텍스트를 소비하거나 개인 계정에 올리는 일반 이용자는 규율 범위에 포함되지 않는다. 온라인에서 "AI로 만든 그림을 올리면 처벌받는다"는 내용이 퍼지고 있지만 이 법은 서비스를 제공하는 사업자를 향한 최소한의 운영 기준에 가깝다.

사업자에게 부과되는 의무는 크게 세 축으로 나뉜다. 첫 번째는 투명성 확보다. 챗봇, 이미지 생성기 등 생성형 AI를 활용해 외부로 유통되는 결과물에는 AI가 만든 것임을 이용자가 알 수 있도록 표시해야 한다. 다만 표시 방법은 콘텐츠 성격에 따라 달리 적용된다. 

딥페이크처럼 실제와 구분하기 어려운 결과물은 이용자가 명확히 인식할 수 있는 방식으로 고지해야 하지만, 웹툰·애니메이션 같은 일반 콘텐츠는 디지털 워터마크처럼 기계가 판독하는 방식도 허용된다. 

이와 별개로 서비스가 생성형 AI 또는 고영향 AI를 기반으로 운영된다는 사실 자체는 이용약관이나 서비스 화면 등을 통해 이용자에게 사전에 알려야 한다.

두 번째 축은 '고영향 AI'에 대한 별도 책무다. 고영향 AI란 사람의 생명·신체 안전 및 기본권에 직접적인 영향을 미칠 수 있는 10개 분야, 즉 에너지, 먹는물, 의료·보건의료, 원자력, 범죄 수사, 채용, 대출 심사, 교통, 공공서비스, 교육 영역에서 쓰이는 AI를 가리킨다. 

여기에 최종 의사결정 과정에 사람이 개입하지 않는지 여부도 판단 기준이 된다. 사람이 AI 결과를 검토한 뒤 직접 결정을 내리는 구조라면 고영향 AI에서 제외될 수 있다.

고영향 AI로 분류되면 위험 관리 방안 수립, 이용자에게 AI 작동 방식을 설명할 수 있는 체계 마련, 이용자 보호 방안 운영, 사람의 관리·감독 구조 구축, 관련 문서 작성 및 5년 보관 등의 의무가 따른다. 스스로 고영향 AI에 해당하는지 판단이 어려우면 과학기술정보통신부에 확인을 요청할 수 있고, 과기정통부는 30일 이내에 결과를 회신해야 한다.

세 번째는 초고성능 AI에 대한 안전성 확보 의무다. 이 규정은 모든 AI가 아니라 학습에 사용된 누적 연산량이 10의 26제곱 플롭스(FLOPs, 부동소수점 연산 횟수) 이상이고, 최첨단 기술이 적용됐으며 사람의 기본권에 광범위한 영향을 미칠 우려가 있는 경우를 모두 충족해야 적용된다. 

이 기준은 현재 상용화된 모델 중 실제 해당하는 사례가 거의 없는 수준이다. 향후 통제하기 어려운 규모의 AI가 등장할 가능성에 대비해 최소한의 안전장치를 미리 법제화했다는 성격이 강하다.

국내에 사무소가 없는 해외 사업자도 규율 대상에 포함된다. 해당 AI 서비스의 국내 일평균 이용자가 직전 3개월 기준 100만 명 이상이거나 과기정통부가 자료 제출을 요구한 경우에는 국내 대리인을 지정해야 한다. 오픈AI, 구글, 메타 같은 해외 빅테크 플랫폼도 이 조항의 적용 대상이 될 수 있다.

위반 시 최대 3000만 원의 과태료를 부과할 수 있지만, 과기정통부는 최소 1년 이상의 계도 기간을 두고 강제 집행보다 지원과 안내에 집중하겠다는 방침을 밝혔다. 사실조사도 인명 사고나 중대한 인권 침해처럼 예외적인 상황에서만 진행한다는 계획이다. 

업계, 특히 스타트업과 중소기업 사이에서는 어떤 서비스가 고영향 AI에 해당하는지 해석이 아직 불명확하고, 위험 관리 문서화나 내부 통제 체계를 단기간에 갖추는 데 부담이 크다는 지적이 나온다. 

과기정통부는 이에 대응해 'AI 기본법 지원데스크'를 열고 기업의 문의에 설명 자료와 맞춤형 컨설팅을 제공하며 상담 내용은 비공개로 관리한다고 밝혔다.

사업자 입장에서 당장 점검해야 할 사항은 세 가지로 정리된다. 서비스 화면과 이용약관에 AI 활용 사실을 어떻게 고지할지, 생성형 AI 결과물이 외부로 나갈 때 어떤 방식으로 표시할지, 그리고 채용·금융·의료처럼 민감한 분야에서 사람이 최종 결정을 맡는 구조와 기록 체계를 어떻게 갖출지다.

(썸네일 사진 출처: 법제처)