AI 기본법 시행령 입법예고, 내년부터 AI생성물 고지 의무화

뉴스 1 : https://n.news.naver.com/mnews/article/008/0005277034

뉴스 2 : https://www.asiae.co.kr/article/2025111210104715645

뉴스 3 : https://www.etnews.com/20251111000257

내용은

AI 생성물에, 눈에 보이는 워터마크 등 고지가 의무화됩니다.

뉴스 1번 내용은 AI 생성물 “모든 컨텐츠” 라고 되어있으나

내년 1월부턴 생성형 AI(인공지능)로 만든 모든 콘텐츠에 눈에 보이는 워터마크를 넣어야 한다. 특히 실제 인물·음성을 합성한 딥페이크 영상엔 처음부터 끝까지 AI 생성물 표시를 해야 한다. 앞서 과학기술정보통신부는 '비가시적 워터마크'도 허용할 방침이었으나, 이용자 보호를 강화해야 한다는 국회 지적에 정책을 바꿨다.

12일 과기정통부는 이같은 내용의 AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) 시행령 제정안을 마련해 다음달 22일까지 40일간 입법 예고한다고 밝혔다.

좀더 찾아보니 모든까진 아니고, “고영향 AI” 라는 개념이 도입이 되어, 고영향 AI 사용 컨텐츠가 그 대상이 되는 것 같습니다.

앞으로 사업자가 생성형 인공지능(AI)이나 고영향AI를 활용해 제품이나 서비스를 제공할 경우 AI가 개입된 사실을 사전에 이용자에게 고지해야 한다. 딥페이크처럼 실제와 구분하기 어려운 결과물에는 "AI가 생성한 콘텐츠"임을 명확히 표시해야 하며, 이용자의 연령이나 신체적 조건 등도 함께 고려하도록 했다.

문제는, 이 “고영향 AI”가, 사진과 동영상에 국한된다는 얘기가 없습니다.

고영향AI는 생명·안전·기본권에 중대한 영향을 미칠 수 있는 AI 시스템으로, 금융·의료·교육·고용 등 사회 전반에 쓰이는 기술을 말한다. 정부는 사용 영역과 위험의 중대성, 기본권 침해 가능성 등을 종합해 고영향AI 여부를 판단하며, 사업자가 요청하면 30일 내 확인 결과를 통보한다.

이를테면, 저 “고영향”에 해당하는 프로젝트이고, 웹 프로젝트인데,

그중 어떤 개발자가 AI를 코딩에 사용 (Gemini, Copilot, Claude) 하여 개발을 했다 적발되어

이 때문에, 웹사이트 내 눈에 보이는 곳에 워터마크를 의무적으로 달아야 하는 불상사가 생길 수 있겠다 라는 겁니다.

물론 이건 뇌피셜이고, 아직 이걸 언급하는 사람이 아무도 없어서, 가능성이 얼마나 될 지는 알 수 없습니다.

참고로, “눈에 보여야” 합니다.

비가시적 워터마크를 쓰더라도, 1회 이상은 가시적으로 고지를 해야 합니다.

내년 1월부턴 AI사업자는 생성형 AI를 이용한 제품·서비스라는 사실을 표시해야 한다. 이때 사람 눈에 보이진 않지만, 기계로 판독 가능한 비가시적 워터마크도 허용키로 했다. 그러나 지난 국정감사에서 "누가 봐도 AI 생성물임을 알 수 있어야 한다"는 비판이 잇따르자 비가시적인 워터마크를 넣는 경우에도 AI 생성물임을 1회 이상 고지하도록 했다. 딥페이크 영상은 처음부터 끝까지 AI 생성물임을 표시해야 한다. 업계에선 워터마크는 쉽게 제거·변조 가능한 데다, 콘텐츠 품질 저하 등을 우려해 반대하고 있어 향후 갈등이 예상된다.

11일 업계·국회 등에 따르면 과학기술정보통신부는 현재 AI기본법 시행령상 AI 생성물 표시 의무 강화를 검토하고 있다. 시행령 초안의 기계와 시스템적으로 AI 생성물을 인지할 수 있는 표시 의무 적용에서 나아가 사람도 AI 생성물을 인지할 수 있도록 표시 의무를 부여하는 방향이 유력하다.

더불어 이 법 꽤 강력하게 밀어붙일 것 같습니다.

최민희 더불어민주당 의원(과방위원장)은 “AI 투명성 확보 차원에서 기계가 아닌 사람이 보기에도 이것은 AI 생성물이라고 알 수 있게 해야 한다”며 “기업이 제기하는 규제 완화 필요성에는 공감하지만 안되는 것은 안되는 것”이라고 강조했다.

아무쪼록 신경써서 봐야 할 뉴스인 듯?