사단법인 착한법 만드는 사람들(상임대표 김현)은 18일 서울 서초동 변호사회관 5층 정의실에서 ‘인공지능(AI) 기본법의 한계와 개선 방향’을 주제로 세미나를 열었다.

이날 구태언(사법시험 34회) 법무법인 린 테크전문그룹 총괄변호사는 ‘인공지능 기본법: 한계와 개선 방향 분석’을 주제로 발표하면서, ‘고영향 AI’ 기준은 모호하고 제재수단은 실효적이지 않다고 지적했다.

인공지능기본법 제2조 4호는 고영향 AI를 “사람의 생명·신체의 안전과 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템”으로 정의하고 있다.

구 변호사는 “고영향 AI 정의에서 ‘중대한 영향’ 기준이 모호해 어느 수준 영향부터 규제 대상에 포함되는지가 불분명하다”며 “EU AI Act(유럽연합 인공지능법)에서 분류하는 ‘고위험’이라는 용어와 결국 같은 의미로 볼 수 있는데도 ‘좋은 영향’과 ‘나쁜 영향’을 모두 포함해 해석이 가능한 ‘고영향’이라는 법체계상 낯선 용어를 선택해 법 적용 혼란을 일으킨 것은 부적절한 입법”이라고 비판했다.

또 “고영향 AI 규율이 선언적 수준에 그치고 실효성 있는 제재 수단은 추후 하위규정에 맡기고 있다”며 “현 단계에서는 법규범의 실질적 효과를 담보하기 어렵다는 한계가 있다”고 지적했다.

그러면서 “EU AI Act가 사회적으로 용인될 수 없는 AI 관행을 명시적으로 금지하는 것과는 대조적”이라며 “시행령 단계에서 고영향 AI 판단 기준을 보다 명료히 정의하고, 금지·제한 규범도 보완해야 할 것”이라고 강조했다.

노성열 한국지식재산기자협회 회장도 “법에 열거된 에너지, 먹는 물 등 11가지 고영향 AI 예시가 도대체 어떤 근거로 나온 건지 의심스럽다”며 “예시에 따르면 ‘먹는 물’만 중요한 것이고, ‘먹는 식량’은 중요하지 않은 것이냐”고 지적했다.

그러면서 “기본법에 명시한 고영향 적용대상 경계를 확정하고 보완 규칙에 대한 하부 법령을 세심히 제정해야 한다”며 “특히 11가지 고영향 예시는 대표성이 부족한 데다 미래 위험 영역으로 떠오를 가능성이 있는 분야도 예비적으로 설정해 두지 않아 충분치 않다”고 주장했다.

이어 “인공지능기본법이 진흥과 규제라는 두 마리 토끼를 다 잡으려다가 놓치는 우를 범하지 않도록 사회적 합의와 연구를 토대로 보완을 위한 노력을 해나가야 할 것”이라고 강조했다.

이성엽 고려대 기술법정책센터장은 “정의 규정은 개별법에 따라 고영향 여부를 1차적으로 정한다”며 “고영향 여부 확인과 기본권 영향 평가를 별도로 하는 것은 3중 규제가 돼 버린다”고 비판했다.

또 “안전성과 신뢰성 검·인증과 안전성·신뢰성 확보를 위한 조치 의무도 중복 검토될 문제가 있다”며 “사업자가 AI를 출시할 때마다 사실상 고영향 여부를 확인받을 수밖에 없어 기업 입장에서는 혁신이 곤란해질 수 있다”고 우려했다.

구태언 변호사는 “기본법이 시행되면 고영향 AI와 생성형 AI를 취급하는 기업들은 AI 사용을 이용자에게 사전 고지하고 워터마크 표시를 해야 하는 등 새로운 법적 의무를 부담하게 된다”면서 “규제 범위가 넓어질 경우 관련 제품과 서비스를 공급하는 기업들은 과도한 규제를 받아 사업 확장이나 계획 중인 연구·개발 방향에 걸림돌이 될 수 있다”고 지적했다.

그러면서 “한국 기업들이 국내 규제로 인한 추가 부담을 지게 되면 글로벌 시장에서 경쟁력이 떨어지고 규제 불균형 문제 역시 생길 수 있다”며 “법이 혁신의 걸림돌이 아니라 건강한 성장을 위한 가이드라인으로 기능하기 위해 정부가 업계 의견을 충분히 수렴하고 탄력적 집행을 할 필요가 있다”고 조언했다.