PDF Download
PubReader
Export Citation
Share Facebook
Share Twitter
Cited by 0 Article
Metrics (View:17)
Ⅰ. 서론
인공지능에 관한 형사법 논의는 오랫동안 “AI에게 형사책임을 물을 수 있는가”라는 질문을 중심으로 전개되어 왔다. 그러나 AI의 형법상 주체성에 관해서는 현 단계에서 행위능력·책임능력 및 형벌수용 가능성을 부정하거나 유보하는 견해와, 장래 독자적 법인격 또는 형법주체성의 부여 가능성을 검토하는 견해가 병존한다. 본고는 그 장래의 가능성 자체보다 현행법상 AI를 개발·제공·이용하는 사람과 조직의 통제책임에 초점을 둔다.1)
｢인공지능 발전과 신뢰 기반 조성 등에 관한 기본법｣(이하 ‘AI기본법’)은 2025년 1월 21일 공포되어 2026년 1월 22일 시행되었고, 일부개정을 거쳐 현재는 2026년 7월 21일 시행 법률 제21311호가 적용된다. 이 법은 AI 자체를 처벌 대상으로 삼지 않고, AI를 개발·제공·이용하는 인공지능사업자(이하 ‘AI사업자’)에게 투명성, 고지, 위험관리, 안전성 확보 등 행정법상 의무를 부과하는 방식을 택한다. 이 선택은 AI를 의제적 행위자로 구성하기보다, AI 시스템을 개발·제공·이용하는 조직과 사람에게 규제의 초점을 맞춘다는 점에서 현실적이다.2)
한편 한국 AI기본법은 유럽연합 인공지능법에 이어 세계 두 번째로 제정된 포괄적 인공지능 법제로 소개되어 왔다.3) 필자도 2025년 11월 대만 국제학술대회에서 같은 취지로 그 의의를 설명한 바 있고,4) 이 세션에서는 한국·미국·프랑스·일본·싱가포르 및 대만 여섯 나라의 시각에서 각국 AI 법제와 거버넌스가 비교·검토되었다.5)
대만의 현직 입법자와 법무부장(관)까지 참석한 이 국제 컨퍼런스가 개최된 직후에 대만의 ｢人工智慧基本法｣이 2025년 12월 23일 입법원에서 통과되고 2026년 1월 14일 공포·시행되어, 한국 AI기본법의 최초 시행일인 2026년 1월 22일보다 8일 앞서 시행되었다.6) 대만법은 한국법보다 늦게 제정되었으나 시행유예기간을 두지 않아 시행일이 앞서게 된 것이다.
그럼에도 불구하고, 더 중요한 차이는 규범의 밀도라고 생각한다. 대만 ｢人工智慧基本法｣은 전문 20개조의 원칙법으로서 민간사업자에 대한 구체적 운영의무를 상세히 규정하기보다 관계 행정기관의 후속 부문별 규율에 상당 부분을 맡기고 있는 반면, 한국 AI기본법은 인공지능사업자에게 투명성·안전성·고영향 인공지능 관련 책무를 직접 부과한다.7) 본고는 이러한 규범밀도의 차이가 한국 AI기본법상 사업자 의무를 형사상 주의의무와 감독의무를 구체화하는 외부적 판단자료로 활용할 가능성을 높인다고 본다.
그러나 AI기본법이 AI사업자의 의무위반을 범죄로 구성하지 않았다고 해서 형사법적 의미가 없는 것은 아니다. 형사법은 구성요건 문언만으로 주의의무와 보증인지위를 언제나 완결적으로 정하지 않는다. 예컨대 산업안전과 제품안전 영역에서는 법령상 안전조치·검사의무가 업무상 주의의무의 내용과 결합하여 평가되어 왔다.8) 본고는 AI기본법상 사업자 의무도 그 자체가 형벌구성요건은 아니지만, 구체적 사건에서 주의의무와 보증인지위를 판단하는 보조적 외부규범으로 작동할 수 있다고 본다.9)
따라서 본고에서의 질문은 AI를 형사책임의 독립 주체로 인정할 것인가가 아니다. 본고는 AI기본법상 사업자 의무가 AI 관련 사고와 범죄에서 형사법상 책임귀속 구조를 어떻게 변화시키는가를 묻는다. 특히 AI사업자 의무가 과실범의 주의의무, 부작위범의 보증인지위, 법인의 조직책임, 인간-AI 협업범죄의 책임귀속, 피해자 구제의 구조에서 어떠한 의미를 갖는지 검토한다.
이 점에서 현행 AI기본법 체계에서 중요한 것은 AI사업자의 의무위반을 곧바로 독자적 형사범죄로 구성할 것인가의 문제만이 아니다. 오히려 현행법상 그 의무위반이 주로 행정법적 규제의 대상에 머무른다고 하더라도, 그러한 의무위반이 AI 시스템 이용 과정에서 발생한 범죄에 대하여 AI사업자의 과실범 성립 여부, 부작위범의 보증인지위, 고의 방조책임, 조직책임 판단에 어떠한 규범적 의미를 갖는지가 핵심 쟁점이 된다.
설명의 편의를 위하여 본고는 종래의 AI 형사책임 논의를 세 방향으로 재분류한다. 첫째, AI 자체의 행위주체성 또는 책임능력 인정 가능성을 논하는 접근이다. 둘째, AI가 야기한 결과를 개발자, 제조자, 이용자 등 자연인에게 귀속시키는 접근이다. 셋째, 형사책임보다는 행정규제나 민사책임, 보험제도, 제품책임을 통하여 피해자 구제와 위험관리를 도모하려는 접근이다.10)
본고는 위 세 방향 중 둘째와 셋째의 접점에 선다. AI 자체의 형사책임을 부정하거나 유보하는 결론은 이미 상당 부분 공유되고 있다. 문제는 그 다음이다. AI를 처벌하지 않는다면, 형사법은 AI 시스템을 둘러싼 조직적 위험창출을 어떻게 다루어야 하는가. AI사업자가 법령상 위험관리의무를 부담한다면, 그 의무 위반은 과실범에서 어떤 의미를 갖는가. 법인 내부의 의사결정이 알고리즘 설계, 데이터 선택, 모델 배포, 사후 모니터링으로 분산되어 있을 때, 기존의 동일시이론이나 자연인 중심 책임귀속 모델은 여전히 충분한가?
본고에서는 종래 분리되어 논의되어 온 두 흐름을 하나의 축으로 결합하고자 한다. 하나는 AI기본법의 입법구조와 사업자 의무의 층위를 분석하는 흐름이고, 다른 하나는 AI 형사책임론과 법인 형사책임론에서 책임주체 및 귀속구조를 검토하는 흐름이다. 전자는 규제구조와 의무의 성질 분석에 강점이 있고, 후자는 고의·과실·보증인지위·조직책임의 이론에 강점이 있다. 본고는 두 논의를 단순히 병렬시키지 않고, AI사업자 의무가 형사법상 책임귀속의 판단기준으로 작동하는 과정을 중심축으로 재구성한다.11)
이러한 재구성의 장점은 세 가지이다. 첫째, AI기본법을 단순한 산업진흥법 또는 행정규제법으로만 보지 않고 형사법상 주의의무의 외부규범으로 읽을 수 있다. 둘째, AI 형사책임론을 AI의 책임능력이라는 추상적 문제에서 AI사업자의 위험관리 실패라는 실천적 문제로 이동시킬 수 있다. 셋째, 피해자 구제를 형사처벌의 부수효과가 아니라 정보비대칭·기록보존·설명가능성의 문제와 연결할 수 있다.
Ⅱ. AI기본법의 입법적 선택과 AI사업자 의무
AI기본법의 가장 중요한 특징은 형사처벌 중심의 규율을 선택하지 않았다는 점이다. 이 법은 AI 자체를 형벌의 대상으로 삼지 않고, AI를 개발·제공·이용하는 사업자에게 사전적·절차적 의무를 부과한다. 이는 AI 시스템이 야기할 수 있는 위험을 사후 처벌보다 사전 통제와 관리의 영역에서 다루려는 입법적 선택으로 이해할 수 있다. 물론 이 법에 벌칙조항이 전혀 없는 것은 아니다. 제42조는 제7조 제9항을 위반하여 직무상 알게 된 비밀을 타인에게 누설하거나 직무상 목적 외의 용도로 사용한 자를 3년 이하의 징역 또는 3천만 원 이하의 벌금에 처하도록 규정한다. 그러나 이는 국가인공지능전략위원회의 심의·의결 과정에 관여한 자의 비밀유지의무 위반을 처벌하는 조항일 뿐이고, AI사업자의 투명성·안전성·위험관리 의무 위반 그 자체를 범죄로 구성한 규정은 존재하지 않는다. 본고에서 ‘AI기본법이 형사처벌을 선택하지 않았다’고 할 때의 의미는 이러한 한도에서의 것이다.12)
이 선택은 책임주의의 관점에서 일단 타당하다. 현 단계의 AI를 형법상 책임 있는 인격적 주체로 보기 어렵고, 자유형·응보·교화 등 형벌의 전통적 기능을 AI에 그대로 적용하기도 어렵다. 현재의 AI는 이러한 의미에서 형벌책임의 주체로 인정되기 어렵다.13)
그러나 사업자 의무위반을 범죄화하지 않았다는 사실만으로 법이 책임 문제를 해결한 것은 아니다. AI기본법은 AI사업자의 위험관리의무 위반에 대한 형사처벌을 중심적 규율수단으로 삼지 않았을 뿐, AI 시스템의 위험을 누가 예견하고 통제해야 하는가라는 문제를 제거하지 않는다. 오히려 법이 AI사업자를 의무주체로 특정했다는 점은, 향후 AI 사고에서 사업자의 예견가능성·회피가능성·통제가능성을 판단할 때 중요한 규범적 출발점이 된다.
따라서 AI기본법이 사업자 의무위반을 범죄화하지 않은 것은 형사법의 후퇴를 의미하지 않는다. 그것은 AI사업자 의무위반을 곧바로 범죄화하지 않으면서도, 그 의무위반이 구체적 법익침해와 결합한 경우 형사상 주의의무 위반, 감독의무 위반, 방조책임 또는 조직책임 판단에서 어떠한 의미를 갖는지를 묻게 만드는 구조이다.
본고는 AI기본법을 둘러싼 책임구조를 세 층위로 나누어 본다. 첫째는 행정규제상 책임이다. 이는 법령상 의무위반에 대하여 행정청이 부과하는 제재를 말한다. 과태료 대상은 사전고지의무 위반, 국내대리인 미지정, 중지명령·시정명령 불이행의 세 경우에 한정된다(제31조 제1항, 제36조 제1항, 제40조 제3항 및 제43조 제1항). 표시의무나 안전성 확보 의무 위반은 시정명령을 거치지 않으면 그 자체로 직접 제재되지 않는다. 둘째는 형사법상 책임이다. 행정의무 위반 자체가 곧바로 범죄가 되는 것이 아니라, 그 위반이 사망·상해·재산상 손해·명예훼손·성적 자기결정권 침해 등 개별 법익침해와 결합할 때 문제된다. 셋째는 민사적 피해구제이다. 이는 손해배상, 결함책임, 설명의무 위반, 정보제공의무 위반, 보험 또는 기금에 의한 손해분산을 포함한다.
이 세 층위는 서로 대체관계가 아니라 보완관계에 있다. 행정제재가 있다고 해서 형사책임이 당연히 배제되는 것은 아니고, 형사책임이 논의된다고 해서 피해자 구제가 자동으로 이루어지는 것도 아니다. 특히 과태료는 국가에 귀속되는 금전제재이지 피해자에게 직접 배상되는 돈이 아니다. 따라서 AI기본법 이후의 책임논의는 “처벌할 것인가 말 것인가”라는 이분법을 넘어서 행정규제·형사책임·민사구제를 어떻게 연결할 것인가를 물어야 한다.14)
이러한 삼분 구조를 전제로 할 때, AI기본법은 사업자 의무에 관한 한 형벌법규가 아니지만 형사법적으로 무의미하지 않다. 법령상 의무는 형사법원이 사후적으로 주의의무의 내용을 판단할 때 참고할 수 있는 최소한의 행위기준을 제공한다. 반대로 형사법은 AI기본법상 의무 위반이 중대한 법익침해로 현실화된 경우, 단순한 행정위반을 넘어 책임비난 가능성이 있는지 심사한다.
AI기본법은 강한 명령적 규범도 아니고 단순한 권고적 규범도 아니다. 산업진흥과 신뢰 확보를 동시에 내세우면서 법률상 구속적 의무·행정제재와 노력의무·자율규제·가이드라인을 혼합한다. 본고는 이러한 혼합적 규율구조를 편의상 ‘준연성규범(semi-soft norm)’이라 부른다.
이러한 혼합적 구조는 장점과 한계를 동시에 갖는다. 장점은 빠르게 변화하는 AI 기술에 대하여 과도한 형사처벌을 앞세우지 않고, 사업자의 자율적 위험관리와 산업 발전을 병행할 수 있다는 점이다. 한계는 의무의 강도와 책임배분이 불명확할 경우, 실제 사고가 발생했을 때 피해자는 누구에게 어떤 근거로 책임을 물어야 하는지 알기 어렵다는 점이다.15)
따라서 AI기본법의 해석론은 단순히 조문을 나열하는 데 그쳐서는 안 된다. 어느 의무가 외형적 이행 여부를 중심으로 판단되는지, 어느 의무가 위험의 예견·통제·회피 가능성에 따라 실질적 주의의무로 구체화되는지를 구분해야 한다. 이 구분이 본고가 말하는 형식이행형 의무와 위험관리형 주의의무의 출발점이다.16)
AI기본법은 AI사업자를 하나의 단일한 주체로만 보지 않고, 개발·제공·이용의 단계에 따라 다양한 지위를 전제한다. 개발사업자는 모델의 설계, 학습데이터 선택, 알고리즘 구조, 사전 검증, 배포 기준에 관여한다. 이용사업자는 실제 서비스 환경에서 AI를 적용하고, 이용자에게 고지하며, 사람의 감독 절차를 운영한다. 플랫폼 또는 서비스 제공자는 모델과 이용자를 연결하면서 접근제한, 이용조건, 오남용 방지, 사후 모니터링을 수행한다.
다만 이하에서 말하는 개발사업자·제공사업자·이용사업자는 AI기본법상 법정 개념을 엄밀히 재현한 것이 아니라, AI 시스템의 개발·제공·운영 단계별 책임분배를 설명하기 위한 기능적 구분이다.
이러한 다층 구조는 책임귀속을 어렵게 만든다. AI 사고가 발생했을 때 개발자가 학습데이터 편향을 방치했는지, 이용사업자가 부적절한 환경에 모델을 적용했는지, 플랫폼이 범죄적 이용을 반복적으로 방치했는지, 최종 이용자가 경고를 무시하고 범죄에 활용했는지를 구분해야 한다. 하나의 결과가 여러 단계의 작은 의무위반이 결합되어 발생할 수 있기 때문이다.
법인 조직책임론의 일반적 문제를 AI 개발·운영 구조에 적용하면, 특정 자연인의 고의·과실만으로 책임을 구성하기 어려운 상황이 더욱 뚜렷하게 나타난다. AI 시스템의 개발·운영은 데이터 수집팀, 모델 설계팀, 제품화 부서, 준법감시 부서, 영업부서, 외주업체, 클라우드 인프라 제공자 등이 결합하는 분산적 의사결정에 의존하기 때문이다. 이러한 경우 특정 자연인 한 명의 심리상태만으로 전체 위험을 설명하기 어렵다.17)
AI기본법상 고영향 인공지능은 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템으로서 법 제2조 제4호 각 목에서 정한 영역에 활용되는 것을 말한다. 의료·교통·채용·금융·교육·공공서비스 등이 주요 적용영역으로 논의되며, 형사사법과 관련해서는 법이 범죄 수사나 체포 업무를 위한 생체인식정보의 분석·활용을 명시하고 있다. 이러한 영역에서는 단순한 오류도 개인의 삶에 중대한 결과를 초래할 수 있다.
한편 AI기본법은 ‘고성능 AI’를 별도의 법정 개념으로 정의하지 않는다. 다만 제32조는 시행령상 세 요건, 즉 학습에 사용된 누적 연산량, 최첨단 인공지능기술의 적용, 사람의 생명·신체의 안전 및 기본권에 대한 광범위하고 중대한 위험 가능성을 모두 충족하는 인공지능시스템에 대하여 인공지능 수명주기 전반의 위험을 식별·평가·완화하고 안전사고를 모니터링·대응하기 위한 위험관리체계 구축 등의 안전성 확보 의무를 부과한다.18)
형사법상 중요한 것은 명칭이 아니라 위험의 구체성이다. AI가 고영향 인공지능에 해당하거나 제32조상 안전성 확보 의무의 대상이 되었다는 사실은 사업자가 더 높은 수준의 위험관리와 사후검증을 예상할 수 있었다는 간접사실이 된다. 그러나 그러한 분류만으로 곧바로 형사책임이 인정되는 것은 아니다. 결과발생과 의무위반 사이의 규범적 관련성, 예견가능성, 회피가능성, 통제가능성이 별도로 검토되어야 한다.
개별 의무의 검토에 앞서 그 조문상 위치를 정리해 둘 필요가 있다. AI기본법은 제31조에서 투명성 확보 의무를, 제32조에서 안전성 확보 의무를, 제33조에서 고영향 인공지능 해당 여부의 사전검토와 확인을, 제34조에서 고영향 인공지능과 관련한 사업자의 책무를, 제35조에서 고영향 인공지능에 대한 영향평가를, 제36조에서 국외 사업자의 국내대리인 지정을 각각 규정한다. 이 가운데 형사법상 주의의무·감독의무의 판단에 가장 직접적으로 연결되는 것은 제34조 제1항이다. 같은 항은 ① 위험관리방안의 수립·운영, ② 기술적으로 가능한 범위에서 인공지능이 도출한 최종결과와 그 도출에 활용된 주요 기준 및 학습용데이터의 개요 등에 관한 설명 방안의 수립·시행, ③ 이용자 보호방안의 수립·운영, ④ 고영향 인공지능에 대한 사람의 관리·감독, ⑤ 안전성·신뢰성 확보를 위한 조치의 내용을 확인할 수 있는 문서의 작성과 보관, ⑥ 그 밖에 고영향 인공지능의 안전성·신뢰성 확보를 위하여 국가인공지능전략위원회에서 심의·의결된 사항을 요구한다. 특히 제4호는 법률이 명시적으로 ‘사람에 의한 관리·감독’을 요구한다는 점에서, 후술하는 감독의무 위반과 보증인지위 판단의 실정법적 출발점이 된다.
AI기본법 제31조의 투명성 확보 의무는 고영향 인공지능 또는 생성형 인공지능에 기반한 제품·서비스라는 사실을 사전에 고지하고, 생성형 인공지능의 결과물 및 현실과 구별하기 어려운 생성물에는 그 생성 사실을 표시·고지하도록 한다. 이러한 고지·표시는 이용자가 AI의 개입을 인식하고 자기결정을 형성하며, 피해자가 사후 권리행사의 출발점을 확보하기 위한 절차적 전제가 된다.
위험관리 의무(제32조 제1항 제1호, 제34조 제1항 제1호)는 사전적 통제의 핵심이다. 고영향 AI가 의료진단, 교통통제, 채용평가, 금융심사, 교육배치 등에서 사용되는 경우, 사업자는 모델의 정확도와 편향성, 오류 가능성, 사용환경, 인간 감독절차, 오류 보고체계를 점검해야 한다. 이러한 절차가 존재하지 않거나 문서상으로만 존재했다면, 사고 발생 후 조직책임 판단에서 불리한 사정으로 평가될 수 있다.
제34조 제1항 제2호의 설명 방안 수립·시행과 제5호의 문서 작성·보관은 피해자 구제와 밀접하게 연결된다. 피해자는 AI가 자신에게 불리한 결정을 내렸다는 사실은 알 수 있어도, 그 판단이 어떤 데이터와 주요 기준, 어떤 위험관리 실패에서 비롯되었는지 알기 어렵다. 사업자가 관련 기록을 보유하지 않거나 사후 검증이 불가능한 방식으로 관리한다면 피해자는 과실과 인과관계를 주장·입증하기 어렵다.19)
다만 현행 AI기본법이 피해자에게 일반적 설명청구권이나 손해배상상 입증책임의 전환을 직접 부여한다고 보기는 어렵다. 설명 방안과 문서 작성·보관 의무의 형사법적 의미는 우선 주의의무 이행 여부와 조직적 위험관리 실패를 판단하는 간접자료로 이해되어야 하며, 피해자 구제와의 직접 연결은 별도의 입법적 과제로 남는다.
제35조의 영향평가는 고영향 인공지능을 이용한 제품 또는 서비스를 제공하는 사업자가 사전에 사람의 기본권에 미치는 영향을 평가하기 위하여 노력하도록 하는 의무이다. 현행법은 영향평가를 실시하는 경우 제품 또는 서비스의 성격을 고려하여 인공지능취약계층의 특성이 반영될 수 있도록 요구한다. 따라서 영향평가의 불실시만으로 곧바로 형사상 주의의무 위반을 인정할 수는 없다. 다만 고위험 이용환경과 구체적 위험정보가 존재하였는데도 영향평가를 전혀 검토하지 않은 사정은 예견가능성과 조직적 위험관리의 적정성을 판단하는 간접자료가 될 수 있다.
다음 표는 AI사업자 의무를 형사법상 책임판단의 관점에서 재정리한 것이다.
AI기본법 제43조 제1항은 3천만 원 이하의 과태료 부과대상을 사전고지의무 위반, 국내대리인 미지정, 중지명령·시정명령 불이행의 세 경우로 한정한다.20) 과학기술정보통신부는 법 시행 초기 최소 1년 이상의 계도기간을 운영하고, 그 기간에는 사실조사와 과태료 부과를 원칙적으로 유예하되 인명사고나 인권침해 등 중대한 사회적 문제가 발생한 경우에는 예외를 두는 집행방침을 밝혔다.21) 계도기간은 법률상 의무의 효력을 정지하는 규정이 아니라 행정상 집행방침이다. 과태료 체계가 존재하더라도 사망·상해·재산상 손해 등 구체적 법익침해가 발생하면 개별 형사구성요건의 적용 가능성은 별도로 검토되어야 한다. 본고는 이처럼 제한된 행정제재 구조가 중대한 법익침해 국면의 형사법적 평가를 대체하지 못한다고 본다.
본고는 AI기본법상 의무의 이행 여부가 형사상 주의의무의 존부를 자동으로 결정하지는 않지만, 구체적 사건에서 예견가능성·회피가능성·통제가능성과 조직적 위험관리의 적정성을 판단하는 간접자료가 될 수 있다고 본다. 따라서 사업자가 기본법상 의무를 이행하였다는 사정은 상당한 주의의무 이행을 뒷받침할 수 있고, 최소한의 위험관리·고지·기록의무조차 이행하지 않은 사정은 주의의무 또는 감독의무 위반을 판단하는 불리한 간접사실이 될 수 있다.
이 점에서 AI기본법과 형법의 관계는 대체관계가 아니라 보완관계이다. AI기본법은 사전적 위험관리의 틀을 제공하고, 형법은 그 위험관리의 실패가 중대한 법익침해로 현실화된 경우 책임귀속의 최종 판단을 담당한다.
AI기본법상 사업자 의무를 모두 같은 성질의 의무로 취급하면 책임 판단이 거칠어진다. 어떤 의무는 이행 여부가 비교적 형식적으로 판단된다. 예컨대 특정 산출물에 AI 생성물 표시를 했는지, 일정한 고지를 했는지, 서류를 제출했는지는 비교적 명확하게 확인할 수 있다. 이러한 의무를 본고에서는 형식이행형 의무(formal-compliance obligation)라 부르기로 한다.
반면 어떤 의무는 단순히 “했는지 안 했는지”로 판단하기 어렵다. 위험평가를 충분히 했는지, 검증절차가 합리적이었는지, 인간 감독체계가 실효적으로 작동했는지, 사후 모니터링이 충분했는지는 구체적 위험, 기술수준, 사업자의 지배가능성, 피해자의 의존성에 따라 달라진다. 이러한 의무를 본고에서는 위험관리형 주의의무(risk-based duty of care)라 부른다. 이 명칭은 본고의 분석용어이고, 그 실질은 위험도에 따라 주의의무의 내용을 구체화하여야 한다는 문제의식과 연결된다.
이 구별은 단순한 개념 분류가 아니다. 형식이행형 의무의 위반은 행정제재 판단에 특히 적합하고, 형사법에서는 예견가능성 또는 고지의무 위반을 뒷받침하는 간접사실로 기능한다. 위험관리형 주의의무의 위반은 형사상 주의의무, 부작위범의 보증인지위, 법인 조직책임 판단에서 더욱 직접적인 의미를 갖는다.
형식이행형 의무는 법령이 일정한 행위를 외형적으로 요구하고, 그 이행 여부가 비교적 명확하게 판정되는 의무이다. 표시의무, 고지의무, 자료제출의무, 국내대리인 지정의무, 일정한 절차의 개시의무 등이 여기에 속한다. 이 의무들은 행정법상 집행가능성이 높고, 사업자에게 예측가능한 준법기준을 제공한다.
그러나 형식이행형 의무가 형사법과 무관한 것은 아니다. 예컨대 AI 생성물 또는 딥페이크가 선거홍보물, 성적 허위영상, 유명인 사칭 광고 등에 이용되고도 제31조상 표시·고지가 이루어지지 않았다면, 그 위반은 이용자와 피해자의 착오 및 자기결정 침해를 판단하는 자료가 될 수 있다.22) 다만 표시·고지의무 위반만으로 형사책임이 성립하는 것은 아니며, 표시가 있었다면 구체적 결과를 방지할 수 있었는지와 위반된 의무의 보호목적을 별도로 심사해야 한다.
위험관리형 주의의무는 법령상 문언만으로 구체적 이행수준이 완전히 정해지지 않고, 위험의 성격과 사업자의 통제가능성에 따라 내용이 구체화되는 의무이다. 위험관리체계 구축, 사전 검증, 편향성 점검, 인간 감독, 사후 모니터링, 오류 보고와 수정, 기록보존 등이 대표적이다. 이 목록은 대체로 제32조 제1항 각 호와 제34조 제1항 각 호가 요구하는 조치에 대응한다. 법문이 요구하는 조치의 ‘내용’은 특정되어 있으나 그 ‘수준’은 특정되어 있지 않다는 점에 위험관리형 주의의무의 특질이 있다.
위험관리형 주의의무의 핵심은 “합리적으로 기대 가능한 조치”이다. 형사법은 완전한 무오류 AI를 요구할 수 없다. 본고의 관점에서 사업자가 고영향 AI를 배포하면서 합리적으로 요구되는 사전검증을 하지 않았거나, 반복적 오류를 구체적으로 인식하고도 수정하지 않았거나, 특정 범죄유형의 이용을 인식하면서 가능한 차단조치를 취하지 않았다면 주의의무 위반 여부가 문제될 수 있다.23)
위험관리형 주의의무는 결과책임으로 흐르지 않게 하기 위해 엄격하게 다루어야 한다. 사고가 발생했다는 이유만으로 곧바로 의무위반이 인정되어서는 안 된다. 의무위반이 인정되기 위해서는 구체적 위험의 예견가능성, 조치의 회피가능성, 사업자의 통제가능성, 의무가 방지하려던 위험과 실제 결과 사이의 규범적 관련성이 함께 확인되어야 한다.
AI 시스템에는 여러 의무주체가 동시에 관여한다. 개발사업자는 모델 구조와 학습데이터에 관한 1차적 정보를 보유한다. 이용사업자는 실제 적용환경과 사용자 고지, 인간 감독절차를 지배한다. 플랫폼은 접근권한, 이용조건, 오남용 탐지, 계정제재, API 사용 제한을 통제한다. 최종 이용자는 AI 산출물을 범죄 또는 위법행위에 활용할 수 있다.
따라서 책임분배는 단순히 “개발자 책임” 또는 “이용자 책임”으로 나눌 수 없다. 위험이 모델 설계 단계에서 비롯되었는지, 적용환경의 부적절성에서 비롯되었는지, 사후 모니터링 실패에서 비롯되었는지, 최종 이용자의 범죄적 의도에서 비롯되었는지에 따라 의무의 중심이 달라진다.
이 지점에서 ‘의무의 강약’24)이라는 사고가 유용하다. 같은 AI사업자라도 위험에 대한 정보, 지배, 통제, 이익, 피해자 의존성을 더 많이 가진 주체에게 더 강한 의무가 인정된다. 반대로 범용기술을 일반적으로 제공했을 뿐 구체적 범죄이용 가능성을 알기 어려웠던 주체에게 형사책임을 쉽게 인정해서는 안 된다.
의무의 강약이라는 관점은 AI기본법의 차등화된 의무구조와 접점을 갖는다. 이 법은 모든 AI사업자에게 동일한 의무를 부과하지 않는다. 고영향 인공지능을 제공하는 사업자에게는 제34조의 가중된 책무가, 누적 연산량·최첨단 기술의 적용·광범위하고 중대한 위험 가능성이라는 시행령상 요건을 모두 충족하는 인공지능시스템의 사업자에게는 제32조의 안전성 확보 의무가 각각 추가된다. 즉 위험에 대한 정보와 지배를 더 많이 가진 주체일수록 더 강한 의무를 지도록 설계되어 있다. 이는 부작위 경합 상황에서 의무의 강약에 따라 정범성과 공범성이 분배된다는 종래의 논의와 같은 방향을 향한다.25) 형사법적으로도 제34조 제1항 제4호에 따라 사람에 의한 관리·감독의무를 부담하는 고영향 AI 사업자와, 그러한 의무를 부담하지 않는 범용 모델 제공자를 동일한 강도의 보증인으로 취급할 수는 없다. 의무의 강약은 여기서 보증인지위의 인정 여부만이 아니라 그 지위의 밀도, 나아가 정범과 공범의 분배를 결정하는 기제로 작동한다.
Ⅲ. AI사업자 의무의 형사법적 의미와 책임귀속
과실범에서 주의의무는 구성요건적 결과를 예견하고 회피할 수 있었음에도 요구되는 주의를 다하지 않은 경우에 인정된다. 문제는 AI 시스템처럼 기술적으로 복잡하고 불투명한 영역에서 요구되는 주의의무의 내용을 어떻게 구체화할 것인가이다. 순수한 사후적 관점에서 “결과가 발생했으므로 주의의무 위반이 있다”고 판단하면 결과책임에 가까워질 위험이 있다. 반대로 사업자의 기술적 재량을 과도하게 존중하면 피해자는 사실상 구제받기 어렵다.
이때 AI기본법상 의무는 주의의무의 내용을 구체화하는 기준으로 기능한다. 법령이 특정한 설명, 고지, 위험관리, 기록, 사후 모니터링을 요구하였다면, 이는 해당 분야의 평균적·객관적 주의수준을 보여주는 자료가 된다. 물론 행정법상 의무 위반이 곧바로 형사상 과실을 의미하는 것은 아니다. 형사책임을 인정하기 위해서는 위반된 의무가 보호하려는 위험이 실제 결과로 실현되었는지, 그 결과가 예견가능하고 회피가능했는지, 의무 위반과 결과 사이에 규범적 관련성이 있는지를 별도로 검토해야 한다.
그러나 법령상 의무 위반이 형사책임과 무관하다고 볼 수도 없다. AI사업자가 고영향 AI의 위험성을 알고 있었거나 알 수 있었음에도 위험평가, 검증, 고지, 인간의 감독체계 구축을 하지 않았다면, 그 위반은 과실범에서 주의의무 위반을 인정하는 강한 간접사실이 된다.
AI 관련 사고에서 예견가능성은 단순히 “AI가 오류를 낼 수 있다”는 일반적 가능성으로 충분하지 않다. 특정 유형의 오류, 특정 이용환경, 특정 피해 결과가 사업자에게 어느 정도 구체적으로 인식 가능했는지가 문제된다. 예컨대 의료영상 판독 AI가 특정 집단의 데이터 부족으로 오진 가능성이 높다는 사실을 사업자가 알 수 있었다면 예견가능성은 강화된다.
회피가능성 역시 기술적 가능성과 조직적 가능성을 함께 보아야 한다. 완전한 무오류 AI를 요구할 수는 없지만, 사전 검증, 인간 검토 절차, 위험등급 분류, 이용자 고지, 사후 모니터링, 오류 보고체계 등 합리적으로 기대할 수 있는 조치를 취할 수 있었다면 회피가능성은 인정될 수 있다. 이때 AI기본법상 사업자 의무는 무엇이 “합리적으로 기대 가능한 조치”인지 판단하는 기준을 제공한다.
마지막으로 규범의 보호목적도 중요하다. 투명성 의무가 보호하려는 것은 단순히 형식적 고지가 아니라 이용자와 피해자가 AI의 개입과 생성 사실을 인식할 수 있도록 하는 것이다. 위험관리의무가 보호하려는 것은 단순한 내부문서 작성이 아니라 고영향 AI로 인한 중대한 법익침해를 예방하는 것이다. 따라서 해당 의무가 보호하려는 위험이 실제로 발생한 결과와 연결되는 경우, 그 의무 위반은 형사법상 책임귀속의 중요한 근거가 될 수 있다.
AI사업자의 책임을 논할 때 핵심은 그가 단순한 도구 제공자인가, 아니면 위험원을 창출·지배·관리하는 자인가이다. 모든 소프트웨어 제공자에게 광범위한 형사책임을 인정할 수는 없다. 그러나 고영향 AI처럼 생명·신체·재산·사회적 기회에 중대한 영향을 미치는 시스템을 설계하고 배포한 사업자는 일정한 범위에서 위험원을 창출하고 관리하는 지위에 선다.
이러한 지위는 부작위범론의 관점에서도 중요하다. 사업자가 자신의 선행행위로 위험원을 창출하였고, 그 위험이 이용 과정에서 현실화될 가능성을 예견할 수 있었으며, 기술적·조직적으로 이를 통제할 수 있었음에도 필요한 조치를 취하지 않았다면, 일정한 경우 보증인지위가 문제될 수 있다. 물론 보증인지위를 무제한 인정해서는 안 된다. 보증인지위는 위험의 구체성, 통제가능성, 법령상 의무의 명확성, 사업자의 역할, 피해자의 의존성 등을 종합하여 신중하게 판단해야 한다.
AI기본법상 의무는 바로 이 판단에서 중요한 의미를 갖는다. 법률이 특정 사업자에게 위험관리와 고지의무를 부과하였다면, 이는 그 사업자가 해당 위험과 무관한 제3자가 아니라 일정한 보호·감독 책임을 부담하는 지위에 있음을 보여준다. 따라서 AI기본법은 보증인지위를 직접 창설하는 형법규범은 아니지만, 형사법상 보증인지위 인정 여부를 판단하는 외부적 근거로 활용될 수 있다.
AI 형사책임론은 법인 형사책임론과 자주 비교된다. 양자는 모두 자연인이 아닌 존재를 둘러싼 책임귀속 문제라는 점에서 표면적으로 유사하지만, 법인책임론과 AI의 형법상 주체성론은 서로 다른 이론적 문제이다. 법인책임론은 인간의 조직행위를 법인에 어떠한 요건으로 귀속할 것인지가 중심이다.26) AI 주체성론은 AI 자체에 행위능력·책임능력과 형벌수용 가능성을 인정할 수 있는지가 중심이다.27)
그러나 두 논의는 결정적 차이를 가진다. 법인은 인간들의 조직이다. 법인의 의사결정은 이사, 대표자, 임직원, 부서, 내부통제 시스템의 결합을 통해 형성된다. 따라서 법인 형사책임은 궁극적으로 인간 책임의 집합적·조직적 귀속 문제이다. 반면 AI는 인간이 설계하고 운용하지만, 특정 결과가 언제나 특정 인간의 의사결정으로 환원되는 것은 아니다. 학습 이후의 모델은 데이터, 알고리즘, 피드백, 배포환경, 이용자의 입력이 결합된 결과를 산출한다.
본고의 관점에서는 AI 관련 책임론을 법인 형사책임론의 단순한 확장으로 볼 수 없다. 법인 형사책임론은 “조직 안의 인간 의사”를 어떠한 요건으로 법인에게 귀속할 것인가를 묻는다. AI사업자의 책임은 “인간 의사로 완전히 환원되지 않는 시스템 위험”을 조직이 어떻게 예견하고 통제했어야 하는가를 추가로 묻는다. 이러한 차이 때문에 AI 관련 책임론은 법인 동일시이론의 기계적 유추만으로 해결될 수 없다.
법인 형사책임에서 동일시이론은 대표자 또는 고위관리자의 행위와 의사를 법인의 행위와 의사로 동일시하는 방식이다. 이 이론은 책임귀속의 명확성을 제공하지만, 현대 기업의 분산적 의사결정 구조를 충분히 포착하지 못한다. 특히 AI 시스템의 개발과 운영이 앞서 본 바와 같이(Ⅱ. 4. (1)) 다수 부서와 외부 사업자의 결합으로 이루어지는 경우, 특정 자연인 한 명의 고의나 과실로 전체 위험을 설명하기 어려운 경우가 많다.
이 점에서 AI사업자 책임은 동일시이론보다 조직모델에 가깝다. 문제는 누가 최종 결정을 했는가만이 아니라, 조직이 위험을 식별하고 통제할 수 있는 절차와 구조를 갖추었는가이다. 위험평가 체계가 있었는지, 고영향 AI 여부를 심사했는지, 데이터 편향과 오류 가능성을 검증했는지, 배포 후 모니터링과 리콜 또는 수정 절차가 있었는지, 이용자에게 한계와 위험을 고지했는지가 핵심 판단요소가 된다.
AI기본법상 사업자 의무는 바로 이러한 조직모델적 책임 판단과 친화적이다. 법은 특정 개인의 심리상태보다 사업자의 절차, 체계, 고지, 관리, 기록을 문제 삼는다. 형사법이 이를 분석에 수용한다면, AI 관련 책임귀속은 대표자의 고의·과실만을 찾는 방식에 머무르지 않고 조직 전체의 위험관리 실패를 평가하는 방향으로 보완될 수 있다.
다만 조직책임 모델은 법인의 결과책임을 인정하기 위한 이론이 아니다. 오히려 특정 자연인의 과실을 발견하기 어렵다는 이유만으로 무리하게 책임을 의제하거나, 반대로 조직 전체의 구조적 위험관리 실패를 전혀 평가하지 못하는 양극단을 피하기 위한 귀속통제 장치로 이해되어야 한다.
그러나 조직모델이 현행법상 법인 자체의 일반적 형사책임을 곧바로 창설하는 것은 아니다. 현행법상 자연인의 범죄행위가 법인에게 당연히 귀속되는 것은 아니고, 개별 법률의 양벌규정 등 명시적 처벌근거가 있는 경우에 한하여 법인에게 벌금형을 부과할 수 있다.28) 따라서 본고의 조직책임 모델은 우선 조직 내부의 자연인에게 귀속되는 주의의무·감독의무 위반을 규명하고, 별도의 법인 처벌근거가 존재하는 경우에는 법인의 상당한 주의·감독의무 위반 여부를 심사하기 위한 분석틀로 이해되어야 한다. AI기본법상 사업자 의무는 그 자체로 법인에 대한 새로운 형사처벌의 근거를 창설하지 않는다.
AI사업자 조직책임을 인정하기 위해서는 적어도 다음 요소가 검토되어야 한다. 첫째, 위험의 중대성과 구체성이다. AI 시스템이 생명·신체·재산·사회적 기회에 중대한 영향을 미치는 영역에서 사용될수록 사업자에게 요구되는 주의수준은 높아진다. 둘째, 통제가능성이다. 사업자가 모델 설계, 데이터 선택, 배포환경, 이용조건, 업데이트, 사후 모니터링을 실질적으로 통제할 수 있었는지가 중요하다.
셋째, 법령상 의무의 명확성이다. AI기본법이나 하위법령, 가이드라인이 특정 조치를 요구하고 있었다면, 사업자는 이를 기준으로 위험관리체계를 설계했어야 한다. 넷째, 내부통제의 실효성이다. 문서상 위험관리 절차가 존재하더라도 실제로 작동하지 않았다면 책임을 회피하기 어렵다. 다섯째, 결과와 의무위반 사이의 관련성이다. 의무위반이 추상적으로 존재한다는 사정만으로 형사책임을 인정해서는 안 되며, 그 의무가 방지하려던 위험이 현실화되었는지를 보아야 한다.
이러한 요소들은 AI사업자 책임을 결과책임으로 흐르지 않게 하는 장치이기도 하다. AI 사고가 발생했다는 이유만으로 사업자에게 형사책임을 묻는 것은 허용될 수 없다. 그러나 사업자가 고위험 시스템을 시장에 내놓으면서 위험평가와 사후관리 체계를 갖추지 않았고, 그 위험이 실제 법익침해로 현실화되었다면, 조직책임을 논의할 수 있다.
생성형 AI의 확산 이후 형사실무에서 가장 현실적인 문제는 AI가 단독으로 범죄를 저지르는 경우가 아니라, 인간이 AI를 이용하여 범죄를 수행하는 경우이다. 딥페이크 영상 제작, 보이스피싱 문안 생성, 피싱 메일 자동화, 허위 투자보고서 작성, 악성코드 생성 보조 등이 대표적이다. 이 경우 AI를 공범으로 볼 것인가, 아니면 범죄도구로 볼 것인가가 문제된다.29)
현행 형법의 관점에서 AI를 교사범이나 방조범으로 구성하기는 어렵다. 공범은 정범의 실행행위를 촉진하거나 결의를 유발하는 인간 행위자의 고의와 책임을 전제로 한다. AI는 범행결의를 갖는 존재가 아니며, 형법상 책임비난의 대상이 되기 어렵다. 따라서 일반적으로 AI는 공범이 아니라 도구로 보아야 한다.
다만 AI가 단순한 도구라는 결론이 모든 문제를 해결하지는 않는다. AI의 개입은 범죄의 규모, 속도, 정교함, 은닉성을 현저히 증대시킨다. 사람이 직접 작성한 사기문서와 AI가 대량으로 생성한 맞춤형 피싱문서는 사회적 위험성이 다르다. 따라서 AI를 공범으로 보지는 않더라도, AI 활용의 조직성·자동화·대량성은 구성요건 해석과 양형에서 별도로 고려될 필요가 있다.
AI 제공자의 형사책임은 더 어렵다. 범죄자가 범용 AI 서비스를 이용하여 범죄문안을 생성한 경우, AI 제공자를 방조범으로 볼 수 있는가.
일반적 거래·서비스 제공과 범죄방조의 경계는 중립적 방조행위론에서 논의되어 왔다.30)
검색엔진, 워드프로세서 서비스가 범죄에 이용되었다는 이유만으로 제공자를 방조범으로 처벌할 수 없는 것처럼, 범용 AI 제공자를 곧바로 방조범으로 볼 수는 없다.
이 경우 고의 방조책임의 성립 여부는 AI 제공자가 범죄적 이용 가능성을 추상적으로 예견할 수 있었는지가 아니라, 특정 범죄유형의 반복적 이용, 차단 가능성, 경고·모니터링 조치의 부작위, 서비스 설계·홍보 방식 등을 통하여 범죄 실행을 실질적으로 용이하게 하였다고 평가할 수 있는지에 달려 있다.
그러나 중립행위라는 이유만으로 모든 책임을 배제할 수도 없다. 제공자가 특정 범죄유형에 반복적으로 이용된다는 사실을 구체적으로 인식하고도 아무런 차단·경고·모니터링 조치를 취하지 않았거나, 범죄적 이용을 사실상 조장하는 방식으로 서비스를 설계·홍보하였다면 사정은 달라질 수 있다. 이때 핵심은 추상적 위험 인식이 아니라 구체적 범죄이용 가능성에 대한 인식과 통제가능성이다.
AI기본법상 투명성·위험관리 의무는 여기서도 의미를 갖는다. 법령이 특정 위험에 대한 관리체계를 요구하고 있었음에도 사업자가 이를 방치하였다면, 중립행위의 범위를 넘어서는지 판단하는 자료가 될 수 있다. 다만 형사책임은 최후수단이어야 하므로, 제공자의 방조책임은 엄격하게 제한되어야 한다.
AI기본법상 위험관리의무 위반은 방조의 고의를 대체하지 않는다. 제공자가 구체적 정범범죄를 인식하고 그 실행을 실질적으로 촉진한다는 방조의 고의가 별도로 확인되어야 한다. 특히 부작위에 의한 방조책임을 인정하려면 구체적 범죄이용에 대한 인식과 더불어 정범의 범죄실행을 방지하여야 할 보증인지위가 인정되어야 한다. 반면 단순한 위험관리의 과실은 고의 방조가 아니라 해당 법익침해에 관한 과실범 처벌규정의 적용 문제로 다루어야 한다.
딥페이크는 AI 활용 범죄의 대표적 사례이다. 딥페이크는 성적 허위영상, 유명인 사칭 투자사기, 보이스피싱, 선거 관련 허위정보 등에 활용되어 피해자의 인격권·명예·성적 자기결정권·재산권 및 민주적 의사형성에 중대한 침해를 야기할 수 있다.31)
생성형 AI 산출물의 문제는 딥페이크에 한정되지 않는다. AI 창작물은 저작권·퍼블리시티권·부정경쟁 등 민사·지식재산법 영역과 명예훼손·개인정보·사기·업무방해 등 형사법 영역을 교차한다. 형사법은 모든 침해를 형벌로 흡수해서는 안 되지만, AI 산출물이 기망·협박·명예훼손·성적 침해·재산범죄의 수단으로 활용되는 경우에는 기존 구성요건의 해석을 통해 대응해야 한다.32)
법 제31조의 표시·고지의무는 이러한 책임판단에서 하나의 자료가 된다. 본고는 그 이행 여부가 이용자의 AI 생성 사실 인식, 피해자의 생성경위 확인 가능성, 제공자의 반복적 악용 인식 및 회피가능성을 판단하는 간접자료가 될 수 있다고 본다. 다만 표시·고지의무 위반이 곧바로 고의나 과실을 증명하는 것은 아니다.33)
본고는 AI를 사용하였다는 사실 자체를 독립된 가중사유로 보아서는 안 된다고 본다. 다만 AI 사용으로 범행의 자동화·대량화·정교화·은닉성 및 피해회복의 곤란성이 현저히 증대된 경우에는 기존 양형요소인 범행수법, 계획성, 피해규모, 조직성 등을 평가하는 과정에서 이를 고려할 수 있다.
예컨대 딥페이크 성범죄에서 AI를 이용한 영상 합성은 피해자의 인격권과 성적 자기결정권을 중대하게 침해하고, 복제·확산 가능성 때문에 피해회복이 매우 어렵다. 보이스피싱에서 AI 음성합성이나 자동화된 대화시스템은 피해자의 착오를 강화하고 범행의 조직성을 높인다. 이러한 사정은 기존 양형기준의 피해규모, 범행수법, 계획성, 조직성, 피해회복 가능성 항목과 연결하여 평가될 수 있다.
결국 인간-AI 협업범죄의 형사법적 과제는 AI를 공범으로 의제하는 데 있지 않다. 인간 행위자의 책임을 중심으로 하되, AI 활용이 범죄의 위험성과 법익침해의 정도를 어떻게 변화시켰는지를 세밀하게 반영하는 데 있다.
AI기본법상 과태료는 국가가 부과하는 행정상 제재이다. 과태료가 부과되더라도 그 금전은 피해자에게 직접 귀속되지 않는다. 따라서 과태료 체계만으로는 AI 사고 피해자의 치료비, 일실수입, 정신적 손해, 기회상실, 명예훼손, 개인정보 침해를 회복하기 어렵다. 이 점에서 AI기본법은 피해자 구제법이라기보다 위험관리법에 가깝다.
이 한계는 AI기본법이 산업진흥과 신뢰 기반 조성에 중점을 두면서도, AI 시스템으로부터 영향을 받는 개인의 권리구제 장치를 충분히 마련하고 있는지에 관한 비판적 검토와도 연결된다. 따라서 피해자 구제 논의는 행정제재의 강도뿐 아니라 정보접근, 기록보존, 설명가능성, 손해배상, 보험·기금 모델을 함께 보아야 한다.
형사법 역시 피해자 구제를 직접 담당하는 제도는 아니다. 그러나 형사법상 주의의무와 조직책임 판단은 민사책임과 피해자 구제에 간접적으로 큰 영향을 미친다. 형사절차에서 사업자의 위험관리 실패가 밝혀지면 민사상 과실, 결함, 인과관계 판단에도 영향을 줄 수 있다. 반대로 형사법이 사업자 의무와 책임구조를 지나치게 좁게 해석하면 피해자는 정보비대칭 속에서 손해배상청구를 입증하기 어렵다.
따라서 AI기본법 이후의 과제는 과태료의 상향 여부에만 있지 않다. 더 중요한 것은 AI사업자의 설명 방안, 문서 작성·보관 및 위험관리 조치를 피해자 구제와 연결하는 제도적 통로를 마련하는 것이다. 사업자가 AI 시스템의 의사결정 과정, 학습데이터의 한계, 업데이트 이력, 위험평가 결과를 보존하지 않았다면, 그 불이익을 피해자에게 전가해서는 안 된다.
위험사회론은 전통적 책임모델과 현대적 귀속모델의 차이를 통하여 책임구조의 변화를 설명한다. 전통적 모델이 과거의 특정 행위와 결과의 귀속을 중심으로 한다면, 현대적 위험은 기술적 복잡성·장기적 누적성·예측곤란성·다수 주체의 결합 때문에 장래 위험의 예방과 관리라는 기능을 강조한다. 그러나 이러한 전환은 책임주체를 무한히 확장하거나 과거의 유책행위에 관한 귀속요건을 약화시키는 근거가 될 수 없다.34)
이러한 측면은 AI사업자 책임에도 나타난다. AI 사고는 특정 행위자 한 명의 잘못으로만 설명되지 않을 수 있다. 데이터 수집, 모델 학습, 제품화, 서비스 적용, 사후 모니터링, 이용자 입력이 결합하여 결과가 발생하기 때문이다. 따라서 “누가 위험을 알고 통제할 수 있었는가”를 묻는 것은 필요하지만, 그것이 “누가 마지막 버튼을 눌렀는가”라는 개별 귀속의 질문을 대체해서는 안 된다.
따라서 본고는 위험사회론을 형사책임의 예방책임화 근거로 사용하지 않는다. AI기본법상 행정의무는 고의·과실, 개인적 책임비난 가능성, 죄형법정주의와 책임주의의 한계 안에서 주의의무를 구체화하는 외부적 자료로만 기능하여야 한다.
AI 위험은 전통적인 형사책임 모델만으로 포착하기 어렵다. 형사책임은 고의·과실과 책임비난 가능성을 요구하지만, AI 사고에서는 원인규명과 인과관계 입증이 어렵고 책임이 여러 주체에게 분산된다. 이 때문에 제조물책임, 환경책임, 원자력책임 모델은 일정한 시사점을 제공한다.
제조물책임 모델은 결함 있는 제품으로 인한 손해에 대하여 제조업자에게 책임을 묻는 구조이다. AI가 동산에 내장된 형태로 제공되는 경우에는 제조물 책임법의 적용이 문제될 수 있지만, 순수한 소프트웨어나 서비스로 제공되는 경우에는 현행법상 ‘제조 또는 가공된 동산’에 해당하는지부터 검토해야 한다. 또한 AI는 출시 이후 학습·업데이트·운영을 통하여 변화할 수 있으므로, 출시 당시의 결함과 사후 운영·모니터링 실패를 구별할 필요가 있다.
｢환경오염피해 배상책임 및 구제에 관한 법률｣은 일정 시설 사업자의 무과실책임, 인과관계 추정 및 환경책임보험을 결합하고, ｢원자력 손해배상법｣은 원자력사업자에게 무과실책임을 집중시키고 손해배상조치를 요구한다. 이러한 제도는 대규모 위험과 입증곤란을 분산시키는 민사적 모델이라는 점에서 참고가 된다.35) 다만 현행 제조물 책임법상 AI 시스템이 곧바로 제조물에 해당하는지, 고영향 AI에 의무보험이나 보상기금을 도입할지는 별도의 해석·입법 문제이다. 본고는 이를 장기적 입법론으로 제안한다.
AI 피해자에게 가장 큰 어려움은 앞서 지적한 정보비대칭이다(Ⅱ. 4. (3)). 피해자는 자신에게 불리한 판단이 내려졌다는 결과를 확인할 수 있을 뿐, 그 판단이 형성된 과정에는 접근할 수단을 갖지 못한다. 여기서는 그 정보비대칭이 형사·민사·행정 각 영역에서 어떻게 완화될 수 있는지를 살핀다.
따라서 제34조 제1항 제2호의 설명 방안과 제5호의 문서 작성·보관은 형사법과 민사법을 연결하는 절차적 장치가 될 수 있다. 형사법상으로는 사업자가 요구되는 설명·기록 체계를 마련하고 유지하였는지가 주의의무 이행 여부의 판단자료가 된다. 민사법상으로는 피해자가 인과관계를 주장·입증하기 위한 기초자료가 되고, 행정법상으로는 감독기관의 사후 검증을 가능하게 한다.
이러한 점에서 AI기본법상 투명성·설명·기록 관련 의무는 현행법상 일반적 설명청구권을 곧바로 부여하지는 않지만, 이용자와 피해자가 AI의 개입을 인식하고 사후적으로 판단과정을 검증할 수 있도록 하는 절차적 토대가 될 수 있다. 피해자의 직접적 정보접근권, 자료제출명령, 입증부담 조정은 별도의 입법적 설계를 필요로 한다. 이와 같이 한계를 분명히 할 때 AI기본법은 피해자 구제와 형사책임론을 연결하는 매개규범으로 기능할 수 있다.
Ⅳ. 결론
AI기본법은 AI 자체의 형사책임 문제를 해결한 법이 아니다. 이 법은 AI를 처벌하지 않고, AI를 개발·제공·이용하는 인공지능사업자에게 사전적·절차적 의무를 부과하는 방식을 선택하였다. 그러나 바로 그 점에서 AI기본법은 형사법적으로 중요하다. AI기본법상 사업자 의무는 향후 AI 관련 사고와 범죄에서 주의의무, 감독의무, 보증인지위, 조직책임을 판단하는 외부적 준거규범으로 기능할 수 있기 때문이다.
본고의 결론은 다섯 가지이다. 첫째, AI기본법상 투명성·고지·위험관리의무는 단순한 행정규제에 그치지 않고 형사법상 주의의무의 내용을 구체화하는 자료가 된다. 둘째, AI사업자 의무는 형식이행형 의무(formal-compliance obligation)와 위험관리형 주의의무(risk-based duty of care)로 구분하여 해석할 필요가 있다. 셋째, AI사업자 책임은 전통적인 자연인 중심 과실책임이나 대표자 동일시이론만으로 충분히 설명되기 어렵고, 조직 전체의 위험관리 실패를 평가하는 조직책임 모델로 보완될 필요가 있다. 다만 이 모델은 법인 자체의 일반적 형사책임을 창설하지 않으며, 법인 처벌에는 별도의 명시적 근거가 필요하다.
넷째, 인간-AI 협업범죄에서는 AI를 공범으로 의제하기보다 인간 행위자의 책임을 중심으로 하되, AI 활용이 범죄의 규모와 위험성을 어떻게 변화시켰는지를 구성요건 해석과 기존 양형요소의 평가에 반영해야 한다. 다섯째, AI기본법상 과태료 체계는 피해자 구제를 직접 수행하지 못하므로, 설명 방안과 문서 작성·보관, 손해배상, 의무보험, 보상기금 등 위험책임 모델과 결합되어야 한다.
결국 AI 형사법의 과제는 AI를 사람처럼 처벌하는 데 있지 않다. 핵심은 AI 시스템을 사회에 배포하고 운영하는 조직이 위험을 예견하고 통제할 수 있었는지, 그 통제의무를 위반하여 법익침해가 현실화되었는지, 그리고 피해자가 정보비대칭 속에서도 실질적으로 구제받을 수 있는지를 묻는 데 있다. AI기본법은 그 질문에 대한 완성된 답은 아니지만, 형사법이 참조해야 할 새로운 책임구조의 출발점이다.
