인공지능 발전에 대한 공법적 대응방안 : 규제와 혁신의 관점에서
Public Law Frameworks for Responding to the Advancement of Artificial Intelligence: Perspectives on Regulation and Innovation
- 주제(키워드) .
- 발행기관 한동대학교 일반대학원
- 지도교수 송인호
- 발행년도 2026
- 학위수여년월 2026. 2
- 학위명 석사
- 학과 및 전공 일반대학원 법학과
- 세부분야 해당없음
- 원문페이지 V, 146
- 실제URI http://www.dcollection.net/handler/handong/200000972493
- UCI I804:47030-200000972493
- 본문언어 한국어
- 저작권 한동대학교 논문은 저작권에 의해 보호받습니다.
초록/요약
In 2016, when the Fourth Industrial Revolution first emerged as a central theme at the Davos Forum, artificial intelligence was viewed as a high-potential core technology, yet it had not yet attained the status of a ubiquitous tool in daily life. In less than a decade, however, AI has permeated nearly every domain—including finance, politics, education, labor, administration, and the judiciary—becoming a foundational technology that fundamentally reshapes decision-making structures across both the social and public spheres. While the proliferation of AI is an irreversible trend, its technical attributes—such as probabilistic nature, opacity ("black box"), bias, autonomy, and adaptability—carry inherent risks of infringing upon fundamental rights and establishing algorithmic dominance. Crucially, democratic legitimacy is only fully realized when laws are executed by public officials who are appointed by state institutions and subject to public oversight. Should autonomous and adaptive algorithms come to dominate public administration, this very foundation of democratic legitimacy stands to be threatened. In response, nations worldwide have pursued various legislative strategies to ensure AI remains a controllable technology; South Korea followed suit by enacting the Basic Act on Artificial Intelligence on January 21, 2025. Grounded in economic research on the synergy between technological innovation and appropriate regulation, as well as public law methodologies for regulation and promotion, this study establishes evaluation criteria for AI legislation. From a regulatory perspective, the analysis assesses differential regulation based on the principle of proportionality, administrative and judicial oversight mechanisms, specific rules for public sector adoption, and the establishment of AI governance. From an innovation perspective, it evaluates whether legal uncertainty is mitigated through clear legislation that avoids excessive "blank-check" delegation, whether legal bases for public sector integration are secured, and whether innovation facilitators—such as regulatory sandboxes, considerations for SMEs, and systematic data infrastructure for model training—are provided. Evaluation based on these criteria reveals that while countries are grappling with the inherent "catch-up" nature of regulation, significant efforts are being made to maintain control without stifling innovation. However, AI no longer functions merely as a discrete digital technology; it has evolved into a universal tool influencing citizens' cognition, lifestyles, and the bedrock of democracy and the rule of law. Consequently, it is insufficient to rely solely on broadly delegated or policyoriented declaratory laws, alongside traditional legal mechanisms, to govern AI in its capacity as a universal infrastructure. To address these limitations, this paper proposes three institutional improvements. First, the Basic Act on Artificial Intelligence must be refined to enhance clarity and predictability, enabling market participants to easily anticipate regulatory boundaries. Second, to facilitate the robust use of AI in the public sector, the broader administrative legal framework—including the General Act on Public Administration and the Administrative Procedures Act—must be restructured to enable comprehensive oversight across the pre-deployment, operational, and postdeployment stages. Third, South Korea should secure a leading global position by fostering a state-led development environment, expanding public sector adoption, facilitating the circulation of private data, and nurturing an innovation ecosystem where SMEs and startups can actively participate. Ultimately, legal and institutional frameworks must be designed to ensure AI develops as a tool that supports human freedom and happiness, thereby avoiding the loss of humanity that resulted from the Taylorist division of labor in the past.
more초록/요약
다보스 포럼에서 제 4 차 산업혁명이 본격적으로 거론되기 시작한 2016 년에만 해도 인공지능은 잠재력이 높은 핵심기술 중 하나였으나 일상에서 쉽게 접할 수 있는 보편적인 기술로 보기는 어려웠다. 그러나 10 년이 채 지나지 않은 현재 인공지능은 금융∙정치∙교육∙노동∙행정∙사법 등 거의 모든 영역과 디지털 제품에 적용되고 있으며 사회와 공공영역의 의사결정 구조를 변화시키는 기반기술이 되었다. 인공지능이 확산되는 것은 피할 수 없는 흐름이지만, 확률성이나 비가시성(블랙박스) 그리고 편향성 및 자율성과 적응성 등 기술적 특성으로 인해 기본권 침해와 알고리즘에 의한 지배 위험을 내포한다. 특히 민주적 정당성은 국민의 통제를 받는 국가기관에 의해 임명된 공무원이 그 법률을 집행할 때 비로소 인적 정당성이 확보된다는 점에서, 자율성과 적응성을 가진 알고리즘이 공공행정을 지배하는 상황이 오면 이러한 민주적 정당성마저 위협 받게 된다. 이에 세계 각국은 통제가능한 인공지능 기술로 발전시키기 위해 다양한 방법으로 법제화를 추진해왔고, 우리나라도 2025년 1 월 21일 인공지능에 관한 포괄적 기본법을 제정하였다. 본 연구는 기술혁신과 올바른 규제의 상호 보완적 관계라는 경제학 분야의 연구결과와 규제와 조성의 공법적 방법론을 토대로, 인공지능 법제에 대한 규제적 관점과 기술혁신적 관점의 평가기준을 제시한다. 규제적 관점에서는 비례의 원칙에 따른 차등규율, 행정적∙사법적 통제 장치, 공공부문 도입∙운영에 대한 특별 규율과 인공지능 거버넌스 구축 여부를 평가한다. 기술혁신 관점에서는 과도한 백지위임을 지양한 명확한 입법과 공공부문 도입 근거 마련을 통한 법적 불확실성을 제거 여부, 규제샌드박스 등 혁신장치와 중소기업에 대한 배려, 나아가 인공지능 모델 개발과 학습을 위한 데이터 및 인프라의 체계적 확보를 평가한다. 이러한 기준으로 평가한 결과, 각 국은 규제가 기술을 뒤쫓아가는 한계 속에서도, 혁신의 동력을 잃지 않으면서 적절한 통제를 하기 위해 많은 노력을 기울이고 있음을 알 수 있다. 그러나 이러한 노력에도 불구하고 인공지능은 하나의 디지털 기술의 발현이 아니라 국민의 사고방식, 생활방식은 물론 법치주의와 민주주의의 근간에 영향을 미치는 보편적 도구로 기능하므로 포괄위임 또는 정책선언적 성격의 인공지능 관련 법률과 전통적인 법제도만으로 규율하기에는 한계가 있다. 이에 본 논문은 세 가지 개선방안을 제시한다. 첫째, 인공지능 기본법을 명확성과 예측가능성을 가진 형태로 보완하여 시장참여자가 규제의 대상 등을 쉽게 예측가능할 수 있도록 하여야 한다. 둘째, 인공지능시스템을 공공분야에서 본격적으로 활용하기 위해서 행정기본법, 행정절차법 등 행정법체계를 인공지능시스템의 사전적∙과정적∙사후적 통제가 가능하도록 정비하여야 한다. 셋째, 국가주도의 기술개발 환경 조성, 공공부문 도입 확대, 민간 데이터자원 등의 원활한 유통과 중소기업∙ 스타트업이 적극적으로 참여할 수 있는 혁신의 장을 육성함으로써 인공지능 기술 개발 경쟁에서 우리나라가 선도적인 지위를 확보하도록 하여야 한다. 인공지능 기술이 과거의 테일러식 분업이 초래한 인간성 상실의 전철을 밟지 않도록, 인간의 자유와 행복을 돕는 방향으로 발전할 수 있는 법적∙제도적 설계가 요청된다.
more목차
제 1 장 서론 1
제 1 절 연구배경과 목적 1
제 2 절 연구의 범위와 방법 2
1. 연구의 범위 2
2. 연구방법 3
제 2 장 규제와 혁신 균형의 이론적 배경과 평가기준 5
제 1 절 인공지능 기술의 발전과 규제 필요성의 대두 5
1. 인공지능 기술의 발전 5
(1) 기술발전 동향 5
(2) 인공지능 기술 특성상 문제 7
1) 확률성: 비결정성 7
2) 비가시성(블랙박스) 8
3) 편향성 9
4) 자율성과 적응성 10
2. 규제 필요성의 대두 10
(1) 알고리즘 통치(Algocracy)의 위험 10
(2) 기본권 침해 위험 12
(3) 민주적 정당성과 법치주의에 대한 위협 14
1) 민주적 정당성에 대한 위협 14
2) 법치주의에 대한 위협 17
제 2 절 균형 있는 인공지능 규제의 공법적 평가 기준 19
1. 기술혁신과 규제의 상호관계 19
2. 규제적 관점의 평가기준 22
(1) 헌법상 비례원칙의 충족 여부 23
(2) 투명성 및 추적∙설명가능성의 확보 24
(3) 절차적 적법성과 인간개입의 제도적 보장 26
(4) 책임귀속의 명확성과 권리구제의 실효성 확보 27
(5) 공공 도입∙운영 규율수단과 인공지능 거버넌스의 정립 29
3. 기술혁신 관점의 평가기준 32
(1) 규제 명확화와 예측가능성 확보 33
(2) 공공부문 도입을 위한 공법상 근거 정비 34
(3) 규제샌드박스 및 영향평가 제도의 실효적 마련 여부 36
(4) 중소기업에 대한 특별한 지원 유무 37
(5) 데이터 거버넌스에 대한 구체적 입법 여부 38
제 3 장 우리나라 인공지능 법제 평가 40
제 1 절 법제화 현황과 핵심쟁점 40
1. 자동적 행정처분에 대한 입법 40
(1) 의의 40
(2) 법적근거와 적용범 위41
(3) 자동화의 단계와 재량행위로의 확장 42
(4) 자동적 행정처분의 한계 46
(5) 자동적 행정처분과 책임의 귀속 48
2. 인공지능 기본법의 제정 49
(1) 입법경과 및 입법목적 49
(2) 인공지능 기본법 개념정의 관련 쟁점 51
1) 인공지능 기본법의 개념정의 51
2) 주요쟁점: 고영향 인공지능의 정의 52
(3) 인공지능 발전 기반 조성 56
1) 인공지능 기술 개발 기반조성 56
2) 인공지능 산업육성 장치 57
(4) 인공지능 신뢰 기반 조성 59
1) 인공지능 윤리 확보 방안 59
2) 인공지능 신뢰기반 조성 장치 60
제 2 절 규제 관점 평가: 5 가지 평가기준에 의한 평가 62
1. 비례원칙과 법률유보원칙에 의한 보완 필요 62
2. 추적가능성과 설명가능성에 대한 명문규정 미확보 64
3. 인공지능 행정에서 절차적 통제 규정 미비 65
4. 책임귀속과 권리구제 원칙과 기준 마련 필요 66
5. 영향평가 규정 보완과 거버넌스에 대한 통합 필요 66
제 3 절 기술혁신 관점 평가: 5 가지 평가기준에 의한 평가 68
1. 고영향 판단 기준의 모호성 68
2. 행정법체계에 인공지능시스템에 대한 근거마련 필요 69
3. 인공지능 전용 규제샌드박스의 부재 71
4. 중소기업의 규제샌드박스 우선권 부여 필요 72
5. 인공지능 원천기술 개발을 위한 인프라 조성 시책의 구체성 부족 73
제 4 절 규제와 혁신 균형 관점의 종합평가 74
제 4 장 비교법 고찰 : EU∙미국∙중국 법제 중심으로 76
제 1 절 각국의 입법동향 76
1. EU 의 입법현황 76
(1) 유럽연합 인공지능법 76
(2) EU AI ACT 규정 전체 구조와 핵심원리 78
(3) EU AI ACT 주요내용 81
1) 균형 잡힌 법률 강조 81
2) 비례원칙에 따른 차등 규제 82
3) 혁신을 위한 장치 86
4) 체계적인 인공지능 거버넌스와 규제 실효성 87
2. 미국의 입법현황 88
(1) 바이든 정부의 행정명령 제 14110 호 89
(2) 트럼프 정부의 행정명령 제 14179 호 90
3. 중국의 입법현황 92
(1) 포괄적 입법에 대한 신중론 93
(2) 중국 데이터 3 법의 구조와 내용 93
(3) 데이터 3 법 위반에 대한 제재 사례 95
4. 기타 국가의 입법현황 97
(1) 영국의 입법현황 97
1) 영국의 인공지능 규제 방향 97
2) 인공지능 공공분야 조달지침 98
(2) 캐나다의 알고리즘 영향평가 98
제 2 절 규제 관점 평가: 5 가지 평가기준에 의한 평가 100
1. 비례원칙을 적용하는 두 가지 방법: 포괄적입법과 원칙기반 규제 100
2. 추적가능성 및 설명가능성에 대한 규정 보완 필요 101
3. 인공지능 행정에 대한 절차적 적법성 확보 초기 단계 102
4. 책임법의 면모를 갖춘 유럽연합 103
5. 인공지능을 기존 거버넌스 체계로 포섭하는 방식의 한계 103
제 3 절 기술혁신 관점 평가: 5 가지 평가기준에 의한 평가 104
1. 명확한 명시규제와 원칙기반 자율규제의 실험 104
2. 공공부문 도입 활성화를 위한 기초 마련 105
3. 혁신장치의 도입과 한계 106
4. 유럽연합 인공지능법상 중소기업 특별지원의 배경 107
5. 품질 높은 데이터와 연산능력 확보를 위한 전략 108
제 4 절 우리나라 대응방안에 대한 시사점 109
제 5 장 인공지능 발전에 대한 공법적 대응방안 111
제 1 절 명확하고 예측가능한 규제 111
1. 규제 범위 및 위험 개념의 명확화 111
(1) 위험등급 명확화 112
(2) 생성형 인공지능에 대한 구분 정의 113
2. 설명가능성과 절차적 적법성의 확보 115
(1) 설명가능성의 확보 115
(2) 절차적 적법성의 확보 116
3. 책임귀속과 권리구제 체계의 정비 119
제 2 절 공공 인공지능시스템의 신뢰성 있는 도입과 운영 121
제 3 절 지속적인 기술발전을 위한 제도적 장치 123
1. 데이터 거버넌스와 인프라 구축 123
2. 인공지능 규제샌드박스 확립 126
제 6 장 결론 129
제 1 절 연구의 종합 및 시사점 129
제 2 절 인간성을 회복하게 하는 인공지능 131
참고문헌 133
Abstract 144