행정기본법안에는 인공지능 또는 알고리즘에 의한 행정처분 규정이 도입되었는데, 제20조가 그것이다.
제20조(자동적 처분) 행정청은 법령으로 정하는 바에 따라 완전히 자동화된 시스템(인공지능 기술을 적용한 시스템을 포함한다)으로 처분을 할 수 있다. 다만, 처분에 재량이 있는 경우는 그러하지 아니하다.
o 제정취지
행정청이 완전히 자동화된 시스템이나 인공지능 기술을 적용한 시스템으로 처분을 할 수 있도록 하는 토대를 마련하여 제4차 산업혁명에 대응하고 행정의 디지털화를 촉진함.
o 내용
행정청의 재량이 없는 처분의 경우 행정청으로 하여금 개별 법령에 근거하여 완전히 자동화된 시스템이나 인공지능 기술을 적용한 시스템으로 처분을 할 수 있도록 하되, 처분 과정에서 행정청의 재량적 판단이 필요한 처분은 자동적 처분 대상에서 제외함.
- 처분의 특성이 충분히 검토된 후 자동적 처분이 도입되도록 하기 위해 개별 법령에 근거를 두고 도입되도록 하고, 행정청(인간)의 재량적 판단(의사결정)이 필요한 처분은 자동적 처분을 허용하지 않음.
- 시스템이 행한 처분은 행정청이 직접 행한 처분으로 인정한다는 의미임.
- ‘처분 과정의 일부 자동화’는 이 조의 적용대상이 아님
o 외국 입법례 (독일 연방행정절차법)
제35조의a 행정행위의 완전히 자동화된 발급(Vollständig automatisierter Erlass eines Verwaltungsaktes) 법규정에 의해 허용되고, 재량이나 판단여지가 존재하지 아니하면, 행정행위는 자동장치에 의해 완전히 발해질 수 있다.
<사견>
행정집행의 원칙과 기준이 되는 ‘행정기본법’이 제정되어 조만간 시행을 앞두고 있다. 여러 조문 중에서 눈에 띄는 것이 있는데, 인공지능에 의한 행정처분 조문인 제20조가 그것이다.
독일 연방행정절차법 제35조a의 ‘행정행위의 완전히 자동화된 발급’ 조문에 영향을 받은 행정기본법안 제20조에 의하면, 행정청의 재량이 없는 경우에 한하여 행정청은 인공지능 기술을 적용한 시스템을 포함한 완전히 자동화된 시스템으로 행정처분을 할 수 있다. 완전히 자동화되었다는 것은 인간의 의사 개입이 없다는 의미로서, 공무원의 개입 없이 조세처분이 내려지고 교통범칙금 처분이 내려질 수 있다는 의미이다.
향후 이 조문으로 인하여 공무원의 실수나 편견, 부정부패를 방지할 수 있고, 행정적 효율성이나 중립성, 자원이나 행정비용의 절약, 절차 신속의 효과를 올릴 수 있을 것으로 보이지만, 제20조 조문 하나만으로는 이 제도를 끌어가기에는 역부족으로 보인다. 해결해야 할 쟁점이 너무 많아 관련 입법이 필수적으로 뒤따라야 할 것인바, 예컨대 개인정보보호나 알고리즘의 신뢰성, 책임과 불복 등의 문제점이 지적되고 있다.
먼저 개인정보보호 문제를 지적하지 않을 수 없다. 인공지능에 의한 행정처분은 알고리즘에 의한 자동화된 의사결정(automated decision-making, 이하 ADM)을 포함하고, 당연히 개인정보의 처리를 전제로 한다. EU의 경우 ADM에 대한 정보주체의 권리를 GDPR에 마련하고 있는데, 예컨대 정보주체는 ADM을 위한 개인정보 처리에 반대하거나 ADM에 따르지 않을 권리, ADM에 대하여 이의를 제기하고 자신의 견해를 표명할 권리, ADM에 대한 설명을 요구할 수 있는 권리 등을 가진다.
하지만 행정기본법안에는 이러한 내용이 포함되어 있지 않고, 현행 우리 개인정보보호법에도 이러한 정보주체의 권리는 규정되어 있지 않다. 다만 현재 개인정보보호위원회는 ADM에 대한 정보주체의 권리를 준비 중이나, 행정기본법안 제20조 도입에 따른 효과를 충분히 고려하여 정보주체의 권리를 보완하는 것이 필요해 보인다. 특히 행정처분이 어떻게 이루어졌는지에 대하여 알기 어렵다는 점에서 알고리즘 설명은 반드시 전제되어야 할 것이다.
알고리즘의 신뢰성이나 위험 문제도 중요하게 다루어져야 한다. ADM은 알고리즘에 의한 의사결정을 의미하므로, 알고리즘의 신뢰성이나 위험을 검증할 수 있는 절차 등이 병행되어야 한다. 즉 행정처분의 기초가 되는 알고리즘에 입법적 취지나 내용이 정확하게 반영되었는지 확인하고 주기적으로 점검하는 제도 등이 필요하지만, 현재 지능정보화기본법이나 전자정부법 등에는 이러한 내용이 존재하지 않는다.
데이터의 편향성 또는 부적절한 알고리즘에 의하여 피해가 발생한 경우 이에 대하여 누구에게 어떻게 책임을 물을 수 있는지, 인공지능에 의한 행정처분, 특히 알고리즘에 대하여 불복하여 다툴 수 있는지 등에 대하여도 고민을 해야 한다. 예컨대 공무원의 직무상 불법행위에 대하여만 손해배상 청구가 가능한 국가배상법 규정을 정비할 필요가 있고, 행정처분에 대한 불복을 전제로 알고리즘에 대하여 다투는 것도 가능해야 할 것이다.
더불어 인공지능이나 알고리즘을 전제로 하지 않은 행정절차법 규정도 검토가 필요할 것으로 보이며(예컨대 처분을 하는 문서에 의무적으로 담당자의 성명 등을 기재하게 한 제24조 등), 독일 연방행정절차법에서 언급된 당사자의 개별 특수성을 반영할 수 있는 제도의 마련 등도 같이 검토되어야 할 것이다.
공적 영역에서 ADM을 도입한 행정기본법안 제20조는 그 자체로 매우 중요한 의미를 가지는바, 관련 제도와 입법의 정비를 통하여 신뢰할 만한 ADM 환경조성에 노력을 아끼지 않아야 할 것이다.
* 법무법인 민후 김경환 변호사 작성, 블로그(2021. 3. 2.), 전자신문(2021. 3. 2.) 기고.
