공공기관 AI 판단해도 최종 책임은 사람…AI 윤리기준 68개 항목 마련

공공부문 AI 확산에 윤리기준 마련

행정안전부는 공공부문의 AI 도입 확대에 맞춰 신뢰할 수 있는 AI 활용을 위한 ‘공공부문 인공지능 윤리기준’을 최종 확정했다고 2일 밝혔다.

이번 기준은 AI 활용 과정에서 발생할 수 있는 편향된 결정과 프라이버시 침해 등을 예방하고 국민이 안심할 수 있는 행정환경을 조성하기 위해 마련됐다.

최근 공공분야에서도 AI를 활용한 업무 혁신이 확산하면서 단순한 행정 효율성뿐 아니라 AI가 내놓은 판단을 어디까지 활용할 것인지, 문제가 발생했을 때 누가 책임질 것인지에 대한 기준의 필요성도 커지고 있다.

행안부는 국내외 AI 윤리기준 분석과 전문가 자문 등을 거쳐 지난해 11월 초안을 마련한 뒤 관계기관과 학계 전문가 등의 검토와 의견 수렴을 거쳐 최종안을 확정했다.

공공성부터 프라이버시 보호까지 ‘6대 핵심가치’

윤리기준은 ‘행정 혁신 촉진’과 ‘국민 신뢰 구축’을 목표로 국민·행정·기술의 세 가지 관점에서 6대 핵심가치를 제시했다.

6대 핵심가치는 ▲공공성 ▲형평성 ▲투명성 ▲책임성 ▲안전성 ▲프라이버시 보호다.

공직자가 실제 업무에서 이러한 원칙을 적용할 수 있도록 공공업무의 특성을 반영한 총 68개의 세부 점검사항도 마련했다.

단순히 ‘AI를 공정하고 안전하게 사용해야 한다’는 선언에 그치는 것이 아니라 공직자가 실제 AI를 활용하는 과정에서 확인해야 할 구체적인 점검기준을 함께 제시한 것이다.

AI 활용 수준 따라 3단계로 나눠 점검

각 기관은 AI 활용 정도에 따라 서로 다른 수준의 윤리기준을 적용할 수 있다.

정부가 마련한 자율점검 체계는 1단계 ‘적용’, 2단계 ‘응용’, 3단계 ‘융합’으로 구분된다.

1단계 적용은 AI를 기초적으로 활용하는 수준이며, 2단계 응용은 AI가 사람의 의사결정을 지원하는 단계다. 3단계 융합은 AI의 자율적인 결정을 기반으로 하는 수준이다.

AI를 단순 업무보조에 사용하는 기관과 실제 행정 의사결정에 활용하는 기관을 동일하게 관리하지 않고 활용 수준에 맞춰 윤리기준을 적용하도록 한 것이다.

복지대상자 선정·인허가에 AI 써도 최종 책임은 ‘사람’

이번 윤리기준에서 특히 강조된 부분은 ‘책임성’이다.

AI가 행정 의사결정을 지원하거나 직접적인 판단 과정에 활용되더라도 최종적인 책임과 통제는 사람에게 있다는 원칙을 명확히 했다.

특히 복지대상자 선정이나 인허가, 위험예측처럼 행정기관의 결정이 국민의 권리와 생활에 직접 영향을 미치는 업무에 AI를 활용할 경우 책임관계를 보다 명확하게 하도록 했다.

서비스를 처음 기획하는 단계부터 실제 국민에게 제공하는 단계까지 전 과정에서 누가 책임을 담당하는지를 분명히 해야 한다.

AI가 특정 결과를 내놓았다는 이유만으로 사람이 이를 그대로 받아들이거나 책임의 주체가 불분명해지는 상황을 방지하겠다는 취지다.

AI 판단에 사람이 개입할 수 있는 감독체계 구축

AI의 판단과 결정을 사람이 직접 검토하고 개입할 수 있는 체계도 마련한다.

국민의 권리와 생활에 영향을 미치는 업무에서는 AI의 판단을 사람이 확인하고 필요한 경우 이를 수정하거나 개입할 수 있도록 ‘인적 감독 체계’를 갖추도록 했다.

AI 활용 과정에서 문제가 발생한 이후를 대비한 사후관리와 피해구제 체계도 마련하도록 했다.

이에 따라 공공기관의 AI 활용은 시스템을 도입해 업무에 적용하는 것만으로 끝나는 것이 아니라 사람의 감독과 책임, 사후관리와 피해구제까지 포함하는 형태로 관리될 전망이다.

AI 편향·프라이버시 침해도 사전 점검

정부가 형평성과 투명성, 프라이버시 보호 등을 핵심가치에 포함한 것도 AI 활용에 따른 부작용을 예방하기 위해서다.

AI 활용 과정에서는 데이터나 시스템의 특성에 따라 편향된 결정이나 개인정보 침해 등의 문제가 발생할 가능성이 있다.

특히 공공기관의 결정은 복지와 인허가 등 국민의 권리와 직접 연결되는 경우가 있는 만큼 일반적인 업무지원보다 높은 수준의 책임성과 안전성이 요구된다.

각 기관은 이번에 마련된 세부 점검사항을 활용해 AI 도입과 운영 과정에서 이러한 위험요인을 스스로 확인하고 개선하게 된다.

공직자 대상 AI 윤리교육도 실시

행안부는 이번 윤리기준이 선언적인 기준에 그치지 않고 실제 행정현장에서 활용될 수 있도록 공공부문 종사자를 대상으로 교육 프로그램도 운영할 계획이다.

새롭게 등장하는 AI 윤리 문제를 조기에 파악해 점검사항에 반영하는 환류 체계도 운영한다.

AI 기술이 빠르게 발전하고 있는 만큼 현재 마련한 기준을 고정적으로 유지하기보다는 기술 환경과 사회적 요구 변화에 따라 지속적으로 개선한다는 방침이다.

윤호중 행정안전부 장관은 “인공지능 기술이 행정 혁신의 핵심 동력이 되고 있는 만큼, 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다”고 밝혔다.

이어 “이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야 전반에 AI 윤리가 자연스럽게 자리 잡고, 인공지능을 공정하고 안전하게 활용할 수 있는 행정 환경을 만들어 가겠다”고 말했다.

공공부문의 AI 활용 범위가 단순 업무지원에서 실제 행정 의사결정으로 확대되는 가운데 이번 윤리기준은 AI를 어디까지 활용하고 사람이 어느 단계에서 개입해야 하는지를 정하는 기본적인 지침으로 활용될 전망이다.

[핵심 요약]

공공기관 AI가 판단해도 최종 책임은 사람…정부, AI 윤리기준 확정