국내에 잘 알려지지 않았지만 2024년 봄, 유엔과 OECD라는 주요 국제기구 두 곳에서 각각 인공지능에 대한 규범을 발표하였다. 이 규범들은 인공지능의 인권 침해를 방지하기 위한 인권 규범을 확인하고 발전시켰다는 점에서 그 내용에 주목할 필요가 있다.

인공지능 환경이 급속히 확산되면서 그간 인권 규범에도 조금씩 변화가 생겼다. 인공지능에 딥러닝이라는 혁신이 나타나기 시작한 것이 2012년이다. 우리나라에서도 2016년 개최된 알파고와 이세돌 9단의 대국을 보고 감탄한 사람이 꽤 있었다. 그런데 특히 최근에는 챗GPT 등 생성형 인공지능이 대중화하면서 더욱 인간에 가까워지고 유창해진 인공지능 기술에 전세계가 놀라고 있다.

인공지능의 뛰어난 기술적 성취는 모든 사람이 마땅히 누려야 할 과학기술적 발전이다. 그러나 한편으로 인공지능 기술의 빠른 발전에 대해 우려하는 목소리도 커지고 있다. 딥러닝이라는 인공지능의 작동원리를 인간이 완전히 이해하기 어려워 책임성 확보가 쉽지 않고, 인공지능의 발전이 어디에 이를지 모른다는 점에서 그 개발과 사용을 유예하자는 선언이 이루어지기도 하였다. 현실에서는 인공지능이 고객센터 등 인간의 일자리를 대체하고 인종, 성별, 연령, 장애인 등 소수이거나 소외된 인구집단에 차별적인 영향을 미치는 사례가 등장하고 있다.

국제사회의 기대와 우려

유엔조약기구 등 국제 인권기구는 인공지능과 알고리즘을 기대하면서도 우려하는 입장을 표해 왔다. 2018년 유엔 표현의 자유 특별보고관은 인공지능 시스템의 투명성이 부족해서 의사표현의 자유 행사에 부정적인 영향을 미치고 있다고 지적하면서, 국가와 기업이 인공지능의 투명성을 증진시켜야 한다고 요구하였다. 특히 특별보고관은 각국에 인공지능 인권영향평가를 도입할 것을 권고하였고 기업에는 인공지능으로부터 부정적인 영향을 받은 개인을 구제하는 조치를 취할 것을 권고하였는데, 이 권고는 이후 인공지능 관련 국제 인권규범에서 중요하게 유지되는 내용이 되었다¹⁾ . 2020년 유엔 사무총장 또한 인공지능 등 신기술이 사회권에 미치는 영향에 대한 의견을 발표하면서 인공지능이 기존의 불평등과 소외를 악화시켜 인권에 부정적 영향을 미칠 것을 우려하였고, 인공지능에 대한 국가 감독 체계와 구제 수단을 적절히 수립할 것을 요구하였다²⁾. 2021년 유엔인권최고대표는 인권을 보호하지 못하는 인공지능의 사용을 유예할 것을 요구하면서 특히 주목을 받았다. 유엔 인권최고대표는 인공지능이 그 확률적 속성에도 불구하고 사람들의 권리에 영향을 미치는 자동화된 결정의 기반이 되고 있다고 지적하면서, 인공지능의 영향을 받는 사람들이 투명한 정보를 제공받고 설명을 들을 수 있어야 하며, 인공지능의 개발, 배치, 사용에서 영향을 받는 사람이나 집단이 참여할 수 있도록 보장하는 조치가 필요하다고 강조하였다³⁾.

이들 인공지능 관련 국제 인권규범에서 공통적으로, 그리고 반복적으로 강조해 온 점이 있다. 첫째, 국가는 인공지능에 대해서도 국제 인권규범에서 확인하여 온 인권을 보호하고 존중하고 실현할 의무가 있다. 이는 결국 국가가 인공지능에 대한 국내 입법에서 인권 침해를 적절하게 감독하고 구제할 수 있는 체계를 마련해야 한다는 의미이다. 둘째, 인공지능에 의해 ‘영향을 받는 사람’이 중요한 권리주체로 등장하였다. ‘영향을 받는 사람’은 피해자이기도 하지만 그보다 잠정적으로 넓은 개념이다. 국가와 기업은 피해자가 차별과 인권 침해를 당했을 때 이 사실을 조사입증하고 구제받을 수 있는 체계를 마련해야 할 뿐 아니라, 사전적으로 인공지능이 특정 개인 또는 집단의 인권에 미치는 부정적 영향을 평가하고 방지하고 완화하는 조치를 취해야 한다는 것이다.

이러한 인공지능 국제 인권규범은 최근 유럽연합 인공지능법 등 국내적 인공지능 법규범에도 반영되는 추세이다. 유럽연합 인공지능법은 인공지능 관련 주요한 이해관계자로 ‘영향을 받는 사람’을 설정하고 그 피해를 구제하는 국가 거버넌스 체계를 규정하였다. 또한 업무를 위하여 고위험 인공지능을 배치하는 경우 일부 배치자가 기본권영향평가를 수행하도록 의무화하였다. 올해 발표된 유엔의 인공지능 결의안⁴⁾과 OECD 업데이트 인공지능 원칙⁵⁾은 그간 발전해 온 인공지능 인권 규범을 확인하고 진전시켰다. 우선 유엔 인공지능 결의안은 유엔 총회에서 ‘만장일치’로 인공지능이 국제 인권규범에 기반해야 함을 요구하고 이를 준수하지 못하는 인공지능의 사용을 중지할 것을 명시한 ‘최초’의 국제적 합의라는 점에서 의미가 크다. 물론 인공지능 결의안 이전에도 유엔은 <디지털 시대 프라이버시권>⁶⁾에 대한 여러 결의안에서 인공지능의 차별과 인권 침해를 구제할 것과 인공지능의 부정적 영향에 대해 조치하는 인권실사를 요구해 왔다. 이번 인공지능 결의안은 그 연장선에서 이들 규범을 확인하였을 뿐 아니라 한층 더 나아가 인공지능의 자동화된 결정에서 부정적인 영향을 받는 사람을 위한 조치를 마련해야 할 국가의 의무를 명시하였다.

국제인권규법과의 조화가 중요하다

OECD는 2019년 발표한 바 있는 인공지능 권고를 이번에 업데이트하였다. 주관적이었던 ‘윤리’적 접근을 법치주의, 인권, 민주적 가치에 기반한 접근으로 전환한 부분이 우선 눈에 띈다. 무엇보다 OECD와 유엔 모두 규범의 국제적인 ‘상호운용성’을 촉구한 점이 두드러진다. 최근 각국이 인공지능에 대하여 규율하는 제도를 다양한 수준으로 추진하면서 규제 완화로 산업을 유치하려는 이른바 ‘바닥을 향한 경주’에 대한 우려의 목소리가 존재한다. 이럴 때 국제적인 상호운용성을 강조하는 것은 각국의 국내 규범이 국제 인권규범은 물론 범용 인공지능을 측정하고 규율하려는 최신의 국제규범과 조화를 이루어야 함을 요구한 것으로 볼 수 있다.

지난 해부터 우리나라에서도 인공지능기본법에 대한 논의가 커지고 있다. 그러나 정부와 국회가 추진해 온 법안은 인공지능 산업 진흥을 위하여 인권과 안전 규제를 완화하는 내용을 담고 있어 시민사회의 우려를 사 왔다. 우리나라 인공지능법이 국제적으로 통용되기 위해서는 인공지능의 차별과 인권 침해를 방지하는 조치를 요구하는 국제 인권규범과 조화가 이루어져야 할 것이다. 국가인권위원회가 지난해 8월 지적한 의견대로, 인공지능으로부터 영향을 받는 사람을 구제하고 인권영향평가 등 인권의 부정적 영향에 대하여 조치하고 할 수 있는 조치가 반드시 입법에 포함되어야 하는 것이다.

1) 유엔문서 A/73/348.
2) 유엔문서 A/HRC/43/29.
3) 유엔문서 A/HRC/48/31.
4) 유엔문서 A/RES/78/265.
5) https://oecd.ai/en/wonk/evolving-with-innovation-the-2024-oecd-ai-principles-update
6) 유엔문서 A/RES/73/179, A/RES/75/176, A/RES/77/211 등.

글쓴이 장여경. (사단법인 정보인권연구소 상임이사/국가인권위원회 정보인권전문위원회 위원). 시민사회 관점에서 신기술과 정보인권 문제에 대하여 연구하고 활동하고 있다.

글 | 장여경(정보인권연구소 상임이사)