[인더스트리뉴스 최종윤 기자] ‘챗GPT’(ChatGPT)를 필두로 인공지능에 대한 관심이 폭발적인 가운데, 부작용과 역기능을 막기 위한 통제수단은 단계적으로 도입해야 한다는 의견이 나왔다.

인공지능 기술의 발전 방향 및 가능성을 예측하기 어려울 뿐 아니라, 관련 산업이 팽창하고 있기 때문이다. 한 번에 규제할 경우 실효성 확보는 물론, 검증 및 집행 역량 확보도 어렵다는 취지다.

국회입법조사처는 ‘인공지능의 FATE(공정성·책임성·투명성·윤리의식)를 위한 입법 논의 동향과 시사점’ 보고서를 통해 글로벌 규제 논의 동향을 살피고, 시사점을 도출했다.

인공지능 사고 및 논쟁 수 빠르게 증가

빠른 속도로 발전하고 있는 인공지능 기술이 산업용을 넘어 일상에서도 널리 사용되기 시작하면서 관련 사고가 잇따르고 있다.

스탠포드대학교 인간중심 인공지능 연구소가 매년 발표하는 보고서 ‘AI Index 2023’에 따르면 인공지능 사고 및 논쟁 수는 2012년 10건에서 2021년 260건으로 26배 증가했다.

주요 사건 사례로 △화상회의 서비스에 인공지능을 활용해 학생 감정을 모니터링하는 시스템을 개발한 사건 △런던 경찰청이 범죄조직의 잠재적 위험도를 평가하기 위해 사용하는 인공지능 도구에서 특정 민족과 인종을 차별하는 경향이 발견된 사건 등이 발생했다. 인공지능이 윤리적으로 오남용될 수 있다는 가능성을 보여준 사건으로 해석된다.

이에 EU, 미국 등 주요 선진국들은 그간 윤리적 차원에서 논의했던 인공지능의 공정성‧책임성‧투명성‧윤리의식 등과 관련해 구체적인 규제 논의를 진행하고 있다.

EU, 미국 등 글로벌 각국 구체적 규제 논의 진행중

국회입법조사처 보고서에 따르면 EU는 2021년 ‘EU 인공지능법안’을 발의한 이후 2023년 가결했다. 지난 6월 26일 기준으로 현재 EU 의회, EU 집행위원회 및 이사회가 3자 협상을 진행중이다.

‘EU 인공지능법안’은 인간 중심의 접근을 위해 △인간에 의한 감독 △기술적 견고성과 안전성, △프라이버시 및 데이터 거버넌스 △투명성 △다양성‧비차별성‧공정성 △사회 및 환경복지를 인공지능이 준수해야 할 일반원칙으로 제시하고 있다.

또 생성형 인공지능에 대해서는 사람이 인공지능과 상호작용하고 있음을 알리고, 기본권‧민주주의‧안전 등에 위반되지 않는 콘텐츠를 생성할 것을 요구하고 있다.

미국에서는 2022년 상하원에 각각 ‘알고리즘책임법안’이 발의됐다. 법안은 알고리즘을 개발 배포하는 일정 기준 이상의 기업으로 하여금 자동화된 의사결정 시스템과 그 시스템을 중요한 의사결정에 활용하는 과정이 소비자에게 미치는 영향을 평가하도록 해 투명성과 책임성을 부과하고 있다.

영향평가에는 △이해관계자와의 협의에 대한 확인‧설명, 개인정보 위험 및 개인정보 보호 강화 조치 △부정적 영향과 관련된 지속적인 훈련과 교육에 대한 지원‧수행 △안전장치 필요성 및 개발가능성에 대한 평가 △사용되는 모든 데이터의 업데이트 유지‧보관 등에 대한 평가가 이뤄져야 한다.

국내도 과학기술정보통신부가 2020년 ‘인공지능 윤리기준’, 2021년 ‘신뢰할 수 있는 인공지능 실현전략(안)’을 발표하고, 올해는 인공지능 제품‧서비스별 평가체계를 마련하기 시작하는 등 관련 조치를 취하고 있다.

또 개인정보보호위원회, 방송통신위원회, 금융위원회는 2021년 인공지능 관련 자율점검표‧가이드라인을, 국가인권위원회는 2022년 ‘인공지능 개발과 활용에 관한 인권 가이드라인’을 마련했다. 국회에서도 7건의 법률안을 병합한 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안’이 올해 2월 법안심사소위원회를 통과했다.

국회입법조사처 박소영 입법조사관은 “인공지능 시스템의 공정성‧책임성‧투명성‧윤리의식 등에 대한 규제가 어느 정도 필요하다는 점에 대해서는 사회적 합의가 도출되고 있는 것으로 보인다”면서, “다만 인공지능 기술이 어디까지 발전할지 예상하기 어려운 만큼 규제를 한 번에 마련하기보다는 지속적으로 논의하며 단계적으로 도입할 필요가 있다”고 말했다.

덧붙여 “또 인공지능 규제의 실효성을 확보하기 위해서는 정부의 인공지능 검증 조사 및 집행 역량을 확보해야 할 것”이라고 강조했다.

최종윤 기자 다른기사 보기