[인더스트리뉴스 최정훈 기자] 전세계 400여개 항공 업체 등 전방위 산업 및 230여 육해공군과 견고한 파트너십을 이어가는 롤스로이스(Rolls-Royce)가 인공지능(artificial intelligence)의 윤리 및 신뢰성에 관련해 천착해온 성과를 발표했다고 12월 16일 밝혔다.

롤스로이스의 포괄적인 윤리 체계와 신뢰성 프로세스로 대두되는 새로운 도구모음은 신뢰와 진실의 폭로를 상징하는 그리스 여신의 이름을 따서 알레테이아 프레임워크(The Aletheia FrameworkTM)로 명명됐다. AI 애플리케이션 전 분야에서 광범위하게 사용돼 AI에 대한 불신을 해소하는데 크게 기여할 것으로 기대된다. 

지난 9월, 이러한 혁신을 발표했던 롤스로이스의 CEO 워런 이스트(Warren East)는 “공개된 이 도구모음이 AI 활성화의 분수령이 되기를 바란다. 디지털전환이 보다 빠르게 전개됨에 따라 AI도 윤리적으로 사용되는 신뢰할 수 있는 파트너로 거듭나야 한다. 알레테이아 프레임워크는 이를 위한 토대를 제공한다”며, “이제 비즈니스 리더들과 학자, 기술자, 심지어 철학자들까지도 AI의 잠재력만 논하는 대신, 미래 세계의 건강과 안녕, 성장을 위해 어떠한 이점을 제공할 수 있는지에 주목해야 한다”고 언급했다.

알레테이아 프레임워크는 기업들이 AI 실행을 결정하기 전에 AI 사용으로 인한 영향을 가늠할 수 있게 하는 점검 목록이다. 이는 사회적 영향과 거버넌스, 신뢰, 투명성과 관련된 총 32가지의 측면을 살펴보고, 경영진과 이사회가 이러한 사항들을 엄격하게 고려했는지 여부를 입증하도록 요구하고 있다. AI가 적용되면, 이 프레임워크는 5단계의 연속 자동화된 점검 프로세스를 제공한다. 이러한 프로세스가 포괄적으로 적용되면, AI의 결정을 추적해 AI의 편향성이나 오동작을 감지하고, 사람이 개입해 이를 통제하고 수정할 수 있도록 한다.

롤스로이스의 데이터 혁신 팀인 R2 데이터랩(R2 Data Labs)의 그룹 디렉터인 캐롤라인 고르스키(Caroline Gorski)는 “롤스로이스는 세계적인 산업기술 분야의 선도 기업으로, 수십 년간 AI를 활용해 우리 제트 엔진의 26차원에 걸친 70조개 이상의 데이터 포인트를 분석해 비행시간을 늘리고, 지속 가능성을 향상시킬 수 있었다”며, “현재 우리는 중요 구성부품에 대한 품질 검사를 위해 AI를 개발하고 있으며, 이러한 작업에 AI 기술을 적용하는 것이 정당하고, 올바른 일이며, 신뢰할 수 있는 것인지 확인하기 위해 자체적으로 도전과제를 수행하게 됐다”고 설명했다.

AI에 대한 글로벌 논의의 장을 마련할 것으로 전망되는 알레테이아 프레임워크는 AI 윤리와 관련해 글로벌 컨설테이션을 수행하고 있는 유네스코(UNESCO)의 전문가들과도 이미 공유가 진행됐다.

유네스코 사회인문과학 부문 사무총장보 가브리엘라 라모스(Gabriela Ramos)는 “유네스코는 초기 교류 과정에서 알레테이아 프레임워크를 공유하고, 인간 중심의 AI를 위한 권장사항을 개발하기 위해 전세계 전문가들과 협력하고 있다”며, “AI는 우리의 세상을 근본적으로 변화시키겠지만, 어떠한 형태가 될 것인지는 윤리가 결정하게 될 것이다. 공적이든 사적이든 모든 이해관계자들이 함께 협력해야 한다”고 밝혔다.

알레테이아 프레임워크는 방대한 검토작업을 거치는 과정에서 잠재력이 확인됐다. 롤스로이스의 서비스 무결성 책임자인 리 글래지어(Lee Glazier)는 “빅테크, 헬스케어, 제약, 학계 및 정부의 전문가들과 협력하여 진행된 안전 점검 과정에서 다른 기업들보다 우리가 훨씬 발전된 체계를 갖추고 있다는 것이 확인됐다”며, “또한 현재 알레테이아 프레임워크는 우리의 산업용 영역을 넘어 컨수머 애플리케이션 및 헬스케어, 채용 및 보안 등 기본적으로 AI를 사용하는 모든 애플리케이션에 적용이 가능하다는 것도 분명해졌다”고 설명했다.

알레테이아 프레임워크를 오픈 액세스로 공개한 것은 글로벌 AI 커뮤니티의 비판과 협력을 유도하여 개선을 모색하기 위한 것이다. 이 프레임워크를 공개하기로 결정한 배경에는 최근 운동신경질환(MND: Motor-Neurone Disease)을 앓고 있는 사람들을 위한 음성 소프트웨어의 획기적인 발전이 계기가 됐으며, 이러한 성과는 개인적으로 이 질환을 경험했던 롤스로이스 직원이 동기를 부여한 것이다.

이 소프트웨어는 AI를 이용해 목소리와 관용구, 정서적 어조 및 구문을 학습하여 주변 사람들과 빠르게 상호작용할 수 있도록 함으로써 MND로 인해 말을 할 수 없는 환자들과 함께 생활하는 사람들의 삶의 질을 향상시킬 수 있다. 이 소프트웨어 개발 경험은 알레테이아 프레임워크를 구축하는 데에 도움이 된 AI 활동 중의 하나였다.

최정훈 기자 다른기사 보기