[인더스트리뉴스 조창현 기자] 기존 인공지능은 수학적 알고리즘 기반 학습으로 예제에만 편향돼 신뢰할 수 없거나, 사람이 수천억개의 매개변수를 이해할 수 없다는 문제점이 있다.
이 문제를 해결하기 위한 설명 가능 인공지능(이하 XAI)은 사람이 이해 및 신뢰할 수 있는 설명을 제공하는 기법이다. 해당 AI는 어떤 이유가 의사결정에 큰 영향을 줬는지 설명 가능해 기존 인공지능보다 정확성, 공정성, 신뢰성을 보장할 수 있다.
카이스트(총장 이광형)는 전기및전자공학부 윤찬현, 김주영 교수 연구팀이 XAI 기법 처리를 위해 잡음(노이즈)에 강한 다중 피라미드 활성화 맵 기반 ‘주의집중 구조가 탑재된 인공지능 칩’을 설계하고, 삼성전자 DS부문의 지원으로 ‘설명가능 뉴로프로세싱 유닛(이하 EPU)’을 개발했다고 8월 24일 밝혔다.
공동연구팀은 다중 규모 및 다중물체의 특징 추출 구조인 피라미드형 신경망 구조서 추론 결과에 영향을 주는 인공지능 내부 신경층별 활성화 정도를 복합적 해석이 가능한 AI 모델과 가속처리 특화된 채널 방향 합성곱 연산 및 정확도를 유지하는 ‘EPU칩’을 구현했다.
다중 규모 및 다중물체 특징 추출에 특화된 피라미드형 인공지능 모델서 ‘설명 시각화 구현’을 위해서는 추론과정 역방향으로 모든 합성곱 층별 활성화 맵상 모델 파라미터 변화도를 추출 가능한 구조가 요구된다.
해당 추론 과정은 이전 파라미터 및 상태를 기억해야 하며, 한정된 온 칩 메모리 크기 및 인공지능 모델 전체를 특정 용도에 맞게 주문 제작해 구현하기에는 물리적 한계가 있다. 또, 피라미드형 구조를 가진 XAI 모델은 설명성 보장을 위한 N개 층의 활성화 맵으로부터 기울기 기반의 클래스 활성 맵핑 시각화 처리 각각 필요해 복잡도를 높이는 문제가 있다. 또한, 매우 작은 노이즈에도 클래스 활성화 맵핑 시각화 설명이 완전히 달라져 XAI 모델의 신뢰도 저하가 큰 문제점이다.
카이스트 전기및전자공학부 윤찬현 교수 연구팀은 문제해결을 위해 XAI 다중활성화 맵 고유특성정보를 융합해 주의집중 맵을 생성하는 네트워크 구조와 입력 이미지 노이즈에 강건한 모델 생성을 위한 상호학습 방법을 개발했다. 이 방법은 단일활성화 맵 기반 주의집중 맵 생성 기술보다 ‘설명성 지표’를 최대 6배까지 높였다.
연구팀 관계자는 “다양한 주의집중 맵들의 상호보완적 특성을 일원화해 정교한 재구성으로 사람이 해석 가능한 수준의 설명을 제공한다”라며, “이번 연구 성과로 위성영상처럼 객체 크기변화가 큰 이미지 분석에서 AI 모델의 설명성을 높일 수 있을 것”이라고 밝혔다.
아울러 카이스트 전기및전자공학부 김주영 교수 연구팀은 XAI 모델 가속을 위해 기존 모델 추론 및 역전파 과정, 활성화 맵 생성까지 처리하는 ‘XAI 코어’를 개발하고, 다양한 연산 작업 분할 및 동시 처리 가능한 ‘멀티 데이터 플로우 방식’을 제안했다. 또한, 많은 ‘0’값을 포함하는 활성화 맵 특성을 활용해 연속된 ‘0’을 건너뛰는 새로운 데이터 압축 포맷을 제안, 포맷 지원 가속 유닛을 개발해 최대 10배 이상의 활성화 맵을 칩 내부에서 처리하도록 했다.
연구팀이 개발한 ‘EPU 칩’은 광학 위성, 전천후 관측 영상레이더위성 등 특수목적과 고정밀 인공지능 영상처리시스템에 적용 가능하며, 저지연‧저전력으로 AI가 판단한 근거에 대한 설명성을 획기적으로 높일 것으로 예상된다.
