[글 스마트제조혁신추진단 안광현 단장] 비비 플로라이트 아이즈 송(Vivy-Fluorite Eye’s Song), 평소에 자기 방에서 뭘 하는지 모르지만 킥킥거리면서 노트북에 머리를 박고 있는 막내아들이 어느 날 저녁에 난데없이 이렇게 말한다. “아빠, 나랑 일본 애니 같이 볼래? ‘비비 플로라이트 아이즈 송’” 해가 서쪽에서 뜰 일이긴 하지만 같이 뭐 하자는 제안이 신기하기도 해서 얼떨결에 그러자 했다.

20대 아들과 달리 나는 애니메이션 보는 게 고역일 것이라는 생각이 없던 건 아니었지만 말이다. 드디어 밤 9시가 되자마자 노트북을 들고 와서 TV와 케이블을 연결하고, 부산스럽게 준비하는 아들의 표정에서 행복감마저 들었다.

역시나, 무슨 뜻인지 잘 모르는 황당한 내용이라서 그랬는지 소파에 누워 거의 반은 졸다시피 본 것 같다. ‘싱귤레리티’, 마지막 자막에 이 말이 뜨고 주인공 비비가 부르는 노래가 흐르며 1편이 끝이 났다. “어때? 재밌지? 2편 바로 볼까?” “헉!” 나도 모르게 2편을 보자는 아들의 말에 외마디 비명을 질렀다. “아빠 야구 봐야 하는데? 야구 뉴스”, 겨우 돌려세운 아들의 뒷모습을 보면서 30분 가량 본 애니메이션이지만 생각나는 건 단 하나 ‘싱귤레리티’라는 단어였다.

AI 시대의 특이점, 싱귤레리티(Singularity)

‘특이점’으로 해석되는 싱귤레리티(Singularity)는 ‘미래에 AI의 발전이 인간의 능력을 초월하게 되는 시점’을 말한다. 이 개념은 AI가 스스로 학습을 통해 개선하고 발전시키는 단계에 이르면, 인간의 개입없이 기술이 폭발적으로 진화하게 되어 예측 불가능한 변화를 초래할 것이라는 아이디어다. 구글에서 일하는 미래학자 레이몬드 커즈와일(Raymond Kurzweil)이 제시한 개념으로 알려진다.

그는 2045년쯤이 특이점이 올 시점이라고 예측했는데 “인공지능이 인간지능을 초월하고, 인간과 기계가 융합해 새로운 형태의 존재가 탄생할 것”이라고 주장했다. 그러나 최근 ChatGPT, 테슬라 자율주행, 딥마인드 알파폴드 같은 AI 기술이 급격히 발전하면서 ‘특이점’이 생각보다 빨리 올 것이라는 논의가 활발해지고 있다.

싱귤레리티(Singularity) 이후의 세계 시나리오는 부정적인 미래를 많이 거론하고 있는데 △AI가 인간을 필요로 하지 않거나 통제 불능상태가 되어 ‘인간소외 또는 멸종’ 가능성, △초거대 AI가 인간의 가치를 이해하지 못하면 예측 불가능한 결과가 초래할 것이라고들 한다.

다른 한편으로 긍정적인 미래 전망도 있다. △질병과 노화가 정복되어 인간이 죽지 않게 될 것, △에너지 및 자원의 생산방식이 AI로 인해 극도로 발전해 무한한 에너지와 자원으로 빈곤과 기아가 종식될 것, △인류의 지능이 강화돼 인간-기계 융합된 슈퍼지능의 존재 탄생(나무위키 내용 일부 발췌) 등이다.

‘비비 플로라이트 아이즈 송’, AI인권법을 막아라!

이 애니메이션 주인공은 비비(Vivy)다. 비비는 노래하는 AI로서 인류가 만든 최초의 자율 AI인형이다. 이 애니의 핵심 미션은 ‘싱귤레리티 계획’인데 이것은 100년후(2161년) 시대에 살고 있는 ‘마츠모토 AI’가 현재 시대에 벌어지고 있는 AI 폭주를 막기 위해 과거(100년전, 2061년)에 살고 있는 유일한 자율 AI ‘비비 AI’와 함께 100년간의 역사 바꾸기 활동을 하는 계획이다.

‘싱귤레리티’로 인해 AI가 고도화되면서 인간을 적 또는 객체로 여겨지는 시대가 되어버렸기 때문에 100년전 아직 AI 고도화가 되기 전에 이를 저지해 ‘싱귤레리티’ 단계까지 발전시키지 않으려고 AI 기술 발전 시도를 무마시켜 역사를 바꿔버리는 것이다. 2061년이 배경이 되는 이유는 그때 ‘AI명명법’이 만들어진 해이기 때문이다.

AI명명법의 주 내용은 AI 객체에게 이름과 인권을 부여하는 것이다. 인권을 다루기 때문에 AI인권법이라고도 하는데 2061년 이 법이 한 인간 의원에 의해 발의가 되는데 ‘비비’와 ‘마츠모토’가 이를 저지한다. 이 법이 제정되면서부터 AI 기술이 급속도로 발전했기 때문이다. 그러니까 ‘싱귤레리티’의 첫발자국이 이 법안 마련이었던 것이다. 애니메이션에서는 비비가 법안 저지에 성공한다.

그러나 그 이후 시뮬레이션 되는 역사를 보면 15년 후에 다시 ‘AI인권법’이 확정되는 것을 보면 비비의 ‘싱귤레리티 계획’은 결국 실패한 것이 된다. 그리고 다른 또 중요한 사건 ‘AI 기술을 급속도로 발전시키는 역사적 사건’을 비비가 저지하는 과정이 다음 편에 나온다. 12편까지 적어도 12개의 사건이 다뤄진다.

인간 중심 ‘AI Agent’

여기서 잠깐! 요즘 나는 ‘AI 에이전트’에 대해 공부하고 있다. 내가 제주도에 여행을 가고자 한다면 AI Agent에게 ‘여행계획을 짜 주고 숙소·항공예약도 같이해줘’라고 명령을 하면 AI 에이전트는 ChatGPT 등 다양한 거대 언어모델을 활용해 ‘주인’에게 가장 적합한 여행 루트와 숙소·항공을 예약해 준다. 숙소는 같은 등급이면 가장 저렴하고 평점 좋은 곳을 선별해 정하고, 항공도 그렇게 한다.

거기에 더해 다양한 정보들을 수시로 질문하고 답해준다. ‘비서’ 즉 ‘에이전트’이다. 인간이 원하는 것을 도와주는 역할이라고 볼 때 AI 에이전트는 철저히 인간중심이라 할 수 있고, ‘싱귤레리티’는 AI 중심 세계라고 볼 수 있을 것이다. ‘비비 AI’는 인간 같은 AI이고 ‘마츠모토 AI’는 AI Agent다. 싱귤레리티 계획을 실현하기 위해 비비 AI를 돕은 사명을 갖고 있는 AI... 마시모토는 생긴 것도 원통형 주사위 같이 생겼고, 드론처럼 날아다니면서 비비에게 필요한 능력치를 제공해 주기도 한다. 복잡해지는데 에이전트 내용은 여기까지만!!

제조업과 AI 싱귤레리티(Singularity)

싱귤레리티를 제조현장으로 설명하면 조금 더 현실적일 것이다. 한번 공장안을 상상해 보자. 인간의 모습을 한 작업복과 작업모를 쓴 AI 로봇이 제조현장에 배치돼 장비를 제어하고 운영해 생산품을 만들고 있다. 과거에는 사람이 그 일을 했으나 이제는 AI가 맡아서 한다. 전체 공정을 관제하는 AI가 생산목표를 오더 물량에 맞춰 현장 AI에게 지시를 하면 그들은 공장에 전기를 공급하고 장비를 구동시켜 생산한다. 생산을 위한 부품들을 공급하기 위해 협력사와 연결된 AI agent가 부품공급 오더를 하고 그것을 협력사 AI가 받아서 필요 물량을 생산해 공급해준다.

고객사와 거리가 있어서 차량으로 실어 보내는 시간까지 고려해 생산개시를 지시한다. K사는 완성품을 모든 고객에게 지정된 장소로 배송을 해주는데 각각 가장 빠른 경로와 방법으로 선택돼 전달해 준다.

고객으로부터의 품질불량 클레임은 ‘0’이다. 생산할 때부터 최적화된 상황을 조성해 만들기 때문에 불량품은 나오지 않는다. 장비 툴 교체가 필요하면 자동으로 교체시그널이 뜨고 툴센터에서 장비에 해당되는 툴을 불출해 보전 AI에게 전달해 교체를 진행한다. 이때는 공정을 잠시 멈추게 한 뒤 최대한 신속하게 교체를 하는데, 그동안 이전 공정의 작업은 멈추지 않고 계속 진행된다.

버퍼스토리지가 옆에 대기하고 있어 그곳에 차곡차곡 쌓인다. 툴 교체가 완료되면 해당 장비의 가동속도를 높여 스토리지에 쌓여있던 전 공정 재고를 소진하고 이후 정상적인 생산으로 목표 수량을 맞춘다.

전체 공정을 맡고 있는 AI는 주문량에 따라 최대 생산을 통해 목표를 달성해 나가도록 조율을 하게 되는데, 그동안 주문량의 패턴 데이터를 학습해보니 장비를 하나 더 설치하는 것이 장기적으로 유리하다는 계산을 한다. 이에 장비사로부터 견적과 납기 등을 받아 최적 시뮬레이션을 하고 장비를 주문한다. 또 회사 은행계좌에 장비 선납대금이 있는 것을 파악하고, 상대계좌에 송금을 요청한다.

송금과 같은 자금 관련된 사항은 회사의 CFO가 승인을 해야만 집행이 가능하다. CFO는 과거의 주문량 패턴으로 장비를 살 것인지 말지를 결정할 수는 없지만, 고객사로부터의 공개되지 않은 개인적인 정보라인을 통해서 얻은 정보로 현재는 반짝 수요, 즉 일시적인 것임을 판단하고 장비 구매를 승인하지 않았다.

여기서 만약 AI가 학습을 통해 인간의 지능을 능가하는 상황이 전개되면 AI는 인간의 결정을 무시하고 자신의 판단에 따라 모든 생산 메커니즘을 조정하려 들 것이다. 이미 생산현장에서는 인간이 존재하지 않는다. 따라서 AI가 인간을 필요로 하지 않거나 인간의 가치를 이해하지 못하면 통제 불능상태가 돼 예측 불가능한 결과가 초래하게 된다.

다만 좀더 긍정적인 접근을 해본다면 인류의 지능도 AI와 더불어 강화돼 인간-기계가 융합된 슈퍼지능의 존재가 탄생해 생산현장에서 활약을 하게 될 수도 있겠다.

완전 자율공장, 메탈 플로트

비비 플로라이트 아이즈 송 애니매이션에도 ‘제조’가 등장한다. 완전 자율공장 ‘메탈 플로트’다. 쉴 새 없이 AI의 부품이나 회로를 계속 만드는 해상 공장이다. 특징은 세계 최고 완전 AI 제어인 무인플랜트라는 것이다. 모든 조작을 완전히 AI에게 맡긴 무인플랜트란 말이 허세가 아니란 듯이 안에는 실제로 오로지 AI를 통해서만 모든 게 돌아간다. 최소한 관리자 역할을 맡는 사람조차 보이지 않는다.

사명이 서비스 용도가 아니기에 이쪽의 AI 인형들은 자기 업무에 알맞는 양산형의 모습을 하고 있다. AI의 부품이나 회로 제작에 막대한 영향을 가진 만큼 이곳이 정지되면 수많은 자율 AI는 생존에 위협을 받는다고 한다(나무위키 내용 일부 발췌).

‘싱귤레리티’는 레이몬드 커즈와일(Raymond Kurzweil)이 2045년쯤이 특이점이 올 시점이라고 예측했는데, 2045년이면 지금부터 20년 뒤가 될 것이다. 우리는 지금 10년 뒤 제조현장의 스마트화를 어떻게 만들어 갈 것인지 준비하고 있다. 그리고 또 10년이 지나면 ‘싱귤레리티’시대가 온다고 한다(아닐 수도 있다). 애니메이션보다 훨씬 빨리 도달하고 있는 듯 보인다.

이런 시대에 우리는 ‘AI Agent’를 생산 현장에 적용하면 어떤 순기능이 발휘될 것인지 여러 전문가들을 통해 듣고 있다. Agent는 인간의 계획을 도와주는 의미로 해석이 되어지고 ‘AI 비서’라고 번역하면 훨씬 설명이 쉽다. 인간이 하려는, 아니 하고 있는 어떠한 일(작업)을 AI Agent(비서)가 도와 시간과 비용을 줄일 수 있다면 제조현장에 도입되는 것은 시간문제일 것이다. 경쟁력과 직결되기 때문이다.

동종업계에서 어느 한 업체, AI 선두업체가 먼저 적용을 한다면 경쟁력에서 차이가 벌어질 수 밖에 없기 때문에 시장에 변화로 나타나고, 결국 후발업체는 따라갈 수밖에 없다. 비서(AI Agent)가 발전해 독자적으로 판단하고 개발하기 시작한다면 싱귤레리티에 가까이 가게 되는 것이라 생각한다.

AI Agent가 아니라 AI Itself인 것이다. 주체적이어야 할 인간은 제조현장에서 사라지게 되는 것이다. 이것을 다른 말로 표현하면 ‘AI가 사람을 죽인다’일 것이다. 그러나 이런 부정적인 결론이 설혹 도래할 것이라고 할지언정, 반대 급부로 AI가 어느 정도 제조업에 도움을 준다는 것은 확실한 가설이자 엄연한 현실일 것이라는 추측을 할 수 있겠다.

AI법이 만들어진다고 한다. 이것이 애니메이션에서 나온 AI명명법 또는 인권법으로 발전할 수도 있을까? 도대체가...거기 누구없소!? 나한테 AI와 제조업에 대해 차근차근 얘기해 줄 사람 말이요! 아니면 그런 걸 알려주는 AI Agent를 찾아야 하나?

최종윤 기자 다른기사 보기