최근 인공지능(AI)은 더 이상 화면 속에만 머무르지 않는다. AI가 도로에서 스스로 자동차를 운전하고, 공장에서 제조 과정에 깊숙이 개입하며, 물류 센터에서 물품을 나르고 분류하는 모습은 이제 우리에게 점점 익숙한 풍경이 되고 있다. '피지컬 AI(Physical AI)' 시대가 예상보다 앞당겨지고 있는 것이다.
이처럼 피지컬 AI는 현실 공간에서 행동한다는 점에서 우리에게 직접적 영향을 미친다. 또 우리는 이로 인한 혜택을 곳곳에서 체감하고 있다. 문제는 피지컬 AI의 부작용이 발생했을 경우다. 이때 과연 누가 책임을 져야 하는지에 대해서는 우리나라를 비롯한 세계 각국에서 여전히 논쟁 중이다.
지금까지 기계는 사람의 명령에 따라 일정한 방식으로 움직였다. 문제가 발생하면 원인을 비교적 쉽게 특정할 수 있었다. 자동차를 예로 들면, 급발진과 같은 예외적 사안을 제외하고 엔진, 브레이크, 라이트 등이 고장 날 경우 제조사와 운전자 간의 과실, 책임 여부를 따지기가 상대적으로 쉬웠다.
하지만 피지컬 AI의 사고 발생은 기존 기계와는 차원이 다르다. 피지컬 AI는 단순히 사람이 입력한 프로그램대로 행동하지 않는다. 환경을 인식하고, 데이터를 학습하며, 스스로 판단을 수정하는 과정을 끊임없이 거치는 탓이다. 사람이 피지컬 AI의 행동을 사전에 예측하기란 사실상 불가능에 가깝다.
일반적인 자동차와는 달리 자율주행차가 사고를 냈다면, 제조사, 운전자, AI 개발 업체, 센서 공급 업체 간 누구에게 책임을 물어야 할지를 판단하기란 좀처럼 쉽지 않다. 운전자가 실수했다면 법적 판단이 비교적 명확하지만, AI가 학습을 통해 내린 판단의 결과라면 이야기는 달라진다. AI가 내린 특정 판단을 정확하게 규명하기 쉽지 않고, 이로 인해 주체들 간 책임 소재를 떠넘길 가능성도 그만큼 높아진다.
게다가 이 같은 상황은 산업군 전반에 걸쳐 재현될 가능성이 크다. 실제로 피지컬 AI는 전 세계적으로 교통을 비롯해 물류, 건설, 의료 등의 분야로 빠르게 확산하고 있다. 로봇이 물류 센터에서 작업자를 다치게 하거나, 병원에서 환자를 잘못 이송하는 등 공상과학(SF) 영화에서나 볼 법했던 사고들이 점점 현실화하고 있다는 이야기다.
물론 피지컬 AI 자체를 두려움의 대상으로만 바라볼 수는 없다. 피지컬 AI는 향후 전 산업에 스며들 것이며, 그만큼 우리 삶을 더욱 윤택하게 만들 가능성도 크다. 그만큼 피지컬 AI 시대를 거스르기란 사실상 불가능하다. 다만 최근 피지컬 AI가 비약적인 속도로 발전하는 데 반해, 이에 대한 사회적 준비는 충분치 않은 실정이다.
결국 피지컬 AI 시대에 제대로 대응하기 위해서는 기술 발전 속도만큼이나 책임 체계에 대한 사회적 합의도 지속적으로 논의돼야 한다. 사고 발생 이후 책임 주체를 두고 공방을 벌이는 것은 너무 위험한 일이다. 또 이는 AI 전반에 대한 신뢰를 확보하기도 어렵다.
쉽지 않은 문제지만 지금부터라도 피지컬 AI를 다루는 주체 간 책임 범위를 보다 구체적으로 나누고, AI의 판단 과정에 대한 세심한 추적 시스템을 마련하는 방안에 대해 고민할 필요가 있다. 피지컬 AI의 기술이 현실에 빠르게 침투하고 있는 지금, 이 기술의 책임을 얼마나 감당하고 명확히 규정하는지가 남은 과제가 될 것이다.
김충범 테크지식산업부장
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김충범 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지