[뉴스토마토 신상민 기자] '이루다 사태'로 논란의 중심에 섰던 스캐터랩이 부활의 날갯짓을 하고 있습니다. 지난 2021년 챗봇 이루다의 개인정보 관리 논란, 부적절한 발화 문제로 사회적 비판을 받았지만 위기는 안전성과 신뢰성 강화의 계기가 됐습니다. 지난해 새롭게 출시한 제타의 성공으로 지난해 4분기부터 3분기 연속 흑자를 기록, 성장의 발판을 다진 모습입니다.
이루다 모델 개발에도 참여한 이녕우 스캐터랩 ML 리서치 리드는 현재 자체 언어모델 '스팟라이트(Spotwrite)'와 '제타' 인공지능(AI) 모델 개발을 총괄하고 있습니다. 3일 스캐터랩 본사에서 만난 이 리드는 초기의 실패가 오히려 더 단단한 안전장치와 기술 혁신을 가능하게 한 기회가 됐다고 말했습니다.
위기를 기회로 바꾼 경험
이 리드는 이루다 사태 이후 가장 먼저 추진한 것이 안전장치의 내재화라고 강조했습니다. 개인정보 보호를 위한 가명 처리, 어뷰징 발화 필터링 같은 사회적 안전망이 대표적입니다.
이 리드는 "실제로 저희 어뷰징 모델 성능이 꽤 좋은 편인데 그 이유 중 하나가 이루다 시절의 부정적 경험 덕분"이라고 했습니다. 당시 쏟아진 수많은 악성 발화 데이터를 학습해 오히려 필터링 정확도를 높여 고도화된 안전성을 만들어냈습니다.
제타, 단순 대화를 넘어 판타지 플랫폼으로
스캐터랩은 이루다 이후 단순한 1:1 대화형 챗봇에서 벗어나 인터랙티브 내러티브 기반의 판타지 플랫폼 제타를 선보였습니다. 제타는 이용자가 직접 상상 속 세계관 속에서 캐릭터와 관계를 맺고 몰입형 스토리를 만들어가는 서비스입니다. 단순한 대화의 반복이 아니라 서사적 경험을 제공해 기존 챗봇과 차별화됩니다.
제타로의 전환에 내부 노력뿐 아니라 외부 기술 환경 변화도 큰 역할을 했습니다. 이루다가 하나의 캐릭터로 사용자를 붙잡았다면 제타는 유저가 자율적이고 불확실한 행동을 하더라도 이에 대응해 스토리를 전개해 나갈 수 있게끔 만들어졌습니다. 관계와 이야기를 만들어가는 제타라는 새로운 엔터테인먼트 경험이 만들어질 수 있었던 데는 AI의 발달이 영향을 미쳤습니다.
이 리드는 "거대 기업들이 경쟁을 하면서 오픈소스를 비롯해 뛰어난 기술들이 공개되고 있는데 여기서의 노하우를 자체 모델 개발 및 새로운 기술 연구에 적극적으로 적용할 수 있었다"고 말했습니다.
AI 윤리는 여전히 민감
스캐터랩은 여전히 윤리적 감수성의 내재화를 민감하게 다루고 있습니다. 이 리드에 따르면 스캐터랩 대표를 비롯한 주요 임직원은 최근 해외에서 AI와 대화를 하던 10대가 자살을 한 뉴스를 공유했는데, 이를 바탕으로 자살 관련 안전 매커니즘을 빠르게 도입했습니다.
특히 제타에 10대 유저가 적지 않다 보니 생명·안전 관련 이슈에 더 민감히 대응하고 있습니다. 제타에는 자살이나 자해 관련 키워드를 탐지하며 자동으로 팝업을 띄워 생명의 전화 안내 등을 하는 안전 조치 시스템이 마련돼 있습니다.
이 리드는 "자살 이슈는 저희가 민감하게 반응하는 주제"라며 "그런 발화를 탐지하고 나서 어떻게 대처할 것인가가 굉장히 중요한 문제"라고 말했습니다.
다양한 장르 아우르는 서사적 경험 목표
스캐터랩은 제타를 기반으로 AI 엔터테인먼트 플랫폼으로의 확장을 이어 나갈 계획입니다. 지식재산권(IP) 확장과 더불어 판타지 외 다양한 장르를 아우르는 서사적 경험을 제공하겠다는 것이 목표입니다.
이 리드는 "지금은 제타에 집중하는 게 목표”라며 “이용자들이 상상하는 개인의 판타지를 최대한 몰입감 있고 충실하게 구현해 즐길 수 있게 하는 것이 본질"이라고 강조했습니다.
또한 이 리드는 "본질은 시나리오·스토리의 퀄리티를 높이는 데 있고, 향후에는 이미지·음성 등 다양한 모달리티와 장르 확장, 글로벌 시장 진출까지 도전할 것"이라고 덧붙였습니다.
이녕우 스캐터랩 ML 리서치 리드. (사진=스캐터랩)
신상민 기자 lmez0810@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지