[뉴스토마토 신상민 기자]
카카오(035720)가 생성형 인공지능(AI) 기술 고도화와 사회적 책임 준수라는 두 마리 토끼를 잡기 위해 고군분투 중입니다. 다만 AI 서비스의 빠른 확장이 요구되는 이때 자칫 윤리적 안전성에 매몰될 경우 경쟁에서 뒤처질 우려가 있다고 일각에선 지적합니다.
카카오는 최근 발간한 2024 ESG 보고서를 통해 ‘카카오 AI 세이프티 이니셔티브(Kakao ASI)’를 수립하고 있다고 밝혔습니다. ASI는 △투명성 △공정성 △프라이버시 보호를 핵심 원칙으로 삼아 AI 기술의 설계부터 운영까지 전 과정에 윤리적 점검 절차를 포함합니다.
카카오는 AI 기술 개발 단계에서부터 전사적 리스크관리(ERM) 체계를 통해 기술 윤리 검토를 실시하고 있으며, 이를 뒷받침할 수 있도록 모의 해킹과 위험을 탐지하는 레드티밍(Red Teaming), 응답 차단 정책 등을 함께 운영 중입니다. 또한, 전 직원 대상으로 AI 윤리 교육을 의무화해 내부적 인식 제고에도 힘을 싣고 있습니다.
특히 레드티밍 체계는 생성형 AI가 편향된 정보나 유해 콘텐츠를 생성하지 않도록 사전 점검하는 수단으로 활용됩니다. 동시에, 민감 주제에 대한 응답 제한 정책은 아동 보호, 혐오 발언, 개인정보 유출과 같은 사회적 리스크를 최소화하는 데 중점을 두고 있습니다.
카카오는 AI 윤리 책임을 경영 전략에 직접 반영하고 있습니다. 경영진 핵심성과지표(KPI) 항목에 ESG, AI 안정성, 개인정보 보호를 포함시키며 기술과 윤리의 결합을 제도화했습니다.
전창배 국제인공지능윤리협회 이사장은 "인공지능 기술과 윤리는 충돌하는 개념이 아니라 상호 보완적인 관계"라며 "AI 기술은 기본이 된 만큼 소비자와 사용자는 안전하고 믿을 수 있는 AI 제품만을 선택하게 된다"고 밝혔습니다.
AI가속주의 분위기 속 개발 위축 우려
하지만 이러한 윤리 체계가 기술 개발 속도에 브레이크가 될 수 있다는 지적도 나옵니다. 윤리 기준에 따른 데이터 필터링과 응답 차단은 서비스 출시 시점을 늦추는 요인이 되며, 일부에서는 AI의 창의성과 다양성을 위축시키는 결과로도 이어질 수 있다는 겁니다.
AI가 생성한 텍스트나 이미지가 특정 문화나 정치적 사안에 대해 편향되지 않도록 응답을 조정해야 하는 경우, 그 기준과 적용 범위가 불투명하면 결과의 신뢰성 또는 창의성이 손상될 우려도 있습니다.
강정수 미디어스피어 AI연구센터장은 "안정성에 대한 기준이 필요하다는 입장이지만 최근 글로벌 AI 분위기가 트럼프 대통령 집권 이후 AI 가속주의로 향하고 있다"며 "미국뿐 아니라 EU도 AI 가속주의로 눈을 돌리고 있다는 점을 간과할 수 없다"고 지적했습니다.
결국 AI 윤리 기준을 세우되 지나치게 보수적으로 흐르지 않고 기술 개발의 속도감을 잃지 않도록 하는 것이 중요한데요.
카카오 관계자는 "AI 기술의 발전과 윤리 사이의 불균형은 현실적으로 존재할 수 있지만 상호보완을 기반으로 균형을 갖출 수 있도록 카카오는 AI 윤리와 관련된 기술을 개발하고 있다"며 "지난 5월 오픈소스로 공개한 카나나 세이프가드가 대표적인 예"라고 밝혔습니다. 카나나 세이프가드는 기술이 개발되는 과정에서 AI의 위험성을 사전에 감지할 수 있는, 안전하고 신뢰할 수 있는 생성형 AI 환경 구축을 위해 카카오가 자체 개발한 AI 가드레일 모델입니다.
이어 "카카오는 AI 서비스와 기술이 개발되는 과정에서 AI 윤리를 전담하고 있는 ‘AI 세이프티(Safety)’ 조직과 정기, 수시 소통을 진행해 협력하고 있다"고 전했습니다.
카카오는 AI 기술의 발전과 윤리 사이의 불균형이 균형을 갖출 수 있도록 노력하고 있으며, 그 결과물이 지난 5월 오픈소스로 공개한 카나나 세이프가드라는 입장이다. (사진=카카오)
신상민 기자 lmez0810@etomato.com
이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김나볏 테크지식산업부장이 최종 확인·수정했습니다.
ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지