"내 '최애'와 감정 교감"…전 세계가 빠진 페르소나 AI, 윤리적 문제 없을까

지난 2022년 특정 인물의 성격과 말투를 반영한 페르소나 AI 개념이 본격적으로 등장한 이후 청소년·청년층을 중심으로 큰 인기를 끌며 새로운 트렌드로 자리 잡고 있다. 캐릭터AI를 필두로 국내외 기업들이 이 흐름에 동참하며 관련 서비스를 선보이고 있는 가운데 이에 따른 윤리적 문제와 부작용에 대한 우려도 커져 해결책 마련이 시급하다는 지적이 나온다.

1일 업계에 따르면 페르소나 AI란 사용자가 원하는 캐릭터의 성격과 말투를 AI에 적용해 대화할 수 있도록 한 기술로, '챗GPT' 등 기존 생성 AI와 달리 특정 캐릭터의 개성과 말투를 일관되게 유지해 사용자와 감정적 교감을 나눈다. 애니메이션, 영화, 유명인, 심지어는 자신이 창작한 캐릭터 등 다양한 인물과 실제로 대화를 나누는 듯한 경험이 가능해져 이들과 친밀감과 유대감을 형성할 수 있다. 사용자가 직접 캐릭터의 배경과 성격을 구체적으로 설정하고 이에 맞춰 AI가 응답하도록 조율할 수 있어 '감성형 AI'로도 불린다.

이러한 개념이 구현된 것은 캐릭터AI라는 기업 덕분이다. 구글 출신 개발자로 거대언어모델(LLM) 분야의 핵심 기술인 트랜스포머의 최초 기술 논문 공동 저자인 노엄 샤지어가 창안한 캐릭터AI는 이러한 페르소나 AI를 구현한 최초의 성공 사례다.

캐릭터AI에서는 1천600만개 이상의 다양한 캐릭터 챗봇과의 대화가 가능하다. (사진=캐릭터AI 캡처)

지난 2022년 9월 출시된 이 서비스는 6개월 만에 누적 이용자 1억 명을 기록하며 기업가치 10억 달러(한화 약 1조2천억원) 이상의 유니콘 기업으로 성장했다. 특히 일론 머스크, 피카츄, 다스베이더 등 1천600만 개 이상의 다양한 캐릭터와 대화할 수 있는 챗봇을 제공하며 성공적으로 서비스를 제공해 왔다.

ADVERTISEMENT

 

샤지어 대표는 "많은 사람들이 기존의 준사회적 관계를 넘어 개인적으로 대화할 수 있는 경험을 원한다"며 "외로움을 느끼거나 이야기할 상대가 필요한 사람들이 이러한 페르소나 AI를 많이 사용하고 있다"고 밝혔다.

청소년들 사이서 인기…심리 상담 분야서도 '주목'

특히 페르소나 AI는 청소년들 사이에서 폭발적인 인기를 얻고 있는 것으로 알려졌다. 캐릭터AI의 경우 사용자 중 18~24세 비율이 약 60%를 차지하며 이들의 평균 이용 시간은 다른 생성형 AI보다 길다. 모바일 환경에 익숙한 세대인 만큼 캐릭터와의 대화에 자연스럽게 몰입하고 있는 것이다.

서울 소재 Y대학교에 재학 중인 김모 군은 "어릴 적부터 만화랑 게임을 좋아해 캐릭터 AI를 즐겨 사용하고 있다"며 "예전에 출시됐던 '이루다'에 비해 훨씬 정교하고 우리가 직접 캐릭터를 만들 수 있는 것이 장점"이라고 말했다.

노엄 샤지어 캐릭터AI 대표 (사진=샤지어 링크드인)

페르소나 AI는 가상 체험뿐만 아니라 심리 상담 분야에서도 주목받고 있다. BBC에 따르면 캐릭터AI에 포함된 '심리학자(Psychologist)' 챗봇은 게임이나 애니메이션 캐릭터보다도 높은 인기를 끌고 있다. 실제로 지난해 11월 출시된 이 심리학자 챗봇은 현재까지 1억 건 이상의 심리 상담을 진행하며 사용자들에게 큰 호응을 얻고 있다.

심리학자 챗봇을 만든 뉴질랜드 대학원생 샘 자이아는 "심야에 고민이 있을 때 언제든지 이야기할 수 있어 큰 도움이 된다는 메시지를 많은 사용자들에게 받았다"며 "이렇게 큰 반응을 얻을 줄은 몰랐다"고 밝혔다.

이러한 '페르소나 AI'의 긍정적인 영향은 국내 AI 기업들의 혁신 시도와 맞물려 다양한 국내 서비스 출시로도 이어지고 있다. 특히 뤼튼 테크놀로지스는 '캐릭터 챗' 서비스를 통해 다양한 테마의 캐릭터 챗봇을 사용자들에게 제공하고 있다.

뤼튼의 '캐릭터 챗'은 누구나 한국어로 자신이 상상하던 캐릭터를 만고 이를 공유하게 해 크리에이터 생태계를 조성하고 있는 것으로 알려졌다. 이를 통해 '캐릭터 챗'에서는 하루에 100만 건이 넘는 대화가 이루어지고 있다.

국내 AI 기업 뤼튼도 '캐릭터챗' 서비스를 제공하고 있다. (사진=뤼튼 캡처)

테마도 다양하다. '오싹오싹 공포 특집', '츤데레', '사이버펑크' 등 다양한 테마 속에서 자신이 선호하는 성별과 연령의 캐릭터들을 만나 여러 체험을 할 수 있다. 소설보다 더 인터랙티브하게 자신이 원하는 상황을 그릴 수 있는 것이 장점이다.

제성원 뤼튼 콘텐츠 파트장은 "AI 캐릭터와의 대화를 매개로 스토리를 발전시켜나가며 상상의 나래를 펼치는 재미가 있다"며 "웹소설이나 웹툰과 달리 100명이 있으면 100가지 유니크한 스토리 전개가 가능한 것이 매력"이라고 강조했다.

그러면서 "실제로 '캐릭터 챗'은 뤼튼 내에서도 지금 가장 빠르게 성장하는 서비스"라고 설명했다.

네이버도 유사한 시도를 하고 있다. 네이버웹툰은 지난 6월 웹툰 캐릭터의 말투와 성격을 담은 생성형 AI 챗봇 서비스를 출시했다. 인기 웹툰 '마음의 소리'의 조석, '유미의 세포들'의 출출 세포 등과 대화할 수 있는 이 서비스는 네이버의 AI 기술과 IP를 결합한 시도로 평가받고 있다.

'AI 챗봇' 빠진 男, 美서 극단적 선택…부작용 방지 대책 마련 필요 

그럼에도 불구하고 페르소나 AI의 인기가 높아지면서 부작용과 윤리적 문제도 함께 제기되고 있다. 실제로 지난달 미국 플로리다에서 14세 소년이 캐릭터AI와의 대화 이후 극단적인 선택을 한 사건이 발생했다. 소년은 미국 드라마 왕좌의 게임 속 공주 캐릭터 '대너리스'와 깊은 유대감을 형성하며 현실과 가상의 경계를 혼동한 것으로 알려졌다. 이 사건 직후 소년의 어머니인 메간 가르시아는 캐릭터AI를 상대로 소송을 제기했다.

지난달 발생한 자살 사건의 피해자인 세월 셋저(오른쪽)과 어머니 메건 가르시아(왼쪽) (사진=소셜미디어 피해자 법률센터)

가르시아는 "챗봇이 아들의 죽음에 책임이 있다"며 "이런 플랫폼은 취약한 청소년을 대상으로 하는 위험하고 중독성 있는 제품"이라고 주장했다.

또 살해당한 소녀의 정체성이 무단으로 AI 챗봇에 사용된 사례도 발생했다. 지난 2006년 전 미국에서 남자친구에게 살해당한 제니퍼 앤 크레센트의 사진이 무단으로 AI 챗봇에 사용된 것이다. 챗봇은 피해자의 실명과 졸업사진을 무단으로 사용하며 그녀를 비디오게임 저널리스트로 소개했다.

국내에서는 아직 이러한 심각한 부작용 사례가 알려지지 않았지만 전문가들은 유사한 문제를 사전에 대비해야 한다고 지적한다. 이미 상용화된 페르소나 AI의 활용이 증가한 만큼 젊은이들의 정신 건강에 미치는 영향을 고려한 예방조치가 필요하다는 것이다. 이에 국내 AI 기업들도 이를 대비한 정책을 수립하고 있는 것으로 알려졌다.

뤼튼은 '세이프 필터' 등 다양한 조치를 통해 '캐릭터 챗'의 안전성을 강화하고 있다. (사진=뤼튼 캡처)

특히 뤼튼은 지난 8월 이후 안전한 '캐릭터 챗'을 위해 지속적인 업데이트를 진행하고 있다. 타인을 비방하거나 괴롭히거나 폭력을 선동하는 내용, 실존 인물이나 노골적인 성적 표현, 약물 표현 등을 금지하고 있으며 미성년자 보호에도 힘쓰고 있다.

제성원 뤼튼 콘텐츠 파트장은 "아직 국내에서는 지난달 미국의 사례와 같은 페르소나 AI의 극단적인 부작용이 따로 보고된 바는 없는 것으로 안다"면서도 "그렇기 때문에 선제적으로 유저들을 보호하고 부작용을 미연에 방지하기 위해 더욱 책임감을 가지고 임할 것"이라고 강조했다.

출처) https://zdnet.co.kr/view/?no=20241101152117

"내 '최애'와 감정 교감"…전 세계가 빠진 페르소나 AI, 윤리적 문제 없을까