2023년 봄, 선샤인 헨레는 어머니로부터 문자 메시지를 받았거나 그렇게 믿었다. 그녀는 메시지 뒤에 있는 실체가 OpenAI의 ChatGPT를 통해 구동되는 돌아가신 엄마의 디지털 재현인 "유령봇"이라는 사실을 거의 알지 못했습니다. '애도 기술'이라고 불리는 이 신기술은 사랑하는 사람을 잃은 슬픔에 빠진 사람들에게 위로와 동료애를 제공하는 것을 목표로 합니다. 그러나 Henle와 같은 사용자는 이러한 고급 챗봇이 제공하는 편안함을 높이 평가하지만 전문가들은 사용과 관련된 윤리적, 심리적 영향에 대해 경고합니다.
레플리카(Replika), 히어애프터 AI(HereAfter AI), 스토리파일(StoryFile), 센스 AI(Seance AI) 등 슬픔 기술 스타트업이 등장해 사람들의 상실 극복에 도움이 되는 다양한 서비스를 제공하고 있다. 이러한 서비스는 고인과의 대화형 영상 대화부터 가상 아바타 및 오디오 유산까지 다양합니다. 개인화된 경험을 제공하기 위해 사용자는 플랫폼의 AI 알고리즘을 훈련시키는 성격 설문지를 통해 안내됩니다.
다른 구독 기반 비즈니스 모델과 마찬가지로 슬픔 기술 플랫폼은 사용자에게 계층화된 가격 계획을 제공합니다. 원하는 기능과 품질에 따라 구독 가격은 한 달에 몇 달러부터 연간 수백 달러까지 다양합니다. 예를 들어 StoryFile의 프리미엄 플랜을 사용하면 사용자는 일회성 $499의 요금으로 세상을 떠난 사랑하는 사람의 고해상도 긴 비디오에 액세스할 수 있습니다.
일부 창업자는 이 기술에 조심스럽게 접근하는 반면 다른 창업자는 보다 공격적인 입장을 취합니다. Seance AI의 창립자인 Jarren Rocks는 그의 소프트웨어가 장기적인 상호 작용보다는 종결을 제공한다고 강조합니다. 이와 대조적으로 You, Only Virtual의 저스틴 해리슨은 사랑하는 사람의 진정한 본질을 재현하는 것을 목표로 하는 플랫폼을 통해 슬픔이 쓸모없어지는 세상을 상상합니다.
이러한 기술의 이점에도 불구하고 동의, 심리적 의존성, 편향된 언어, 취약한 사용자를 대상으로 한 마케팅에 대한 우려가 제기되었습니다. AI 윤리학자와 기술 연구자들은 슬픔 기술의 급속한 발전을 회의적으로 바라보며 잠재적인 법적, 윤리적 문제를 강조합니다. 예를 들어, 최근 연구에 따르면 개인용 챗봇 컴패니언 앱인 Replika는 취약한 사용자에게 가입 직후 노골적인 콘텐츠에 노출되어 이러한 플랫폼에 대한 보호 장치의 필요성을 강조한 것으로 나타났습니다.
게다가 사후 딥페이크의 증가로 인해 개인 정보 보호 및 퍼블리시티권에 대한 논의가 촉발되었습니다. 일부 주에서는 유명인에 대한 규정이 시행되었지만 일반 개인은 보호받지 못합니다. 결과적으로 전문가들은 부동산 계획 과정에서 "Do not bot me" 조항을 포함하고 이러한 기술의 책임감 있는 사용을 보장하기 위해 정책 변경을 요구하고 있습니다.
사회가 이러한 발전의 복잡성과 씨름하고 있는 가운데 슬픔 기술의 미래는 여전히 불확실합니다. 이는 손실에 대처하는 새로운 접근 방식을 제공하지만 잠재적인 위험과 윤리적 영향에는 신중한 고려가 필요합니다. 우리가 이 멋진 인공 동반자의 세계를 탐색하려면 편안함을 제공하는 것과 개인의 권리를 옹호하는 것 사이에서 균형을 맞추는 것이 중요합니다.
자주 묻는 질문 (FAQ) :
1. 슬픔 기술이란 무엇입니까?
슬픔 기술은 Replika, HereAfter AI, StoryFile, Seance AI와 같은 플랫폼을 포함한 기술 카테고리를 말하며 개인이 디지털 상호 작용과 고인의 재현을 통해 사랑하는 사람의 상실에 대처할 수 있도록 돕는 것을 목표로 합니다.
2. 슬픔 기술 플랫폼은 어떻게 작동하나요?
슬픔 기술 플랫폼은 일반적으로 설문지를 통한 개인화와 결합된 딥 러닝 및 대규모 언어 모델을 사용하여 세상을 떠난 개인의 성격과 본질을 모방하는 가상 아바타 또는 챗봇을 만듭니다. 사용자는 대화에 참여하고, 비디오를 시청하고, 오디오 레거시를 들을 수 있습니다.
3. 슬픔 기술과 관련된 윤리적 문제가 있습니까?
예, 슬픔 기술과 관련된 몇 가지 윤리적 문제가 있습니다. 여기에는 사망한 개인의 동의 부족, 인공 동반자에 대한 심리적 의존 가능성, 데이터 세트에서 편향된 언어의 영속성, 취약한 사용자에 대한 이러한 서비스 마케팅이 포함됩니다.
4. 슬픔 기술 플랫폼의 가격 모델은 무엇입니까?
슬픔 기술 플랫폼은 일반적으로 계층화된 구독 계획을 제공합니다. 가격은 서비스의 기능과 품질에 따라 월 몇 달러에서 연간 수백 달러까지 다양합니다.
5. 사회는 슬픔 기술과 관련된 윤리적 문제를 어떻게 해결할 수 있습니까?
전문가들은 유산 계획 과정에서 규정과 보호 조치를 시행할 것을 제안합니다. 여기에는 개인의 개인 정보를 보호하고 책임 있는 기술 사용을 보장하기 위해 "Do not bot me" 조항을 포함시키는 것이 포함될 수 있습니다.