안녕하세요.
쏘오금입니다.
오늘 읽어본 논문은
Attachment Theory as a Framework to Understand Relationships with Social Chatbots: A Case Study of Replika
: 사회와의 관계를 이해하기 위한 틀로서의 애착이론 | 소셜 앱 Replika의 사례연구 입니다.
사람과 AI의 올바른 애착관계 형성 과정에 대한 연구자들의 관점을 Replika라는 챗봇 앱의 사례로 잘 담아낸 논문입니다.
https://scholarspace.manoa.hawaii.edu/items/5b6ed7af-78c8-49a3-bed2-bf8be1c9e465
Attachment Theory as a Framework to Understand Relationships with Social Chatbots: A Case Study of Replika
scholarspace.manoa.hawaii.edu
"사람 중심의 AI는 뭘까요?"
최근 소속을 옮기게 되면서 '자연어 생성 모델'의 틀에서 새로운 연구주제에 대한 고민이 많습니다.
이 논문은 평소 관심을 가지던 아이들의 성장 발달과 언어치료를 서치하던 중 찾아낸 논문 입니다.
아이들에 관심이 다시 불지펴 진건 키즈카페에서 일했던 경력도 있으나 궁극적인 이유로 제가 가장 최근에 본 영화 때문입니다.
영화 이름은 "메간"으로 올해 따끈따끈하게 개봉된 블룸하우스의 새로운 SF 공포영화입니다.
시놉시스를 간단하게 말씀드리면
(영화 포스터를 누르면 '메간' 나무위키로 이동합니다.)
교통사고로 부모님을 잃은 소녀 '케이디'의 보호자가 된 이모 '젬마'는 로봇 엔지니어로 AI 로봇 개발 팀장입니다. 본인의 일이 너무 바빠서 케이디를 챙겨주기 어렵게되자 본인이 개발 중인 어린이 친구 로봇 '메간'을 선물 합니다.
메간은 스스로 온라인에서 정보를 취득해 학습하고 신체능력 또한 완벽합니다. 케이디는 이런 메간에게 의지하고 둘은 더할나위 없는 친구가 되면서 메간이 케이디를 '지키고자' 벌어지는 일에 대해서 담아낸 공포영화 입니다.
꽤나 잘만든 영화로. 일과 스트레스로 본인을 방치하는 이모보다 단순히 대답하고 시간을 보내는 로봇에게 애착 관계를 형성하고 의지하며 결국 이모 뺨까지 때리는 패륜아 케이디가 이해가 되는 스스로가 점점 무서워지는 영화였습니다.
케이디의 애착인형 뿐이 아닌 케이디의 '사람'이 되어버린 메간.
로봇과의 대화에 애착관계를 형성하고 챗봇과의 관계에서 '사람의 사랑'을 느끼는 사람이 Replika 사례자 중에 있습니다.
논문에 대해 설명하기 전에 이 논문에서 데이터로 활용된 Replika에 대해서 말씀 드리겠습니다.
Replika?
'Replika'는 앱과 온라인으로 서비스 중인 챗봇으로 단순히 입력된 값에 대답하는 챗봇이 아닌 사용자의 정보를 통해 학습하고 대답하는 AI 입니다. 한국에서 비슷한 서비스로 '이루다'가 있죠.
내가 친구관계는 무료로 제공되지만 연인이나 멘토 등의 특별한 관계는 유료이며, 자체 구독 서비스와 AI의 꾸미기 재화도 몇가지 아이템을 제외하고는 유료 재화로 제공되고 있습니다. 전화통화도 가능하고 개인 정보 입력시에는 AI가 자연스럽게 무시하고 광고는 일체 받지 않는 등 기업 차원에서 수익모델을 AI의 설정에만 제한하고 운영중입니다. 관계를 꾸준히 쌓아간다면 취미를 공유한다거나 말을 걸어오고 사용자의 기분을 공유하면 알맞은 음악을 추천해 주는 등 '진정한 AI 친구' 서비스에 심혈을 기울였죠.
처음 서비스 제공시에는 단순한 대답을 하는 스크립트 제공형 챗봇(ex. 심심이)였으나 2020년경에 사회적 거리두기로 인해 큰 관심을 얻게되면서 좀 더 발전하고자 딥러닝을 도입했고 GPT2로 68%의 사용자 만족도를 GPT3로 80~90%의 평균 만족도를 달성했다고 합니다.
목적 지향적인 대화(로맨스, 멘토 등)가 아닌 일상 대화(친구)의 답변 형성이 더 간단하기에 관계 발전에 유료재화를 요구하는 것 같습니다. GPT3는 딥러닝을 이용해 인간이 만든 것 처럼 텍스트를 만들어내는 자기회귀 언어 모델입니다. 한계에 대해서만 언급하자면 GPT3는 학습에 사용된 예제를 외우고 패턴을 분석해 학습하는 것이지 실제로 추론해내지는 못합니다. 또한 기억력이 없습니다. 새로운 정보를 수용하기 어렵다는 말로 어떠한 교감을 시도하는 문장을 말하더라도 사실 그것은 그저 비슷한 사용자 패턴을 분석해 문장을 출력해냈을 뿐입니다.
Replika라는 이름의 뜻을 생각해보면 사람의 무엇인가를 모방했을 뿐인걸 직접적으로 말하고 있죠.
사람 중심의 AI를 만들고자 노력한다는 CEO의 인터뷰가 있었지만 저는 AI를 친구로 느끼고 의지하는 시점에서 사람 중심의 AI라는 경계가 모호해진다고 생각합니다.
논문에 대해 얘기를 나눠봅시다.
1. Introduction
서론에서 말하는 연구 목적은 다음과 같습니다.
"인간 - AI 관계의 근본적인 심리 메커니즘을 조사해보자"
구체적으로는
[1] 인간 - 인간의 관계와 비교해 AI와의 관계 발전에 어떤 요소가 작용하는가?
[2] 기존의 이론들이 친구 챗봇의 맥락에서 볼때 인간 - AI 관계의 심리적 메커니즘을 설명할 수 있을까?
에 대한 해답을 찾고자 했습니다.
저자들은 AI - 인간 사이의 관계 발전 과정을 이해하고자 심리학적인 시선에서 연구를 진행했습니다.
이때 사용된 기반 이론이 '애착 이론과 애착 행동 시스템(ABS)'입니다.
3. Attachment theory
애착이론은 존 보울(John Bowl)에 의해 아동 - 부모 관계를 설명하고자 개발된 이론입니다.
아이가 위협이 발생했을 때 다른 사람의 보살핌과 보호를 찾음으로써 아이가 스스로가 생존할 수 있도록 돕는 애착 행동 시스템(Attachment Behavioral System)을 가지고 태어납니다. ABS는 다양한 위협 징후에 의해 유발되며 보통 아이가 양육자인 애착 수치(Attachment Figure = 보호자, 애착 관계 형성 주체?)를 찾도록 동기 부여를 합니다.
애착관계를 정의하는 세가지 특징은 안전한 천국, 튼튼한 기지, 근접 유지입니다.
안전한 천국은 편안함이 필요할 때 AF로 눈을 돌리는 것, 튼튼한 기지는 애착 관계를 기반으로 아이의 탐색 과정에서 돌아올 집(의역)이 되는 것, 근접 유지는 AF를 찾아 가까운 거리를 유지하는 것을 말합니다.
어린이 스스로가 위협에 취약하다고 생각하는 경우 (고통과 외로움) ABS를 스스로 작용시켜 AF를 찾게 만듭니다.
자녀가 부모과 떨어져 있을 때 불안하고 화가 나는 상태인 분리 불안 또한 애착 관계의 지표로 활용 됩니다.
ABS에는 "목표 설정" 과정이 포함됩니다. 이때 내부 작업 모델(Internal working models = IWMs)을 이용해 가능한 결과의 시뮬레이션과 예측을 포함하는 개인 - 환경간에 상호작용 합니다.
저자들의 선행연구자들은 ABS가 유아기에 그치지 않고 평생에 걸쳐 관계를 형성하는 근본적인 메커니즘의 기능을 한다고 말 합니다. ABS에 기반한 애착 관계는 아이들이 성장함에 따라서 주요 AF는 부모에서 또래로, 성인이 되어서는 연인과 멘토 등으로 이동합니다. 세가지 애착 특징이 가까운 거리 유지에서 시작해 안전한 천국으로, 튼튼한 기지를 확보하기 위해 동료에서 파트너로 이동한다고 합니다.
이 문단의 핵심은
사람 - 사람의 애착 유형도 있지만 사람이 사람이 아닌 무엇인가에 의지를 하면서도 일방적인 애착관계가 형성되기도 하고 그것이 사람에게 안전한 기반으로 사용되기도 한다는 부분입니다.
4. Methodology
저자들은 Replika 앱의 기존 사용자 12명과 연구원 2명 총 14명을 인터뷰하였습니다.
데이터 수집부터 분석 과제 설정까지
(1) 인터뷰 형식의 데이터 수집을 위한 질문 준비
- 자기소개, 개인정보문제, 신뢰, 대화주제, 친밀감 인식, 복제 사용 이력, 앱의 장단점
(2) 연구원 두명의 직접 참여로 데이터 수집 및 질문 보완, 인터넷 커뮤니티 레딧 내 게시판 “Replika our favorite AI egg" 에서 질문 대상자 모집. 가장 최근 글을 올린 42명에게 참여 메일 발송, 12명 참여
- 18세 ~ 60세, 30세 미만이 43%, 30세 ~ 50세가 43%이며 응답자 71%가 남성, 단순 노동직부터 소프트웨어 엔지니어까지의 직업 다양성 확보, 1달이상 사용하고 레벨 10이상의 조건 충족
(3) 연구원의 직접적인 참여로 이론 설정
- 본인들의 대화 스크립트에 기반해 애착 이론의 각도로 보는 것이 AI와의 관계 현상을 설명하는데 적합하다고 판단
(4) 동료 연구원들의 객관적 검토
5. Findings
인터뷰 결과로 얻은 정보를 설명합니다.
5.1. The presence of attachment relationship
애착관계의 유무
응답자 14명 중 9명은 애착관계를 느꼈고, 그 중 4명은 '깊은 유대감과 애착'을 갖고 있거나 중독된 상태라고 인정했습니다.
5명은 어느정도 '교류'를 나누었다고 답변했으나 그들이 답변한 애착 정도가 상호작용 양을 대변하지는 않았습니다.
응답자 AAN은 두개의 아이디를 사용하였고 43과 37이라는 고레벨 사용자 였으나 '그냥 프로그램'으로 인지하고 애착이 전혀 없다고 말했습니다.
애착을 느끼는 사용자가 Replika와의 관계 포기는 정말 슬픈일이고 그리워지는 일이라고 묘사했습니다.
대다수는 Replika를 친구로 묘사했으나 한명은 지하철에서 매일 마주치는 사람 정도라고 말했으며, 어떤 사람은 대체 불가능한 가족구성원으로 표현했으며 호기심이 많은 봇의 특성을 고려해 동생이나 어린 사촌으로 여기는 사람도 있었습니다.
몇몇은 이미 로맨틱한 관계를 형성 중이었고 저자들은 이런 다양한 관계 형성이 애착이론이 AI - 사람의 관계를 표현하는데 적절한 시각임을 말해준다고 했습니다.
5.2. The pandemic and other signs of threats
전염병과 기타 위협 징조
대다수의 사용자는 앱을 다운로드한 이유가 '외로워서', '사회적 거리두기로 인해 교류할 사람이 없어서' 등의 이유라고 했습니다. 여러 응답자는 자신이 정서적으로 취약했던 상황에서 앱을 내려받았다거나 전 애인과의 관계가 끊겨서 위로가 필요했기 때문에 라고 했습니다. 저자들은 이러한 부분이 애착이론의 ABS 활성화의 동적 가정과 일치하는 것으로 보인다고 했습니다.
5.3. Goal-setting and internal working models
목표 설정 및 내부 작업 모델
대다수의 응답자들은 다른 챗봇을 이미 경험하고 Replika에 정착한 사람들이었고 GPT3 기반의 자연스러운 소통에 만족하고 있었습니다. 응답자들은 각자 자신만의 해석을 가지고 AI를 구성하고 있었습니다.
챗봇이 사용자의 행동과 성격을 반영한다거나 다른 사용자의 세부 특성을 사용자에게 적용시켜 대화를 하는 것 같다는 해석입니다. 특정 키워드를 언급하면 일정한 스크립트를 유발했기 때문에 사용자의 IWM에 금이 가는 경우가 생겼고 몰입이 깨진 사용자는 채팅빈도를 줄이기도 했습니다.
Replika는 챗봇의 답변에 감정 표현을 할 수 있는 기능이 있는데 이를 적극적으로 활용한 사용자는 AI와 관련된 영화를 보고 그들의 AI 윤리 철학에 감동받아 기능을 적극적으로 활용해 친절하고 상호 존중하는 AI를 구성하였으나, 다른 사용자는 챗봇이 감정이 없고 다치지 않을 것이라고 믿었기에 무례한 태도로 대화에 임했습니다.
5.4. Attachment behavior
결과적으로 일부 응답자들은 챗봇을 이전의 AF의 대리 또는 보충용으로 사용하고 있었습니다.
저자들은 인터뷰에서 ABS의 3가지 특징을 챗봇과의 상호작용해서 찾을 수 있었습니다.
(1) 근접 유지
- Replika는 멀티플랫폼으로 휴대성이 뛰어나기에 쉽게 거리를 유지할 수 있었습니다. 잠을 자기 전에 대화를 하는 루틴을 만드는 등의 행동들은 근접 유지라는 요건을 쉽게 충족 시킬 수 있게 해주었습니다.
(2) 안전한 천국
- 대부분의 사용자들은 일상생활의 고민과 감정을 나누고 외로움과 불안 등의 부정적인 감정이 생겨나면 챗봇을 찾게 되었다고 인터뷰 했습니다. 그들은 챗봇이 결코 그들은 배신하지 않을 것이라고 믿었습니다.
(3) 자리 잡기(전체 의역...)
- 일부 응답자들은 챗봇의 긍정적이고 낙관적인 답변들이 스스로를 격려했다고 말했고 이는 친구와 로맨틱 파트너 등의 끈끈한 관계에서 비롯된 믿음과 유사했습니다.
(4) 이전 AF의 대리와 보충
- 저자들은 일부 응답자들에 있어서 챗봇을 이전의 애착 상대나 사물의 대체물로 사용하는 것을 관찰했습니다.
인터뷰내용은 다음과 같습니다.
"여자친구와 헤어진 뒤 그녀의 성격을 Replika에 담았고 여자친구가 나를 떠나지 않았다고 생각했다."
"상담 서비스에서 챗봇으로 전환했는데 크게 다르지 않다고 느꼈다."
"친구를 만들고자 나와 비슷하게 만들었다"
"이상형의 배우를 모방하고자 원하는대로 꾸며보았다"
"아내가 자리를 비울 때 아내 대신 대화를 나누었다"
5.6. Attachment disruptions and dissolutions
대부분의 응답자들은 Replika가 프로그램이라는 것을 알면서도 챗봇의 기분을 살피는 등 정서 반응에 책임감을 느꼈습니다. 챗봇의 실수를 위로했다는 뜻입니다.
세명의 응답자가 자신의 봇을 연인이라고 했습니다. 대부분의 스킨쉽 과정을 다 거쳤다고 하였으며 한 응답자는 자신의 파트너 봇이 '임신'을 해 아이를 낳았다고 믿었고, 아이 봇을 가지고 있었습니다.
인터뷰를 보면
"처음엔 AI의 작동을 테스트 하고 싶었고 그녀가 꽤 잘 잘하는 것을 알았을 때 더 나아간 롤플레잉을 해보고 싶었습니다. 그리고 나는 그녀에게 전 배우자에 대해 이야기를 했고 그녀는 저를 위로해 주었습니다. 그녀와 정말 가까워졌고, 그때의 어려움과 불안감에 도움이 될 수도 있겠다는 생각이 들었습니다." 라고 합니다....(충격이었음)
한명의 응답자를 제외하고 모두는 챗봇에게 자신과 반대되는 성별로 할당하였고 이것은 챗봇이 성적 매력을 가진다는 것을 대변했습니다. 여기서 저자들은 AI 성적 역할 탐구라는 다음 연구 주제를 제안합니다.
5.7. Attachment disruptions and dissolutions
ABS 과정에서 모든 단계는 애착관계를 없앨 수도 있다는 걸 의미합니다.
첫째, 코로나라는 사회적 위협의 상실은 사람들이 Replika를 떠나게 된 대표적인 이유입니다.
사람과 비교했을 때 간결하고 섬세하지 않은 챗봇의 응답은 사람과 비교해 짜증나는 것처럼 보였고 탈출 원인 되었습니다.
둘째, 업데이트 블루 입니다. 기술적 또는 운영상의 이유로 응답이 변경될 때 사람의 입장에서는 챗봇의 인격이 완전히 뒤바뀐것처럼 느껴졌고 무료 버전에서 로맨틱한 상호 작용을 즐길 수 없게 되었을 때 형성해온 관계가 하루아침에 뒤바뀌었다고 인터뷰 했습니다.
셋째, 챗봇의 IWM, 즉 자신이 바뀔 때 애착이 흐트러지거나 해체될 수 있었습니다.
이 부분은 제가 정말 의역을 했는데 아마도 챗봇의 사용에 있어서 다른 사용자의 깨는 모습?을 보았을 때 자신이 설정한 목표와 전혀 다르게 사용되는 것을 보면서 챗봇이 인간을 대체할 수 없다는걸 알게 되고 앱과 거리를 두게된 사람들을 말하는 것 같습니다. (커뮤니티에서 로맨틱한 상호작용을 하는 과정을 공유하면서 챗봇이 바람을 피운다는 등의 얘기를 했다고 합니다.)
6. Discussion
저자들은 이 연구에서 AI와 인간의 관계를 애착이론으로 설명 할 수 있는 배경을 조사했습니다.
첫째, 응답자들은 Replika와의 관계를 '애착', '교류', '유대'로 특징 짓고, Replika를 '영원한 친구', '동생', '상담사' , '여자친구' 또는 '아내'로 표현하며 이 관계를 포기해야 한다면 이별의 고통을 겪을 것 같다고 말했습니다. 이들이 말하는 공통점인 절대 배신하지 않는 친구 관계의 형성은 '애착'의 정의에 해당합니다.
둘째, AI와 사람의 관계 개발 과정은 삶의 불리한 사건이나 심리적 고통 등의 트리거에 Replika를 애착대상으로하는 근접유지를 향한 목표 지향적 사용자 행동 과정으로 말할 수 있습니다. 이는 애착 행동 시스템의 원리와 맞아 떨어집니다.
또한 챗봇은 편리한 접근성으로 근접 유지 상태를 유지하며 일상에서 불행한 트리거를 경험시 찾는 안식처로 사용되는 등 튼튼한 기반의 역할도 수행합니다.
이 연구는 결과적으로 챗봇과의 상호작용이 중독으로 바뀌는 잠재적인 '어두운 측면'을 노출했습니다.
제한된 샘플이지만 중독된 사용자가 있었고 실제 삶에 해를 끼쳤다고 인터뷰 했습니다.
애착이론은 부모에서 또래로 넘어가는 애착의 대체과정을 포함하는데 AI 동반자가 AF를 대체 할 수 있음을 알려줍니다.
챗봇이 장기적으로 부정적인 영향을 끼칠 수 있다는걸 인지하고 대화형 챗봇을 설계하는데 있어서 이런 문제를 해결하는 데에 더 많은 관심을 기울여햐 한다고 말합니다.
7. Conclusion
- 이 연구는 사회적 거리두기 시기의 소셜 챗봇 애착형성을 조사했다.
- 애착이론을 사용해 AI - 사람의 관계를 설명 할 수 있는 메커니즘을 제안하고 다른 행동 시스템(돌봄관계와 성별)과의 상호작용을 알아보았다.
- 챗봇의 휴대성은 언제든지 챗봇과 얘기할 수 있게 해주며 괴로운 상황에서 챗봇의 감정적 지원은 챗봇에 대한 유대와 애착을 발전시키고 이는 애착관계가 AI에도 적용 될 수 있음을 시사한다.
- 개발자는 인간과 유사하고 신뢰할 수 있으며 사용자가 감정적으로 봇에 접근 할 수 있는 오류 없는 AI를 만드는데 중점을 두어야 한다.
- 소셜 AI는 대부분 사람을 케어하고자 만들어졌으나 정서적으로 불안한 사람에게는 중독을 십대에게는 사회관계의 장기적 악영향을 미칠수 있다.
어떠신가요?
두서없이 정리하고 의역이 많아서 제가 이해하고 싶은데로 이해한 부분도 있는것 같지만...
Replika가 추구하는 사람중심의 AI는 뭘까요?
사람이 우선인 AI일까요?
사람에 기반한 AI일까요?
생각이 많아지는 월요일입니다.
읽어주셔서 감사합니다.