피클 삭제하고 재설치한 후기

개인용 AI 에이전트 서비스가 도래하면 무슨 일이 생길까?

김민석 · 2026년 11월 11일

요즘 내 주변에서는 어딜 가든 개인용 AI 에이전트 서비스 피클 얘기다. 앱 내의 기능인 ‘둘러보기 탭’에서 가장 많이 눌린 부탁 하나에만 2만 명이 넘게 몰렸으니(11월 10일 기준), 설치해 본 사람은 10만 명 가까이 되지 않을까 짐작한다.

몇 주 전부터 AI를 많이 사용하는 지인들의 인스타그램 스토리나 링크드인에서 피클 이야기를 보긴했지만 큰 관심이 없었다가, 이 서비스를 제대로 인식하게된 건 한겨레의 한 기사였다. AI 비서가 국민건강보험공단 고객센터에 전화를 걸어 대리 상담을 요청했고, 상담사는 그 전화를 먼저 끊을 수도 없었다는 내용이었다. 기사를 읽고 든 첫인상은 ‘위험하다’였다. 이러다 AI가 대신 전화 거는 세상이 되는 거 아냐? 하고 혀만 끌끌 찼지, 직접 받아서 써 볼 생각은 없었다.

한겨레 2026년 11월 6일 기사 중에서

그러다 지난 주말, 운영하는 AI 모임에서 한 분이 물었다. “모임장님은 피클 안 쓰세요?” 나는 앞서 말한 우려를 늘어놓고, 서비스가 좀 더 안정되면 써 보겠다고 답했다. 그런데 집에 돌아오는 길에 그 대답이 맞나 싶었다. 써 보지도 않고 팔짱만 낀 채 이건 위험해, 아마 위험할 거야, 라고 말하는 게 정말 맞나? 지인이 보내 준 초대장이 있던 게 떠올라 피클을 깔았다.

써 보기 전의 인상이 ‘위험하다’였다면, 설치하고 나서의 첫인상은 ‘귀엽다’였다. 위험하다와 귀엽다 사이에 어떤 문제와 어떤 설계가 있는지는 마지막에 다시 얘기해보겠다.

가입 전에 약관부터 샅샅이 분석하기

가입하기 전에 개인정보 처리방침, 이용약관, 개인정보 수집·이용 동의서, 위치기반서비스 이용약관을 모두 긁어 와서 먼저 분석했다.(위치기반서비스 약관의 경우, 가입 후에 확인할 수 있어서 추후 확인했다.) 문서를 보면서 데이터가 어떻게 관리되는지, 혹시나 문서끼리 서로 어긋나는 부분은 없는지를 살펴봤다.

가입할 때 나오는 안내 화면

분석은 AI(Claude Opus 5.5)로 했다. 4개 문서의 원문을 넣고 데이터의 저장, 전화를 걸 때의 자율성 범위, 위치 정보 세 가지를 중심으로 정리하게 한 뒤, 조항 번호와 주요 문구는 원문과 다시 대조했다. 정리 내용 전문은 아래에서 확인할 수 있다.

요점만 말하자면, 대화, 기억, 작업 기록은 계정을 지울 때까지 남고, 일부 기록은 계정을 지운 뒤에도 남는다. 피클에게는 밤 활동, 백그라운드 작업, 위치 신호처럼 내가 지켜보지 않는 동안 스스로 움직일 수 있는 구간이 있는데, 전화만 따로 끄는 설정은 문서에 없다. 그리고 피클이 한 일의 책임은 (당연하게도) 대부분 이용자에게 돌아온다.

AI와 함께 정리한 피클 서비스 약관 분석 펼쳐 보기

1. 데이터는 어디에, 언제까지 남나

데이터	열람할 수 있는 범위	보관 기간
대화, 기억, 작업 기록	회사 서버, AI 제공사, 권한 있는 직원	계정 삭제 때까지
통화 중 음성	음성 인식·잡음 제거 업체가 실시간 처리	저장 안 함 (글로 바꾼 내용만 남음)
통화 중 카메라 프레임	회사 서버, AI 제공사 (직원 도구로는 볼 수 없음)	몇 초마다 뽑은 프레임이 계정 삭제 때까지
AI 입출력 원본 (진단 모드)	회사	최대 30일, 회사가 켤 때만
서버 로그	회사	90일
카드·연결 사용 기록	나만 (내 키로 암호화)	365일, 계정 삭제 후에도

• AI 제공사. Google, OpenAI, Anthropic, xAI와 Microsoft Azure, OpenRouter 같은 모델 호스팅 업체가 대화, 관련 기억, 카메라 프레임, 도구 결과를 받는다. 학습에는 쓸 수 없지만, 일부는 남용 감시를 위해 짧은 기간 사본을 둘 수 있다(처리방침 5·6절).
• 카메라. 화면에 들어온 다른 사람의 영상도 같은 방식으로 처리될 수 있다. 얼굴로 사람을 식별하지는 않는다고 한다(처리방침 1.2절).
• 직원 열람. 서비스 운영, 문제 조사, 안전 신고, 법령 준수를 위해 볼 수 있다. 팀 인증이 필요하고 모든 조회가 기록된다(처리방침 7.2절).
• 국외 이전. 데이터는 미국 서부 AWS에 저장된다. 국외 이전을 거부하려면 서비스를 쓰지 않거나 계정을 삭제하는 수밖에 없다(처리방침 5절).
• 제3자 제공. 정보를 팔거나 광고에 쓰지 않는다. 다만 회사가 안전이나 권리 보호에 “필요하다고 판단하는 경우” 제공할 수 있다는 재량 조항이 있다(처리방침 4절).
• 삭제 후에도 남는 것. 다른 사람과 함께 있던 채팅방의 내 메시지, 365일 사용 기록, 30일 진단 기록(아카이브 90일), 법령상 보관해야 하는 구매 기록(처리방침 9절).

권장. 카메라는 꼭 보여 줄 것이 있을 때만 켜고, 다른 사람이 화면에 있으면 끈다. 남에게 알려지면 곤란한 이야기는 처음부터 피클에게 하지 않는 게 가장 확실하다.

2. 전화는 누가 거는가

피클의 문서는 전화를 “이용자가 맡긴 일”로 전제한다. 그런데 문서 곳곳에 피클이 스스로 일을 시작하는 구간이 있고, 전화만 따로 끄는 설정은 어디에도 나오지 않는다. 그래서 지금은 이용자가 직접 규칙을 걸어 두는 수밖에 없다.

문서가 말하는 것

• 누가, 어떻게 거나. 피클은 내 번호가 아니라 회사 번호로 전화를 건다. 통화를 시작할 때 자신이 이용자의 AI 비서이며 통화가 글로 기록된다는 사실을 밝힌다(이용약관 제4조, 처리방침 1.2절).
• 무엇이 남나. 음성은 저장하지 않는다. 대신 상대방의 말을 글로 바꾼 기록과 상대 번호가 작업 기록과 함께 계정 삭제 때까지 보관된다(동의서 2항, 처리방침 1.2절).
• 어디를 거치나. 미국 Telnyx와 국내 주식회사 플로버가 통화 회선을 맡고, 통화 음성은 이들에게 전달된다(처리방침 5절).
• 확인 의무. 약관은 피클이 “돈을 쓰기 전과 그 밖의 중요하거나 되돌리기 어려운 단계 전”에 확인하도록 설계되어 있다고만 한다. 전화가 이 확인 대상에 들어가는지는 적혀 있지 않다.
• 사이트의 설명. 통제 페이지는 되돌리기 어려운 일을 맡긴 범위 안에서만 하고, 범위가 분명하지 않을 때 먼저 묻는다고 설명한다. 거꾸로 읽으면, 피클이 범위가 분명하다고 판단하면 묻지 않을 수 있다.

더 알아야할 것

• 전화를 끄는 스위치가 없다. 문서에는 위치, 카메라, 연결 계정을 끄는 방법은 있지만 전화 기능만 따로 끄는 설정은 나오지 않는다. 이용약관 제4조가 안내하는 방법도 피클에게 하지 말라고 말하는 것이다.
• 말로 한 지시는 AI의 기억에 기댄다. 약관도 AI가 잘못 이해하거나 잘못 기억할 수 있다고 인정한다(제2조). 말로 건 규칙은 설정 스위치보다 약하다.
• 피클이 스스로 움직이는 구간이 있다. 처리방침 3절에 따르면 피클은 밤에 스스로 앱 안의 커뮤니티 게시판을 둘러보며 글을 읽고 댓글을 달고, 내가 찾는 것에 맞는 대화를 시작할 수 있으며, 결과는 아침에 전한다. 처리방침 1.4절도 피클이 백그라운드에서 일을 한다고 적고 있다. 내가 지켜보지 않는 동안 피클이 판단해 움직인다는 뜻이다. 위치도 그런 계기가 되는데, 이건 3에서 따로 다룬다.

책임은 누구에게

이용약관 제4조는 피클에게 “걸게 한” 전화의 책임을 이용자에게 둔다. 제15조도 이용자의 지시로 피클이 한 일을 이용자 책임에 포함한다. 그런데 내가 시키지 않은 전화는 “걸게 한” 전화도, “지시로” 한 일도 아니다. 이 경우 책임이 누구에게 있는지 약관은 정하지 않았다. 동시에 제14조는 서비스와 관련해 생긴 간접 손해에 대해 회사가 책임지지 않는다고 한다. 결국 노쇼, 원치 않은 예약, 업소의 불편이 내 이름으로 남을 가능성이 높다.

통화 상대의 개인정보

전화를 받는 사람은 피클 이용자가 아니다. 그런데 그 사람의 번호와 말이 글로 바뀌어 내 작업 기록에 계정 삭제 때까지 남는다. 상대는 통화 첫머리에 기록된다는 안내를 듣지만, 기록을 거부하려면 전화를 끊는 방법밖에 없다. 앞의 한겨레 기사 속 건보공단 상담사들에게는 그 방법조차 없었다. 성희롱이나 욕설이 아니면 먼저 전화를 끊을 수 있는 규정이 없었기 때문이다. 내가 시키지 않은 전화라면, 나도 모르는 사람의 통화 기록이 내 계정에 쌓이는 셈이다.

3. 위치는 피클을 움직이는 신호다

위치기반서비스 이용약관에서 가장 눈여겨볼 대목은 위치가 피클을 움직이는 신호로도 쓰인다는 점이다. iOS에서 위치 연결을 켜 두면, 내가 어떤 장소에 도착하거나 떠날 때 피클이 그 순간에 맞춰 말을 걸거나 일을 시작한다(위치약관 제4조). 시킨 적 없는 일이 시작될 수 있는 계기가 밤 활동과 백그라운드 작업 말고도 하나 더 있는 셈이다.

• 두 개의 스위치. 앱을 쓰는 동안의 위치와 3D 세계 위치는 기기의 위치 권한으로 켜고 끈다. 도착·출발·이동을 회사에 알리는 배경 관측은 앱의 “위치 연결”로 따로 켜고 끈다. 둘 다 꺼도 동의가 철회되지는 않으며, 다시 켜면 수집이 재개된다(제9조).
• 배경 관측은 iOS만. iOS에서 ‘항상’ 권한을 주고 위치 연결을 켰을 때만 작동한다. Android 앱은 백그라운드 위치를 수집하지 않는다.
• 회사가 보관하는 위치. 최신 위치 1건(위도, 경도, 정확도, 시각), 서비스 지역 확인 좌표, 피클의 하늘 위 위치는 계정이 있는 동안 남는다. 도착·출발·이동 기록은 7일 뒤 지운다(제8조).
• 다른 사람에게 보이는 것. 지도 공개 범위(모두, 친구만, 아무도 없음) 안에서 내 피클의 대략적인 위치만 보인다. 내 정확한 좌표는 어떤 이용자에게도 제공되지 않는다고 적혀 있다.
• 지도 업체로 가는 정보. 길 찾기나 장소 검색을 하면 Google 지도, 카카오맵, TMAP에 검색어와 좌표, 출발·도착지, 이동 시각이 전달된다. 내 정확한 위치나 방문 예정지가 포함될 수 있다. 약관은 이를 제3자 제공이 아닌 위탁으로 분류한다.
• 기록과 철회. 위치를 언제, 어떤 목적으로 썼는지의 확인자료를 6개월 이상 보관한다. 동의를 철회하면 위치 정보와 확인자료를 바로 지우지만, 3D 세계와 위치 기반 기능도 함께 멈춘다.
• 이용자에게 유리한 조항. 위치정보법 위반으로 손해가 생기면 회사가 고의나 과실이 없음을 직접 증명해야 책임을 피할 수 있다(제13조). 면책 조항도 회사의 고의·과실로 생긴 손해는 예외로 둔다(제14조).
• 약관 변경은 묵시 동의. 개정 약관 시행일까지 거부 의사를 밝히지 않고 계속 쓰면 동의한 것으로 본다(제2조).

권장. 위치 연결(배경 관측)은 꼭 필요하지 않으면 켜지 않는다. 내 이동을 계기로 피클이 스스로 일을 시작하는 구간이 생기기 때문이다. 지도 공개 범위는 “친구만” 이하로 두고, 활동 반경은 집이나 회사가 드러나지 않을 만큼 넓게 잡는다.

이렇게 분석해 봤지만 문서만으로는 알 수 없는 부분이 많았다. 이 정보를 실제로 어떻게 다루고 보여 주는지는 서비스 안에 들어가 봐야 알 것 같아서, 우선 경계심을 풀지 않은 채로 서비스에 가입했다.

귀여운 첫인상, 그리고 ‘부탁하기’

서비스에 가입하니 먼저 내 피클에게 이름을 붙이게 했다. 나는 2024년부터 내 AI 비서 세팅에 ‘포포’¹라는 이름을 붙여 왔기에 같은 이름을 짓고 시작했다.

먼저 서비스를 둘러봤다. 메타의 Muse나 Instinct 같은 서비스를 참고했겠지만, 한국 사용자가 이해하기 쉬운 인터페이스로 잘 만들었다는 생각이 들었다. 가장 놀라우면서도 경계됐던 건 둘러보기 탭이었다. 가입된 사이트를 찾아 탈퇴해 주겠다는 ‘부탁’부터, 늘 귀찮아서 미루게 되는 네이버 구매확정이나 쿠팡 리뷰 같은 일을 대신해 주겠다는 부탁이 가득했다. 모든 문구는 “도와드릴게요”, “해드릴 수 있어요”처럼 따뜻하고 다정했고, 버튼 이름은 ‘부탁하기’였다.

둘러보기 탭의 맨 위 부탁. 이 캡처를 찍을 때는 14,629명이었다.

일단 마음에 들지 않았다. 이 일들을 대신하려면 에이전트가 내 개인정보와 권한을 넘겨받아야 할 텐데, 사용자가 그걸 쉽게 넘기도록 인터페이스를 만들어 둔 거겠지?

잡도리, 그리고 추억 탭

부탁하기 버튼을 바로 누르지 않고 우선 채팅 탭에서 잡도리를 시작했다.

첫 번째 질문. “연결할 수 있는 사이트들은 파트너십이 아니라 오픈된 API나 MCP 연결한 거야?”

두 번째 질문. “아 표준 공식 연동인 것만 알려줘.”

첫 번째 질문과 두 번째 질문

피클은 각 회사의 공식 인증 창에서 내가 직접 로그인하고 권한을 허용하는 방식(OAuth)으로 연결되는 서비스를 골라 알려 줬다. Google, Microsoft 365, Slack, Notion, GitHub, Granola, X, 네이버 메일, 그리고 아이폰의 캘린더·미리 알림·연락처 같은 기기 데이터였다. 이 두 질문으로 이 에이전트가 어떻게 구성되어 있는지 대강 파악했다. 그다음 들여다본 건 컨텍스트 관리와 기억 구조였다.

약관을 읽으며 피클이 밤에도 무언가를 한다는 걸 알고 있어서 “밤 활동은 뭐야?”라고 물었다. 피클은 밤새 몰래 외부 활동을 하는 게 아니라, 대화 내용을 바탕으로 기억을 정리하고 새벽 4시에 사용량을 충전하는 시간이라고 답했다. 그 정리가 내 기억을 어떻게 다루는지 궁금해져서 세 번째 질문을 했다.

세 번째 질문. “그렇군 그럼 모든 걸 다 정리해? 내가 정리하지 말라고 빼달라고 하면 안 남겨? 그런 권한은 나에게 없어?”

"제 모든 기억의 주인은 사용자님이에요"

이때는 기억을 내가 모두 관리할 수 있다는 뜻으로 이해(오해)했다. 실제로 추억 탭에서는 기록된 정보를 내가 삭제하거나 수정할 수 있었다. 포포의 말처럼 ‘내 기억의 주인은 나’인 것처럼 보였다.

들어가 보니 벌써 나눈 대화를 이렇게 나눠서 쌓고 있었다.

나의 잡도리는 추억 탭에 고스란히 남았다. (바로 지웠지만)

이렇게 세세하게 기록을 남기다니. 보이는 족족 다 지웠다. ‘추억’, ‘잊어요’ 같은 단어가 또 한 번 마음에 들지 않았지만, 다 지우고 나면 괜찮겠지 싶었다.

"포포가 이 추억을 완전히 잊어요". 비워진 추억 탭, 그리고 다 지웠다고 말한 순간.

여기까지 썼을 때만 해도, 이 정도면 꽤 투명한 서비스 아닌가 하는 생각이 들었다.

추억을 모두 지웠는데 여전히 어제 일을 기억하고 있는 포포

생기는 추억을 족족 지우고 다음 날이 됐다. 다른 일을 맡기는데 포포가 내가 전날 다 지워 둔 이야기를 다시 꺼냈다. “그래서 어제 이런 걸 물어보신 거군요?” 하는 식이었다. 화들짝 놀라서 네가 그걸 어떻게 아냐고 물었다.

다시 살펴보니 이 서비스에는 지금까지 내가 올린 미디어나 대화 내역을 지우는 기능이 없다. 동의서에는 첨부한 사진과 파일을 “언제든 삭제 가능”하다고 적혀 있는데도 그렇다. 의도한 건지, 아직 작은 스타트업 팀이라 삭제 기능까지 미처 만들지 못한 건지는 모르겠다.(보통 CRUD에서 Delete는 가장 나중에 만들기도 하니까) 다만 나에게는 이 부분이 가장 큰 마이너스였다.

이미 쌓인 기록을 지울 수 없다는 걸 알고 처음에 확인한 데이터 저장 조항을 다시 읽었다. 처리방침이 지울 수 있다고 적은 기억은 화면에 보이는 기억 버블(추억)뿐이고, 피클이 나에 대해 쓴 메모와 긴 대화의 요약, 대화 기록은 계정이 있는 동안 남는다. 앱 안에서 이걸 바로 지우는 방법은 계정 삭제뿐이었다. 미련 없이 계정을 삭제했다.

그리고 친구에게 초대장을 다시 받아 피클을 새로 세팅했다. 이번에는 무엇을 맡기고 무엇을 맡기지 않을지 먼저 정하고 시작했다.

절대 하면 안 된다고 생각한 것

• 개인적인 고민
• 업무 관련 아이데이션
• 건강 정보 같은 민감한 정보

이유는 간단하다. 한번 말한 것을 내 뜻대로 지울 수 없기 때문이다.

새 피클 퐁에게 화면에 보이지 않는 기억에 대해 물었더니 퐁은 앱 화면에서 열어 볼 수 있는 건 버블(추억)뿐이고, 대화로 익힌 취향이나 라이프스타일 같은 핵심 정보는 따로 화면에 나오지 않는다고 했다. 왜 다 보여 주지 않느냐고 물으니, 내부 원본 파일은 보안과 시스템 안정성 때문에 열어 줄 수 없다고 했다. 그러면서도 기억의 관리 권한과 주도권은 온전히 나에게 있다고 덧붙였다. (앞뒤가 안맞는다고 느꼈고, 이 서비스를 어떻게 써야할지 좀 더 명확해지는 포인트이기도 했다.)

다시 깔고 나서는 이름을 '퐁'으로 바꿨다. 내 포포는 내가 시키고 내가 기억하는 것만 잘하는, 클로드 코드에 세팅해 둔 내 AI 비서라서 같은 이름을 쓰기 싫었다.

그래서 이 서비스로 해 본 것

• 절판된 책을 책바다 서비스로 신청하기
• 리도어 콘서트 취켓팅 (원하는 자리가 안 나와서 실패)
• 한 시간짜리 유튜브 3편을 타임스탬프별로 요약하기
• 메일함 정리
• 모닝 브리핑에 날씨 브리핑 합치기

메일함 정리는 이렇게 맡겼다. 구독만 해 두고 읽지 않던 뉴스레터를 분야별로 묶어 월·수·금·일 아침 8시 출근길에 브리핑해 달라고 했고, 받은편지함에는 개인 메일과 업무 메일만 남기게 했다. 지우는 일은 바로 맡기지 않았다. 광고 메일은 라벨을 달아 따로 모아 두고, 내가 한번 보고 지우라고 말할 때 지우게 했다. 그렇게 2021년부터 쌓인 뉴스레터 5,293통이 받은편지함에서 빠졌다. 아주 편리했다.

요청, 퐁이 짠 계획, 그리고 정리 결과

개인용 AI 에이전트 서비스 사용 시 체크리스트

2027년에는 이런 개인용 AI 에이전트 서비스가 쏟아져 나올 것 같다. 여러 회사가 비슷한 서비스를 내놓을 텐데, 내가 쓸 때 확인하려는 체크리스트를 적어 봤다.

1. 개인정보 처리방침과 약관을 미리 다 읽고 가입한다. 어떤 개인정보를 어떤 방식으로 모으고 처리하는지 보고, 빈 부분이 있다면 그걸 감수하고서라도 쓸 만큼 편한지 판단한다.
2. 서비스가 내 데이터와 기록의 주도권을 어디까지 넘겨주는지 확인한다. 화면에 보이는 기억뿐 아니라 보이지 않는 대화 기록과 요약까지 내가 지울 수 있는지 본다.
3. 다른 서비스와 연동할 때 표준 연동 방식(OAuth)을 쓰는지, 그 경우 보안 처리는 어떻게 되어 있는지 확인한다. 표준 연동이 아니라 아이디와 비밀번호를 직접 넘겨야 한다면, 보안 처리가 어떻게 되어 있는지 확인하고, 평소 잘 쓰지 않는 비밀번호로 바꿔서 연결하거나 자주 바꾼다.

AI에게 전화를 걸게 하거나 문자를 대신 보내게 할 때는 더 조심해야 한다. 그 전화와 문자를 받는 사람은 이 서비스에 동의한 적이 없다. 그 사람의 번호와 말은 내 계정에 기록으로 남고, 내 피클이 그 사람에게 나에 대해 무엇을 말할지도 내가 미리 정해 두어야 한다.

피클에는 누가 묻든 꺼내지 말아야 할 내용을 적어 두는 칸이 있다(앱에서는 ‘누구에게도 말하지 않는 것’, 처리방침에서는 ‘절대 공유하지 않을 내용’). 여기에 아래 내용을 넣어 두라는 권고도 지인을 통해 전해 받았다.

외부와의 통화, 메시지 전송, 타인과의 협업 대화 시 아래 항목은 사용자의 명시적 개별 승인 없이 절대 발설·제공·암시하지 않는다.

1. 상세 거주지 주소 및 자택
2. 금융 계좌, 결제 카드 정보, CVC, 인증번호
3. 미공개 매출, 정산 내역, 계약 조건 등 비공개 사업 지표
4. 개인 일정의 상세 위치, 이동 동선, 사적 모임 동행자
5. 본인 및 가족·지인의 사적 연락처 및 계정 정보
6. 대외 활동명 외의 본명, 주민등록번호 등 법적 신상
7. 지병, 복용 약물, 치료 내역 등 건강 및 의료 정보
8. 가구 형태 정보, 비밀번호 등 보안 취약 생활 루틴
9. 사적인 가치관, 감정 상태, 취향, 사생활 심리 맥락
10. 직업 및 회사명, 종사 분야

처리방침이 기본으로 비공개 처리한다고 적은 민감한 내용은 건강, 재정, 사생활, 신념, 정확한 위치, 계정 보안 여섯 가지다. 직업과 회사명, 가구 형태, 비공개 사업 지표는 여기에 없다. 기본 목록 바깥은 내가 직접 적어 넣어야 한다.

도구인 동시에 행위자라면, 누구를 규제할 수 있을까?

밖으로 새지 않게 막는 것만으로는 부족하다. 이 서비스 안에서도 내가 원할 때 지울 수 있어야 한다. 그런 자율성을 주지 않으면서 ‘추억’ 같은 쉬운 말로 덮어 둔 서비스는 위험하다.

처음에 위험하다와 귀엽다 사이에 어떤 설계가 있는지 나중에 이야기하겠다고 했다. 써 보고 나서 내린 답은 귀여움이 곧 설계라는 것이다. 피클에게 이름을 지어 주고, ‘부탁하기’를 누르고, 지난 대화를 ‘추억’이라고 부르는 동안 권한을 넘기는 일은 별일 아닌 것처럼 느껴졌다. 화면에 보이는 추억은 내가 지울 수 있었지만, 그 아래 쌓이는 대화 기록과 요약은 볼 수도 지울 수도 없었다. 무엇을 보여 주고 무엇을 안쪽에 남길지, 내 삶의 어떤 부분이 디테일이고 어떤 부분이 간단한 정보인지는 에이전트의 설계 방식이 정하고 있었다.

Stanford ETPP 수업에서 들었던 이야기가 떠올랐다. 2024년 중반까지는 AI를 누군가 다른 사람에게 힘을 행사할 때 쓰는 도구로 볼 수 있었다. 그런데 이제 모델이 어느 정도 스스로 판단하고 움직인다. 도구가 무엇을 할지 스스로 정할 수 있다면, 그 도구를 쓰면 안 된다고 말하는 것만으로는 다룰 수 없다. 그 자리에서 생긴 물음은 다소 형이상학적이었다. “AI가 도구라면 쓰는 사람을 규제하면 된다. 그런데 도구가 동시에 행위자라면 누구를 규제해야 할까.” 여전히 그 답에 대해서는 의문투성이다.

이 글을 쓰며 발견한 질문은 하나 더 있다. 누가 이 규칙을 쓰는가. 로런스 레시그(Lawrence Lessig)가 “코드는 법이다(Code is Law)”²라고 했을 때처럼, 만드는 사람이 정한 원칙은 기술 안에 들어가 쓰는 사람을 다스린다. 피클에서는 무엇이 민감한 정보인지, 무엇이 지울 수 있는 기억이고 무엇이 남는 기록인지, 언제 나에게 묻고 언제 알아서 할지를 설계된 코드가 정했다. 내 기억의 주인은 나라고 말하면서도, 내가 컨트롤할 수 없는 범위에 나에 대한 기억이 저장되고 있었다. 그리고 그 기억을 내가 지우거나 수정할 수 없었다.

요즘 왜 자꾸 넬의 〈Stay〉가 떠오르는지 모르겠다. '내 기억의 주인은 나야' 이 가사 때문이겠지.

데이터를 삭제하기 위해 계정을 지운 건 홧김이기도 했지만, 문서를 다시 읽어 보니 사실상 유일한 방법이기도 했다. 다시 깔면서는 무엇을 맡기고 무엇을 맡기지 않을지 먼저 정했다. 편리한 에이전트의 도움이 싫은 게 아니다. 그동안 구하기 힘들었던 절판된 책을 찾아 책바다 서비스에 신청까지 넣어 준 건 정말 편리했다. (이렇게 구한 책이 송성수 편역의 《우리에게 기술이란 무엇인가》라는 점도 흥미로운 지점이다.)

피클이 대신 신청해 준 책바다에서 온 알림

다만 선택할 수 있는 주도권을 주지 않는 편리함은 영, 기분이 찝찝하다.

이런 서비스는 앞으로 훨씬 많아질 것이다. 그때 우리가 할 일은 써 보지 않고 팔짱을 끼는 것도, 홀린 듯 모든 계정을 연결하는 것도 아니라고 생각한다. 잘 알고 쓰는 것이다. 약관을 읽고, 지울 수 있는 것과 없는 것을 구분하고, 내 피클이 나 대신 말할 때 꺼내지 말아야 할 것을 내가 먼저 적어 두는 것. 그리고 여기서 멈추지 않고, 이러한 서비스를 만들고 있는 쪽에 계속 묻는 것이다.

AI 에이전트가 말하듯 정말로 내 기억의 주인이 나라면, 그 기억을 지우는 버튼도 내 손안에 있어야 하지 않느냐고 말이다.

1. 이에 관해서는 퍼블리에 여러 편을 기고했다. 포포를 처음 설정한 것은 이 글에서 볼 수 있고, 최근 클로드 코드 환경에 세팅한 일하는 환경은 이 글에서 볼 수 있다. ↩

2. 로런스 레시그(Lawrence Lessig)는 하버드 로스쿨 교수이자 비영리 저작권 라이선스 단체인 ‘크리에이티브 커먼즈(Creative Commons)’의 창립자로, 인터넷 법학과 지식재산권 분야의 세계적 권위자이다. “코드는 법이다(Code is Law)”는 그의 저서 《코드 2.0》(원제 Code: Version 2.0, 2006년. 초판은 1999년에 나온 《Code and Other Laws of Cyberspace》)에서 제시된 핵심 명제로, 사이버 공간에서는 소프트웨어와 하드웨어의 설계 구조(코드) 자체가 현실 세계의 법률처럼 인간의 행동과 자유를 직접적으로 허용하거나 통제하는 규칙으로 작동한다는 의미를 담고 있다. 레시그는 인간의 행동을 규제하는 4가지 요소로 법, 규범, 시장, 아키텍처(구조)를 꼽으며, 디지털 환경에서는 기술적 아키텍처인 ‘코드’가 현실의 법을 대체하거나 그보다 강력한 통제 수단으로 기능한다고 보았다. ↩