알고리즘반항클럽 #2 주체성 : 검색창보다 내 머릿속을 봐야해

2026년 02월 15일

기술철학

넷플연가 모임 알고리즘 반항 클럽 2회차를 진행했습니다. 이번 모임의 주제는 ‘주체성 : 검색창보다 내 머릿속을 먼저 봐야해’ 였어요.

모임에서 다루는 콘텐츠는 아래의 세 개였습니다.

• 넷플릭스 다큐 《소셜 딜레마》, (제프 오를로스키, 2020)
• 도서 《도둑맞은 집중력》 (요한 하리, 2023)
• 도서 《나의 빛을 가리지 말라》 (제임스 윌리엄스, 2023)

2회차를 준비하며 고민이 정말 많았습니다. 가장 고민했던 건, 어떻게 이 주제를 다루면서도 모임에 참여할 사람들이 ‘불쾌함’을 느끼거나 ‘두려움’을 느끼지 않고, 산뜻하게 이야기할 수 있을까? 그리고 산뜻함을 느끼는 와중에도 자신에게 적용해볼만한 실천을 어떻게 찾을 수 있을까? 그것이 가장 고민이 되었어요.

‘사실 빅테크 기업들이 이렇게나 당신들 머릿속을 조종하고 있어요!!!’ 라는 말은, 사람들에게 크게 와닿지 않을 것 같다는 생각 때문이기도 했습니다.

고민을 안고 이전에 읽었던 책과 다큐멘터리를 다시 한번 꼼꼼히 돌려봤어요. 그러면서 점점 주제를 잡아갔습니다. 모임에서 나눈 이야기를 천천히 나눠보도록 하겠습니다.

1. 당신을 닮아가는 저주인형

• 넷플릭스 다큐 《소셜 딜레마》에서 핵심 테마로 잡아서 보여주는 주제이기도 하죠. 우리들 개인 한 명 한 명을 하나의 봉제인형으로 두고, 빅테크 기업들이 우리에게 여러 정보를 주면서 어떤 것이 소위 ‘먹히는지’ 실험해보고 점점 나와 닮은 인형이 되어 그들의 손아귀에서 이리저리 정보를 보며 시간을 보내게된다는 것. 그 이야기로 모임의 문을 열었습니다.

  “페이스북과 구글 서버 내부에 우리를 본뜬 작은 저주인형이 있는 모습을 상상해보세요. 처음에 이 인형은 우리와 그리 비슷하지 않습니다. 인간의 표준 모델 같은 거에요. 하지만 그때부터 이들은 우리의 클릭 흔적과 우리 온라인 생활의 모든 것을 수집하기 시작합니다. 이들은 우리가 별로 중요하게 여기지 않는 메타데이터를 전부 재구성하고, 저주인형은 점점 우리와 닮아갑니다.”

  “우리가 유튜브에 나타나면, 그 인형을 깨워서 인형에 수십만 개의 영상을 시험해보며 어떤 영상에 반응하고 움직이는지를 봅니다.” — 아자 래스킨 (무한 스크롤 개발자), 《도둑맞은 집중력》 195쪽

• 하지만 여기서 바로 ‘아하! 빅테크 놈들 역시 나를 괴롭히고 있어!’라는 생각이 들까요? 다큐 속에서 던지는 질문을 그대로 가져와서 멤버들에게 던졌습니다.

  • 질문: 그래서 뭐가 위험하다는 거지? 스크롤하고, 클릭하는 것. 영상을 더 보게 하는 것이 뭐가 위험하다는 걸까요?

2. 우리는 주의에 삶을 지불한다

• 여기서 기술 윤리학자 제임스 윌리엄스의 책이 등장합니다. 이 책에서 그는 밥 딜런의 문장을 인용하며 우리 삶에 ‘주의력’이란 왜 중요한 것인가에 대한 언급을 합니다.

  “아침에 일어나고 밤에 잠을 자며 그 사이 자신이 원하는 일을 할 수 있다면, 그는 성공한 사람이다.” — 밥 딜런

  “기술은 때로 우리가 원하는 일을 하도록 돕지만 때로는 그렇지 않다. 기술이 우리에게 도움을 주지 않을 때 그건 주의의 ‘집중’을 파괴한다. 이러한 파괴는 기능적 주의 분산을 야기하고, 이는 다시 우리가 당면한 과제나 목표와 관련된 정보나 행동으로부터 멀어지게 만든다.” — 《나의 빛을 가리지 말라》 87쪽

• 결국 “우리는 주의에 우리가 경험할 수 있었던 삶을 지불한다” 는 중요한 문장을 함께 만나게 됩니다.
• 여기까지는 오. 그래 그렇게 생각해볼 수 있겠다. 싶을 겁니다. 그러면 이제 한 걸음 더 들어가보죠.

3. 정보화 시대가 아니라 주의 시대가 아닐까?

• ‘주의’에 대해 더 깊게 얘기하기 전에 ‘정보’에 대해 먼저 이야기해 봅니다. 우리는 지금 시대를 ‘정보화 시대’라고 부르죠. 왜일까요?

  “청동기 시대나 철기 시대처럼 특정 시대를 살았던 인류는 그들의 시대를 지금 우리가 부르는 이름으로 부르지 않았을 것이다. 그들은 절대 바뀌지 않으리라 생각했던 그들 시대의 근본적인 가정에 뿌리를 둔 다른 이름을 사용했을 것이다.” “이러한 점에서 우리가 우리 시대를 정보화 시대라고 부른다는 사실은 나를 다소 당황하게 만든다. 정보는 우리가 헤엄치는 물이다. 우리는 정보를 인간 경험의 원료라 생각한다.”

  “정보가 흘러넘치는 세상에서 정보의 풍요는 다른 무언가의 결핍을 의미한다. 즉 그게 무엇이든 정보가 소비하는 대상이 귀해진다. 그 대상은 명백하다. 정보는 그것을 받아들이는 주체의 주의를 소비한다.” “그러므로 정보의 풍요는 주의의 결핍, 그리고 풍부한 정보 사이에서 주의를 효율적으로 할당해야 할 과제를 만들어낸다.” — 《나의 빛을 가리지 말라》 38-40쪽

• 그러게요. 청동기/철기 시대에 정말 그 이름으로 그 시대를 불렀을까요? 그 시대 사람들은 청동이나 철이 ‘많아서’ 그렇게 부른 게 아닐겁니다. 청동과 철이 그 시대를 규정하는 핵심 기술이자 자원이었기 때문이죠. 누가 그 기술을 가졌느냐가 권력을 결정했습니다. 우리가 ‘정보화 시대’라고 부르는 지금은 정보가 넘쳐나고 있습니다. 하지만 정보가 정말 우리 시대의 핵심 자원일까요? 제임스 윌리엄스는 이를 설명하기 위해 ‘테트리스 게임’ 비유를 꺼냅니다.

“우리가 신속하게 대처할 수 있다면, 이(테트리스) 게임을 무한정 즐길 수 있다. 중요한 것은 풍요와 무한이 아니다. 이 게임의 도전 과제이자 우리가 이 게임에서 궁극적으로 대처해야 하는 것은 점점 빨라지는 블록이 떨어지는 속도다.” “마찬가지로 정보의 양은 정보가 다가오는 속도에 우리가 대처할 수 있을 때 의미가 있다. 정보가 아무리 많더라도 그것이 다가오는 속도가 극단적으로 빠르다면, 아무런 의미가 없다.” “이러한 점에서 정보의 풍요가 가져다주는 주요한 위험은 (마치 우리의 주의가 정량화할 수 있는 한정적인 자원인 것처럼) 정보가 우리의 주의를 장악하거나 고갈시키는 것이 아니라 우리가 그 과정에서 통제력을 잃게 된다는 것이다.” “다시 말해 테트리스 게임의 진정한 위기는 블록을 잘못된 곳에 쌓을 때가 아니라(물론 문제를 더 심각하게 만들기는 하지만) 블록의 방향을 결정하고, 회전하고, 쌓는 능력에 대한 통제력을 잃어버릴 때 발생한다.” — 《나의 빛을 가리지 말라》 42쪽

“우리는 지금의 세상을 정보 시대라 부르는데, 그것보다 ‘주의 시대(Age of Attention)’라고 부르는 것이 더 적절할 듯하다.”

• 마치 계속 떨어지는 테트리스 블록처럼 정보는 이미 풍부합니다. 검색하면 쏟아지고, 알고리즘은 끊임없이 정보를 밀어넣죠. 진짜 희소하고, 진짜 경쟁이 벌어지는 건 주의력입니다. 유튜브, 인스타그램, 틱톡… 이 모든 플랫폼이 싸우는 건 ‘누가 더 많은 정보를 제공하느냐’가 아니에요. ‘누가 당신의 주의를 더 오래 붙잡느냐’입니다. 청동기 시대를 청동으로 이름 붙인 것처럼, 우리 시대도 진짜 권력이 걸린 자원으로 이름을 붙인다면 “주의 시대(Age of Attention)”가 훨씬 정확하지 않을까요?

• 여기까지 이야기를 나눈 후, 멤버들에게 질문을 하나 던졌습니다. “최근 일주일 동안, 내가 ‘하려고 했던 일’과 ‘실제로 한 일’ 사이에 가장 큰 간극이 생긴 순간은 언제였나요? 그때 무엇을 하고 있었나요?”

• 다양한 이야기가 오갔어요. 퇴근 후 피곤함에 대한 보상 심리로 책을 읽거나 생산적인 일을 하고 싶었으나, 결국 핸드폰만 계속하다가 잠들었고 다음 날 아침 후회했다는 이야기, 쇼핑을 안 하려 했으나, 유튜브 추천과 연말정산 환급 등을 핑계로 사고 싶었던 물건을 샀다는 이야기, 다큐멘터리 ‘소셜 딜레마’와 책 ‘나의 빛을 가리지 말라’를 보려 했으나, 다큐는 무서워서 자버렸고 책을 읽으려다 핸드폰의 다른 곳으로 빨려 들어가 결국 다 못 읽었다는 이야기 등을 나누었어요.

• 그럼 진짜로 무슨 일이 일어나고 있는걸까요? 그에 대해 더 자세한 이야기를 나누었습니다.

4. 적대적인 GPS - 우리를 어디로 데려가는가?

• 만약 자동차 내비게이션이 내가 입력한 목적지가 아닌 엉뚱한 곳으로 계속 안내한다면 우리는 화를 내고 당장 기계를 바꾸겠죠. 하지만 인터넷과 스마트폰이라는 내비게이션은 우리가 원래 하려던 일(목적)에서 벗어나 광고나 자극적인 콘텐츠(엉뚱한 곳)로 계속 유도하는데도, 우리는 여기에 대해 화를 내지 않고 놀라운 인내심을 발휘하며 끌려다니고 있다는 지적을 함께 나누었어요.

  “어떤 면에서 정보 기술은 우리 삶을 안내하는 GPS가 되어야 한다. (물론 살아가면서 우리는 자신이 정확히 어디로 가고자 하는지 모를 때가 있다. 그럴 때 기술의 역할은 우리가 원하는 방식으로 목적지에 도달하도록 돕는 일이다.)” “그런데 우리가 사용하는 GPS 장비가 자신에게 적대적이라 상상해보자. 당신은 지금 새로운 GPS를 사서 차량에 장착했다. 처음 사용했을 때는 정확한 장소에 효율적으로 도착하도록 안내했다. 하지만 두 번째 여정에서는 의도한 목적지에서 조금 떨어진 곳으로 데려다줬다.” — 《나의 빛을 가리지 말라》 32쪽

• ‘어라 내가 가려던 곳은 이게 아니었는데..’하는 생각. 어쩌면 우리는 우리와 ‘적대적인 GPS’를 따라 길을 걷고 있는 건 아닐까요?

  “하지만 우리는 정보적 공간에서 여정을 안내하는 기술로 인한 혼란은 일상적으로 참아내고 있다. 다시 말해 우리는 자기 삶을 안내하는 GPS, 즉 오늘날 우리의 생각과 행동의 많은 부분을 안내하는 정보통신 시스템의 허술한 항해력에 대해서는 놀라운 인내심을 발휘하고 있다.” — 《나의 빛을 가리지 말라》 33쪽

• 여기서 소셜 딜레마에 나오는 유명한 문장을 함께 봤습니다.

• 우리가 무료로 쓰는 서비스(카카오톡, SNS 등)의 대가로 기업은 우리의 주의력을 광고주에게 팔고 있습니다. 기술은 중립적인 도구가 아니라, 우리의 생각과 행동을 기업이 원하는 방향으로 이끌기 위해 정교하게 설계된 ‘설득적 기술’입니다. 기업들은 우리의 데이터를 모아 디지털 세계에 우리의 분신(저주 인형)을 만들고, 이를 통해 우리가 어떤 자극에 반응할지 예측하고 조종하려 하고 있죠.

  “기술산업은 상품을 설계하지 않는 대신 사용자를 설계한다. 이러한 마법 같은 보편적인 목표 시스템은 결코 중립적인 도구가 아니다. 그건 살아있는 인간의 삶을 안내하는 목표 기반 내비게이션 시스템이다. 그건 우리의 주의의 연장을 뜻한다.” — 《나의 빛을 가리지 말라》 34쪽

  “넓은 의미에서 모든 기술 설계는 설득적이다. 모든 설계는 생각이나 행동을 이러저러한 방향으로 나아가게 만든다. 중립적인 기술이란 없다. 모든 설계는 특정한 목표와 가치를 드러내며 특정한 방식으로 세상을 만들어간다.” “중립적 방향키란 사실 모순적인 개념이다. 물론 방향키를 똑바로 잡는 것이 항로를 유지하는 데 도움이 될 수는 있지만, 배를 어딘가로 안내하지는 않는다. 기술 역시 마찬가지다.” — 《나의 빛을 가리지 말라》 58쪽

• 그러니까 사실, ‘우리를 위해 설계된’것 같은 기술 산업의 제품들은 우리를 위해, 우리의 삶을 위해서라기 보다는 (너무나 당연하지만) ‘user engagement’를 높이기 위해 설계되었다는 것이죠. IT 산업에서 일하는 사람들은 모두 이해할 것입니다. 그러니, 우리가 ‘어라 내가 하려던 것은 이게 아니었는데?’라는 마음을 자주 느끼는 것은 어쩌면 당연한 귀결인지도 모릅니다. 그렇게 설계된 것이니까요.
• 다큐에서 트리스탄 해리스는 ‘매트릭스에서 자각하지 못하는데 어떻게 매트릭스에서 깨어나죠?’라는 질문을 합니다. 어쩌면 우리는 모두 각각의 트루먼쇼 안에서 살고 있는지도 모른다는 말과 함께요.

• 이후 멤버들에게 기술이 우리가 원하는 목적지(정보/행동)가 아닌 엉뚱한 곳(광고/중독)으로 이끄는 것을 ‘고장 난 내비게이션’에 비유하며, “이런 허술한 항해에 인내심이 바닥났거나, ‘내가 왜 여기 있지?’라고 느꼈던 순간”에 대해 물었습니다. 첫번째 질문과 유사한 질문이면서, 조금 더 깊게 들어가본 질문이었어요. 멤버들은 여러 이야기를 나눠주었습니다. 이제는 소셜 네트워크 서비스만이 아니라, AI 기능까지 탑재되어 점점 더 우리의 GPS가 조금씩 고장나고 있다는 걸 확인할 수 있었어요.
  • (명인) 인스타그램에서 친구의 근황이 궁금해 들어갔는데, 친구 소식은 안 뜨고 광고와 상관없는 게시물만 계속 떠서 분노했습니다. 결국 앱을 메인 화면에서 지우고, 필요할 때 아이디를 검색해서 들어가는 방식으로 바꿨습니다.
  • (윤아) 챗GPT(ChatGPT)를 쓸 때 인내심이 바닥납니다. 기계처럼 딱 맞는 답을 주길 원하는데, AI가 맥락을 과도하게 해석하거나 사용자의 의도를 제멋대로 판단해서 조언하려 들 때(자아를 가진 척할 때) 짜증을 느낍니다.
  • (미정) 유튜브 뮤직 알고리즘이 자신을 너무 잘 파악하고 있어서, 새로운 노래를 듣고 싶은데 계속 예전에 듣던 노래나 비슷한 취향의 노래만 추천해 주는 굴레에 갇힌 느낌을 받아 답답해했습니다.
  • (두승) 과거 틱톡에 빠져 5~6시간을 허비한 경험 후 앱을 지웠습니다. 자신은 숏폼(짧은 영상) 중독에 취약하다는 것을 알고 있어 일부러 태블릿에만 깔아두는 등 피하려고 노력합니다.
  • (효나) 인스타그램을 안 하다가 네트워킹 때문에 시작했는데, 알림을 따라 들어가다 보면 계속 보게 되고, 네이버 검색이나 유튜브도 원래 하려던 목적을 잊고 추천 뜬 것을 보다가 시간을 허비하게 됩니다.
  • (민석) 네이버 검색창에 검색어를 입력하면 AI 기반으로 추천 콘텐츠가 뜨는 기능이 너무 싫다고 했습니다. 원래 목적을 잊게 만들고 계속 보게 만드는 설계 때문에 피로감을 느낍니다.
  • (태훈) “인내심을 발휘하고 있다는 것 자체를 인지 못하고 있기 때문에 지금 저희는 놀라운 인내심을 발휘하고 있는 거 아니에요?”라고 반문했습니다.
• 즉, 우리가 기술의 불편함이나 유도된 행동을 ‘참고 있다’고 느끼는 게 아니라, 아예 그것이 자연스러운 상태라고 착각하기 때문에 역설적으로 놀라운 인내심을 유지하게 된다는 날카로운 지적도 함께 나누었습니다.

5. 빛을 찾으려는 시도들, 그리고 시스템의 승리

• 그럼 이제 무엇을 해야 할까요? 알고리즘에 반항하는 시도도 있겠죠. 유튜브의 시청 기록을 끄거나, 디지털 디톡스를 하는 방법들이요. 하지만 그보다 근본적인것은, 내가 무엇을 잃고있는가?를 깨닫는 것일 지도 모릅니다. 앞서 “우리는 주의에 우리가 경험할 수 있었던 삶을 지불한다” 라고 했죠. 그러니, ‘우리가 경험할 수 있었던 삶’에 대해서 더 생각해보는 것은, 우리가 나의 소중한 ‘주의력’을 고장난 GPS에 끌려가는 게 아니라 내가 원하는 방향의 삶에 쓰게만드는 계기가 될 수도 있습니다.
• 다소 자기계발서적인 결론일지도 모르겠습니다만, 이것은 ‘내가 원하는 삶을 이뤄야 한다’는 어떤 당위라기보다는, ‘우리가 어떤 빛을 잃고있는가?’를 찾는 주체성 회복의 여정일지도 모릅니다.
• 기술 윤리학자인 제임스 윌리엄스는 《나의 빛을 가리지 말라》에서 알렉산드로스와 디오게네스의 일화를 소개하며, 이를 현대의 ‘주의력 경제’ 상황에 빗대어 설명합니다.

• 고대 그리스의 대철학자 디오게네스는 통에 살면서 무소유를 실천하고 있었습니다. 어느 날, 당대 최고의 권력자이자 세계를 정복한 알렉산드로스 대왕이 디오게네스를 찾아옵니다. 알렉산드로스는 디오게네스의 명성을 존중하여 이렇게 묻습니다.

  “그대가 원하는 것은 무엇이든 들어주겠다. 말만 하라.”

• 그러자 햇볕을 쬐고 있던 디오게네스는 귀찮다는 듯이 이렇게 대답합니다.

  “그렇다면 내 햇빛을 가리지 말고 좀 비켜주시오(Stand out of my light).”

• 여기서 ‘알렉산드로스 대왕’을 거대 기술 기업이나 디지털 기술로 비유해보자면, 이렇게 볼 수 있겠죠. 세상을 정복할 만큼 막강한 힘과 자원을 가졌고, 우리에게 “무엇이든 검색하면 다 보여줄게”, “원하는 정보를 다 줄게”라며 호의를 베푸는 척 다가옵니다.
• 그렇다면 ‘햇빛’은 우리의 주의력이자 주체성일 것이라고 볼 수 있겠죠? 디오게네스에게 햇빛은 단순히 따뜻함이 아니라, 세상을 똑바로 보고 사유할 수 있게 하는 ‘진실의 빛’이자 ‘나의 주의력’을 상징합니다.
• 디오게네스가 알렉산드로스 대왕에게 ‘비켜달라’고 요구하는 것은 이렇게 해석할 수 있겠습니다. 기술 기업들이 아무리 편리한 기능과 정보를 제공한다 해도, 그것이 결과적으로 내가 진정으로 집중해야 할 대상(내 삶의 목적, 사유하는 힘)을 가로막고 방해한다면, 그들에게 우리가 해야 할 말은 “그냥 내 앞을 가리지 말고 비켜라”라는 것이어야 한다는 메시지입니다.
• 결국 이 책을 통해 말하고자 했던 핵심은, “엄청난 정보나 편의를 주는 척하면서 내 삶의 가장 중요한 자원인 ‘주의력(빛)’을 차단하는 기술들에 맞서, 내 빛을 되찾아야 한다”는 것입니다.
• 제임스 윌리엄스가 《나의 빛을 가리지 말라》에서 소개하는 빛을 잃지 않기 위해 알아야 할 세 가지 형태의 집중력은 다음과 같습니다.
  • 🔦 Spotlight 스포트라이트, 집중의 빛 [행동] “지금 부엌으로 가서 커피를 내릴 거야” : 스포트라이트가 분산되거나 방해받으면 단기적 행동을 수행하지 못함. 우리의 인식과 행동이 과제를 향해 나아가게 하는 직접적인 능력, 우리가 원하는 것을 하도록 만든다.
  • ⭐ Starlight 스타라이트, 장기적인 목표의 별빛 [지향점] “사업을 할 거야. 좋은 사람이 될 거야.” : 스타라이트를 놓치면 장기적 목표를 잃게 되고, 자신이 어디로 향하고 있었는지 잊기 시작함. 우리 삶이 ‘별을 따라’ 더 높은 목표와 가치를 향해 나아가게 하는 포괄적인 능력, 우리가 되고자 하는 사람이 되도록 만든다.
  • ☀️ Daylight 데이라이트, 매일 자신을 자각하는 햇빛 [메타인지] 명료하게 주변을 바라보는 감각 : 데이라이트를 잃으면 자신이 누구인지, 무엇을 하고 싶었는지, 어디로 향하고 싶은지조차 파악하지 못하게 됨. 우리가 애초에 목표와 가치를 정의하게 하는 근본적인 능력(숙고, 메타 인식, 이성, 지능). 우리가 ‘원하는 것을 원하도록’ 만든다.

“그가 발명한 기능의 결과로 총 20만 명이 넘는 인간의 태어나서 죽기까지의 모든 순간의 삶만큼이 매일 화면을 스크롤하는 데 쓰이고 있다. 이 시간들은 무한 스크롤이 없었다면 다른 활동에 쓰였을 것이다.”

“이 시간이 그냥 사라져버리는 겁니다. 인생 전체가 휙 하고 사라져요. 이 시간을 기후위기 해결에 썼을 수도 있고, 가족과 함께하거나 사회적 유대감을 강화하는 데 썼을 수도 있어요. 그게 뭐든 더 좋은 삶을 사는 데 쓸 수 있었죠.” — 아자 래스킨 (무한 스크롤 개발자), 《도둑맞은 집중력》 185쪽

• 우리는 이렇게 알게 모르게 세 가지 빛(스포트라이트, 스타라이트, 데이라이트)을 잃어가고 있습니다. 그런데 다행인 것은, 이 어둠 속에서 가장 먼저 ‘이건 뭔가 잘못됐다’고 느끼고 촛불을 켠 사람들이 있었다는 겁니다. 그들은 알렉산드로스 대왕의 군대, 즉 거대 테크 기업의 내부에 있었습니다. 위에서 언급한 아자 래스킨처럼 말이죠. 그들은 자신이 만든 알고리즘이 사람들의 ‘빛’을 가리고 있다는 사실을 깨닫고, 회사 안에서부터 싸우기 시작했습니다.

• ⟨도둑맞은 집중력⟩의 중반부(6장~9장)와 ⟨소셜 딜레마⟩는 바로 이 ‘양심적 내부자들’의 투쟁을 다루고 있는데요. 거대한 기술의 파도에 맞서 실리콘 밸리 안에서 어떤 목소리들이 나왔는지, 그리고 그들이 왜 실패하거나 혹은 좌절했는지에 대해 이야기해 볼까 합니다.

• Google — Tristan Harris (2013)
  • Harris는 Google에서 일하면서 “A Call to Minimize Distraction & Respect Users’ Attention”이라는 141슬라이드 프레젠테이션을 만들었다. Google 내부에서 바이럴되면서 수만 명의 직원이 봤다.
  • 그는 Google, Apple, Facebook이 사람들이 스마트폰에 파묻혀 사는 것에 “enormous responsibility”를 느껴야 한다고 주장했다.
  • 결과? “Design Ethicist”라는 타이틀을 받았지만, 실질적 변화를 이끌어내지 못하고 2015년에 퇴사해서 Center for Humane Technology를 설립했다.
• Facebook — Chris Cox (2017-2018)
  • Chris Cox(당시 CPO)가 2017년에 태스크포스를 직접 구성했고, engagement 극대화가 정치적 양극화에 기여하는지 연구했다.
  • 양극화와 상관관계가 있다는 걸 발견했고, 줄이려면 engagement에 타격이 온다는 것도 확인했다.
  • Cox는 integrity ranking과 Common Ground 변경을 위해 내부에서 싸웠지만 대부분의 싸움에서 이기지 못했고, 결국 회사를 떠났다. 그가 떠나자 남은 프로젝트 참여자들은 후원자를 잃은 셈이 됐고, 팀은 해체됐다.
• Twitter — META 팀 (2021-2022)
  • Twitter의 Machine Learning, Ethics, Transparency and Accountability (META) 팀은 알고리즘의 편향과 해악을 감사하는 내부 watchdog이었다.
  • 실제로 인종 편향이 발견된 자동 크롭 알고리즘을 중단시키는 성과도 냈다.
  • 그런데 Elon Musk 인수 직후인 2022년 11월, 한 명을 제외한 전원이 해고됐다. 같은 날 Human Rights 팀도 전원 해고됐고 Accessibility 팀도 해체됐다.
• Meta — Trust and Safety 대규모 감축 (2023)
  • Meta도 Instagram well-being 그룹 16명 이상, trust·integrity·responsibility 관련 100개 이상의 포지션을 정리했다.

• 여러 실리콘밸리 기업 내부에서의 시도가 있었지만 대부분이 실패로 끝났습니다. 소셜 딜레마 다큐멘터리가 나온지 5년이 흘렀지만, 여전히 문제는 심각해지고 있죠. 심지어 최근에는 AI의 발전으로 심각한 위협이 가해지기도 합니다. 그렇지만 우리는 여기서 “결국 비난할 대상은 없습니다”. “‘결함’이 있는 것은 개인의 내적 의사결정 구조가 아니라, 복잡한 다중 작용 시스템의 새로운 구조”이기 때문이죠.

  “품질경영의 대가 윌리엄 에드워드 데밍은 이렇게 말한다. ‘약한 시스템은 언제나 선한 인간을 압도할 것이다.’” — 《나의 빛을 가리지 말라》 156쪽

마지막으로 멤버들과 자신의 3가지 빛을 나누며 두번째 모임을 마무리했습니다. 모두가 조금씩 달랐지만, ‘내 힘으로 생각하기’, ‘고요해지기’ 등 다양한 것들이 나와서 흥미로운 시간이었어요.

오늘의 이야기가 불편함이나 불쾌함이 아니라 기술과 나의 관계를 한번 더 생각해보게 하는 계기가 되기를 바라며 모임을 마쳤습니다. 다음 시간에는 ‘관계’를 주제로 하여, 본격적으로 AI와 나의 관계에 대해 이야기해보려고 해요. 또 흥미로운 시간이 될 것 같습니다.