컴퓨터공학과 3학년, 서양 윤리학 개강 첫 주.
그 순간 강의실에 흐르던 두려움과 불안함의 공기.
세계 1위 '신공지능'
"예전에는 저 정도의 위치라면 제가 두는 수가 거의 정답이어야 했겠죠. 그런데 이제 AI가 그 수를 좋지 않은 수라고 하면 중계를 보시는 분들은 '저 사람은 랭킹 1위인데도 저런 수를 두는구나' 하고 생각하실 수도 있죠."
신진서 9단, 《먼저 온 미래》 195쪽
인공지능이 인간의 거울을 넘어 기준이 되어버렸다.
"AI가 없던 시절이 훨씬 좋은 걸로 의견을 바꿀게요. 낭만의 바둑을 두던 예전이 그리워요. 전에는 어떤 새로운 수를 연구할 때 거기에 사람들의 노력과 열정이 배어 있었거든요. 그렇게 찾은 새로운 수에 환호하고 연구를 거듭하며 성장해 갔죠. 우리 인간이 비록 불완전하지만 그 속에서 성장해 가는 낭만이 있었는데, 알파고 이 자식 이후에는 뭔가 서늘해져 버렸네요. 기술이 발전하면서 많은 사람이 몸은 편해지는데 영혼은 시드는 것 같고."
《먼저 온 미래》 281쪽
이것은 상금 수입이 줄어서가 아니다. 긍지와 관련된 문제다. 사람은 의미 있는 일을 자신이 잘해내가고 있다고 믿을 때 긍지를 얻는다. 인공지능은 예상보다 훨씬 넓은 영역에서 어떤 일의 의미와 인간의 유능함을 납작하게 짓눌러 버릴 것이다.《먼저 온 미래》 62쪽
요즘 내가 만든 것 중에 제일 유용한 두 개
요즘 취미가 '바이브 코딩'.
AI한테 시켜서 이것저것 뚝딱 만들어 쓰는 재미가 쏠쏠합니다.
내가 만드는 이 봇 하나가 누군가의 자원을 갉아먹고 있구나.
봇을 자꾸 만들다 보니 서버가 점점 많이 필요해지고,
그 서버를 굴리는 전력, 데이터센터를 식히는 물 소모량이 떠오르기 시작했다.
이 당혹감이 오늘 마지막 모임의 출발점입니다.
Part 2
매끄러운 화면, 거친 현실
택시 알고리즘
알고리즘을 설계한 사람은 그 도로에 서본 적이 없다.
내비가 물리적으로 불가능한 좌회전을 지시한다.
기사님이 따르지 않으면 평점 테러, 업무 중지.
'사용자(승객)'의 경험만 최적화하느라, '노동자(기사)'의 경험은 변수에서 아예 빠져버렸다.
성급한 무인화의 오류
똑똑하고 자율적인 로봇에 대한 기대는 '성급한 무인화의 오류'로 이어진다. 로봇이 작동할 수 있도록 로봇의 뒤에서 옆에서 움직이고 있는 사람은 없는 셈 치기로 한다. 그러다가 사고가 난다.
《로봇의 자리》 10-11쪽
사람은 인공지능 챗봇이 학습해서 내놓는 말에 상처를 받기도 하고, 알고리즘이 알아서 짜 주었다는 동선과 일정을 따라 물건을 배달하다가 지쳐 쓰러지기도 하고, 공장에서 감독관이나 동료 없이 일하다가 로봇에 몸이 짓눌려 죽기도 한다.《로봇의 자리》 10-11쪽
이건 추상적 윤리가 아닙니다. 정말 사람을 죽일 수도 있는 시스템의 해악에 대한 문제입니다.
알고리즘을 다시 짜라는 것은 사회를 다시 짜라는 말과 같다.
《로봇의 자리》 152쪽
함께 생각해볼 질문
1. 아무 생각 없이 편리하게 쓰던 서비스인데,
문득 그 뒤에 있는 사람의 존재를 느꼈던 경험이 있나요?
2. "시스템 자체를 새로 설계해야 한다"는 말.
그 '새로운 설계'는 누가, 어떻게 해야 할까요?
Part 3
AI는 추출 기계다
사람을, 지구를, 지식을 먹는다
거울이 아니라 추출 기계
인공지능은 흔히 인간지능을 비추는 거울이라고 불린다. 그러나 AI는 추출 기계에 가깝다. 데이터를 분류하고, 차별하며, 예측하는 모든 과정은 이를 만든 사람들의 이해 관계와 권력 구조를 반영한다.
《AI는 인간을 먹고 자란다》 21쪽
층위 1. 사람을 먹는다
AI가 똑똑해지려면, 누군가 수작업으로 데이터를 분류해 줘야 한다.
인도, 케냐, 필리핀 — 영어 가능 + 저임금 + 엄격한 노동 규율.
노동자들의 업무 환경은 디지털 기술을 이용해 철저히 감시되는데, 이는 과거 플렌테이션과 공장의 관리자들이 상상도 못할 정도로 정교하게 이루어진다.
52쪽
이곳의 노동자들은 스스로 업무 내용을 조정하거나 결정할 여지가 거의 없다. 그 과정에서 그들은 극도의 지루함과 불안감이 뒤섞인 기묘한 감정을 느끼게 된다. 이것이 바로 AI 혁명의 최전선에서 실제로 벌어지고 있는 현실이다.53쪽
데이터 라벨러 '애니타'
거리에 라벨을 붙이고, 신호 둘레에 테두리를 그리면서 렌즈의 반대편의 반짝이는 거대한 광고판과 초록 잔디가 있는 나라에서 살면 어떨지 상상해 본다.
69쪽
애니타는 화면 속 서구의 거리에 라벨을 붙이면서,
그 거리를 영원히 걷지 못할 겁니다.
식민지 플렌테이션 농장과 애니타가 일하는 사무실 사이에는 희미하지만 분명한 연결고리가 존재한다.
47쪽
층위 2. 지구를 먹는다
거대한 데이터 센터에서 육중한 선반마다 장착된 수많은 서버가 일정한 열기와 백색 소음을 내뿜는 모습과 데이터를 전 세계에 실어 나르는 촉수 같은 해저 케이블을 떠올려보라. AI는 물질적 실체를 갖고 있다. 우리가 챗GPT에 질문을 던지거나 인터넷 검색을 수행할 때마다, 이 거대한 기계는 그 물리적 인프라를 통해 '숨을 쉰다.'22쪽
숫자로 보는 AI의 물질성
8만 가구하이퍼스케일 데이터센터 1곳의 전력 소비량
40%데이터센터 운영비 중 냉각 비용
15,000배GPT-1 → GPT-4 매개변수 증가
AI의 두뇌와 혈관
AI 시스템을 하나의 두뇌로 본다면, 해저 광섬유 케이블은 혈관이다.
120쪽
19개구글이 투자/소유한 해저 케이블
500 Tbps메타-NEC 해저 케이블 용량
19세기에 철도 위에 전신선을 깔았듯, 지금은 해저에 광섬유를 깔고 있다.
층위 3. 지식과 창작을 먹는다
테크 기업의 유명한 모토 "빨리 움직여서 망가뜨려라"가 이제 "빨리 움직여서 훔쳐라"로 바뀐 셈이다.
146쪽
AI 도구는 한 명의 사기꾼을 만드는 데 그치지 않는다. 수많은 창작자의 작업을 분석해, 그 속에서 창의적이고 가치 있는 아이디어를 대량으로 추출한다.
147쪽
프로젝트 파나마
"프로젝트 파나마는 세상의 모든 책을 파괴적으로 스캔하려는 우리의 시도다. 우리가 이 작업을 하고 있다는 걸 알려지고 싶지 않다."
Anthropic 내부 문서
수백만 권의 책을 사들이고, 수압 절단기로 등을 잘라내고,
고속 스캐너로 스캔한 뒤 폐기. 합의금 15억 달러(약 2조 원).
그 전에는 더 노골적이었다
앤트로픽 공동창업자 벤 만(Ben Mann)은 2021년, 11일에 걸쳐
불법 복제 도서관 'LibGen'에서 대량의 책을 직접 다운로드했다.
1년 뒤, "우리는 대부분의 나라에서 저작권법을 의도적으로 위반한다"고 밝힌 해적 도서관 사이트 링크를 동료들에게 공유하면서 "just in time!!!"이라고 썼다.
Washington Post, 2026.01.27
메타도 CEO 저커버그에게 보고하여 승인받았다.
직원의 "회사 노트북으로 불법 다운로드하는 건 좀 아닌 것 같다"는 우려는 묵살.
추적을 피하기 위해 아마존 클라우드 임대 서버를 이용.
참고로, 이 발제문을 쓰는 걸 도와준 AI — Claude — 가
바로 앤트로픽이 만든 겁니다.
구조적 문제
"가치 사슬에서 창작자가 가장 밑에 위치하고, 그 위에 모든 사람들이 군림하는 구조는 예전부터 존재해 왔어요. AI가 착취 문제를 새롭게 만든 건 아니에요. 다만, 그 문제를 더 악화시켰을 뿐이죠."
147쪽
'나이트쉐이드(Nightshade)' — 디지털 이미지에 특수한 픽셀을 삽입해
AI 훈련 데이터에 포함되면 모델을 오작동하게 만드는 도구.
창작자들의 일종의 게릴라전.
제번스 패러독스
효율이 좋아지면 덜 쓸 거라 기대하지만,
역사적으로 항상 더 많이 썼다.
코딩을 못하던 사람도 바이브 코딩으로
서비스를 만들 수 있게 되면? 저 같은 사람이 봇을 10개씩 만들고 있으니까요.
함께 생각해볼 질문
1. 이 사실을 알고 나서도 사용 습관이 바뀔 것 같나요?
바뀌지 않는다면, 왜일까요?
2. 내가 소비하는 "매끄러움"의 물질적 비용을,
우리는 어디까지 인식하고 있었을까요?
Part 4
코드와 물질 사이의 영원한 진동
1회차 — 경험
"매끄러운 삶에 다시 마찰을 도입하자"
대기시간 4초→2초, 드라마 2배속, 결말부터 확인하는 습관.
마찰은 단순한 불편함이 아니라 삶의 속도를 늦추고 방향을 스스로 정하게 해주는 필수적인 저항감.
오늘 본 것 → 우리 쪽에서 사라진 마찰이, 화면 뒤 누군가에게는
치명적인 마찰로 전이되고 있었다.
2회차 — 주체성
세 가지 빛을 빼앗기고 있었다
스포트라이트(지금 하는 일에 집중) · 스타라이트(되고 싶은 모습) · 데이라이트(내가 뭘 원하는지 아는 것)
"기술산업은 상품을 설계하지 않는 대신 사용자를 설계한다"
오늘 본 것 → 주의력 전쟁의 무기를 만들고 굴리는 데에도
물질적 비용이 따르고 있었다.
3회차 — 관계
진짜 관계의 조건은 유한함과 선택
AI는 즉각 반응하고, 판단하지 않고, 맥락을 기억해준다.
하지만 팔을 잡아끌 수 없고, 표정을 읽을 수 없고, 울어줄 수 없다.
매끄러운 관계(AI) 대신 마찰 있는 관계(사람)를 다시 선택하는 것이 사랑.
오늘 본 것 → 수백만 권의 책 등을 잘라내 스캔한 데이터가
그 AI의 매끄러운 공감 능력을 떠받치고 있었다.
네 번의 시선
회차
시선
핵심 질문
4회차에서 드러난 것
1회차 경험
나 → 내 감각
기술이 내 경험을 어떻게 바꾸나
내 매끄러움이 누군가의 마찰이 된다
2회차 주체성
나 → 내 머릿속
내 주의력은 누가 가져가나
주의력을 빼앗는 행위에 물질적 비용
3회차 관계
나 → 너(AI)
AI와의 관계는 진짜 관계인가
감정의 거래에도 자원이 소모된다
4회차 사회
나 → 우리
내 클릭 한 번은 어디까지 연결되나
편리함 뒤에 숨겨진 사람들과 지구
1~3회차가 '코드' 쪽을 봤다면,
4회차는 '물질' 쪽을 봤습니다. 둘 다 봐야 전체가 보입니다.
우리는 과학기술이 가치중립적이라는 헛소리를 경계해야 한다.
과학기술은 물질세계뿐 아니라 정신세계 깊은 곳까지 힘을 미치는 강력한 권력이다.《먼저 온 미래》 304쪽
"미래는 우리가 만들어나가는 것이지, 과학기술이 열어주는 것이 아니기 때문입니다."《미래는 오지 않는다》 전치형 · 홍성욱
Part 5
나만의 기술 사용 설명서
선언문 작성
기술이라는 파도 위에서 휩쓸리지 않고 내가 지켜갈 것.
1. 나는 를 쓸 때, 를 기억하겠다.
예: 나는 배달 앱을 쓸 때, 폭우가 쏟아지는 날에는 주문 자체를 다시 생각하겠다.
2. 나는 를 만들거나 기획할 때, 를 확인하겠다.
예: 나는 서비스를 기획할 때, 이 알고리즘에서 배제되는 사람이 누구인지 확인하겠다.
3. 나는 절대 하지 않겠다.
예: 나는 "기술이 원래 그런 거지"라는 말로 불편함을 덮지 않겠다.
인공지능이 아직 할 수 없고 인간만이 할 수 있는 일은 따로 있다.
좋은 상상을 하는 것, 우리가 미래를 바꿀 수 있다고 믿는 것,
그렇게 미래를 바꾸는 것이다.
《먼저 온 미래》 340쪽
우리는 우리 운명의 주인이다.
우리는 우리 영혼의 선장이다. 아직까지는.
감사합니다.
알반클 공식 모임은 여기서 끝나지만,
여러분 각자의 일상 속의 작은 변화가 시작되기를 바랍니다.
