모순된 AI with 민음사 사내 AI 교육 모순된 AI with 민음사 사내 AI 교육
민음사에서 AI 사용법 강의를 하게 되었을 때, 뻔한 실무 활용 이야기만 하고 싶지 않았다. Anthropic이 만든 Claude의 성능이 좋아진 건, 엄청나게 많은 수의 책을 절단하여 학습시켰기 때문이기도 한데, 그 책을 만드는 분들에게 ‘AI 좋아요~ 어서 써보세요~’ 라고만 하는 건 조금 그런 것 같아서. 첫 시작은 꼭 AI 기술이 품고 있는 윤리적 문제점에 대해 언급하고 싶었다. 그리고 그 강의 자료를 준비하기 위해 나는 또, Anthropic의 Claude에게 말을 걸었다. 나는 모순 속에 서 있었고, 그 사실을 꽤 오래전부터 알고 있었다. 그날 강의를 준비하면서 AI에게 물었다. 이 기술에 데이터 라벨링 노동, 데이터 센터가 빨아들이는 전기, 창작자 무단 취득 같은 문제가 있는데도 배우고 써야 하는 이유가 뭘까, 를 또 AI에게 물어보고 있다니. 돌아온 답 중 하나가 나를 붙잡았다. 기술 비판이 가장 설득력 있으려면, 그 기술을 깊이 아는 사람이 해야 한다고. 사용해보지 않으면서 AI가 나쁘다고 하는 것보다, 쓸 줄 알면서 그 그림자를 말하는 사람이 훨씬 세게 찌를 수 있다고. 월트 휘트먼이 160년 전에 썼다. “내가 모순된다고? 좋다, 그렇다면 나는 모순된다. 나는 크다, 나는 여럿을 품는다.” 아침에 이 문장을 발견한 건, 오늘 하루가 아주 좋을 거라는 예견이기도 했다.
강의장에서 나는 AI가 양파 같다는 이야기부터 꺼냈다. 인공지능, 머신러닝, 딥러닝, 거대 언어 모델. 네 겹의 껍질을 벗기면 우리가 매일 말을 거는 ChatGPT와 Claude가 나온다. 그런데 이 기계가 하는 일의 본질을 설명하려면 한 가지를 먼저 인정해야 한다. 이 안에 “진실”이라는 개념은 없다. 있는 것은 “그럴듯함”뿐이다. “오늘 날씨가 ___“라는 빈칸 뒤에 “맑다” 38%, “춥다” 22%, “흐리다” 17%를 놓고, 가장 그럴듯한 단어를 뽑아 이어붙이는 것. 숙련된 고스트라이터가 “이 작가라면 다음에 이런 문장을 쓰겠지”라고 추측하는 것에 가깝다. 이해하는 게 아니라 패턴을 매칭하는 거라고. 강의를 듣고 있는 분들의 표정이 미묘하게 바뀌는 게 보였다. (‘어라 이 강의는 그저 그런 AI 강의가 아닌 것 같은데?’ ..물론 아닐 수도 있다.)
다음으로는 프롬프트 엔지니어링 이야기를 했다. “보도자료 써줘”와 “민음사에서 출간하는 소설 OO의 보도자료를 A4 1장 분량, 격식체로, 첫 문장은 인용구로 시작해서 써줘”의 차이. 역할을 부여하고, 예시를 보여주고, 단계를 나누는 것. 하지만 나는 이 이야기를 하면서 동시에, 이것만으로는 부족한 시대가 이미 와 있다는 걸 말하고 싶었다. 프롬프트 엔지니어링에서 컨텍스트 엔지니어링으로, 다시 에이전트 엔지니어링으로. 이 흐름에서 정말 흥미로운 건 기술의 발전이 아니라 통제권의 이동이다. 프롬프트 시대에 인간은 단어 하나하나를 통제했다. 컨텍스트 시대에는 정보 환경을 설계했다. 에이전트 시대에는 목표만 주고 실행을 위임한다. “AI를 잘 쓰는 법”의 정의 자체가 바뀌고 있다. 말 잘하는 법에서, 정보를 설계하는 법으로, 다시 위임하고 감독하는 법으로. 그건 거의 매니지먼트에 가까운 일이다.
그런데 여기서 한 발 더 가면 불편한 질문이 기다린다. AI에게 더 많은 자율성을 줄수록, 책임은 어디로 가는가. 에이전트가 스스로 판단해서 검색하고, 코드를 쓰고, 파일을 만들고, 틀리면 다시 시도하는 세상에서, 그 결과물의 책임은 누구에게 있나. 강의에 참여한 분도 질문을 던졌다. ‘그럼 정말 인간이 판단하지 않아도 되는 거예요?’ 기술적으로 불가능한 것은 아니라고 답했다. 하지만 점점 더 중요해지는 건 인간의 ‘판단 능력’일 것이라고 생각했다. 그 한 끗의 차이를 발견해내는 것은 인간이 해야 하는 일이라고 생각했기 때문에.
강의를 마치고 참여하신 분들이 만족해 하시는 모습이 눈에 보여 기뻤다. AI에 대한 막연한 두려움이나 막막함 보다는 ‘이것도 그냥 기계일 뿐이네!’ 하고 생각할 수 있기를 바랐다. 그리고 본인이 하는 일에 가장 진심인 사람들이, 이 기술을 누구보다 더 빨리 익힐 수 있게 되기를 바라는 마음으로 준비한 것이 조금이나마 전달된 것 같아 기분이 좋았다.
나는 AI의 윤리적 문제를 알면서 AI를 쓰고, AI의 한계를 가르치면서 AI로 강의를 준비하고, AI를 비판하는 글을 AI와 함께 쓴다. 막연한 두려움이 아니라 비판적 사고를 기반으로 한 참여가 나에게는 중요하다. 기술이 발전하고 있고, 인간의 판단이 중요하다면, 그 판단을 위해서는 반드시 이 기술을 알아야 한다. 모순을 안고 가는 수밖에 없다. 휘트먼이 했던 것처럼 그 모순을 인정하고, 그 안에서 손을 내미는 것. 휘트먼의 시는 “나는 모순된다”로 끝나지 않는다. “누가 나와 함께 걷기를 원하는가? 내가 떠나기 전에 말할 것인가? 너무 늦어버릴 것인가?”로 이어진다. 모순을 인정한 사람은 고립되지 않는다. 오히려 그제서야 진짜 초대가 가능해진다.
