• 내 주장에 숨어 있는 전제는 무엇인가?
• 이 주장에 대한 반례를 제시해 달라.
• 내가 놓치고 있는 이해관계자는 누구인가?
• 서로 다른 이론에서는 이 문제를 어떻게 볼 수 있는가?
• 결론을 알려 주지 말고, 다음에 생각할 질문을 제시해 달라.

이들에게 AI는 답을 전달하는 신탁이 아니라, 자신의 사고를 단련하는 토론 상대이자 개인 교사에 가깝다.

이 글의 핵심: 육성과 최적화의 충돌

브룩스의 글에서 가장 중요한 대립은 육성의 사고방식과 최적화의 사고방식이다.

최적화의 관점에서는 마찰과 어려움을 제거해야 한다. 더 짧은 시간에 더 좋은 결과물을 만드는 것이 목표다.

반면 육성의 관점에서는 일정한 어려움이 반드시 필요하다. 시행착오와 반복, 실패와 수정의 과정을 통과하면서 사람이 성장하기 때문이다.

글쓰기를 예로 들어 보자.

글쓰기의 결과만 중요하다면 AI가 완성도 높은 글을 만들어 주는 것이 가장 효율적이다. 그러나 글쓰기를 생각을 형성하는 과정으로 본다면 이야기가 달라진다.

무엇을 주장할 것인지 고민하고, 적절한 근거를 고르고, 문장을 고치고, 반론을 예상하는 과정에서 사고가 깊어진다. 글쓰기의 목적은 단순히 글을 생산하는 데 있지 않다.

글을 쓰는 과정을 통해 자신이 무엇을 생각하는 사람인지 발견하는 것도 글쓰기의 중요한 목적이다.

따라서 모든 마찰을 제거하는 기술이 반드시 인간에게 좋은 것은 아니다.

학습과 성장에 필요한 어려움까지 제거한다면, 인간은 좋은 결과물을 더 쉽게 얻는 대신 그 결과물을 스스로 만들 수 있는 능력을 잃을 수 있다.

AI는 인간의 생각을 돕는가, 대신하는가

AI를 둘러싼 논쟁은 종종 “AI를 사용할 것인가, 사용하지 않을 것인가”라는 질문으로 단순화된다.

그러나 더 중요한 질문은 따로 있다.

우리는 사고 과정의 어느 부분을 AI에게 맡기고 있는가?

계산기, 지도, 검색엔진도 인간의 인지 활동을 외부에 맡기는 도구다. 이러한 인지적 외주화가 항상 나쁜 것은 아니다.

계산을 계산기에 맡김으로써 인간은 문제의 의미나 해결 전략에 더 집중할 수 있다. 길을 외우는 부담을 지도에 맡김으로써 낯선 장소를 더 쉽게 탐색할 수 있다.

문제는 외주화의 대상이다.

반복 계산이나 자료 정리를 AI에게 맡기는 것과 문제의 정의, 가치 판단, 근거 선택, 결론까지 맡기는 것은 다르다.

다음과 같은 작업은 적극적으로 자동화할 수 있다.

• 반복적인 문서 형식 수정
• 자료 분류와 정리
• 맞춤법과 문장 표현 점검
• 단순 계산
• 여러 자료의 공통점 추출
• 일정한 기준에 따른 표 작성

반면 다음과 같은 과정은 인간이 직접 참여할 필요가 있다.

• 무엇을 문제로 볼 것인가
• 어떤 목표를 추구할 것인가
• 서로 충돌하는 가치 중 무엇을 우선할 것인가
• 어떤 근거를 신뢰할 것인가
• AI의 제안을 받아들일 것인가 거부할 것인가
• 결과에 대해 누가 책임질 것인가

AI 시대의 핵심 능력은 AI를 사용하지 않는 능력이 아니라, 무엇을 AI에게 맡기고 무엇을 자신이 맡아야 하는지 구분하는 능력이다.

인지적 항복의 위험

AI를 자주 사용하는 사람에게 가장 큰 위험은 단순히 지식이 줄어드는 것이 아니다.

더 큰 위험은 자신의 판단 기준을 세우기 전에 AI의 판단을 받아들이는 것이다. 이를 인지적 항복이라고 부를 수 있다.

AI가 제시한 답이 자연스럽고 논리적으로 보일수록 사용자는 그 답을 의심하기 어려워진다. 특히 해당 분야에 대한 배경지식이 부족할수록 무엇이 잘못되었는지 판단하기 어렵다.

이때 사용자는 AI의 답을 검토하는 것이 아니라, AI의 답을 이해하고 정리하는 역할만 수행하게 된다.

겉으로는 능동적으로 AI와 대화하는 것처럼 보이지만, 실제로는 AI가 설정한 문제와 방향 안에서만 움직일 수 있다.

AI가 틀린 답을 내놓는 경우만 위험한 것이 아니다.

AI가 그럴듯한 답을 빠르게 제공함으로써 사용자가 자신의 질문을 충분히 형성하지 못하게 만드는 것도 위험하다.

생각하기 전에 답을 얻는 습관이 반복되면, 사용자는 점차 다음과 같은 경험을 잃을 수 있다.

• 불확실한 상태를 견디는 경험
• 스스로 가설을 세우는 경험
• 자신의 생각이 틀렸음을 발견하는 경험
• 반대 관점과 씨름하는 경험
• 판단의 결과를 책임지는 경험

AI 시대의 새로운 격차

AI 시대의 격차는 AI를 사용할 수 있는 사람과 사용할 수 없는 사람 사이에서만 발생하지 않는다.

같은 AI를 사용하더라도 사용 방식에 따라 격차가 생길 수 있다.

어떤 사람은 AI를 이용해 더 깊은 질문을 만든다. 자신의 주장에 대한 반론을 찾고, 서로 다른 관점을 비교하며, 새로운 분야를 탐구한다.

다른 사람은 AI를 이용해 사고 과정을 생략한다. 과제의 답, 보고서의 결론, 수업 아이디어, 판단의 근거를 바로 얻는다.

시간이 흐르면 두 집단 사이에는 단순한 지식량 이상의 차이가 생길 수 있다.

• 문제를 정의하는 능력
• 좋은 질문을 만드는 능력
• 근거를 평가하는 능력
• 복잡한 문제를 오래 붙잡는 끈기
• 자신의 관점을 형성하는 능력
• 판단의 불확실성을 견디는 능력

결국 AI는 지식 격차를 줄이는 동시에, 사고 습관의 격차를 확대할 가능성이 있다.

이 글을 비판적으로 읽어야 하는 이유

브룩스의 문제 제기는 중요하지만, 글의 모든 주장을 그대로 받아들일 필요는 없다.

모든 어려움이 성장으로 이어지는 것은 아니다

저자는 인간의 성장에 어려움과 마찰이 필요하다고 강조한다. 하지만 모든 어려움이 가치 있는 것은 아니다.

불필요한 행정 업무, 반복 입력, 복잡한 문서 형식, 비효율적인 정보 검색까지 인간의 성장에 필요하다고 볼 수는 없다.

중요한 것은 마찰의 양이 아니라 성격이다.

인간의 판단과 사고를 성장시키는 생산적인 어려움은 유지해야 하지만, 의미 없이 시간만 빼앗는 비생산적인 어려움은 AI로 줄일 필요가 있다.

단기 연구를 장기적 인간 변화로 확대할 때는 주의해야 한다

AI를 사용한 뒤 독립 수행 능력이나 동기가 낮아질 수 있다는 연구들이 등장하고 있다. 그러나 많은 연구가 아직 짧은 시간 동안 제한된 과제를 수행하게 한 실험에 머물러 있다.

짧은 글쓰기 실험이나 문제 풀이 실험의 결과를 근거로 인간의 사고력이 장기적으로 퇴화할 것이라고 단정하기는 어렵다.

AI의 영향은 사용자의 연령, 배경지식, 사용 목적, AI와의 상호작용 방식, 교육 환경에 따라 크게 달라질 수 있다.

따라서 필요한 것은 AI에 대한 막연한 공포가 아니라, 어떤 사용 방식이 인간의 능력을 강화하고 어떤 방식이 약화시키는지 세밀하게 구분하는 연구다.

교육에 주는 시사점

이 글은 특히 학교 교육에 중요한 질문을 던진다.

학생들이 AI를 사용해 더 좋은 결과물을 만들었다면, 그것을 곧바로 더 나은 학습이 이루어졌다고 볼 수 있을까.

AI가 만든 글을 수정하고 발표한 학생이 실제로 해당 주제에 대해 깊이 이해했다고 말할 수 있을까.

AI 시대의 평가는 최종 결과물만 확인해서는 부족하다. 학생이 어떤 질문을 만들었고, 어떤 판단을 내렸으며, AI의 제안을 어떻게 검토하고 수정했는지까지 살펴봐야 한다.

결과물이 아니라 사고 과정도 평가해야 한다

AI 시대의 수행평가에는 다음과 같은 요소가 포함될 필요가 있다.

• 학생이 처음 세운 질문
• AI를 사용하기 전 학생의 잠정적 생각
• AI에게 요청한 내용과 이유
• AI의 답변 중 수용한 부분과 거부한 부분
• 새로운 근거를 바탕으로 생각이 달라진 과정
• 최종 결론을 자신의 말로 설명하는 능력

이를 통해 교사는 학생이 AI를 얼마나 능숙하게 사용했는지가 아니라, AI를 사용하면서 얼마나 깊이 생각했는가를 평가할 수 있다.

AI를 정답 기계가 아니라 사고 도구로 가르쳐야 한다

학생들에게 프롬프트 작성법만 가르치는 것으로는 부족하다.

좋은 프롬프트를 만드는 능력보다 먼저 필요한 것은 좋은 질문을 만드는 능력이다.

학생은 AI에게 다음과 같이 질문하는 방법을 배울 필요가 있다.

• 내 생각에서 근거가 부족한 부분은 어디인가?
• 이 문제를 다른 사람은 어떻게 볼 수 있는가?
• 내 주장과 반대되는 사례는 무엇인가?
• 결론을 알려 주지 말고 생각할 순서를 제시해 달라.
• 내가 직접 설명할 수 있도록 질문을 하나씩 해 달라.

이때 AI는 답안 생성기가 아니라 학생의 생각을 자극하는 대화형 사고 도구가 된다.

교사와 성인에게 주는 시사점

이 문제는 학생에게만 해당하지 않는다.

교사 역시 AI를 이용해 수업안, 안내문, 평가 기준, 보고서, 공문 초안을 빠르게 만들 수 있다. 업무 부담을 줄이는 데 AI가 큰 도움을 줄 수 있다는 점은 분명하다.

그러나 AI가 제안한 수업안이 교육적으로 적절한지 판단하고, 학교와 학생의 상황에 맞게 수정하는 일은 여전히 교사의 몫이다.

AI가 만든 계획을 거의 그대로 사용하는 일이 반복되면 교사는 결과물을 만드는 시간을 절약할 수 있지만, 교육과정을 해석하고 수업을 설계하는 능력은 약해질 수 있다.

따라서 교사가 AI를 사용할 때도 다음 질문을 남겨 두어야 한다.

• 이 수업에서 학생이 실제로 배워야 하는 것은 무엇인가?
• AI가 제안한 활동이 우리 학급의 학생에게 적합한가?
• 재미있어 보이는 활동과 학습 목표가 실제로 연결되어 있는가?
• AI가 놓치고 있는 학생의 특성과 학교 상황은 무엇인가?
• 이 계획에서 교사인 내가 책임지고 판단해야 할 부분은 무엇인가?

AI가 교사의 업무를 대신할 수는 있어도, 교사의 교육적 판단까지 대신해서는 안 된다.

AI를 사용하는 세 단계의 원칙

AI를 금지하지 않으면서도 사고의 주도권을 유지하려면 사용 과정을 세 단계로 나눌 수 있다.

1. AI 사용 전: 먼저 자신의 생각을 만든다

AI에게 질문하기 전에 다음 내용을 짧게라도 적는다.

• 내가 해결하려는 문제는 무엇인가?
• 현재 나는 어떻게 생각하는가?
• 그렇게 생각하는 이유는 무엇인가?
• 아직 확신하지 못하는 부분은 무엇인가?
• 최종적으로 어떤 결정을 내려야 하는가?

완성된 생각일 필요는 없다. 중요한 것은 AI의 답을 보기 전에 자신의 출발점을 갖는 것이다.

2. AI와 대화할 때: 답보다 반론과 구조를 요청한다

AI에게 곧바로 완성된 답을 요구하기보다 사고를 확장하는 질문을 한다.

• 내 주장에 숨은 전제를 찾아 달라.
• 반대 입장에서 가장 강한 반론을 제시해 달라.
• 내가 고려하지 않은 이해관계자를 알려 달라.
• 이 문제를 판단할 기준을 몇 가지 제시해 달라.
• 정답을 말하지 말고 다음에 생각할 질문을 제시해 달라.

3. AI 사용 후: 판단을 다시 자신의 것으로 만든다

AI가 제시한 내용을 그대로 복사하지 않는다.

다음 내용을 다시 정리한다.

• AI의 답 중 동의하는 부분은 무엇인가?
• 동의하지 않는 부분은 무엇인가?
• 새롭게 알게 된 사실은 무엇인가?
• 처음 생각에서 무엇이 달라졌는가?
• 최종 결론은 무엇이며, 그 책임을 질 수 있는가?

AI 사용의 마지막 단계는 결과물을 얻는 것이 아니라, AI의 도움을 받은 생각을 다시 자신의 생각으로 소화하는 것이어야 한다.

AI를 잘 사용한다는 것

AI를 잘 사용한다는 것은 가장 복잡한 프롬프트를 작성하거나 가장 많은 결과물을 생산하는 것이 아닐 수 있다.

오히려 다음 능력이 더 중요하다.

• AI가 필요하지 않은 순간을 구분하는 능력
• AI에게 맡겨도 되는 일과 직접 해야 하는 일을 구분하는 능력
• AI의 답을 의심하고 검토하는 능력
• 자신의 질문과 판단 기준을 먼저 세우는 능력
• AI를 사용한 뒤에도 혼자 생각을 이어 갈 수 있는 능력

AI 시대에 인간에게 필요한 것은 AI와 경쟁해 더 많은 정보를 기억하는 능력이 아니다.

AI가 답을 제시하는 상황에서도 질문을 포기하지 않는 능력, 빠른 결론 앞에서도 잠시 멈추는 능력, 자신의 판단을 다른 존재에게 완전히 넘기지 않는 능력이 필요하다.

마치며

브룩스의 글이 던지는 가장 중요한 질문은 다음과 같다.

AI를 이용해 무엇을 만들어 냈는가가 아니라, AI를 이용하는 동안 나는 어떤 사람이 되어 가고 있는가?

AI는 인간의 능력을 확장할 수 있다. 동시에 인간이 직접 생각하고 판단할 기회를 줄일 수도 있다.

두 결과를 가르는 것은 AI 자체만이 아니다. AI를 둘러싼 교육 방식, 조직 문화, 평가 기준, 그리고 사용자의 습관이 중요하다.

AI가 모든 답을 빠르게 제공하는 시대일수록 인간에게 필요한 것은 더 빠른 답이 아닐 수 있다.

자신의 질문을 만들고, 불확실성을 견디며, 다른 관점을 검토하고, 최종 판단을 자신의 언어로 표현하려는 의지다.

AI 시대에 살아남는 사람은 AI를 사용하지 않는 사람이 아니다.

AI를 사용하면서도 자신의 사고를 포기하지 않는 사람이다.

생각해 볼 질문

1. 나는 AI를 이용해 사고를 확장하고 있는가, 사고를 생략하고 있는가?
2. AI에게 맡긴 일 가운데 내가 직접 수행할 필요가 있는 판단은 무엇인가?
3. AI가 없어진 뒤에도 나는 같은 내용을 설명하거나 수행할 수 있는가?
4. 나의 학교나 조직은 깊이 생각하는 사람과 빠르게 결과를 만드는 사람 중 누구를 보상하고 있는가?
5. 학생이 AI로 좋은 결과물을 만들었을 때, 우리는 무엇을 학습의 증거로 보아야 하는가?