“AI가 대신 생각한 답, 내 생각일까”…신간 ‘모의사고’가 던지는 질문

생성형 인공지능(AI)이 글을 작성하고 정보를 분석하며 복잡한 질문에 답하는 시대다. AI를 활용하면 짧은 시간에 완성도 높은 보고서와 과제를 만들 수 있지만, 그 결과물을 만든 사람이 내용을 충분히 이해하고 있는지는 별개의 문제다. AI의 도움으로 좋은 결과를 얻는 것과 스스로 생각하는 능력이 성장하는 것은 반드시 일치하지 않을 수 있기 때문이다.

미래교육의 출판 브랜드 탐구와교육이 펴낸 신간 《모의사고(Simulated Thinking): AI 시대, 인간은 학습하는 존재로 남을 수 있는가》는 이러한 문제의식에서 출발한다.

이 책은 AI가 만들어낸 결과물을 자신의 사고와 판단의 산물로 받아들이는 현상을 ‘모의사고(Simulated Thinking)’라는 개념으로 설명하고, AI 시대에도 인간이 스스로 이해하고 판단하는 능력을 유지할 수 있는 방법을 탐색한다.

책은 대학 강의실에서 발견된 사례로 이야기를 시작한다. 서로 다른 학생들이 제출한 과제에 실제로 존재하지 않는 동일한 참고문헌이 등장한 것이다. 문장의 표현은 달랐지만 문제를 설명하는 방식과 결론에 이르는 흐름까지 비슷했다.

학생들은 AI를 활용한 뒤 자신이 내용을 수정했다고 설명했다. 그러나 저자가 주목한 것은 AI를 사용했다는 사실 자체가 아니라, 학생들이 과제를 작성하면서 무엇을 의심하고 어떤 판단을 거쳐 결론에 도달했는지 확인하기 어렵다는 점이었다.

책은 이 상황을 “결과는 있었다. 과정은 없었다”라는 문장으로 표현한다.

저자는 이러한 현상이 교육 현장에만 국한되지 않는다고 본다. 직장인이 AI로 보고서를 작성하거나 중요한 결정을 앞두고 AI의 조언을 참고하는 경우에도 비슷한 문제가 나타날 수 있다는 것이다.

AI가 제시한 내용을 충분히 검토하고 자신의 판단으로 받아들인 것인지, 아니면 그럴듯한 결과물을 이해했다고 느끼는 데 그친 것인지 구분해야 한다는 문제 제기다.

책에서 말하는 모의사고는 단순히 생각하지 않는 상태를 의미하지 않는다. 저자는 이를 “사고의 부재가 아니라 사고의 환상”이라고 설명한다.

인간은 오래전부터 점토판과 책, 도서관, 검색엔진 등 다양한 도구를 활용해 기억과 정보 처리의 부담을 줄여왔다. 그러나 생성형 AI는 정보를 저장하거나 찾아주는 데 그치지 않고 내용을 해석하고 구조화하며 판단과 결론까지 제안한다는 점에서 차이가 있다.

이 과정에서 사용자는 AI의 설명을 읽고 이해했다고 느끼지만, 실제로는 그 내용을 자신의 언어로 설명하거나 새로운 상황에 적용하지 못할 수도 있다.

저자는 AI 사용 자체가 사고 능력을 약화시킨다고 단정하지 않는다. 오히려 AI와 함께 더 깊이 사고할 가능성을 인정하면서도, 결과물을 받아들이는 과정에서 인간의 이해와 판단이 충분히 이뤄졌는지 점검해야 한다고 강조한다.

이를 위해 책은 ‘회수사고(Recovered Thinking)’라는 개념을 제안한다. AI에 맡겼던 사고의 일부를 다시 자신의 이해와 판단으로 가져오는 과정이다.

실천 방법은 네 단계로 제시된다. 먼저 AI에 질문하기 전에 자신의 생각을 간단히 정리한다. 이후 AI의 답변을 받더라도 곧바로 수용하지 않고 검토하는 시간을 갖는다. 다음으로 답변에서 빠진 내용이나 동의하기 어려운 부분을 찾아 반론하고, 마지막으로 자신의 언어로 생각을 다시 정리한다.

저자는 이러한 차이를 “모의사고는 AI의 답에서 멈춘다. 회수사고는 AI의 답에서 다시 시작한다”라고 설명한다.

책에는 AI의 답변을 보지 않고 내용을 다시 설명하거나, 다른 관점에서 반론을 만들고, 자신의 경험과 AI의 설명이 충돌하는 지점을 찾아보는 등 일상에서 실천할 수 있는 사고 훈련도 담겼다.

이러한 문제의식은 개인의 AI 활용 습관을 넘어 교육과 조직의 평가 방식으로 이어진다.

AI가 논리적인 글과 정교한 보고서를 작성할 수 있는 상황에서 결과물의 완성도만으로 작성자의 이해 수준과 문제 해결 능력을 판단할 수 있는지 질문하는 것이다.

저자는 결과물을 만들어내는 능력과 그 내용을 실제로 이해하고 판단하는 능력을 구분할 필요가 있다고 본다. 이는 학교의 과제와 시험뿐 아니라 직장에서 개인의 전문성과 업무 수행 능력을 평가하는 방식에도 적용될 수 있는 문제다.

책의 마지막 장에서는 미래의 거대한 도서관을 배경으로 한 사고실험을 통해 모든 답에 접근할 수 있는 사회에서도 인간이 스스로 질문하고 판단하는 존재로 남을 수 있는지를 탐색한다.

저자는 AI 시대의 핵심 질문이 기술의 발전을 어떻게 따라갈 것인지에만 머물러서는 안 된다고 강조한다. AI가 더 많은 지식과 답을 제공할수록 인간이 무엇을 직접 이해하고, 어떤 판단에 책임지며, 어떤 질문을 스스로 만들어야 하는지가 중요해진다는 것이다.

《모의사고》는 AI 활용을 거부하기보다 AI와 협력하는 과정에서 인간의 학습과 사고가 어떻게 유지되고 발전할 수 있는지를 살펴보는 책이다.

특히 생성형 AI를 활용하는 학생과 교사, 직장인 등에게 결과물의 완성도뿐 아니라 그 결과에 도달하는 과정에서 자신이 실제로 무엇을 이해하고 판단했는지 돌아볼 필요성을 제기한다.

AI가 점점 더 정교한 답을 만들어내는 시대, 이 책이 던지는 질문은 분명하다. 우리는 AI를 통해 더 깊이 생각하고 있는가, 아니면 생각하는 과정을 건너뛰면서도 충분히 생각했다고 믿고 있는가.