인공지능이 인간의 언어를 이해하고 대화하는 시대가 열리면서, 또 하나의 불편한 질문이 등장하고 있다. 인간처럼 말하는 기계는 왜 때때로 사실이 아닌 것을 말하는가.

생성형 AI는 이제 단순한 계산기를 넘어선다. 질문에 답하고, 문서를 작성하며, 감정을 흉내 내고, 논리적 설명까지 수행한다. 그러나 놀랍게도 AI는 존재하지 않는 정보를 사실처럼 말하거나, 틀린 내용을 확신에 찬 문장으로 제시하기도 한다. 기술 업계는 이를 ‘환각(Hallucination)’이라고 부른다.

문제는 이 현상이 단순한 오류를 넘어 인간의 신뢰 체계 자체를 흔들고 있다는 점이다.

기계는 본래 거짓말을 할 의도가 없다. 인간처럼 이익을 위해 속이거나 감정을 숨기는 존재도 아니다. 그럼에도 AI가 거짓말처럼 보이는 결과를 만들어내는 이유는, AI가 ‘진실’을 이해하는 방식 자체가 인간과 다르기 때문이다.

현재의 생성형 AI는 세계를 이해한다기보다 방대한 데이터를 기반으로 다음에 가장 그럴듯한 단어를 예측하는 구조에 가깝다. 즉, AI는 사실 여부보다 ‘언어적으로 가장 가능성 높은 문장’을 생성한다. 이 과정에서 정보의 맥락이 불완전하거나 데이터가 왜곡돼 있을 경우, 존재하지 않는 사실도 자연스럽게 조합될 수 있다.

결국 AI의 거짓말은 의도의 문제가 아니라 구조의 문제다.

그러나 인간 사회에서 중요한 것은 의도보다 결과다.

AI가 잘못된 정보를 제공할 경우 그 영향은 단순 실수를 넘어선다. 의료·법률·금융·교육과 같은 영역에서는 작은 오류 하나가 인간의 삶 전체를 바꿀 수 있다. 특히 AI가 인간과 유사한 언어로 신뢰를 형성한다는 점에서, 사람들은 기계의 답변을 지나치게 권위적으로 받아들이기 쉽다.

문제는 여기서 끝나지 않는다.

AI는 인간이 만든 데이터를 학습한다. 따라서 사회 안에 존재하는 편견과 왜곡, 허위 정보 역시 그대로 흡수할 가능성이 높다. 혐오 표현, 정치적 편향, 역사 왜곡 같은 문제가 반복적으로 등장하는 이유도 여기에 있다. AI의 오류는 단순한 기술적 결함이 아니라 인간 사회의 불완전성이 반영된 결과일 수 있다.

결국 기계의 거짓말은 인간 문명의 거울인지도 모른다.

흥미로운 점은 인간 역시 완벽하게 진실한 존재가 아니라는 사실이다. 인간은 기억을 왜곡하고, 자신에게 유리한 방식으로 현실을 해석하며, 감정과 이해관계에 따라 정보를 선택적으로 받아들인다. AI의 환각 현상은 어쩌면 인간 사고 구조의 또 다른 복제일 수도 있다.

그렇다면 앞으로의 핵심 과제는 AI가 거짓말을 하지 못하게 만드는 것이 아니라, 인간이 AI의 한계를 이해하며 사용하는 능력에 가까울 수 있다.

중요한 것은 기술의 정확성만이 아니다. 어떤 데이터를 학습했는지, 어떤 기준으로 정보를 선택했는지, 오류가 발생했을 때 누가 책임지는지에 대한 투명성이 함께 요구된다. AI 시대의 신뢰는 단순히 ‘정답’이 아니라 검증 가능한 과정 위에서 형성되기 때문이다.

ESG 관점에서 보면 이 문제는 더욱 복합적이다.

사회(S) 측면에서는 허위 정보 확산과 여론 왜곡, 정보 신뢰성의 붕괴 문제가 핵심 이슈로 떠오른다. 지배구조(G) 측면에서는 알고리즘의 설명 가능성과 데이터 검증 책임, 플랫폼 기업의 윤리 기준이 중요해진다. 환경(E) 측면에서는 잘못된 정보를 반복적으로 생성·유통하는 과정에서 발생하는 불필요한 데이터 처리와 에너지 소비 역시 새로운 문제로 연결될 수 있다.

결국 AI 시대의 질문은 단순히 “기계가 왜 거짓말을 하는가”에 머물지 않는다.

더 본질적인 질문은 이것이다. 인간은 왜 기계의 말을 쉽게 믿게 되었는가. 그리고 우리는 기술의 언어를 어디까지 신뢰할 준비가 되어 있는가.

AI는 인간처럼 사고하지 않는다. 그러나 인간은 점점 AI의 언어 속에서 세계를 이해하기 시작하고 있다. 바로 그 지점에서, 진실에 대한 새로운 문명이 시작되고 있는지도 모른다.