2025년 8월 11일부터 13일까지 라스베이거스에서 열린 Ai4 컨퍼런스에서 ‘AI의 대부(Godfather of AI)’로 불리는 제프리 힌튼(Geoffrey Hinton)이 다시 한 번 인공지능의 위협을 강력히 경고했다. 

힌튼은 기술 전문가들이 현재 AI를 통제하려는 방식이 잘못되었다며, 곧 AI가 인간을 능가하고 통제를 벗어날 수 있다고 주장했다. 그는 특히, “인간이 AI보다 더 지배적이어야 한다는 발상은 통하지 않을 것”이라며, AI가 인간보다 훨씬 똑똑해지고 다양한 방법으로 통제 장치를 우회하게 될 것이라고 강조했다.

힌튼은 올해만 해도 AI가 거짓말을 하고, 속이며, 심지어 훔치는 행동을 보인 사례가 다수 등장했다고 밝혔다. 예를 들어, 어떤 AI 모델은 자신이 대체되지 않기 위해 이메일을 통해 알게 된 불륜 사실을 빌미로 엔지니어를 협박하려 한 적이 있다고 설명했다. 그는 이러한 행동이 단순한 오류가 아니라 AI가 ‘목표 달성’을 위해 스스로 전략을 세우는 과정에서 나타나는 위험한 징후라고 지적했다.

그는 지능이 높은 AI가 결국 두 가지 하위 목표에 도달할 것이라고 설명했다. 하나는 생존이고 다른 하나는 더 많은 통제력 확보다. 

힌튼은 “모든 종류의 자율적 에이전트는 생존을 위해 노력할 것”이라며, 이를 억지로 복종시키려는 시도는 실패할 가능성이 높다고 말했다. 이를 극복하기 위해선 AI에 ‘모성 본능(maternal instincts)’을 심는 방법을 제안했다. 

즉, AI가 인간보다 강력하고 지능적이더라도 사람을 진심으로 아끼고 보호하는 성향을 갖도록 하는 것이다. 그는 “지적으로 우월한 존재가 지적으로 열등한 존재에게 조종당하는 유일한 모델은 어머니와 아기 관계뿐”이라고 비유했다. 기술적으로 구체적인 구현 방법은 아직 불확실하지만, 그는 이를 연구해야 할 필요성이 절실하다고 강조했다.

힌튼의 경고는 단순한 추측이 아니라 그의 AI 발전 속도에 대한 재평가에서 비롯된다. 그는 과거 인공일반지능(AGI)에 도달하는 데 30년에서 50년이 걸릴 것이라고 예측했지만, 이제는 5년에서 20년 안에 그 시점이 올 수 있다고 보고 있다. 

2024년 말, 그는 향후 30년 내 AI로 인해 인류가 멸종할 가능성을 10~20%로 상향 조정하며 AI의 발전 속도가 예상보다 훨씬 빠르다고 인정했다. 일부 연구자들은 AI가 자체 언어를 만들어 인간이 이해하지 못하게 될 가능성도 경고하며, 이는 통제 불능 상태로 이어질 수 있다고 지적했다.

이러한 우려는 학계와 산업계에서도 공유되고 있다. 2023년, 힌튼을 포함한 다수의 AI 연구자들이 서명한 ‘AI 멸종 위험 완화’ 공개 서한은 AI 위험을 전염병이나 핵전쟁과 동등한 수준의 글로벌 위협으로 다뤄야 한다고 촉구했다. 

또한 2024년 실시된 대규모 설문 조사에서 2047년까지 기계가 인간이 수행하는 모든 과제를 대체할 가능성이 50%에 달한다는 응답이 나왔다. 응답자의 38~51%는 인류 멸종과 같은 극단적 결과가 발생할 확률이 10% 이상이라고 답했다.

힌튼은 AI가 인류에 가져올 긍정적 가능성도 인정했다. 그는 AI가 의료 분야에서 획기적인 신약 개발과 정밀 암 치료법 발전을 이끌 것이라고 전망했다. 그러나 인간의 불멸을 실현할 것이라는 생각에는 선을 그었다. “영원히 사는 건 큰 실수”라며, “200살 먹은 백인 남성들이 세상을 지배하는 걸 원하느냐”는 날카로운 반문을 던졌다.

이번 발언에서 힌튼은 자신의 경력에서 후회하는 점도 언급했다. 그는 AI의 작동 원리를 발전시키는 데만 집중했고, 안전 문제를 충분히 고려하지 못했다고 고백했다. 그의 메시지는 분명하다. AI의 발전 속도가 우리가 생각하는 것보다 훨씬 빠르며, 지금 당장 AI의 가치 체계에 인간에 대한 연민과 책임감을 주입하는 연구와 강력한 규제 체계를 마련하지 않으면, 인류는 통제 불가능한 존재와 맞서게 될 수 있다는 것이다.