얼마 전 국내 한 유통기업에서 인공지능(AI) 기반의 고객 맞춤 추천 시스템을 도입했다가 예상치 못한 문제에 직면했다. 특정 연령대와 성별의 소비자들에게는 상품 추천이 거의 이루어지지 않는다는 항의가 이어졌고, 내부에서도 알고리즘 편향성에 대한 우려가 제기된 것이다. 여기서 주목할 점은 이 사태의 본질이 단순한 기술적 오류가 아니라, 의사결정권자 중 누구도 알고리즘이 어떻게 결정을 내리는지 정확히 알지 못했다는 데 있었다.

우리는 기술을 맹신하면서도 동시에 그 기술이 윤리적으로 작동하기를 바라는 시대에 살고 있다. 하지만 기술은 스스로 윤리성을 갖추지 못한다. 결국 윤리적 시스템을 설계하고 운영하는 사람과 조직의 가치관이 기술의 방향을 결정짓는다. 글로벌 선도 기업들은 일찍이 이 사실을 깨닫고 행동에 나섰다. 

구글(Google)은 2018년 ‘AI 원칙(AI Principles)’을 발표하며 공격적인 기술 개발보다 사회적 수용성과 장기적 책임을 우선시하겠다고 선언했고, 마이크로소프트(Microsoft)는 내부 ‘AI 윤리 위원회’를 통해 기술이 사회에 미치는 영향을 주기적으로 평가하며 리스크를 통제하고 있다. 이제 기업 평가의 잣대는 기술력 그 자체를 넘어, 그 기술을 사회에 얼마나 책임 있게 운영하느냐로 이동하고 있다.

안타깝게도 대다수 국내 기업은 아직 AI를 단순한 ‘도입’의 과제로만 여기는 경향이 짙다. 글로벌 투자자와 비즈니스 파트너들이 “이 기술이 얼마나 윤리적이고 효과적으로 운영되는가”를 물을 때, 준비되지 않은 기업은 치명적인 리스크를 맞이하게 된다. 디지털 AI 시대 기업이 관리해야 할 핵심 윤리 리스크는 크게 네 가지로 압축된다.

첫째, 무단 수집과 탈취로 인한 데이터 보호 리스크다.

둘째, 데이터 학습 과정에서 발생하는 AI 알고리즘 편향 리스크로, 이는 채용이나 대출 등에서 차별적 결과를 낳을 수 있다.

셋째, 결과에 대해 설명할 수 없는 의사결정 책임성 리스크다. 이른바 ‘설명 가능한 AI’로 설계되지 않으면 결국 고객 불신과 소송의 원인이 된다.

넷째, 프라이버시를 침해하는 기술 남용의 경계 리스크다.

시간의 문제일 뿐, 모든 기업은 결국 AI와 업무를 연결할 수밖에 없다. 그렇다면 지금 당장 무엇부터 시작해야 할까?

가장 먼저, 비용이 들지 않는 ‘AI 윤리 정책’을 경영진이 직접 선언해야 한다. 글로벌 표준인 ISO 42001(AI 경영시스템)과 ISO 37301(준법경영시스템)의 5.1항은 최고경영자가 조직의 가치와 윤리 기준을 선언하고 실천할 것을 명확히 요구하고 있다.

다음으로, 기술팀, 법무팀, 컴플라이언스팀이 공동으로 AI 관련 윤리 리스크를 정기 점검해야 한다. 알고리즘의 공정성과 데이터 활용 과정의 법적 리스크를 크로스 체크하는 구조가 필요하다.

마지막으로, 윤리·사회적 영향 분석(EIA, Ethical Impact Assessment)을 기획 및 도입 전 과정에 필수적으로 포함시켜 기술과 경영, 윤리가 분리되지 않도록 통합 설계해야 한다.

기술은 언제나 우리가 예상하는 것보다 훨씬 빠르게 진화한다. 그러나 진정으로 중요한 것은 그 기술을 ‘누가, 어떤 기준으로 운용하느냐’이다. AI 시대의 윤리경영은 기술의 발전을 가로막는 족쇄나 규제가 아니다. 오히려 기술을 인간 사회에서 지속 가능하게 만드는 유일한 구조이자, 기업이 고객과 시장으로부터 신뢰를 지켜내는 최후의 방어선(Defence line)이다. 

덧붙이는 글 ㅣ  용석광 (Yong Seok Kwang)

세종대학교 경영학과에서 ESG 경영학 박사 학위를 취득했으며, 경영학적 통찰과 실무 전략으로 기업의 지속가능한 성장을 돕는 ESG 및 준법경영 전문가이다. 현재 ESGi 대표이사이자 대학의 겸임교수와 학회 이사로 활동하며 후학 양성과 연구에 매진하고 있다. 또한 다수 기업 및 공공기관의 자문위원으로서 윤리·인권 경영 체계 확립을 이끌고 있다.

주요 저서로는 실무 현장의 핵심 지침을 담은 《Compliance 공정거래 CP&ISO 37301 실무가이드》, 《ESG와 윤리·준법경영.ZIP》, 그리고 《ESG 경영의 근간 컴플라이언스 솔루션.ZIP》 등이 있다. 저술 활동과 강연을 통해 기업들이 규범 준수를 넘어 지속가능한 경영 문화를 구축할 수 있도록 실천적인 로드맵을 제시하고 있다.