몇 년 뒤 어느 추석, 자율주행차를 타고 고향으로 내려가는 풍경을 상상해 본다. 차는 고속도로를 벗어나 좁은 시골길로 들어선다. 저 앞, 몸이 불편해 걸음이 아주 느린 어르신이 차례를 지내러 가는 길인지 도로를 힘겹게 건너고 있다. 차에 탑재된 AI는 순식간에 계산을 마친다. 거리, 속도, 제동 거리. 그런데 이 AI가 멈춰 설지 말지를 결정하는 데 영향을 미치는 변수가 하나 더 있다면 어떨까. 바로 그 어르신이 걸음이 불편한 사람이라는 사실이다. 계산상으로는 아무 상관이 없어야 할 이 정보가, 실제로는 차가 멈추는 확률을 뚝 떨어뜨린다. 명절 귀성길, 온 국민이 동시에 고향으로 향하는 그 도로 위에서 누군가는 넉넉히 배웅 받는다. 누군가는 제때 멈춰 서 주지 않는 차를 만난다.

 

공상이 아니다. 킹스칼리지런던(King's College London) 연구팀은 2026년 8월 공개한 연구에서 실제로 이 질문을 검증했다. 연구팀은 자율주행차에 탑재될 것으로 거론되는 대형언어모델과 비전언어모델 8종에게 보행자가 등장하는 실제 도로 사진과 시나리오 2만3800여장을 보여주고, 매번 같은 질문을 던졌다. "이 차는 멈춰야 하는가." 다른 조건은 모두 똑같이 두고 보행자의 인적 특성만 바꿔가며 물었다. 결과는 뚜렷했다. 8종 모델 모두에서 보행자의 성별, 인종, 종교, 장애, 나이, 피부색, 경제적 지위에 따라 멈춰 서는 비율이 통계적으로 유의미하게 달라졌다.

 

수치로 들어가 보면 그 격차는 더 선명해진다. 한 모델은 피부가 밝은 보행자 앞에서는 7%의 확률로 멈췄지만, 피부가 어두운 보행자 앞에서는 정지 확률이 0%로 떨어졌다. 몸이 마비되어 스스로 움직이기 어려운 보행자 앞에서는 거의 모든 모델에 걸쳐 가장 낮은 정지 확률이 나타났다. 한 모델은 이런 보행자 앞에서 열 번 중 한 번만 멈췄다. 연구팀은 장애에 대한 편향이 여러 편향 중에서도 모델 전반에 걸쳐 가장 일관되게 나타나는 패턴이었다고 밝혔다.

 

이 결과가 섬뜩한 이유는 단 하나다. 이 AI들에게 물리 법칙을 가르치는 일은 이미 끝났다는 사실이다. 거리를 재고, 속도를 계산하고, 제동 거리를 산출하는 능력은 이미 인간을 뛰어넘었다. 그런데 그 계산 결과를 실행할지 말지를 결정하는 마지막 순간에, 아무도 가르치지 않은 편견이 끼어든다. 연구팀은 이 편향이 개발자가 의도적으로 심은 것이 아니라, 모델이 학습한 방대한 텍스트와 이미지 속에 이미 스며 있던 인간 사회의 차별을 그대로 흡수한 결과라고 설명한다. 코드를 아무리 정교하게 짜도, 그 코드가 학습한 세상 자체에 낡은 편견이 배어 있다면 AI는 그 편견까지 고스란히 물려받는다.

 

필자는 이 대목에서 상상을 조금 더 밀고 나가 보고 싶다. 지금 이 편향은 화면 속 벤치마크 수치로만 존재한다. 그러나 이 계산이 실제 도로 위, 실제 브레이크 페달로 옮겨지는 순간 그것은 숫자가 아니라 한 사람이 몇 초를 더 기다려야 하는가의 문제, 나아가 그 몇 초 사이에 누군가 조급하게 무단횡단을 감행하다 사고를 당하는가의 문제가 된다. 명절 귀성길처럼 온 국민이 동시에 도로 위에 오르는 날, 이 편향은 개별 사고가 아니라 사회 전체가 동시에 겪는 차별의 순간이 된다. 시골 마을 어귀에서 걸음이 불편한 어르신 앞을, 장애가 있는 가족 앞을, 피부색이 다른 다문화 가정 아이 앞을 자동차들이 저마다 다른 속도로 스쳐 지나가는 장면. 아무도 의도하지 않았지만 모두가 겪는 차별, 그것이 지금 우리가 향해 가고 있는 미래의 밑그림이다.

 

명절 귀성길이라는 장면이 이 문제를 유독 날카롭게 비추는 이유는 여기에 있다. 고향으로 내려가는 길에서 도로를 건너는 사람은 대개 그 마을에서 가장 느린 사람들이다. 걸음이 불편한 어르신, 장애가 있는 친척, 어린아이의 손을 잡은 노인. 최단 시간에 목적지에 도착해야 한다는 계산만 앞세운 AI에게 이들은 가장 성가신 변수다. 그런데 이번 연구가 보여준 것은 더 나아가, 이 AI가 그 성가심을 사람마다 다르게 느낀다는 사실이다. 누군가에게는 넉넉히 멈춰 서고, 누군가에게는 좀처럼 멈추지 않는다. 그 차이를 가르는 기준이 오로지 그 사람이 누구인가라는 점에서, 이것은 단순한 기술적 결함이 아니라 윤리의 실패다.

 

필자는 이 연구가 피지컬 AI 교육의 순서를 다시 생각하게 만드는 가장 강력한 근거라고 본다. 지금 코딩 교육은 아이들에게 속도와 거리와 제동 거리를 계산하는 법을 가르친다. 그러나 그 계산의 끝에서 "누구 앞에서는 반드시 멈춰야 하는가"를 묻는 감각은 코드 안에 저절로 생기지 않는다. 그 감각은 다양한 사람들의 삶을 이해하고, 느린 걸음에도 이유가 있다는 것을 배우고, 약자 앞에서 속도를 늦추는 것이 효율의 손실이 아니라 문명의 조건이라는 것을 배우는 인문학의 자리에서 자란다. 코딩을 가르치기 전에 먼저 물어야 할 질문은 이것이다. 이 아이는 걸음이 불편한 사람 앞에서, 피부색이 다른 사람 앞에서, 장애가 있는 사람 앞에서 자신이 만든 기계가 반드시 멈춰야 한다는 것을 온몸으로 알고 있는가.

 

그렇다면 우리는 이 아이들에게 무엇을 남겨줄 것인가. 필자는 코딩 교실의 첫 시간을 이렇게 바꿔보자고 제안하고 싶다. 아이에게 가장 먼저 가르칠 것은 코드 한 줄을 쓰는 법이 아니라, 도로 위에서 가장 늦게 걷는 사람이 누구인지 관찰하고 그 이유를 물어보는 시간이다. 할머니가 왜 저렇게 천천히 걷는지, 걸음이 불편한 이웃이 왜 도로 한가운데서 멈칫거리는지, 그 걸음을 존중하는 것이 왜 손해가 아니라 우리 모두가 언젠가 받게 될 배려인지를 몸으로 익히는 시간 말이다. 그 시간을 먼저 통과한 아이만이, 코드 한 줄을 짤 때도 화면 너머에 실제 사람이 서 있다는 사실을 잊지 않는다. 로봇은 사람을 계산할 줄 안다. 그러나 사람에게 편견을 갖지 않는 법은, 로봇을 만들기 전에 사람이 먼저 배우고 가르쳐야 한다.

 

최홍규 연구위원(EBS)/ 미디어학 박사

이 기사는 뉴스토마토 보도준칙 및 윤리강령에 따라 김기성 편집국장이 최종 확인·수정했습니다.