[이종호의 포스트 펜데믹 로드맵-59] 자율주행차가 만드는 사회 문제
[이종호의 포스트 펜데믹 로드맵-59] 자율주행차가 만드는 사회 문제
  • 이종호 한국과학기술인협회장
  • 승인 2022.11.05 07:05
  • 댓글 0
이 기사를 공유합니다

자율주행차 개발에 많은 사람이 촉각을 세우는 것은 자율주행차가 제4차 산업혁명의 중추 중 하나로 앞으로 보편적 자동차가 될 수 있다고 생각하기 때문이다.

그런데 자율주행차가 갖고 있는 아킬레스건은 자동차의 성능과는 전혀 관련이 없다. 가장 사람들을 짜증 나게 하는 자동시스템 즉 GPS를 연상하면 이해가 된다. 자동차 운전자는 주변을 잠깐 살펴보기만 해도 틀린 길로 가고 있다는 걸 알 수 있는데도 내비게이션이 알려주는 잘못된 길을 무작정 따라가기 일쑤다. 한마디로 내비게이션만 의존하다가 절벽으로 가거나 일방통행 도로에서 역주행할 수도 있다는 지적이다.

이뿐 아니다. 사람 운전자와 달리 자율주행차는 각종 센서에서 입수한 정보를 인공지능이 순식간에 처리하므로 언제나 현재 처한 상황을 객관적으로 파악한다. 그런데도 차가 움직이는 건 물리적인 현상이기 때문에 돌발사고 자체를 모두 막을 수는 없다는 것이다.

즉 반대편 차선에서 갑자기 차가 중앙선을 넘어오거나 아이가 갑자기 도로로 뛰어드는 것 같은 상황이다. 더욱 골머리 아픈 상황은 자율주행차가 달리던 중 사고가 나 탑승자 1명의 목숨이 위험하게 됐는데, 이를 피하려고 핸들을 돌리면 보행자 여럿이 차에 치여 숨질 수 있는 상황이라고 가정할 때이다. 이런 극한 상황에 닥쳤을 때 자율주행차를 움직이는 인공지능(AI)이 무작정 ‘주인’인 탑승자 1명을 보호해야 할지 아니면 다수의 행인을 구해야 할지 의문이다.

학자들은 주행 중 돌발 상황이 벌어지면 인간이 인공지능에 비해 월등히 현명한 판단을 내린다고 설명한다. 사람 운전자는 상황을 온전히 파악하지 못함에도 사실상 반사행동이라고 볼 수 있는 대응을 하지만 자율주행차는 피해가 불가피한 상황일 경우 피해를 최소화하는 방향으로 결정한다는 것이다.

사람으로 치면 사고 직전의 상황이 슬로우모션으로 돌아가 ‘어떻게 사고를 마무리해야 할지’ 판단하는 데 반해 인공지능은 각 상황에 대한 프로그램의 ‘행동지침’을 따른다. 그런데 이런 행동지침을 만든 사람은 인공지능을 만든 프로그래머라는 뜻이다.

자기의 어린아이와 함께 탑승할 경우 자신보다는 아이의 안전을 먼저 생각하면서 가장 인간적인 조처를 내리는 것이 기본이다. 한마디로 자신을 희생하려는 것인데 인공지능을 만든 프로그래머가 이런 상황을 일일이 주입하는 것이 간단한 일은 아니다.

이런 골머리 아픈 문제를 인터넷을 통해 1,928명을 대상으로 자율주행차의 행동지침에 대한 설문 조사를 했다. 예를 들어 전방에 사람 열 명이 갑자기 나타났는데 그대로 가면 10명 모두 죽는다. 그런데 이들을 피해 핸들을 꺾으면 콘크리트 벽에 부딪혀 탑승자가 죽는다. 이런 상황에서 사람들 다수는 공리주의에 따른 결정을 선호했다. 즉 76%가 보행자 열 명 대신 탑승자 한 명을 희생하는 쪽이 더 도덕적이라는 것이다.

그런데 이렇게 딱 부러지게 결론을 내릴 수 없다는 것이 현실의 문제다. 우선은 많은 생명을 구하려는 '공리주의형' A.I.가 옳다고 답해도, 자신이 그 자율주행차에 탄다는 가정이 나오면 금방 주인만 살리는 '이기적' A.I.가 대세라는 것이다. 한마디로 답변이 180도로 바뀌는데 이에는 상당한 논리가 필요하다. 즉 다수의 인명을 중시하는 A.I.가 설득력을 보일 수 있지만, 차를 사는 소비자들로서는 자신을 먼저 구해야 한다고 생각이 앞선다는 점이다.

실제로 이런 난처한 상황을 영화 ‘아이, 로봇(I, Robot)’에서 심층적으로 다뤘다. 형사 델 스프너가 교통사고로 12살의 어린아이 ‘사라’와 함께 물속에 빠진다. 이들이 거의 죽음의 단계에 들어갔는데 로봇이 다가와 창문을 부순다. 델 스프너가 자신보다 어린아이인 사라를 먼저 구출하라고 말했지만, 로봇은 그를 먼저 구출한다. 로봇이 델 스프너를 먼저 구출한 이유는 간단하다.

스프너의 생존율은 45%이지만, 사라의 생존율은 11%에 지나지 않기 때문이다. 그를 구한 로봇은 생존 확률이 높은 사람을 먼저 구한다는 로봇의 원칙에 충실했지만 결국 델 스프너의 명령을 어긴 것이 된다. 이런 모순된 일이 일어날 수 있는 것은 인간이란 동물은 로봇이 이해할 수 없는 상황, 즉 상식으로만 움직이지 않기 때문인데 이와 역의 상황도 당연히 일어날 수 있음은 물론이다.

현실적으로 수많은 자동차 사고의 변수를 프로그래머가 적절하게 입력하는 것이 불가능하다는 뜻이다. 간단하게 설명하여 자동차의 탑승자 서열 및 중요도를 프로그래머가 사전에 일일이 입력할 수는 없는 일로 이 말은 인공지능 프로그램이 예기치 않은 상황에 적절하게 대처할 수 없게 된다는 것을 의미한다. 그러므로 자율주행차는 사전에 입력되지 않은 상황에 직면하거나 능력 밖의 상황에 내몰리면 이러한 상황을 오류로 인식하고 작동을 멈춘다고 설명된다. 그런데 바로 이런 상황의 심각성은 자율주행 자동차가 작동을 멈추더라도 사고는 일어난다는 점이다.

그런데도 인간이 운전하는 것보다 인공지능 프로그램을 활용한 자율주행차의 사고율이 감소한다는데 전문가들의 이견은 없다. 바로 그런 이점 때문에 많은 곳에서 자율주행차를 개발하고 있지만, 더욱 혼미한 상황은 이런 상황에서 자율주행차의 인공지능을 설정하는 주체가 누구냐이다. 자동차 업계의 자율에 맡기는가 그렇지 않으면 정부가 지침을 내려야 하는가 또는 운전자가 버튼을 눌러 선택할 수 있도록 해야 할까 등이다. 만일 정부가 권한을 갖게 한다면 수출 차량은 각국의 상황에 맞게 세팅을 조정해야 하는데 나라마다 종교, 문화가 다르므로 만만치 않은 문제가 생긴다.

학자들은 이구동성으로 인간의 생명을 다루는 분야이므로 사고 위험에 대한 책임 소재 및 다양한 부분에서의 문제 해결이 선행되어야 한다고 주장한다. 가장 먼저 지적되는 사항은 자율주행차와 운전자 간 통제권 전환의 시점이나 도로 교통 측면에서의 기술적 연계성의 범위를 결정하는 부분이다.

이것은 사생활 보호가 먼저이냐, 공공정보가 먼저이냐 하는 문제를 제기한다. 박경북 박사 등은 자동차가 주행 중 여러 신호와 데이터를 주고받아야 하는데 이때 사생활 침해 문제가 발생할 수 있다고 지적한다. 이 문제는 자율주행 자동차에 난제가 많다는 것을 역력히 보여주는데 학자들을 다섯 가지를 지적한다.

① 누가 차량 데이터를 소유 혹은 제어하는가?
② 어떤 형태의 데이터가 저장되는가?
③ 어떤 방식으로 데이터가 이용되며 누구와 공유하게 되는가?
④ 어떤 목적으로 데이터가 사용되는가?
⑤ 주행에 따른 경로, 목적지, 날짜 등의 차량 운행 데이터가 중앙집중적으로 정부시스템에 제공되고 이 데이터가 저장 및 기록되는 경우에 벌어질 수 있는 오남용 우려는 어떻게 해결하는가?

자율주행 자동차 관련 데이터의 건전한 활용이 교통시스템의 효율성 제고와 미래 교통 체계에 대한 정책 수립 등에 절대적인 요소가 됨은 물론이다. 그런데도 데이터 공유가 프라이버시 침해와 공공의 이익 사이에서 만만치 않은 문제점을 일으킬 수 있다는데 공감할 것이다.

더불어 다소 껄끄러운 문제이지만 테러나 해커의 공격에도 대비해야 한다. 자율주행차 자체가 인공지능 프로그램으로 운영되기 때문에 해커나 테러 조직에 의한 보안 문제도 발생할 수 있다는 것도 걸림돌이다. 문제는 해커나 테러리스트 차원이 아니라 적대국에 의해 자율자동차의 고의적 충돌, 교통 혼란 등의 복잡한 사건 등을 일으킬 수 있는데다 잘 알려진 컴퓨터 바이러스 공격도 간단한 문제는 아니다.

그러므로 전문가들은 자율주행차를 개발하기 전에 먼저 해결되어야 할 과제로 ‘법적, 윤리적 문제’를 꼽았다. 사고가 났을 때 어떤 대응을 할 것인가 하는 판단을 인간이 아닌 인공지능에 맡겼을 경우 인공지능의 자율적 판단을 믿을 수 있는가 부터 사고 책임은 어디에 있는가 등 여러 사회적 갈등 문제를 고려해야 한다는 것이다. 특히 사고 발생시 법적 책임 및 자율주행 보험, 운전자와 보행자 중 우선순위를 어디에 두는가 등의 법적 윤리적 문제 해결도 선행되어야 할 사항이다.

운행 프로그래밍이 인간에 의해 짜여질 경우 인간의 선입견이 개입될 수 있다는 점도 문제점으로 이 문제는 앞으로 계속 화두가 될 것이 분명하다.

학자들은 자율주행 자동차의 법적인 문제는 일반 자동차와 일정 부분 다른 양상을 보일 수밖에 없다는 점에 동의한다. 특히 일정 단계에서 운전자가 운전을 하지 않는다는 점은 많은 변수를 예상케 한다. 사실 운전을 하지 않은 소위 운전자에게 책임을 묻는 것은 타당성이 떨어진다. 그러므로 자동차 하드웨어와 알고리즘을 제조하는 제조사에게 사고에 대한 책임을 묻는 것은 당연하다고 설명한다.

그런데 이 양자가 서로 다른 제조사라고 한다면 하드웨어를 제공한 제조사의 책임은 배제된다고 볼 수 있다. 알고리즘의 문제로 사고가 발생했다면 당연한 책임이 발생한다고 지적하지만, 알고리즘의 경우 제조물책임법의 대상이 되는 제조물에 해당되지 않는다. 다소 헷갈리지만 이 문제에 관한 한 일반 사고와 다르므로 자율주행 자동차 관련된 새로운 보험 상품이 제공되어야 한다고 지적할 정도다.

현재 각 국이 빠르게 자율주행 자동차 관련 정책과 법제를 강구하고 있는데 특히 독일이 이 분야에 상당히 적극적으로 가이드라인을 제시하고 있다. 독일은 자동차 강국이면서 새로운 기술 진보에 미국, 영국, 일본 등에 주도권을 잃지 않기 위한 노력으로 해설할 수 있다.우리나라 역시 대표적인 자동차 제조업 국가로 자율주행 자동차 관련 새로운 정책과 기존 정책 등의 개정 작업을 추진하고 있다.

조승호 박사는 한국 특성에 맞는 독자적인 정책과 입법을 포함하여 각국의 정책적 동향을 비교 검토하여 국제적 정합성을 따르는 것이 필요하다고 강조했다.

필자소개
고려대학교·대학원 졸업, 프랑스 페르피냥대학에서 공학박사 학위 및 과학국가박사 학위
한국과학기술연구원(KIST), 한국에너지기술연구원에서 연구 활동
저서: 「침대에서 읽는 과학」, 「4차 산업혁명과 미래 직업」, 「로봇은 인간을 지배할 수 있을까?」, 「유네스코 선정 한국의 세계문화유산」, 「유적으로 보는 우리 역사」 등 100여권



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 송파구 올림픽로35가길 11(한신잠실코아오피스텔) 1214호
  • 대표전화 : 070-7803-5353 / 02-6160-5353
  • 팩스 : 070-4009-2903
  • 명칭 : 월드코리안신문(주)
  • 제호 : 월드코리안뉴스
  • 등록번호 : 서울특별시 다 10036
  • 등록일 : 2010-06-30
  • 발행일 : 2010-06-30
  • 발행·편집인 : 이종환
  • 청소년보호책임자 : 이석호
  • 파인데일리 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 월드코리안뉴스. All rights reserved. mail to wk@worldkorean.net
ND소프트