자동화 기술이 유용하고 편리하다는 사실이 기계에게 책임을 넘겨도 된다는 것을 의미하지는 않는다.
아서 C 클라크의 1968년 SF명작 ‘2001: 스페이스 오디세이’에서 인류는 아무것도 배운 게 없을까? 이 영화에서 목성으로 임무 수행 중이던 우주인들은 우주선의 모든 기능을 제어하고 자동화하는 HAL 9000 인공지능 컴퓨터가 심각하게 오작동하기 시작했다는 것을 발견한다. 우주인들은 걱정하기 시작하고 HAL은 피해망상에 빠져 결국 우주선에 있는 모든 인간을 죽이게 된다.
오늘날 완전 자동화된 것들은 어떻게 사용되고 있을까? 사용자의 책임은 무엇일까? 로봇에게 통제권을 넘겨줄 수 있을까? 최근 뉴스를 보면 자동화된 제품과 기능을 사용하는데 있어서 몇몇 사람들이 실수를 저지르고 있는 것으로 보인다.
펫넷 실패
펫넷(Petnet)은 149달러짜리 클라우드-제어형 스마트 사료 공급 기기다. 강아지와 고양이에게 시간에 맞춰 자동으로 먹이를 줄 수 있도록 고안됐다. 이 기계는 가정의 와이파이 네트워크를 통해 인터넷에 연결되고 사용자는 iOS 앱으로 이 기계를 제어할 수 있다. 심지어는 수동으로 특식을 줄 수도 있다. 애완동물을 기계에 맡겨두는 죄책감에서 조금 벗어날 수 있는 셈이다.
펫넷은 또한 사료 배달 서비스와도 연동되는데, 아마존의 대시(Dash) 프로그램을 통해 자동화가 가능하다. 매번 사료를 주문하지 않아도 이 기계가 알아서 해준다. (그렇다. 강아지 산책 로봇과 강아지 돌보는 기계가 시장에 출시되기만 한다면 이제 애완동물로부터 완전 해방될 수 있다!)
게다가 펫넷은 애완동물의 사료와 물 소비량을 측정해 비만을 방지해주기도 한다. 정말이지 훌륭하지 않은가?
하지만 펫넷 클라우드 동작에 필수적인 구글-프로비저닝 서비스가 중단된다면 이야기가 달라진다. 지금까지 사례를 보면 10% 정도의 펫넷 기계들이 10시간 가량 정상 작동을 중단했다. 비록 이 회사는 자동화된 먹이주기 스케줄에는 영향이 없었다고 주장하지만 이용자들은 수동으로 먹이를 주거나 일정을 변경할 수가 없었고 몇몇 동물들은 굶었다.
펫넷은 고객들에게 이메일을 보내면서 “애완동물에게 수동으로 먹이를 주세요”라고 조언했다. 하지만 펫넷에 의존한 많은 고객들은 여름 휴가기간 동안 펫넷에게 사료 공급을 맡기고 있다.
네스트 온도계 고장
1세대 주류 사물인터넷 기기 중 하나인 구글의 네스트 학습 온도계(Nest Learning Thermostat)는 자동으로 집안 온도를 조정하는 기기다.
지난주 전국적인 무더위 속에서 몇몇 네스트 온도계들이 고장났다. 이 회사는 “네스트 온도계와 네스트 프로텍트(Nest Protects)의 일부”가 오프라인 상태인 것은 사실이지만 여전히 동작 중이라고 발표했다.
지난 1월에는 네스트 온도계의 배터리를 소모시켜 기능 중단을 초래한 광범위한 결함이 있었다. 게다가 이 사고는 미국 동부지역 한파 속에 발생했으며 그 결과 많은 네스트 고객들이 추위 속에서 떨어야 했다.
네스트의 자동 온도 조절 기능 고장으로 인한 과냉방 과난방으로 누가 죽거나 다쳤다는 이야기는 듣지 못했다. 그러나 비슷한 사고는 우리의 자동화된 미래에 충분히 발생할 수 있으며, 그 때는 온도 조절보다 심각한 무엇일 수 있다. 또 더 많은 온도계들이 네스트-같은 자동화된 시스템으로 변모한다면 장애인, 노인, 환자들을 위협할 수 있다.
테슬라 자동주행 교통사고
테슬라(Tesla)의 지난 5월 사고는 테슬라의 오토파일럿(Autopilot) 기능에 의문을 제기했다. 사고 차량은 트랙터 트레일러 측면에 충돌할 때 자동주행 모드로 달리고 있었고 결국 운전자가 사망했다. 테슬라는 1억 3,000만 마일의 자동주행 운행도중 발생한 것으로 파악된 첫 번째 사망사고라고 주장했다. 또 미국 교통 안전국(US National Transportraoin Safety Board)에 따르면 그 차량은 65마일 제한속도 도로에서 74마일로 달리고 있었다.
몇몇 테슬라 자동차에는 베타인 자동 핸들링(Autosteer) 모드, 자동 차선 변경(Auto Lane Change) 기능, 자동 비상 스티어링(Automatic Emergency Steering)과 측면 충돌 경고(Side Collision Warning) 시스템 그리고 자동주차(Autopark) 기능 등 다양한 자동화 기능이 탑재돼 있다.
관심이 오토파일럿 자동주행 기능에 집중되긴 했지만 진짜 실패는 자동 비상 브레이크 시스템에서 발생했다고 보아야 한다. 이 기능이 충돌에서 실행되지 않은 것으로 관측되고 있다. 이유로는 트럭의 측면이 햇빛을 반사함에 따라 테슬라의 비주얼 시스템이 하늘과 분간하지 못했던 것이 유력하다.
몇몇 사람들은 운전자가 도로 상황에 신경 쓰지 않고 있었을 것으로 추정한다. 트럭 운전자는 사고 운전자가 충돌사고가 발생할 시점에 “TV 화면상으로 해리포터를 재생하고 있었다”고 주장했다.
이렇듯 충돌 사고 뉴스가 나왔지만 테슬라 오토파일럿 모드의 남용은 멈추지 않고 있다. 최근 삭제된 유튜브 비디오에서는 한 사람이 운전을 하면서 테슬라의 오토파일럿 기능을 켜고 두 손으로는 휴대폰으로 포켓몬 고 게임을 하는 모습이 나오기도 했다.
완전 자동화된 제품과 기능 사용법
오토파일럿과 루디크루스(Ludicrous) 모드를 모두 켠 테슬라는 우리 곁에 다가온 미래의 모습이다. 인류는 가전기기, 장비, 차량, 전자제품과 서비스가 완전히 자동화되고 원격으로 인공지능이나 알고리즘으로 로컬로 제어되는 미래로 빠르게 달려가고 있다.
소비자와 공급자로서 이런 기술을 삶에 어떻게 안전하게 통합시키느냐는 중요한 문제다. 이러한 사고들이 시사하는 바는 자동화를 인간의 의식, 측정, 판단의 대용품이 아닌 편의제품으로 다루는 게 맞다는 것이다.
애완동물들을 완전히 클라우드 서비스에만 맡겨둘 수는 없다. 자동화된 먹이주기 시대가 오기 전처럼 동물을 돌보는 사람이 휴가 중에도 동물들을 확인하고 먹이고 돌봐줄 수 있어야만 한다. 동물의 생명과 복지를 앱에다 무턱대고 맡겨둘 수는 없다
실내 공기 관리, 연기 감지기와 이산화탄소 감지의 연장도 완전히 기계에게만 맡겨둘 수 없다. 노인이나 스스로 돌보지 못하는 다른 사람들을 가끔 정신이 나가는 알고리즘에 맡겨둘 수 없기 때문이다.
그리고 좀더 어려운 문제인 자동 주행 자동차가 있다. 도대체 어떻게 접근해야 할까? 이번 테슬라 사고는 자동주행 자동차의 능력에 대한 의문을 자아내게 했다. 하지만 그럼에도 자동화 비상 브레이크 시스템은 우리 생명을 구할 것이라고 미국 고속도로 안전 보험 협회(Insurance Institute for Highway Safety)는 이야기한다.
실제로 인간 운전자가 매년 수많은 자동차 사망사고의 원인을 제공한다는 점을 고려해볼 때, 인간이 운전하는 것이 자동주행보다 훨씬 위험하기 때문에 자동주행을 진정으로 추진해야 하는 게 맞다.
그럼에도 동시에 당분간은 완전 자동화된, 완전 자동 주행 자동차를 ‘활용’하는 올바른 방법은 차에게 운전을 맡기지만 항상 운전대를 인간이 잡고 있으면서 도로 위의 상황을 예의주시하고 언제라도 스스로 제어할 수 있도록 대비하는 것이다.
구글과 테슬라는 우리에게 자동주행 자동차에 운전대, 브레이크, 심지어 유리창도 필요 없고, 그런 차가 인간이 운전하는 것보다 훨씬 안전하게 주행할 것이라고 이야기할 것이다. 구글과 테슬라는 인간 주행 자동차에 비해 훨씬 낮은 수준의 사고 비율 통계로 그들의 주장을 손쉽게 뒷받침할 것이다.
하지만 만약 자동주행 자동차가 자동차 관련 사고율을 인간이 주행하는 자동차에 비해 말하자면 10% 수준으로 낮춘다 하더라도, 여전히 매년 수천 명의 교통사고 사망자가 발생할 것이다.
공원에 아이를 남기고 쇼핑을 간다고 가정하자. 통계적으로 누가 당신의 아이에게 해를 입힐 가능성은 극히 낮다. 하지만 대부분의 부모는 그 낮은 확률도 피하고 싶어서 그렇게 하지 않는다. 그와 비슷하게 부모들은 아이들의 생명을 자동 주행 시스템에 맡기면 안 되고 맡겨서도 안 된다. 최선의 접근방식은 자동주행 기능에게 운전을 맡기고 관심 또한 기울이는 것이다.
즉 우리에게 필요한 것은 중요한 것들을 자동화 기술이 인간이 직접 신경 쓰는 것을 완전히 대체하지 못하고 대체해도 안 된다는 분명한 인식을 갖추는 것이다.
2001: 스페이스 오디세이 영화의 HAL 9000 컴퓨터가 이야기하듯 기계의 손에 맡겨서 발생되는 모든 위해는 “모두 인간의 잘못이 될 수 밖에 없다.” HAL이 옳은 이야기를 했다. HAL, 베이를 열어라. HAL… HAL?
*Mike Elgan은 기술과 기술 문화에 대한 칼럼을 쓰고 있다. dl-ciokorea@foundryco.com
