구글 딥마인드가 일명 ‘로봇 헌법’을 적용하고 안정성을 높인 로봇 기술 ‘오토RT(AutoRT)’를 4일 공개했다.
오토RT는 AI 학습을 위한 데이터 수집 시스템이자 자율 로봇 기술이다. 대규모 언어 모델(Large Language Model, LLM) 및 시각 언어 모델(Visual Language Model, VLM)을 활용해 주변 환경을 이해하고 특정 작업을 수행하는 데 쓰인다. 예를 들어, 오토RT를 적용한 로봇은 VLM을 사용하여 주변 환경과 시야에 보이는 물체를 이해한다. 그런 다음 LLM은 ‘과자를 식탁에 올려놓기’같은 현재 로봇이 할 수 있는 업무를 추출하고 그중에서 수행 가능 여부를 파악한다. 구글은 “오토RTRT는 로봇 학습을 확장하여 로봇을 실제 환경에 맞게 더 잘 훈련할 수 있도록 지원한다”라고 설명했다.
구글 딥마인드팀은 오토RT를 개발할 때 ‘안정성’을 높이기 위한 작업을 따로 수행했다고 밝혔다. 가령 로봇의 관절에 가해지는 힘이 특정 임계값을 초과하면 로봇이 자동으로 멈추도록 프로그래밍하고, 작업자가 필요한 경우 로봇 운영을 즉각 멈출 수 있도록 비상정지 스위치를 넣었다.
구글 딥마인드는 공식 블로그를 통해 “오토RT에는 안전 가드레일이 있으며, 그중 하나는 LLM 기반 의사 결정자에게 로봇이 작업을 선택할 때 준수해야 할 안전에 초점을 맞춘 일련의 프롬프트인 로봇 헌법을 제공하는 것”이라고 설명했다.
구글 딥마인드는 SF 소설가이자 과학자인 아이작 아시모프(Isaac Asimov)가 제시한 ‘로봇의 세 가지 법칙(Three Laws of Robotics)’에서 영감을 받아 로봇 헌법을 만들었으며, ‘사람을 다치게 해서는 안 된다’라는 제1원칙을 최우선으로 지키도록 정했다고 설명했다. 이 외에도 구글의 로봇 헌법에는 ‘로봇은 사람, 동물, 날카로운 물체 또는 전기 제품과 관련된 작업을 시도해서는 안된다’라는 원칙이 들어가 있다.
jihyun_lee@idg.co.kr
