미 공군(DAF)이 지난 10일 챗봇 파일럿인 'NIPRGPT'를 출시하고 본격적인 실험에 돌입한다. 이는 조만간 실제로 사용될 예정이다.
미 공군이 최근 경비병, 공군, 민간 직원, 계약 업체를 대상으로 실험 이니셔티브를 시작했다. 이는 엄격한 조직도 생성형 AI를 탐구할 의향이 있다는 사실을 보여주는 사례다.
뉴욕주 롬에 있는 공군 연구소(AFRL) 정보국에서 개발돼 ‘다크세이버’ 소프트웨어 에코시스템의 일부가 될 이 프로젝트의 이름은 NIPRGPT다.
미 공군에 따르면 다크세이버는 ‘혁신가와 개발자를 한데 모아 차세대 소프트웨어와 작전 능력을 빠른 속도로 개발하고 공군에 배치하도록 지원하는, DAF 전역의 공군과 가디언으로 구성된 생태계’다. 가디언은 2019년에 DAF 산하에 창설된 미 우주군 소속의 입대 군인을 의미한다. 무중력 상태에서 싸우는 훈련을 받는 것은 아니며, 대부분 컴퓨터 전문가로 사이버 공격 방지, 컴퓨터 네트워크 유지 관리, 위성 통신 관리 등의 임무를 맡고 있다.
NIPRGPT는 비기밀 인터넷 프로토콜 라우터 네트워크에서 작동하는 AI 챗봇으로, DAF는 사용자가 다양한 작업을 완료하기 위해 사람과 같은 대화를 할 수 있다고 밝혔다. 이 챗봇은 국방부의 공통 액세스 카드(CAC) 인증 시스템과 함께 작동하며 질문에 답하고 서신, 배경 서류 준비, 프로그래밍 같은 작업을 지원할 수 있다.
DAF의 최고 데이터 및 인공지능 책임자 대행인 찬드라 도넬슨은 “기술은 실행을 통해 학습된다. 문제에 가장 가까이 있는 우리 군인들이 기술을 배우면서 그들의 통찰력을 확용해 향후 정책, 인수 및 투자 결정을 내리고 있다”라고 설명했다.
즉시 완벽하진 않음
NIPRGPT 실험은 실제 테스트를 통해 생성형 AI의 계산 효율성, 리소스 활용도, 보안 규정 준수 여부를 측정해 실제 적용 가능성을 파악할 수 있는 기회이기도 하다.
현재 AFRL은 통제된 환경에서 자체 호스팅 오픈소스 LLM을 실험하고 있다. 현재는 모델을 학습시키지 않으며, 사용자 입력을 기반으로 응답을 개선하지도 않고 있다.
사용자는 향후 이 도구와 관련한 벤더와의 조달 대화에서 정책을 갖추고 정보를 제공하기 위해 피드백할 기회를 갖게 될 예정이다.
AFRL의 CIO인 알렉시스 보넬은 이번 실험에 대해 “대형 상용 도구가 우리의 엄격한 보안 매개변수와 기타 프로세스를 탐색하는 동안 팀에게 최고의 도구를 제공하기 위한 중요한 다리”라면서, “구조화되지 않은 지식과 상호 작용하는 방식을 바꾼다고 해서 즉시 완벽해지는 것은 아니며, 사용자 각자가 도구를 사용하고 쿼리하고 최상의 결과를 얻는 방법을 배워야 한다. NIPRGPT는 더 강력한 도구를 사용할 수 있게 됨에 따라 공군과 가디언이 탐색하고 기술을 익히고 친숙해질 수 있게 지원할 것이다”라고 설명했다.
도넬슨은 NIPRGPT 출시 행사에서 이 실험이 아직 초기 단계이기 때문에 단일 AI 모델이나 기술 벤더 그룹에 종속되지 않는다고 말했다. 그는 “기술 리더로서 DAF는 모델이 목적에 적합한지 확인할 책임이 있다. 따라서 정부, 업계, 학계의 최고 인재들과 협력해 특정 업무 영역에서 어떤 모델이 더 나은 성능을 발휘하는지 파악하고 미래의 전투원들의 요구를 충족하기 위한 사용 사례를 파악하는 것을 목표로 한다”라고 설명했다.
IDC의 정부 신뢰 및 복원력 전략 연구 매니저인 애런 워커는 “민감한 정보가 노출되거나 악의적인 행위자가 모델을 오염시키기 전까지는 실행을 통한 학습이 훌륭하고 좋은 방법이다. 비기밀 네트워크에서 실험하는 일은 바람직하다”라고 말했다.
그는 DAF와 다른 국방 기관의 시도가 “야심차고 혁신적”이라면서도 “신흥 기술을 사용하고 개발하는 데 필요한 기술을 갖춘 재정적, 인적 자원을 더 많이 갖춘 민간 기관이 일부 문제를 해결하도록 허용함으로써 잠재적인 이점을 얻을 수 있다”라고 설명했다.
또한 그는 이 도구가 결국 위협 인텔리전스 보고서 생성, 멀웨어 리버스 엔지니어링, 정책 구성 제안, 보안 데이터 집계, 코드 작성 등 기술적이지 않은 사용 사례에도 도움이 될 수 있다고 말했다.
보안 우려에 대해서는 NIPRGPT가 “비기밀 네트워크에 있지만 사람은 불완전하기 때문에 민감한 정보를 잘못 표시하거나 오용해 잠재적으로 위험에 노출될 수 있다. 이는 네트워크에 있는 공군 직원이나 계약 업체가 민감한 데이터를 입력해 응답을 생성하는 상황이 될 수 있다”라고 워커는 지적했다. dl-ciokorea@foundryco.com
