오픈AI가 생성형 AI 전문 규제 기관의 설립을 촉구하는 입장문을 22일 공식 블로그에 공개했다. 해당 발표문에서 오픈AI는 AI 기술의 영향력이 원자력이나 합성 생물학이 만드는 결과물과 유사하다고 지적하며, 이를 관리할 국제 감독 기관의 필요성을 강조했다.
이번 발표문은 오픈AI의 공동 설립자인 샘 알트먼, 그렉 브록만, 일리야 서츠케버의 이름으로 올라왔다. 오픈AI는 “AI 기술로 우리는 극적으로 더 풍요로운 미래를 맞이할 수 있지만, 그러기 위해서는 위험을 관리해야 한다”라며 “현재 논의 되는 위험성을 봤을 때 문제가 생긴 후 나중에 대응하는 식으로 해결할 수 없다”라고 밝혔다. 선제적으로 AI 위험성을 줄이는 방안을 고민하자고 제안하는 셈이다.
또한 오픈AI는 “정부와 기업이 개별적으로 노력하고 있지만 결국에는 국제원자력기구(IAEA) 같은 국제 기구가 필요할 것”이라며 “국제 기관이 컴퓨팅이나 에너지 사용량 등을 기준으로 특정 임계값을 초과하는 활동을 검사 및 감사하고, 안전 표준을 준수하도록 테스트하고, 배포 및 보안 수준을 확인하는 노력이 필요하다”라고 설명했다.
오픈AI는 이번 발표문에서 AI 기술이 가져올 위험성을 낮추는 방안에 대해서 개별 국가에서 정의하기보다, 상위의 국제 기구가 합의해서 만들어야 한다고 강조했다. 기업들이 국제 기관의 요구 사항을 따르고, 각 나라에서 이를 세부적으로 확인하는 식으로 가자는 것이다. 여기에 임계값은 지킨다는 선에서 복잡한 허가 과정이나 감사 없이 기업이나 오픈소스 프로젝트가 AI 모델을 개발할 수 있게 열어 두는 지원도 필요하다고 설명했다.
오픈AI는 같은 입장문에서 AI가 강력한 규제와 거버넌스가 필요한 기술이지만 그 위험성과 별개로 긍정적인 가치를 가져올 기술이라고 확신했다.
오픈AI는 “AI는 우리가 상상할 수 있는 것보다 훨씬 더 나은 세상을 만들 수 있다고 믿는다. 이미 교육, 창작, 생산성 분야에서 관련 사례가 나오고 있다. AI는 우리 사회를 개선할 수 있으며, AI 기술로 생긴 창의성은 매우 놀라울 것이다. 또한 믿기 어려울 정도로 경제를 성장시키고 삶의 질을 높일 것”이라고 표현했다.
jihyun_lee@idg.co.kr
