네이버, AI 위험으로 서비스 중단 위기 대응 체계 구축

네이버의 AI 안전성 체계 설계

국내 최초로 인공지능(AI) 안전성 체계를 설계하고 실천 방안을 내놓은 네이버(035420)는 AI 위험이 상당하다고 판단되면 서비스 배포를 중단해 위험을 관리하는 방침을 밝혔습니다. 17일 네이버는 '네이버 ASF'를 발표하여 AI 시스템의 잠재적 위험을 인식·평가·관리하는 대응 체계를 설명하였습니다.

통제력 상실 위험 관리

AI 시스템이 초래할 수 있는 위험을 '통제력 상실 위험'과 '악용 위험'으로 정의한 네이버는 '프런티어 AI'로 정의된 현존 최고 성능의 AI 시스템을 3개월마다 위험 평가를 수행하고, 시스템의 능력이 기존보다 6배 이상 급격히 증가한 경우에는 그 시점에 추가 평가를 실시합니다. '통제력 상실 위험'을 완화하기 위해 AI 시스템의 위험을 주기적으로 평가하고 관리하고 있습니다.

악용 위험 대응

또한 '악용'의 가능성에 대한 대응으로 'AI 위험 평가 매트릭스'를 적용하여 AI 시스템의 사용 목적과 안전 조치의 필요성에 따라 각각 다른 방법으로 위험을 관리하는 체계를 갖추고 있습니다. 특수한 목적으로 사용되는 AI 시스템은 특별한 자격이 있는 사용자에게만 제공하여 위험을 완화하고, 안전 조치의 필요성이 높은 AI 시스템이라면 추가적인 기술적·정책적 안전 조치를 통해 위험이 완화될 때까지는 배포하지 않습니다.

AI 안전성의 미래

네이버는 AI의 안전성을 확보하기 위해 AI 안전성 체계를 발전시켜가는 방침을 밝히고 있습니다. 한국 외 다른 지역의 정부·기업과 소버린(Sovereign) AI를 공동 개발하여 특정 문화권에서 성립될 수 있는 AI 시스템의 위험을 식별하고, 위험의 정도를 측정하는 벤치마크도 문화권의 특성을 반영하여 고도화할 예정입니다.

결론

네이버는 AI 안전성 확보를 위해 내부적으로 다양한 평가 방식을 수립하며, 실제 위험이 상당하다고 판단되면 안전조치를 통해 위험을 완화할 때까지 모델 또는 서비스의 배포를 중단해 위험을 관리할 것이라고 밝히고 있습니다.