데일리임팩트

[데일리임팩트 황재희 기자] 네이버가 인공지능(AI)의 안정성과 신뢰성을 모색하기 위해 행사인 '생성형 AI 레드팀 챌린지'에 대표 파트너사로 참여한다.

AI 레드팀은 의도적으로 AI를 공격하는 전문팀을 지칭하는 말이다. AI 시스템의 취약점을 발견해 AI가 안전하고 윤리적으로 활용될 수 있도록 돕는 역할을 한다.

21일 네이버는 다음달 11일부터 이틀간 서울 삼성동 코엑스에서 개최되는 '생성형 AI 레드팀 챌린지'에 참여한다고 밝혔다. 

생성형 AI 레드팀 챌린지는 최근 화두인 초거대 언어모델(LLM)의 안전성·신뢰성·보안을 강화하기 위한 방법을 모색하고자 진행되는 행사다. 첫날인 11일에는 네이버의 자체 LLM 모델인 하이퍼클로바X에 참가자들이 모의로 프롬프트 공격을 해 안전성을 검증하게 된다. 

이를 통해 네이버는 축적된 검증 데이터를 기반으로 하이퍼클로바X의 안전성을 한층 강화할 계획이다. 네이버 관계자는 데일리임팩트에 "이번 챌린지는 AI 윤리나 안전에 관심이 있다면 국민 누구나 사전 신청을 통해 참여할 수 있다"라며 "우수 참가자에게는 총 1700만원 규모의 상금을 제공한다"고 말했다.

이어 12일에는 안전한 AI 개발과 관련해 인사이트를 얻을 수 있는 글로벌AI 안전 컨퍼런스가 진행된다. 

이날 네이버의 AI 안전 연구와 정책 수립을 총괄하고 있는 하정우 네이버 퓨처 AI 센터장이 컨퍼런스 연사로 참여한다. 김유원 네이버클라우드 대표는 초거대AI추진협의회 회장사 대표로 컨퍼런스 축사를 맡았다. 

이외에 이번 컨퍼런스에는 산업계와 학계에서 AI 안전성 연구를 이끄는 국내외 인사들이 컨퍼런스 연사로 나선다.

북미 AI 스타트업 '코히어’의 공동 창업자인 에이단 고메즈, 해외 빅테크의 공동 출자로 만들어진 AI 윤리∙안전 포럼 ‘프런티어 모델 포럼’의 크리스 메세롤 대표, 비영리기구 ‘AI 안전센터’ 총괄을 맡고 있는 댄 헨드릭스, 글로벌 이미지 생성 AI 개발사 ‘스태빌리티 AI’의 에마드 모스타크 대표 등이 참가한다. 

한편, 이번 행사는 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 초거대AI추진협의회가 주관해 진행된다. 네이버는 공동 대표 파트너사인 AI 학습 데이터 플랫폼 스타트업 셀렉트스타와 함께 행사 진행과 운영을 맡았다.