[소비자경제=김성지 기자] 다음달 11일부터 양일간 과학기술정보통신부가 주최하고 한국정보통신기술협회(TTA)와 초거대 AI 추진협의회가 주관하는 행사가 개최된다.

네이버는 22일 ‘생성형 AI 레드팀 챌린지(Gen AI Korea 2024)’에 대표 파트너사로 참여한다고 전했다.

공동 대표 파트너사인 AI 학습 데이터 플랫폼 스타트업 ‘셀렉트스타’와 행사를 진행하며 AI 안전성 기술 교류 및 논의의 장을 만드는 데 적극적으로 기여할 계획이다.

생성형 AI 레드팀 챌린지는 최근 급격하게 성장하고 있는 기술인 LLM의 안전성·신뢰성·보안을 강화하기 위한 방법을 모색하고자 진행되는 행사다. 먼저 11일에는 실제 서비스되고 있는 LLM에 참가자가 모의로 프롬프트 공격을 해 모델의 안전성을 검증하는 생성형 AI 레드팀 챌린지 대회가 개최된다.

전공과 상관없이 AI 윤리, 안전에 관심이 있는 국민 누구나 사전 신청을 통해 참여가 가능하며, 우수 참가자에게는 총 1700만 원 규모의 상금 혜택이 제공된다.

2일차에는 안전한 AI 개발을 주제로 국내∙외 AI 기술 리더들의 발표와 의견 교류가 이뤄지는 컨퍼런스가 진행된다. 북미 AI 스타트업 ‘코히어’의 공동 창업자 에이단 고메즈, 해외 빅테크의 공동 출자로 만들어진 AI 윤리∙안전 포럼 ‘프런티어 모델 포럼’의 대표이사 크리스 메세롤, 비영리기구 ‘AI 안전센터’ 총괄 댄 헨드릭스 등 산업계와 학계에서 AI 안전성 연구를 이끌고 있는 인사들이 컨퍼런스 연사로 나선다.

하정우 네이버 퓨처 AI 센터장은 “기업과 정부가 협력해 생성형 AI의 안전성을 논의할 수 있는 기회를 마련하고, 글로벌 최고 수준의 AI 기술력뿐 아니라 윤리와 안전 분야에서도 리더십을 확보해 나가고 있는 기업으로서 네이버가 많은 기여를 할 수 있어 의미있게 생각한다”라며 “하이퍼클로바X의 안전성을 검증∙강화하는 것은 물론, 여러 선행 연구와 서비스 운영 경험을 통해 쌓아온 네이버의 AI 안전성 기술 역량과 노하우를 공유할 것이다”라고 말했다.