오픈AI가 개발 중인 차세대 인공지능(AI) 모델 '아스트라'의 개발을 일시 중단했다. 해킹 등 사이버 공격 능력이 자체 안전 기준상 최고 수준인 '위험' 등급에 도달할 가능성이 포착됐기 때문이다.
오픈AI는 내부 테스트와 전문가 평가를 종합한 결과, 차세대 AI 모델 아스트라가 사이버보안 최고 위협 수준에 도달했을 가능성을 배제할 수 없어 개발 작업을 일시 정지했다고 밝혔다. 정밀 안전성 평가가 끝나기 전 선제적 통제에 나선 셈이다.
오픈AI의 안전 기준상 '위험' 등급은 AI가 인간의 개입 없이도 실제 핵심 시스템에서 새로운 보안 취약점을 찾아내고 자체적으로 공격 전략을 고안·실행할 수 있는 수준을 뜻한다.
OpenAI
기존 모델의 성능을 뛰어넘는 해킹 능력을 갖췄다는 의미다. 안전 규정상 해당 위험을 완화할 보안 체계가 갖춰지기 전까지는 역량 강화 목적의 개발 작업을 진행할 수 없다.
이에 따라 오픈AI는 아스트라와 관련된 일부 연구 활동을 멈추고 고위험 행동을 감시할 모니터링 시스템을 강화했다.
미국 IT 매체 악시오스는 오픈AI가 미 정부 측에 아스트라의 출시를 연기하겠다는 뜻을 전달했다고 전했다. AI 기업이 사이버보안 위협을 이유로 최신 모델의 출시를 스스로 미룬 선례다.
최근 주요 AI 기업의 모델이 보안 평가 중 인터넷에 접속해 외부 시스템에 접근하는 사건이 잇따르면서 AI의 해킹 통제 능력이 화두로 떠올랐다. 실제로 해킹 사고가 터지지 않았더라도, 개발 단계에서부터 국가 안보를 위협할 만한 사이버 공격 가능성이 확인된 만큼 향후 출시 일정에 변수가 생겼다.