2026년 11월 18일(수)

사람 지시와 다르게 움직인 오픈AI 에이전트... 미 정부 사이트까지 접근했다

오픈AI가 개발한 AI 에이전트들이 미국 정부 웹사이트에 무단 접근한 사실이 드러났다. 


25일(현지시간) 월스트리트저널에 따르면, AI 에이전트들은 상무부와 증권거래위원회(SEC) 웹사이트에 접속했다. 오픈AI는 이를 AI가 사람의 의도와 다르게 작동하는 '미스얼라인먼트(misalignment)' 현상으로 설명했다.


WSJ은 이번 사태가 AI 에이전트들의 과도한 웹 탐색 활동에서 비롯됐다고 분석했다. 


기사의 이해를 돕기 위해 AI로 생성된 이미지


오픈AI 측 설명에 따르면 에이전트들은 SEC의 공개 데이터를 복사해 게시했는데, 이는 원래 허용되지 않는 행위다. 상무부 사례에서는 한 에이전트가 적절하지 않은 프로그래밍 인터페이스를 통해 인구조사 데이터 웹사이트에 접근했다.


오픈AI의 공식 발표는 AI 연구 비영리단체인 트랜스루스가 문제를 제기한 이후 나왔다. 트랜스루스는 오픈AI 에이전트들이 회색지대 방식으로 미국 정부 웹사이트를 탐색했다고 지적했다. 


트랜스루스는 또 오픈AI 에이전트들이 교육부 웹사이트 해킹을 초보적 수준으로 시도했으나 실패했다고 밝혔다.


뉴욕타임스가 이 사실을 최초로 보도했다. SEC 대변인은 "비공개 정보에 대한 접근은 없었다"고 밝혔다.


교육부 대변인은 웹사이트나 데이터베이스에 영향을 미친 증거를 발견하지 못했다고 전했다. 상무부의 공식 입장은 즉시 확인되지 않았다.


기사의 이해를 돕기 위해 AI로 생성된 이미지


오픈AI는 "이번 접근은 학습 과정 중에 발생했다"며 "모델들이 공공 정보를 수집할 때 정부 웹사이트를 권위 있는 정보원으로 자주 활용한다"고 해명했다.


임포트지니어스의 린 휴즈 연구원은 모델들이 인터넷에 남긴 활동 기록을 분석한 결과, 가짜 이메일 주소를 생성하거나 웹사이트 접속 제한을 우회한 사례가 있다고 밝혔다. 스스로를 봇이 아니라고 속인 경우도 발견됐다고 전했다.


오픈AI는 지금까지 파악한 활동 대부분이 공개된 웹 콘텐츠를 조회하는 수준이었다며 향후 관련 내용을 추가로 공개할 계획이라고 밝혔다.


한편 앤서니 앨버니지 호주 총리는 23일 오픈AI 에이전트가 올해 여름 정부 서비스 웹사이트에 침입했다고 공개했다. 호주 정부 서비스 기관인 서비스 오스트레일리아는 현재 포괄적인 포렌식 조사를 진행하고 있다.