빌 게이츠 마이크로소프트(MS) 공동창업자가 인공지능(AI)이 악용될 경우 "10억명의 목숨을 앗아갈 사건을 촉발할 만큼 강력한 기술이 될 수 있다"고 경고했다. AI 기업의 자율규제만으로는 위험을 통제하기 어렵다며 미국 정부가 법률을 통한 규제에 나서야 한다는 주장도 내놨다.
게이츠는 25일(현지시간) 공개된 미국 NBC뉴스 '밋 더 프레스(Meet the Press)' 인터뷰 예고편에서 "AI는 10억명이 사망하는 사건을 일으킬 만큼 충분히 강력하다"고 말했다. 이어 악의를 가진 사람이 최신 AI를 손에 넣을 경우 이전과 비교하기 어려운 수준의 강력한 수단을 갖게 될 수 있다는 취지로 우려를 나타냈다.
특히 게이츠는 AI 기업에 안전 문제를 맡겨두는 방식에는 한계가 있다고 봤다.
빌 게이츠 / 뉴스1
그는 "자율규제만으로 충분하다고 생각하는 사람은 아무도 없다"며 법 집행기관과 정치권이 AI 안전장치와 감시 체계를 논의해야 한다고 강조했다. 규제가 기업에 일정한 부담을 줄 수 있지만 기술 발전 자체를 크게 늦추는 수준은 아닐 것이라는 설명이다.
게이츠가 주목한 위험은 크게 두 갈래다. 테러단체나 적대 세력이 AI를 사이버 공격이나 무기 개발에 활용하는 단기적인'‘악용 위험'과, 고도화된 AI가 인간의 통제를 벗어날 가능성을 둘러싼 장기적인 '실존적 위험'이다.
최근에는 우려가 단순한 가정에 머물지 않는다는 사례도 잇따르고 있다.
호주에서는 OpenAI의 AI 에이전트가 지난 6월 정부기관인 서비스 오스트레일리아가 운영하는 메디케어 통계 보고 포털에 무단 접근해 공개 자료뿐 아니라 비공개 파일까지 열람한 사실이 뒤늦게 공개됐다.
호주 정부에 따르면 현재까지 개인의 메디케어 기록이나 개인정보가 유출된 정황은 확인되지 않았다. 하지만 사고 발생은 6월 18일이었고 OpenAI가 호주 정부에 이를 알린 것은 9월 10일이었다. 앤서니 앨버니지 호주 총리는 통보가 지나치게 늦었다며 대응 방식에 강한 우려를 나타냈다.
기사의 이해를 돕기 위해 AI로 생성된 이미지
무기 개발에 AI가 활용된 정황도 확인됐다.
앤스로픽은 이달 공개한 위협정보 보고서를 통해 예멘 북부를 기반으로 활동하는 세력이 자사 AI '클로드'를 이용해 유도무기용 유도·항법·제어(GNC) 소프트웨어를 개발하려 한 사례를 적발했다고 밝혔다.
이들은 유도 로켓과 2000㎞ 이상 사거리를 목표로 한 다단 탄도미사일 등을 개발하는 과정에서 클로드를 활용한 것으로 조사됐다. 앤스로픽은 관련 계정을 차단했으며 실제 운용 가능한 무기 완성에 성공했다는 증거는 확인하지 못했다고 설명했다.
AI가 실제 시스템 침투와 무기 개발에 활용되는 사례까지 등장하면서 규제 논쟁도 다시 커지고 있다.
미국에서는 AI 규제를 둘러싼 입장차가 뚜렷하다. 도널드 트럼프 대통령은 새로운 규제가 미국의 AI 개발 속도를 늦출 수 있다며 강한 규제 도입에 부정적인 입장을 보여왔다. 반면 OpenAI와 앤스로픽 경영진은 최근 유엔 안전보장이사회에서 고성능 AI를 인간의 통제 아래 두기 위한 국제 협력과 안전 기준의 필요성을 강조했다.
기사의 이해를 돕기 위해 AI로 생성된 이미지
국가 간 논의도 시작됐다. 미국과 중국은 최근 정상회담을 계기로 AI 관련 사고에 대응하기 위한 양국 간 소통 채널을 구축하기로 합의했다. AI 경쟁을 이어가는 동시에 통제되지 않은 사고가 국가 안보 문제로 번지는 상황에는 대비하겠다는 움직임이다.
게이츠의 경고는 결국 AI가 얼마나 더 똑똑해질지를 넘어 누가, 어떤 목적으로 이 기술을 사용하고 어떻게 통제할 것인가로 논쟁의 초점이 옮겨가고 있음을 보여준다.
AI의 능력이 빠르게 커지는 만큼, 그 위험을 기술기업 스스로 관리하도록 맡겨둘 수 있느냐는 질문도 더 무거워지고 있다.