최근 생성형 인공지능(AI) 기술이 빠르게 고도화되면서 이를 다양한 방식으로 활용하는 사례가 늘고 있습니다. 그러나 기술이 정교해질수록 이를 악용한 범죄 역시 함께 증가하고 있어 주의가 필요합니다.
최근 각종 온라인 커뮤니티와 SNS에는 '물품 구매 전 사진이 합성인지 확인하는 방법'과 같은 글이 잇따라 올라오고 있습니다.
중고거래 과정에서 생성형 AI를 이용한 사진 합성 사기가 실제 피해로 이어지고 있기 때문입니다.
사기 수법은 주로 이미 온라인에 올라와 있는 물건 사진에 자신의 아이디나 닉네임, 이름 등이 적힌 메모지를 AI로 합성해 덧붙이는 방식입니다. 기존 중고거래 사진 속 메모지에 다른 판매자의 닉네임을 자연스럽게 합성하는 경우도 적지 않습니다.
최근에는 사진뿐 아니라 영상까지 조작하는 사례도 등장하고 있습니다. 합성 기술이 워낙 정교해지면서 실제 촬영물인지 여부를 일반 소비자가 판별하기가 쉽지 않다는 점이 문제로 지적됩니다.
실제로 '나노 바나나'라는 별칭으로 불리는 구글의 생성형 AI '제미나이 2.5 플래시 이미지'에 온라인에서 내려받은 카메라 사진을 첨부한 뒤 포스트잇에 문구를 넣어 달라고 요청하자, 실제 촬영한 것처럼 자연스러운 이미지가 생성됐습니다. 프롬프트를 구체적으로 작성할수록 결과물은 더욱 정교해졌습니다.
온라인 커뮤니티에는 이 같은 방식으로 사기 피해를 당할 뻔했다는 경험담도 쉽게 찾아볼 수 있습니다.
한 누리꾼은 "직거래도 안전거래도 안 된다고 하더니 아이폰에 포스트잇을 붙인 사진을 보내왔는데, 알고 보니 AI 합성이었다"고 토로했습니다.
또 다른 누리꾼은 중고 사기 피해를 경고하며 드론에 포스트잇을 합성한 이미지를 직접 공개해 경각심을 불러일으키기도 했습니다.
이와 유사한 범죄는 과거에도 있었습니다. 지난 2022년 10월에는 실제로 물품을 보유한 것처럼 사진과 판매자 이름이 적힌 종이를 합성해 피해자들에게 전송하고, 453명으로부터 약 3억 1,588만 원을 편취한 중고거래 사기 일당 12명이 경찰에 붙잡히기도 했습니다.
이러한 피해를 막기 위해서는 거래 전 확인 절차를 강화하는 것이 중요합니다. 우선 실사 인증을 거래의 조건처럼 요구하는 것이 도움이 됩니다. 특정 각도에서 촬영하거나 손가락 모양, 날짜와 닉네임이 적힌 종이를 함께 찍도록 요청하는 방식입니다. AI 합성 이미지는 이처럼 즉각적이고 구체적인 요구에 대응하기 어렵다는 점을 활용할 수 있습니다.
가능하다면 짧은 영상 촬영을 요청하는 것도 효과적입니다. 물건을 손으로 직접 만지거나 화면에 현재 날짜를 비추게 하면 신뢰도를 높일 수 있습니다.
사진을 전달받았을 때는 그림자 방향이 자연스러운지, 글자가 흐릿하거나 왜곡돼 있지는 않은지, 반복적인 무늬나 비현실적으로 매끈한 질감은 없는지도 꼼꼼히 살펴야 합니다. 지나치게 완벽한 사진은 오히려 의심해볼 필요가 있습니다.
구글 이미지나 렌즈를 활용해 사진을 역검색해보는 것도 방법입니다. 검색 결과에서 해외 쇼핑몰 이미지나 다른 판매자의 게시물이 확인된다면 즉시 거래를 중단하는 것이 안전합니다.
급전이 필요하다는 사정 설명과 함께 시세보다 현저히 낮은 가격을 제시하는 경우 역시 AI 이미지와 선입금을 결합한 사기일 가능성이 높습니다.
고가의 물품일수록 직거래나 플랫폼의 안전결제 서비스를 이용하는 것이 바람직하며, 수수료를 이유로 외부 거래를 유도할 경우 거래를 피하는 것이 좋습니다. 판매자가 질문에 성실히 답하지 않거나 복사한 듯한 말투를 사용하는지, 사진에 비해 설명이 지나치게 부실하지는 않은지도 주의 깊게 살펴야 합니다.
한편 우리나라는 내년 1월 22일부터 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’, 이른바 AI 기본법을 시행합니다. 세계 최초로 AI 관련 법규를 실질적으로 적용하는 국가로, 중고거래 사기나 딥페이크 등 AI 악용 범죄를 규제하기 위한 취지입니다.
AI 기본법과 시행령에는 AI 사업자의 책무를 명확히 하고, AI 생성물임을 알리는 워터마크 표시를 의무화하는 내용 등이 담겨 있습니다.
기술이 편리함을 주는 만큼, 그 이면의 위험을 인지하고 스스로를 지키는 소비자의 주의도 그 어느 때보다 중요해지고 있습니다.