미국 대학가에서 시험 지시문 속에 사람 눈에 보이지 않는 글씨로 인공지능(AI) 전용 지침을 몰래 삽입해 생성형 AI를 활용한 부정행위를 가려내는 기발한 검증법이 등장했다.
지난달 25일(현지 시간) 미국 과학·기술 매체 퓨처리즘에 따르면 미시시피주 알콘 주립대학교의 제이슨 깁슨 역사학 교수는 중간고사 시험 지시문 바탕에 흰색 글씨로 숨겨진 문장을 넣어 학생들의 AI 부정 사용 여부를 판별했다.
기사의 이해를 돕기 위한 자료 사진 / GettyimagesBank
사람이 화면을 볼 때는 글씨가 보이지 않지만, 학생이 지시문 전체를 드래그해 AI 챗봇에 그대로 복사해 붙여넣으면 AI가 이 프롬프트를 인식해 답변을 생성하는 원리를 활용한 것이다.
깁슨 교수가 숨겨둔 지침은 산업혁명을 다루는 시험 문제와 아무런 관련이 없는 '마다가스카르'라는 단어와 엉뚱한 문장을 답변에 포함하도록 만드는 내용이었다.
검인 결과 시험을 치른 35명의 학생 중 무려 32명이 AI가 만든 답안을 검토조차 하지 않은 채 그대로 제출해 낙제 처리됐다.
제출된 답안지에는 "마다가스카르가 오후 내내 옆으로 떠다닌다"거나 "마다가스카르 보라색 자전거가 천장에게 속삭인다"는 등 맥락을 알 수 없는 문장이 잇따라 나타났다. 심지어 자동화를 설명하는 답안에 "그 섬나라는 농구 경기에 토스터를 입고 갔다"는 황당한 내용이 포함되기도 했다.
기사의 이해를 돕기 위한 자료 사진 / GettyimagesBank
깁슨 교수는 학생들에게 AI 검증 방식을 공개한 뒤 성적 이의 제기 기회를 주었으나, 실제로 이의를 제기한 학생은 2명에 불과했다. 그는 "학생들에게 낙제를 주려는 목적이 아니라 생성형 AI 시대에 학업적 정직성을 유지하기 위한 시도였다"고 전했다.
최근 미국 주요 대학에서는 생성형 AI를 악용한 부정행위가 잇따르자 대책 마련에 나서고 있다. 브라운대학교에서는 챗GPT 답변과 유사한 답안을 제출한 학생들이 무더기로 적발됐으며, 프린스턴대학교는 130년 넘게 유지해 온 무감독 시험 제도를 폐지하고 올해부터 시험 감독관을 배치하기로 결정했다.