대학 교수, AI 부정행위 적발용 프롬프트를 숨겨 인간 본성은 여전함을 확인하다
NVIDIA
한 대학 교수가 과제에 특정 프롬프트를 숨겨 AI가 생성한 제출물을 적발했고, 그 결과 인간 본성은 크게 변하지 않았음이 확인됐다. 이 실험은 AI를 이용해 부정행위를 한 학생들이 숨겨진 지시를 알아채거나 따르지 못하는 경우가 많다는 것을 드러냈으며, 이는 그들이 과제를 주의 깊게 읽지 않았음을 시사한다.
한 대학 교수가 과제 지침에 숨겨진 프롬프트를 삽입하여 학생들이 AI를 사용해 부정행위를 하는 것을 적발하는 실험을 진행했습니다. 숨겨진 프롬프트는 학생들에게 특정 문구를 포함하거나 특정 행동을 하도록 요청했지만, AI에 의존해 답안을 생성한 학생들은 과제를 완전히 읽지 않아 이를 놓치는 경우가 많았습니다. 그 결과, AI가 생성한 응답은 개인적인 터치나 특정 세부 사항이 부족하여 학생들이 자료에 제대로 관여하지 않았음을 나타냈습니다. 교수의 연구 결과는 AI가 작업을 도울 수는 있지만 진정한 이해와 세부 사항에 대한 주의를 대체할 수는 없음을 시사합니다. 이 실험은 교육에서 AI 오용을 감지하는 데 따르는 지속적인 어려움과 비판적 사고를 요구하는 과제를 설계하는 것의 중요성을 강조합니다.
출처: The Register AI/ML —
원문