환각

환각은 생성형 AI가 입력이나 확인 가능한 근거와 맞지 않는 내용을 자신감 있게 제시하는 현상을 뜻합니다. 존재하지 않는 인물, 문헌, 링크, 숫자나 사건을 만들어 내는 경우가 포함됩니다.

이 말은 모델이 사람처럼 지각 경험을 한다는 뜻이 아닙니다. 기술 문맥에서는 생성 결과의 사실 오류를 설명하기 위해 널리 쓰이는 표현입니다. NIST 등 일부 기관은 ‘confabulation’이라는 용어도 사용합니다.

검색증강생성이나 파인튜닝은 오류를 줄이는 데 도움을 줄 수 있지만 완전한 방지책은 아닙니다. 중요한 정보는 원문과 독립된 검증 절차로 확인해야 합니다.