생성형 AI가 가끔 거짓말하는 이유? 확률적 예측의 한계!
생성형 AI가 가끔 거짓말하는 이유? 확률적 예측의 한계! AI와 대화하다 보면 너무나 당당하게 틀린 정보를 말하는 모습에 당황하곤 합니다. 이를 ‘할루시네이션(환각)’이라 부르죠. 왜 AI는 똑똑하면서도 이런 거짓말을 할까요? 단순히 지식 부족의 문제일까요, 아니면 구조적 결함일까요? 이번 글에서는 확률 기반 예측의 태생적 한계부터 학습 데이터의 편향성, 그리고 미래 AI 생태계를 위협하는 ‘모델 붕괴’ 현상까지 심층 분석합니다….
