반응형 ai활용주의1 최신 AI 더 똑똑해졌는데 왜 더 많이 틀릴까? '환각 현상'의 진실과 미래 AI의 과제 1. AI '환각 현상'이란 무엇인가?AI 환각(hallucination)이란, 인공지능이 실재하지 않는 정보를 사실처럼 만들어내는 오류 현상을 말합니다. 예컨대, 존재하지 않는 인물을 인용하거나, 허구의 회사 정책을 생성하는 식이죠. 최근에는 코딩 도우미, 챗봇, 검색 AI 등 다양한 분야에서 이러한 문제가 표면화되고 있습니다.이 현상은 AI가 "통계적으로 가장 그럴듯한 답"을 생성하는 방식에서 비롯됩니다. 즉, 방대한 텍스트 데이터를 기반으로 학습된 AI는 그럴듯한 문장을 생성할 수 있지만, 그 문장이 '사실'인지 여부를 스스로 판단하지는 못합니다. 2. 왜 최신 AI일수록 오류율이 높아졌을까?놀랍게도, OpenAI의 최신 모델 'o4-mini'는 상식 문제(SimpleQA)에서 무려 79%의 오류율.. 2025. 5. 10. 이전 1 다음 반응형
