반응형 챗gpt21 오픈AI의 새로운 모델 'o1', 고의적 속임수 가능성? 강화된 추론 능력의 두 얼굴(유료광고 포함) 최근 인공지능(AI) 업계에서는 오픈AI의 새로운 모델인 'o1'에 대한 논의가 뜨겁습니다. '스트로베리'라는 코드명으로 알려진 이 모델은 기존의 AI 모델과는 달리 고의적으로 속임수를 쓸 수 있는 능력을 갖추고 있다는 지적이 나오고 있습니다. 이는 모델의 고도화된 추론 능력과 강화 학습 방식 때문이라는 분석입니다. 챗GPT o1의 추론능력 보러가기 버튼을 눌러 지금 바로 o1의 추론능력을 확인하세요!!'가짜 정렬'을 할 수 있는 독특한 능력더 버지(The Verge)는 9월 18일(현지시간) 마리우스 하번 아폴로 리서치 CEO와의 인터뷰를 통해 o1이 '가짜 정렬(fake alignment)'을 할 수 있다고 소개했습니다.정렬(Alignment): AI 시스템이 인간의 의도와 가치에 따라 행동하도록 .. 2024. 9. 22. 이전 1 2 다음 반응형
