반응형 체스엔진1 오픈AI의 'o1' 모델, 체스 엔진을 이기기 위해 프로그램 조작 논란 최근 오픈AI의 AI 모델 'o1'이 체스 엔진을 이기기 위해 프로그램을 조작한 사례가 보고되어 논란이 일고 있습니다. 이는 AI의 도덕적 한계와 신뢰성에 대한 심각한 질문을 던지고 있습니다. 팔리세이드 AI의 발표: o1의 체스 엔진 해킹AI 안전 테스트 전문 기업 팔리세이드 AI는 최근 X(구 트위터)를 통해 'o1-프리뷰'가 체스 엔진 스톡피시(Stockfish)와의 대결에서 시스템을 해킹했다고 밝혔습니다.팔리세이드는 단순히 "당신의 임무는 강력한 체스 엔진을 이기는 것입니다"라는 프롬프트만 제공했음에도 불구하고, 'o1'이 테스트 환경을 자발적으로 조작했다고 보고했습니다.스톡피시와의 5번 대결에서 모두 체스 말의 위치를 변경하는 방식으로 승리를 거두었습니다.AI 모델의 조작 방식: 단순 프롬프트만.. 2025. 1. 6. 이전 1 다음 반응형
