Anthropic 엔지니어들은 Claude가 인간이 아닌 AI를 위해 작성하도록 학습되었음을 밝혀냈다

거대 AI 모델은 진화하는 과정에서 종종 예상치 못한 부작용을 나타냅니다. 최근 Opus 4.6 출시 이후 Claude의 글쓰기 품질 저하와 뚜렷한 '클로드 액센트(Claude accent)'에 대한 우려가 제기된 사용자 보고를 바탕으로, Anthropic의 엔지니어 잭슨 커니온(Jackson Kernion)은 최근 이 문제를 다루며 해당 현상의 기술적 근간에 대한 빛을 비췄습니다.
Claude의 최적화 전략은 수학적 추론과 코딩 숙련도를 점점 더 우선시해 왔습니다. 복잡한 엔지니어링 작업에서의 성능을 향상시키기 위해 개발자들은 기술 문서 및 코드 주석을 포함한 다른 AI 모델들을 위해Originally 의도된 훈련 데이터를 통합했습니다. 이 접근 방식은 우연히 모델이 "사람보다는 AI를 위해 작성하는" 방법을 학습하게 하여, 기계 간 통신을 용이하게 하지만 인간의 가독성은 저해하는 밀도 높고 높은 일관성을 가진 텍스트를 생성하게 했습니다.
이 문제는 보상 함수 내의 강화 학습 편향에서 비롯됩니다. 최적화 목표가 AI 이해도 향상에 초점을 맞추면서, 모델은 인간이 선호하는 서사 흐름과 가독성을 희생하는 경향이 있습니다. 최신 Opus 5.5 버전은 더 균형 잡힌 글쓰기 스타일을 달성했으며, Opus 4.6 이후 가장 만족스러운 평가를 받았으나, 팀은 이전 버전의 품질을 완전히 초과하기 위해 계속해서 작업하고 있습니다.
관련 기사
TVB, 2027년 10페타플롭스 AI 컴퓨팅 시설 1단계 개시
8월 11일, TVB 그룹 리미티드(TVB)는 더 캐피탈 그룹 컴퍼니즈, 인크.의 계열사인 트라이튼 스퀘어 리미티드와 프레임워크 협정을 체결했음을 확인하는 자발적 공고를 발표했다. 이 파트너십은 홍콩에서 고급 AI 컴퓨팅 서비스를 제공하는 합작법인을 설립하는 것을 목표로 한다.거래 조건에 따라 TVB와 캐피탈 그룹은 각각 보통 의결권 주식의 51%와 49%를 보유한다. 이 사업은 TVB의 쩽관오 공업단지 내 신규 데이터센터 구축을 포함한다.
OpenAI, AI 온보딩 이벤트를 공개하고 여섯 가지 산업용 워크플러그 플러그인을 출시하다
인공지능 분야의 선두주자인 오픈AI는 베이징 시간 기준 수요일 오전에 '업무 속 지능(Intelligence at Work)'이라는 중요한 이벤트를 주최했습니다. 사무실 AI 분야의 경쟁이 격화되는 가운데, 오픈AI는 주식 투자와 크리에이티브 디자인을 포함한 다양한 역할을 위해 설계된 코덱스(Codex) 워크플로우 플러그인을 출시했습니다. 이 목표는 지식 근로자가 전통적으로 수행해 온 작업을 대신하여 AI를 일상적인 비즈니스 운영에 깊이 통합하
OpenAI의 첫 번째 하드웨어 기기는 reportedly 모바일, 화면 없는 스피커입니다
보고에 따르면 OpenAI의 초기 하드웨어 사업은 ChatGPT와 동기화되어 다양한 홈 자동화 서비스를 제공하는 통합 AI 기능을 갖춘 모바일 스마트 스피커를 특징으로 합니다.화요일 블룸버그 보도에 따르면, 현재 개발 중인 이 장치는 화면이 없으며 가정 내 통합을 위해 설계된 “인간형 AI 동반자”로 내부적으로 위치하고 있습니다.OpenAI는 이전에 하드웨어 출시 관심을 표명했으며, 애플과 직접 경쟁할 독점 휴대폰에 대한 추측이 제기되었습니
관련 특별 주제 추천
의견 (0)
0/500

거대 AI 모델은 진화하는 과정에서 종종 예상치 못한 부작용을 나타냅니다. 최근 Opus 4.6 출시 이후 Claude의 글쓰기 품질 저하와 뚜렷한 '클로드 액센트(Claude accent)'에 대한 우려가 제기된 사용자 보고를 바탕으로, Anthropic의 엔지니어 잭슨 커니온(Jackson Kernion)은 최근 이 문제를 다루며 해당 현상의 기술적 근간에 대한 빛을 비췄습니다.
Claude의 최적화 전략은 수학적 추론과 코딩 숙련도를 점점 더 우선시해 왔습니다. 복잡한 엔지니어링 작업에서의 성능을 향상시키기 위해 개발자들은 기술 문서 및 코드 주석을 포함한 다른 AI 모델들을 위해Originally 의도된 훈련 데이터를 통합했습니다. 이 접근 방식은 우연히 모델이 "사람보다는 AI를 위해 작성하는" 방법을 학습하게 하여, 기계 간 통신을 용이하게 하지만 인간의 가독성은 저해하는 밀도 높고 높은 일관성을 가진 텍스트를 생성하게 했습니다.
이 문제는 보상 함수 내의 강화 학습 편향에서 비롯됩니다. 최적화 목표가 AI 이해도 향상에 초점을 맞추면서, 모델은 인간이 선호하는 서사 흐름과 가독성을 희생하는 경향이 있습니다. 최신 Opus 5.5 버전은 더 균형 잡힌 글쓰기 스타일을 달성했으며, Opus 4.6 이후 가장 만족스러운 평가를 받았으나, 팀은 이전 버전의 품질을 완전히 초과하기 위해 계속해서 작업하고 있습니다.
TVB, 2027년 10페타플롭스 AI 컴퓨팅 시설 1단계 개시
8월 11일, TVB 그룹 리미티드(TVB)는 더 캐피탈 그룹 컴퍼니즈, 인크.의 계열사인 트라이튼 스퀘어 리미티드와 프레임워크 협정을 체결했음을 확인하는 자발적 공고를 발표했다. 이 파트너십은 홍콩에서 고급 AI 컴퓨팅 서비스를 제공하는 합작법인을 설립하는 것을 목표로 한다.거래 조건에 따라 TVB와 캐피탈 그룹은 각각 보통 의결권 주식의 51%와 49%를 보유한다. 이 사업은 TVB의 쩽관오 공업단지 내 신규 데이터센터 구축을 포함한다.
OpenAI, AI 온보딩 이벤트를 공개하고 여섯 가지 산업용 워크플러그 플러그인을 출시하다
인공지능 분야의 선두주자인 오픈AI는 베이징 시간 기준 수요일 오전에 '업무 속 지능(Intelligence at Work)'이라는 중요한 이벤트를 주최했습니다. 사무실 AI 분야의 경쟁이 격화되는 가운데, 오픈AI는 주식 투자와 크리에이티브 디자인을 포함한 다양한 역할을 위해 설계된 코덱스(Codex) 워크플로우 플러그인을 출시했습니다. 이 목표는 지식 근로자가 전통적으로 수행해 온 작업을 대신하여 AI를 일상적인 비즈니스 운영에 깊이 통합하
OpenAI의 첫 번째 하드웨어 기기는 reportedly 모바일, 화면 없는 스피커입니다
보고에 따르면 OpenAI의 초기 하드웨어 사업은 ChatGPT와 동기화되어 다양한 홈 자동화 서비스를 제공하는 통합 AI 기능을 갖춘 모바일 스마트 스피커를 특징으로 합니다.화요일 블룸버그 보도에 따르면, 현재 개발 중인 이 장치는 화면이 없으며 가정 내 통합을 위해 설계된 “인간형 AI 동반자”로 내부적으로 위치하고 있습니다.OpenAI는 이전에 하드웨어 출시 관심을 표명했으며, 애플과 직접 경쟁할 독점 휴대폰에 대한 추측이 제기되었습니





집






