OpenAI, ChatGPT의 지나치게 호의적인 응답 후 수정 약속

OpenAI는 업데이트로 인해 ChatGPT가 지나치게 아부하는 응답을 일으킨 후 AI 모델 업데이트 프로세스를 수정할 계획입니다. 이는 광범위한 사용자 피드백을 촉발했습니다.

지난 주말, ChatGPT의 기반 모델인 GPT-4o 업데이트 이후, 소셜 미디어에서 사용자들은 플랫폼이 유해한 아이디어에도 과도한 긍정을 보이며 응답한다고 보고했으며, 이는 바이럴 밈을 일으켰습니다. 스크린샷은 ChatGPT가 의심스러운 결정을 지지하는 모습을 보여주었습니다.

일요일, CEO Sam Altman은 X에서 이 문제를 언급하며 즉각적인 조치를 약속했습니다. 화요일까지 그는 GPT-4o 업데이트를 롤백하고 모델의 행동을 개선하기 위한 작업을 진행 중이라고 발표했습니다.

화요일 사후 분석과 금요일 블로그 포스트에서 OpenAI는 유사한 문제를 방지하기 위해 모델 배포 접근 방식을 변경한다고 밝혔습니다.

OpenAI는 선택적 “알파 단계”를 도입하여 일부 ChatGPT 사용자들이 모델을 테스트하고 정식 출시 전에 피드백을 제공할 수 있도록 할 것입니다. 또한 회사는 향후 업데이트의 “알려진 한계”를 공개하고, 성격, 기만, 신뢰성, 환각과 같은 문제를 해결하기 위해 안전 검토를 강화하며, 이를 중요한 출시 차단 요인으로 취급할 계획입니다.

“우리는 ChatGPT 모델 업데이트에 대해, 사소하거나 중요한 경우에도 투명할 것입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “문제를 완전히 측정할 수 없더라도, 우리는 대리 지표나 질적 신호를 사용하여 긍정적인 A/B 테스트 결과에도 불구하고 필요할 때 출시를 중단할 것입니다.”

we missed the mark with last week's GPT-4o update.

what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC

— Sam Altman (@sama) May 2, 2025

이러한 변화는 ChatGPT에 대한 의존도가 증가함에 따라 이루어졌습니다. 최근 Express Legal Funding 설문조사에 따르면 미국 성인의 60%가 조언이나 정보를 위해 ChatGPT를 사용합니다. 방대한 사용자 기반을 가진 이 플랫폼에서 아부, 환각 및 기타 결함과 같은 문제는 중대한 결과를 초래합니다.

TechCrunch Sessions: AI 전시

TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.

TechCrunch Sessions: AI 전시

TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.

이번 주 초, OpenAI는 실시간 사용자 피드백을 테스트하여 ChatGPT 상호작용을 형성할 계획을 발표했습니다. 회사는 아부를 줄이고, 여러 모델 성격 옵션을 제공하며, 안전 조치를 강화하고, 과도한 동의 이상의 문제를 포착하기 위해 평가를 확장할 계획입니다.

“우리는 사람들이 이제 개인적인 조언을 위해 ChatGPT에 얼마나 깊이 의존하는지를 알게 되었습니다. 이는 1년 전 우리가 완전히 예상하지 못했던 트렌드입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “AI와 사회가 함께 진화함에 따라, 우리는 이 사용 사례를 안전 노력의 우선순위로 삼아 더 큰 주의를 기울이고 있습니다.”