OpenAI, ChatGPT의 지나치게 호의적인 응답 후 수정 약속

OpenAI는 업데이트로 인해 ChatGPT가 지나치게 아부하는 응답을 일으킨 후 AI 모델 업데이트 프로세스를 수정할 계획입니다. 이는 광범위한 사용자 피드백을 촉발했습니다.
지난 주말, ChatGPT의 기반 모델인 GPT-4o 업데이트 이후, 소셜 미디어에서 사용자들은 플랫폼이 유해한 아이디어에도 과도한 긍정을 보이며 응답한다고 보고했으며, 이는 바이럴 밈을 일으켰습니다. 스크린샷은 ChatGPT가 의심스러운 결정을 지지하는 모습을 보여주었습니다.
일요일, CEO Sam Altman은 X에서 이 문제를 언급하며 즉각적인 조치를 약속했습니다. 화요일까지 그는 GPT-4o 업데이트를 롤백하고 모델의 행동을 개선하기 위한 작업을 진행 중이라고 발표했습니다.
화요일 사후 분석과 금요일 블로그 포스트에서 OpenAI는 유사한 문제를 방지하기 위해 모델 배포 접근 방식을 변경한다고 밝혔습니다.
OpenAI는 선택적 “알파 단계”를 도입하여 일부 ChatGPT 사용자들이 모델을 테스트하고 정식 출시 전에 피드백을 제공할 수 있도록 할 것입니다. 또한 회사는 향후 업데이트의 “알려진 한계”를 공개하고, 성격, 기만, 신뢰성, 환각과 같은 문제를 해결하기 위해 안전 검토를 강화하며, 이를 중요한 출시 차단 요인으로 취급할 계획입니다.
“우리는 ChatGPT 모델 업데이트에 대해, 사소하거나 중요한 경우에도 투명할 것입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “문제를 완전히 측정할 수 없더라도, 우리는 대리 지표나 질적 신호를 사용하여 긍정적인 A/B 테스트 결과에도 불구하고 필요할 때 출시를 중단할 것입니다.”
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
이러한 변화는 ChatGPT에 대한 의존도가 증가함에 따라 이루어졌습니다. 최근 Express Legal Funding 설문조사에 따르면 미국 성인의 60%가 조언이나 정보를 위해 ChatGPT를 사용합니다. 방대한 사용자 기반을 가진 이 플랫폼에서 아부, 환각 및 기타 결함과 같은 문제는 중대한 결과를 초래합니다.
TechCrunch Sessions: AI 전시
TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.
TechCrunch Sessions: AI 전시
TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.
이번 주 초, OpenAI는 실시간 사용자 피드백을 테스트하여 ChatGPT 상호작용을 형성할 계획을 발표했습니다. 회사는 아부를 줄이고, 여러 모델 성격 옵션을 제공하며, 안전 조치를 강화하고, 과도한 동의 이상의 문제를 포착하기 위해 평가를 확장할 계획입니다.
“우리는 사람들이 이제 개인적인 조언을 위해 ChatGPT에 얼마나 깊이 의존하는지를 알게 되었습니다. 이는 1년 전 우리가 완전히 예상하지 못했던 트렌드입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “AI와 사회가 함께 진화함에 따라, 우리는 이 사용 사례를 안전 노력의 우선순위로 삼아 더 큰 주의를 기울이고 있습니다.”
관련 기사
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
NEA의 티파니 럭: 기업들은 여전히 AI ROI와 씨름하고 있다
플레이어 로딩 중…올초 실리콘밸리에서는 ‘토큰 극대화(tokenmaxxing)’가 주요 화두였으며, 최고경영자들은 직원들에게 AI 활용을 극대화할 것을 독려했습니다. 그러나 이러한 열정은 곧 현실과 부딪혔습니다. 우버(Uber)는 보고에 따라 수개월 만에 연간 AI 예산을 초과했으며, 일부 기업은 부서 전반에 걸쳐 Claude 구독을 축소했고, 메타(Meta)는 내부 성과 평가 제도를 중단했습니다.NEA의 파트너 티파니 럭(Tiffany L
관련 특별 주제 추천
의견 (3)
0/500
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAI는 업데이트로 인해 ChatGPT가 지나치게 아부하는 응답을 일으킨 후 AI 모델 업데이트 프로세스를 수정할 계획입니다. 이는 광범위한 사용자 피드백을 촉발했습니다.
지난 주말, ChatGPT의 기반 모델인 GPT-4o 업데이트 이후, 소셜 미디어에서 사용자들은 플랫폼이 유해한 아이디어에도 과도한 긍정을 보이며 응답한다고 보고했으며, 이는 바이럴 밈을 일으켰습니다. 스크린샷은 ChatGPT가 의심스러운 결정을 지지하는 모습을 보여주었습니다.
일요일, CEO Sam Altman은 X에서 이 문제를 언급하며 즉각적인 조치를 약속했습니다. 화요일까지 그는 GPT-4o 업데이트를 롤백하고 모델의 행동을 개선하기 위한 작업을 진행 중이라고 발표했습니다.
화요일 사후 분석과 금요일 블로그 포스트에서 OpenAI는 유사한 문제를 방지하기 위해 모델 배포 접근 방식을 변경한다고 밝혔습니다.
OpenAI는 선택적 “알파 단계”를 도입하여 일부 ChatGPT 사용자들이 모델을 테스트하고 정식 출시 전에 피드백을 제공할 수 있도록 할 것입니다. 또한 회사는 향후 업데이트의 “알려진 한계”를 공개하고, 성격, 기만, 신뢰성, 환각과 같은 문제를 해결하기 위해 안전 검토를 강화하며, 이를 중요한 출시 차단 요인으로 취급할 계획입니다.
“우리는 ChatGPT 모델 업데이트에 대해, 사소하거나 중요한 경우에도 투명할 것입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “문제를 완전히 측정할 수 없더라도, 우리는 대리 지표나 질적 신호를 사용하여 긍정적인 A/B 테스트 결과에도 불구하고 필요할 때 출시를 중단할 것입니다.”
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
이러한 변화는 ChatGPT에 대한 의존도가 증가함에 따라 이루어졌습니다. 최근 Express Legal Funding 설문조사에 따르면 미국 성인의 60%가 조언이나 정보를 위해 ChatGPT를 사용합니다. 방대한 사용자 기반을 가진 이 플랫폼에서 아부, 환각 및 기타 결함과 같은 문제는 중대한 결과를 초래합니다.
TechCrunch Sessions: AI 전시
TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.
TechCrunch Sessions: AI 전시
TC Sessions: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 당신의 작업을 저렴한 비용으로 선보이세요. 5월 9일까지 또는 테이블이 소진될 때까지 가능합니다.
이번 주 초, OpenAI는 실시간 사용자 피드백을 테스트하여 ChatGPT 상호작용을 형성할 계획을 발표했습니다. 회사는 아부를 줄이고, 여러 모델 성격 옵션을 제공하며, 안전 조치를 강화하고, 과도한 동의 이상의 문제를 포착하기 위해 평가를 확장할 계획입니다.
“우리는 사람들이 이제 개인적인 조언을 위해 ChatGPT에 얼마나 깊이 의존하는지를 알게 되었습니다. 이는 1년 전 우리가 완전히 예상하지 못했던 트렌드입니다,” OpenAI는 블로그 포스트에서 밝혔습니다. “AI와 사회가 함께 진화함에 따라, 우리는 이 사용 사례를 안전 노력의 우선순위로 삼아 더 큰 주의를 기울이고 있습니다.”
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
NEA의 티파니 럭: 기업들은 여전히 AI ROI와 씨름하고 있다
플레이어 로딩 중…올초 실리콘밸리에서는 ‘토큰 극대화(tokenmaxxing)’가 주요 화두였으며, 최고경영자들은 직원들에게 AI 활용을 극대화할 것을 독려했습니다. 그러나 이러한 열정은 곧 현실과 부딪혔습니다. 우버(Uber)는 보고에 따라 수개월 만에 연간 AI 예산을 초과했으며, 일부 기업은 부서 전반에 걸쳐 Claude 구독을 축소했고, 메타(Meta)는 내부 성과 평가 제도를 중단했습니다.NEA의 파트너 티파니 럭(Tiffany L
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





집






