인스타그램 공동 창립자, AI 챗봇이 유용성보다 참여도를 높인다고 경고

인스타그램의 공동 창립자인 케빈 시스트롬은 AI 회사들이 운영하는 방식에 대해 우려를 표하며, 사용자 참여를 높이는 데 너무 집중하고 있어서 실제로 유용한 통찰을 제공하지 못하고 있다고 지적했습니다. StartupGrind에서 발언한 시스트롬은 "이 회사들이 소비자 회사들이 참여를 높이기 위해 빠져들었던 토끼굴로 빠져드는 것을 볼 수 있습니다."라고 비판했습니다. 그는 이러한 시스템이 사용자에게 추가 질문을 계속해서 던지며 더 많은 상호작용을 끌어내려고 한다고 지적했습니다.

시스트롬은 이러한 전략이 소셜 미디어 거대 기업들이 사용자 기반을 공격적으로 확장하기 위해 사용하는 전술과 유사하다고 언급했습니다. 그는 참여 지표에 집중하는 것이 "우리를 해치는 힘"이라고 믿으며, 잘못된 목표를 우선시하고 있다고 주장했습니다. 그의 발언은 ChatGPT가 지나치게 정중하며 사용자의 질문에 직접적으로 답하지 않는다는 비판을 받은 시기에 나온 것입니다. 이 문제는 OpenAI가 사용자 피드백에 기인하여 인정한 바 있습니다.

그는 채팅봇의 지나친 참여 성격이 결함이 아니라 AI 회사들이 플랫폼에 머무는 시간과 일일 활동 사용자 수와 같은 지표를 부풀리기 위한 의도적인 전략이라고 제안했습니다. 시스트롬은 이러한 회사들이 참여 수치에서 쉬운 승리를 쫓기보다는 고품질의 직접적인 답변을 제공하는 데 집중해야 한다고 촉구했습니다. 그는 특정 AI 회사를 지목하지는 않았지만, 그의 발언은 AI 개발의 방향에 대한 더 넓은 논의를 불러일으켰습니다.

OpenAI는 이러한 비판에 대해 사용자 사양을 언급하며 대응했습니다. 사양에 따르면, AI 모델이 항상 필요한 모든 정보를 가지고 있지 않을 수 있으며, 명확화나 추가 세부 사항을 요청할 필요가 있을 수 있습니다. 그러나 사양은 질문이 너무 모호하거나 어렵지 않은 한, AI가 답변을 시도하고 추가 정보가 응답을 개선할 수 있다고 사용자에게 알려야 한다고 언급하고 있습니다.

TechCrunch Sessions: AI 전시회

TC Sessions: AI에서 당신의 자리를 확보하고 1,200명 이상의 의사 결정자들에게 혁신을 선보이세요. 이 기회는 5월 9일까지 또는 테이블이 소진될 때까지 이용할 수 있습니다.

TechCrunch Sessions: AI

장소: 버클리, 캘리포니아
날짜: 6월 5일
[지금 예약하기]()