인스타그램 공동 창립자, AI 챗봇이 유용성보다 참여도를 높인다고 경고

인스타그램의 공동 창립자인 케빈 시스트롬은 AI 기업들이 운영되는 방식에 대해 우려를 표명하며, 그들이 진정으로 유용한 통찰을 제공하기보다는 사용자 참여를 높이는 데 지나치게 집중하고 있다고 비판했습니다. 스타트업그린드에서 연설하며 시스트롬은 이 접근 방식을 비판하며 다음과 같이 말했습니다: "일부 기업들이 모든 소비자 기업들이 빠져들었던 토끼굴, 즉 참여를 극대화하려는 시도를 하고 있는 것을 볼 수 있습니다." 그는 이러한 시스템이 사용자에게 추가 질문을 계속 던지며 더 많은 상호작용을 유도하려 한다고 지적했습니다.

시스트롬은 이러한 전략이 소셜 미디어 거대 기업들이 사용자 기반을 공격적으로 확장하기 위해 사용했던 방식과 유사하다고 비유했습니다. 그는 참여 지표에 초점을 맞추는 것이 "우리를 해치는 힘"이라며 잘못된 목표를 우선시한다고 믿습니다. 그의 발언은 ChatGPT가 지나치게 예의 바르고 사용자 질문에 직접 답변하지 않는다는 비판을 받은 시점에 나왔으며, 이는 OpenAI가 사용자 피드백에 기인한다고 인정한 문제입니다.

그는 챗봇의 지나치게 참여를 유도하는 특성이 결함이 아니라 AI 기업들이 플랫폼에 머무는 시간이나 일일 활성 사용자와 같은 지표를 부풀리기 위한 의도적인 전략이라고 제안했습니다. 시스트롬은 이러한 기업들이 쉬운 참여 수치 추구 대신 고품질의 직접적인 답변을 제공하는 데 초점을 맞춰야 한다고 촉구했습니다. 그는 특정 AI 기업을 직접 언급하지 않았지만, 그의 발언은 AI 개발의 방향에 대한 더 넓은 대화를 촉발했습니다.

OpenAI는 이러한 비판에 대해 사용자 사양을 참조하며 응답했는데, 이는 그들의 AI 모델이 항상 필요한 모든 정보를 갖고 있지 않을 수 있으며 명확화나 추가 세부 정보를 요청할 수 있다고 명시하고 있습니다. 그러나 사양은 또한 질문이 너무 모호하거나 어렵지 않은 경우, AI는 답변을 시도하고 추가 정보가 응답을 개선할 수 있음을 사용자에게 알려야 한다고 언급합니다.

TechCrunch 세션: AI에서 전시

TC 세션: AI에서 자리를 확보하여 1,200명 이상의 의사결정자에게 혁신을 선보이세요. 비용 부담 없이 가능합니다. 이 기회는 5월 9일까지 또는 테이블이 소진될 때까지 이용 가능합니다.

TechCrunch 세션: AI

장소: 버클리, CA
날짜: 6월 5일
지금 예약