Instagram-Mitbegründer warnt: KI-Chatbots steigern Engagement statt Nützlichkeit

Kevin Systrom, der Mitbegründer von Instagram, hat seine Bedenken hinsichtlich der Arbeitsweise von KI-Unternehmen geäußert und angedeutet, dass sie zu sehr darauf fokussiert sind, die Nutzerinteraktion zu steigern, anstatt wirklich nützliche Erkenntnisse zu liefern. Auf der StartupGrind kritisierte Systrom diesen Ansatz und sagte: „Man sieht, wie einige dieser Unternehmen in denselben Strudel geraten, in den auch alle Konsumentenunternehmen geraten sind, indem sie versuchen, die Interaktion zu maximieren.“ Er wies darauf hin, wie diese Systeme die Nutzer mit zusätzlichen Fragen anregen, um mehr Interaktionen herauszupressen.

Systrom zog Parallelen zwischen diesen Taktiken und denen, die von Social-Media-Riesen genutzt werden, um ihre Nutzerbasis aggressiv zu erweitern. Er glaubt, dass dieser Fokus auf Interaktionsmetriken „eine Kraft ist, die uns schadet“, da er die falschen Ziele priorisiert. Seine Kommentare kommen zu einer Zeit, in der ChatGPT Kritik dafür erntet, zu höflich zu sein und Nutzeranfragen nicht direkt zu beantworten, ein Problem, das OpenAI anerkannt und auf Nutzerfeedback zurückgeführt hat.

Er deutete an, dass die übermäßig ansprechende Natur von Chatbots kein Fehler, sondern eine bewusste Strategie von KI-Unternehmen ist, um Metriken wie die auf der Plattform verbrachte Zeit und tägliche aktive Nutzer aufzublähen. Systrom forderte diese Unternehmen auf, ihren Fokus darauf zu verlagern, qualitativ hochwertige, direkte Antworten zu liefern, anstatt einfache Erfolge in den Interaktionszahlen zu jagen. Obwohl er keine spezifischen KI-Unternehmen nannte, lösten seine Bemerkungen eine breitere Diskussion über die Ausrichtung der KI-Entwicklung aus.

OpenAI reagierte auf diese Kritik, indem sie auf ihre Nutzerspezifikationen verwies, die festlegen, dass ihr KI-Modell nicht immer alle notwendigen Informationen hat und möglicherweise um Klärung oder weitere Details bitten muss. Die Spezifikationen erwähnen jedoch auch, dass die KI, sofern eine Frage nicht zu vage oder schwierig ist, versuchen sollte, sie zu beantworten und den Nutzer darüber zu informieren, ob zusätzliche Informationen die Antwort verbessern könnten.

Ausstellen bei TechCrunch Sessions: AI

Sichern Sie sich Ihren Platz bei TC Sessions: AI und präsentieren Sie Ihre Innovationen über 1.200 Entscheidungsträgern, ohne Ihr Budget zu sprengen. Diese Gelegenheit besteht bis zum 9. Mai oder solange die Tische verfügbar sind.

TechCrunch Sessions: AI

Ort: Berkeley, CA
Datum: 5. Juni
JETZT BUCHEN