Erstellen Sie Ihren eigenen KI-Text-Summarizer mit Langchain, OpenAI und Streamlit

In der sich schnell entwickelnden digitalen Landschaft von heute ist die Fähigkeit, umfangreiche Texte schnell und effizient zusammenzufassen, äußerst wertvoll. Dieser Leitfaden führt Sie durch die Erstellung Ihres eigenen Tools zur Textzusammenfassung unter Verwendung moderner Technologien: OpenAI, Langchain und Streamlit. Ganz gleich, ob Sie Entwickler, Student oder Geschäftsmann sind, dieses Tool wird Ihnen helfen, Ihre Arbeit zu rationalisieren und Ihr Verständnis schriftlicher Informationen zu vertiefen.

Wichtige Punkte

Entwickeln Sie eine Anwendung zur Textzusammenfassung mit OpenAI, Langchain und Streamlit.

Nutzen Sie GPT 3.5 für leistungsstarke Zusammenfassungen mit einem Sprachmodell.

Verwenden Sie Streamlit, um eine intuitive und leicht zugängliche Weboberfläche zu erstellen.

Integrieren Sie die Community-Tools von Langchain, um den Zusammenfassungs-Workflow zu verbessern.

Erfahren Sie, warum die Aufteilung von Text in Segmente für die Handhabung von KI-Modellen unerlässlich ist.

Stellen Sie die fertige App auf der Streamlit Community Cloud bereit, um den Zugriff und die gemeinsame Nutzung zu vereinfachen.

Integrieren Sie eine Funktion zum automatischen Löschen von API-Schlüsseln nach der Verwendung, um die Sicherheit zu erhöhen.

Entwicklung einer App zur Textzusammenfassung

Verständnis des Tech-Stacks

Ein solides Verständnis des Technologie-Stacks ist für die Entwicklung einer leistungsfähigen App zur Textzusammenfassung unerlässlich. Sehen wir uns die einzelnen Komponenten im Detail an:

• Streamlit: Streamlit bildet die Grundlage für die Webschnittstelle und bietet eine einfache, aber flexible Möglichkeit, interaktive Anwendungen in Python zu erstellen. Seine benutzerfreundlichen Funktionen unterstützen die schnelle Prototypenerstellung und Bereitstellung.
• Langchain: Langchain ist ein Framework, das die Entwicklung von Anwendungen unter Verwendung von Large Language Models (LLMs) optimiert. Es enthält Module für die Arbeit mit Dokumenten, das Aufteilen von Text und das Erstellen von Zusammenfassungen.
• OpenAI: OpenAI liefert das LLM – insbesondere GPT 3.5 –, das bereitgestellten Text auswertet und prägnante Zusammenfassungen erstellt.
• Tiktoken: Tiktoken tokenisiert Text für die effiziente Verwendung durch OpenAI-Modelle und zerlegt ihn in kleinere Teile, die das LLM leicht verarbeiten kann.

Durch die Integration dieser Technologien können Sie mit minimalem Programmieraufwand ein zuverlässiges und benutzerfreundliches Tool zur Textzusammenfassung erstellen.

Der Prozess der Textzusammenfassung

Hier ist eine schrittweise Übersicht über den Prozess der Textzusammenfassung:

1. Eingabetext: Der Benutzer gibt den Text ein, den er zusammenfassen möchte. Dies kann ein Dokument, ein Artikel oder jeder andere schriftliche Inhalt sein.
2. Zeichentext-Splitter: Der Eingabetext wird mit Langchain's CharacterTextSplitter. Dies ist ein wichtiger Schritt für die effektive Verwaltung von Text. Große Textmengen können KI-Modelle überlasten, daher gewährleistet die Aufteilung eine reibungslose Verarbeitung.
3. Chunking: Der Text-Splitter zerlegt den eingegebenen Text in überschaubare Teile, wobei die Zeichengrenzen beibehalten werden, um den Kontext zu bewahren.
4. Dokumenterstellung: Jeder Textblock wird in ein Langchain-Objekt umgewandelt Document Objekt umgewandelt, das nahtlos mit den Zusammenfassungsfunktionen von Langchain zusammenarbeitet.
5. LLM-Interaktion: Die load_summarize_chain Funktion verwendet das OpenAI LLM, um eine prägnante Zusammenfassung jedes Dokuments zu erstellen. Diese Funktion vereinfacht die Interaktion mit dem Sprachmodell.
6. Zusammengefasster Text: Das Endergebnis ist eine gekürzte Version des Originaltextes, die die wichtigsten Details in kompakter Form enthält. Die Fähigkeiten des LLM werden genutzt, um den Text in eine kurze, aber informative Zusammenfassung umzuwandeln.

Warum ist Chunking für KI-Modelle wichtig?

Chunking ist ein wichtiger Schritt, da es KI-Modellen ermöglicht, Informationen in kleineren, besser verarbeitbaren Einheiten zu verarbeiten.

Diese Methode senkt die kognitiven und rechnerischen Anforderungen der Textzusammenfassung. KI-Modelle arbeiten effizienter, wenn sie kleinere, fokussierte Abschnitte verarbeiten, was oft zu einer verbesserten Leistung und Präzision führt. Die Aufteilung langer Texte in verdauliche Teile hilft dem Modell auch dabei, den Kontext zu bewahren und sich auf die relevantesten Informationen innerhalb jedes Segments zu konzentrieren.

Die folgende Tabelle erläutert die Notwendigkeit, den Text aufzuteilen, damit LLM ihn genauer verarbeiten kann:

Details zur Code-Implementierung

Importieren von Bibliotheken

Der erste Schritt bei der Entwicklung der App ist das Importieren der erforderlichen Bibliotheken: Streamlit, Langchain, OpenAI und Tiktoken.

Die Import-Syntax lautet wie folgt:

import streamlit as stfrom langchain.docstore.document import Documentfrom langchain.text_splitter import CharacterTextSplitterfrom langchain.chains.summarize import load_summarize_chainfrom langchain.llms import OpenAI

Erstellen der Funktion „generate_response“

Der Kern der Anwendung ist die generate_response . Diese Funktion nimmt den vom Benutzer eingegebenen Text entgegen und verwaltet die Zusammenfassungs-Pipeline. Sie initialisiert das OpenAI-Modell, teilt die Eingabe auf, erstellt Dokumentobjekte und ruft die load_summarize_chain auf, um die endgültige Zusammenfassung zu generieren.

Hier ist der Code:

def generate_response(txt):llm = OpenAI(temperature=0.7, openai_api_key=openai_api_key)text_splitter = CharacterTextSplitter(chunk_size=1000, chunk_overlap=0)texts = text_splitter.split_text(txt)docs = [Document(page_content=t) for t in texts]chain = load_summarize_chain(llm, chain_type="map_reduce", verbose=False)output_summary = chain.run(docs)return output_summary

1. Instantiieren des LLM: Das OpenAI-Sprachmodell wird mit einer ausgewählten Temperatur und dem API-Schlüssel des Benutzers initialisiert. Die Temperatur beeinflusst den Grad der Kreativität der Ausgabe.
2. Den Text aufteilen: Der eingegebene Text wird mithilfe von CharacterTextSplitter. Dadurch behalten die Textsegmente eine für das Modell geeignete Größe.
3. Dokumente erstellen: Jeder Textabschnitt wird in ein Document Objekt umgewandelt, dem Standard-Eingabetyp für Langchain.
4. Lade die Zusammenfassungskette: Die load_summarize_chain erstellt die Zusammenfassungskette, die auf der Grundlage des Sprachmodells und der bevorzugten Zusammenfassungsmethode konfiguriert wird.
5. Kette ausführen: Die Zusammenfassungskette wird über die run Methode ausgeführt, die die Dokumente verarbeitet und die Zusammenfassung erstellt.
6. Ausgabe zurückgeben: Der zusammengefasste Text wird als Ergebnis der Funktion zurückgegeben.

Erstellen der Streamlit-Webschnittstelle

Mit Streamlit lässt sich die Webschnittstelle ganz einfach erstellen. Die Schnittstelle umfasst die folgenden Komponenten:

• Seitenkonfiguration zum Festlegen des Titels.
• Ein Textfeld, in das Benutzer den zu fasenden Text eingeben können.
• Ein Formular, das den OpenAI-API-Schlüssel des Benutzers sicher akzeptiert.
• Eine Schaltfläche zum Aktivieren des Zusammenfassungsprozesses.
• Ein Ergebnisbereich, in dem die zusammengefasste Ausgabe angezeigt wird.

st.set_page_config(page_title="App zur Textzusammenfassung")st.title("Text Summarization App")text_input = st.text_area("Enter your text here:", height=200)with st.form('myform', clear_on_submit=True):openai_api_key = st.text_input('OpenAI API Key', type = 'password', disabled=not(openai_api_key_startwith_check))submitted = st.form_submit_button('Submit')if submitted and openai_api_key:with st.spinner('Calculating...'):raw_response = generate_response(text_input)try:st.info(raw_response)except Exception as e:st.error(e)st.subheader("How to get an OpenAI API key:")st.markdown("To use this app, you will need an OpenAI API Key. You can create a secret keyhere: ")st.markdown("[OpenAI API Keys](https://platform.openai.com/api-keys)")

So verwenden Sie die Textzusammenfassungs-App

Schritt-für-Schritt-Anleitung zum Zusammenfassen von Text

Die Verwendung der Textzusammenfassungs-App ist einfach und umfasst nur wenige Schritte:

1. Geben Sie Ihren Text ein: Kopieren Sie den Text, den Sie zusammenfassen möchten, und fügen Sie ihn in das Texteingabefeld ein. Dies kann ein Buchauszug, ein Nachrichtenartikel oder eine ausführliche E-Mail sein.
2. OpenAI-API-Schlüssel eingeben: Geben Sie Ihren OpenAI-API-Schlüssel ein, um Anfragen an die Sprachmodelle von OpenAI zu authentifizieren.

   Aus Sicherheitsgründen wird der API-Schlüssel nach der Verarbeitung der Anfrage automatisch aus dem Eingabefeld gelöscht.

3. Absenden: Klicken Sie auf die Schaltfläche „Absenden“, um die Zusammenfassung zu starten.
4. Zusammengefassten Text anzeigen: Nach Abschluss der Verarbeitung zeigt die App eine klare, prägnante Zusammenfassung Ihres Originaltextes an.

Vor- und Nachteile

Vorteile

Erleichtert das Lesen und Aufnehmen von Informationen.

Reduziert den geistigen Aufwand durch die Bereitstellung komprimierter Inhalte.

Beschleunigt Arbeitsprozesse durch schnelle Zusammenfassung.

Verbessert das Verständnis komplizierter oder langer Texte.

Nachteile

Erfordert einen OpenAI-API-Schlüssel und Zugriff auf deren Dienste.

Mögliche Ungenauigkeiten oder Verlust subtiler Details während der Zusammenfassung.

Eingeschränkte Möglichkeiten zur Anpassung des Zusammenfassungsmodells.

API-Schlüssel müssen nach jeder Sitzung gelöscht werden, um die Sicherheit zu gewährleisten.

Häufig gestellte Fragen

Was ist Textzusammenfassung?

Bei der Textzusammenfassung wird ein langer Text gekürzt, wobei die wichtigsten Informationen erhalten bleiben.

Warum ist Chunking bei der Textzusammenfassung wichtig?

Chunking hilft KI-Modellen, große Texte effektiver zu verarbeiten, indem sie in kleinere, fokussierte Segmente aufgeteilt werden – dies erhöht die Genauigkeit und senkt den Verarbeitungsaufwand.

Wie verbessert der API-Schlüssel die Sicherheit?

Das Löschen des API-Schlüssels nach der Verwendung verhindert, dass sensible Authentifizierungsinformationen gespeichert oder missbraucht werden.

Was kann ich mit dem GitHub-Repo machen?

Befolgen Sie die bereitgestellten Anweisungen, um das Repository zu klonen, Ihren OpenAI-API-Schlüssel hinzuzufügen und mit der Zusammenfassung der Inhalte Ihrer Wahl zu beginnen.

Wie lange dauert der Vorgang?

Der gesamte Vorgang, von der Einrichtung bis zur Erstellung der Zusammenfassung, dauert in der Regel weniger als 10 Minuten.

Verwandte Fragen

Kann ich neben OpenAI auch andere Sprachmodelle verwenden?

Ja, die Textzusammenfassungs-App kann so angepasst werden, dass sie mit anderen Sprachmodellen funktioniert. Sie müssten den Code aktualisieren, um eine Verbindung zur API des alternativen Modells herzustellen, und die Textverarbeitungsschritte nach Bedarf anpassen. Beachten Sie, dass verschiedene Modelle unterschiedliche Eingabeanforderungen oder Leistungsmerkmale haben können.