So stellen Sie sicher, dass Ihre Daten für die KI -Integration vertrauenswürdig sind

Vertrauen in künstliche Intelligenz ist eine heikle Angelegenheit, die vollständig von der Qualität der zugrunde liegenden Daten abhängt. Das Problem der Datenintegrität, eine seit langem bestehende Herausforderung selbst für die fortschrittlichsten Organisationen, ist mit Vehemenz wieder aufgetaucht. Branchenexperten schlagen Alarm und warnen, dass Nutzer generativer KI unvollständigen, sich wiederholenden oder völlig falschen Daten ausgeliefert sein könnten, aufgrund der fragmentierten oder schwachen Datengrundlagen dieser Systeme.

Laut einer aktuellen Analyse von Ashish Verma, dem Chief Data and Analytics Officer bei Deloitte US, zusammen mit seinen Co-Autoren, „setzen AI und generative AI neue Standards für die Datenqualität.“ Sie betonen, dass ohne eine robuste Datenarchitektur, die verschiedene Typen und Modalitäten umfasst und Datenvielfalt sowie Verzerrungen berücksichtigt, Strategien für generative KI zwangsläufig scheitern werden. Sie heben auch die Notwendigkeit einer Datentransformation hervor, die für probabilistische Systeme geeignet ist.

Die einzigartigen Anforderungen an AI-fähige Datenarchitekturen

KI-Systeme, die auf probabilistischen Modellen basieren, bringen einzigartige Herausforderungen mit sich. Die Ausgabe kann je nach den Wahrscheinlichkeiten und den zugrunde liegenden Daten zum Zeitpunkt einer Anfrage variieren, was die Gestaltung von Datensystemen erschwert. Verma und sein Team betonen, dass traditionelle Datensysteme dieser Aufgabe möglicherweise nicht gewachsen sind, was die Kosten für das Training und Retraining von KI-Modellen in die Höhe treiben könnte. Sie plädieren für Datentransformationen, die Ontologien, Governance, vertrauensbildende Maßnahmen und die Entwicklung von Anfragen umfassen, die reale Szenarien widerspiegeln.

Hinzu kommen Komplexitäten wie KI-Halluzinationen und Modellverschiebungen, die die Notwendigkeit menschlicher Aufsicht und Bemühungen zur Ausrichtung und Sicherstellung der Datenkonsistenz unterstreichen.

Die entscheidende Rolle des Vertrauens in KI

Ian Clayton, der Chief Product Officer bei Redpoint Global, erklärte gegenüber ZDNET, dass Vertrauen möglicherweise das wertvollste Gut in der KI-Landschaft ist. Er betonte die Bedeutung einer Datenumgebung, die durch starke Datengovernance, klare Datenherkunft und transparente Datenschutzrichtlinien gestärkt wird. Eine solche Grundlage fördert nicht nur die ethische Nutzung von KI, sondern verhindert auch, dass KI vom Kurs abweicht, was zu inkonsistenten Kundenerfahrungen führen könnte.

Branchenbedenken hinsichtlich der Datenbereitschaft für KI

Gordon Robinson, Senior Director of Data Management bei SAS, teilte die Ansicht, dass Datenqualität eine anhaltende Herausforderung für Unternehmen darstellt. Bevor man sich auf eine KI-Reise begibt, rät er Unternehmen, zwei entscheidende Fragen zu stellen: „Verstehen Sie, welche Daten Sie haben, deren Qualität und Vertrauenswürdigkeit?“ und „Verfügen Sie über die notwendigen Fähigkeiten und Werkzeuge, um Ihre Daten für KI vorzubereiten?“

Clayton hob ebenfalls die dringende Notwendigkeit verbesserter Datenkonsolidierung und Qualitätsmaßnahmen hervor, um KI-Herausforderungen anzugehen, und plädierte für die Integration von Daten aus Silos sowie rigorose Qualitätsprüfungen wie Deduplizierung und Sicherstellung der Konsistenz.

Neue Dimensionen der Datensicherheit mit KI

Die Einführung von KI bringt auch neue Sicherheitsaspekte in den Vordergrund. Omar Khawaja, Field Chief Information Security Officer bei Databricks, warnte davor, Sicherheitsmaßnahmen im Eifer, KI-Lösungen einzusetzen, zu umgehen, da dies zu unzureichender Aufsicht führen könnte.

Maßgebliche Elemente für vertrauenswürdige KI-Daten

• Agile Datenpipelines: Clayton betonte, dass die rasante Entwicklung von KI agile und skalierbare Datenpipelines erfordert. Diese sind entscheidend, um sich an neue KI-Anwendungen anzupassen, insbesondere während der Trainingsphase.
• Visualisierung: Clayton wies auch darauf hin, dass wenn Datenwissenschaftler Schwierigkeiten haben, auf ihre Daten zuzugreifen und sie zu visualisieren, dies ihre Effizienz bei der Entwicklung von KI erheblich beeinträchtigt.
• Robuste Governance-Programme: Robinson betonte die Bedeutung starker Datengovernance, um Datenqualitätsprobleme zu verhindern, die zu fehlerhaften Erkenntnissen und schlechten Entscheidungen führen könnten. Solche Governance hilft auch, die Datenlandschaft der Organisation zu verstehen und die Einhaltung von Vorschriften sicherzustellen.
• Gründliche und fortlaufende Messungen: Khawaja betonte, dass die Leistung von KI-Modellen direkt von der Qualität ihrer Trainingsdaten abhängt. Er empfahl regelmäßige Metriken, wie monatliche Adoptionsraten, um zu überwachen, wie schnell KI-Fähigkeiten übernommen werden, was darauf hinweist, ob diese Werkzeuge und Prozesse den Bedürfnissen der Nutzer entsprechen.

Clayton plädierte für eine KI-fähige Datenarchitektur, die es IT- und Datenteams ermöglicht, Ergebnisse wie Datenqualität, Genauigkeit, Vollständigkeit, Konsistenz und die Leistung von KI-Modellen zu messen. Er forderte Organisationen auf, sicherzustellen, dass ihre KI-Initiativen greifbare Vorteile liefern, anstatt KI nur um ihrer selbst willen einzusetzen.

Interessiert an weiteren KI-Geschichten? Abonnieren Sie unseren wöchentlichen Newsletter, Innovation.