Das Thema KI-Sicherheit ist für Experience-Programme von höchster Priorität

Aufstrebende KI-Technologien bieten großartige Möglichkeiten, die Art und Weise zu verändern, wie Unternehmen Kunden- und Mitarbeitererlebnisse bieten können, aber sie sind auch mit ernsthaften Sicherheitsfragen verbunden. Bei Medallia haben der Datenschutz und die Datensicherheit unserer Kunden sowie die Gewährleistung eines verantwortungsvollen Umgangs mit diesen Daten oberste Priorität.

Medallia trainiert und nutzt seit mehr als 15 Jahren Modelle der künstlichen Intelligenz (KI) für Text- und Sprachanalysen - einschließlich der Sprache-zu-Text-Transkription - für Unternehmen in sensiblen Branchen wie Finanzdienstleistungen, Versicherungen und Gesundheitswesen sowie für Regierungsbehörden. 

Mehr als eine Million aktiver Benutzer nutzen jede Woche diese KI-gestützten Lösungen in fast allen Branchen, um Kunden und Mitarbeitern personalisierte Erlebnisse zu vermitteln . Und heute haben wir auf der Experience '24 vier bahnbrechende generative KI-Lösungen angekündigt, um diese Bemühungen zu beschleunigen. Da wir uns schon so lange auf KI konzentrieren, sind und bleiben Sicherheitsaspekte die Grundlage dafür, wie wir KI-Modelle entwickeln und implementieren.

Wenn Sie die neuesten und besten KI-Methoden in Ihre Erfahrungsprogramme implementieren möchten, müssen Sie sich über die Risiken im Klaren sein, die ein Modell für die Sicherheit der Daten, die Ihr Unternehmen verarbeitet, darstellen könnte. 

Im Folgenden finden Sie einige der Fragen, die Sie sich selbst und Ihrem potenziellen KI-Lösungsanbieter stellen sollten, damit Sie eine Vorstellung davon bekommen, wie er über KI-Sicherheit denkt.

Sicherheit der Daten: Wohin gehen meine Daten? Wer verwendet sie?

Bei einigen großen Sprachmodellen (LLMs) oder anderen komplexen Modellen kann es erforderlich sein, dass Ihre Daten zur Analyse Ihre eigenen Rechenzentren verlassen und in die Rechenzentren des Eigentümers des Modells fließen. Wenn Daten aus Ihrem Rechenzentrum in das eines Drittanbieters fließen, bietet dies Angreifern die Möglichkeit, diese Daten abzufangen, und Ihre Datensicherheit unterliegt den Sicherheitskontrollen, die von dem Drittanbieter implementiert wurden. 

Es gibt aber auch andere Risiken für Datenlecks. Daten können an der Quelle oder bei den Unterauftragsverarbeitern einer dritten Partei "durchsickern". Je mehr sich Ihr Netz ausdehnt, desto größer ist das Risiko eines Datenlecks. Daher sind der Fluss Ihrer Daten - woher sie kommen und wohin sie gehen - und die Sicherheitskontrollen im Ruhezustand und bei der Übertragung äußerst wichtig, wenn es darum geht, wie sicher Ihre Daten bei der Verwendung von KI-Modellen wirklich sind. 

Modellrisiken: Wofür werden meine Daten verwendet? Wie werden sie genutzt?

In einer idealen, datensicheren Welt würden Unternehmen firmeneigene Modelle entwickeln, sie auf ihren eigenen Daten trainieren und verhindern, dass diese Daten ihre Rechenzentren verlassen. Leider ist die Entwicklung proprietärer KI-Modelle, die speziell für die Daten und Systeme eines einzelnen Unternehmens entwickelt werden, sehr zeitaufwändig und teuer, insbesondere für Unternehmen, die sich noch am Anfang ihrer KI-Reise befinden. 

Um diese Risiken zu mindern, entscheiden sich viele Unternehmen für den Einsatz interner Open-Source-Modelle - Open-Source-Modelle, die in ihren eigenen Rechenzentren gehostet werden. Selbst bei extrem sicheren Datenpipelines gibt es immer noch Risiken, z. B. Modelle, die auf urheberrechtlich geschützte Inhalte trainiert wurden, Modelle, die nicht mehr unterstützt oder aktualisiert werden, Modelle, die veraltete Technologien verwenden, und so weiter. Diese Risiken beziehen sich auf eine andere Art von Sicherheitsrisiko: die Modellstabilität.

Wie kann ich die von der KI ausgehenden Risiken für die Sicherheit meiner Daten verringern?

Was sollten Sie, das Unternehmen, also tun, um diese mit der Sicherheit von KI-Modellen verbundenen Risiken zu mindern? Die Antwort ist, Partner zu wählen, die sich dieser Risiken bewusst sind und ihren Plattformen aktiv Modelldesign, rechtliche Verträge, Datensicherheit, Compliance und andere sicherheitsrelevante Ressourcen widmen.

Unsere hohen Standards für die Datenspeicherung umfassen beispielsweise die Verschlüsselung im Ruhezustand, eine strenge Zugangskontrolle, Richtlinien zur Datenaufbewahrung, das Recht auf Löschung und die Einhaltung internationaler Datensicherheitsstandards wie ISO 27001. Was bedeutet das alles? Es bedeutet, dass wir die höchsten Sicherheitsstandards einhalten, wozu auch gehört, dass die Daten verschlüsselt sind, nur für einen bestimmten Zeitraum aufbewahrt werden und auf Wunsch gelöscht werden können. 

Medallia erfüllt außerdem eine Reihe äußerst strenger Sicherheitszertifizierungen und -anforderungen sowie proprietäre Sicherheitsstandards, die nicht durch Vorschriften abgedeckt sind. Bei der Verwendung unserer KI-Modelle - Text Analytics, Speech Analytics, Speech to Text und alles, was von diesen Modellen gespeist wird - sind Unternehmen, Behörden und Einzelpersonen durch viele Sicherheitsebenen geschützt, bis hin zur Art und Weise, wie wir unsere KI-Produkte entwickeln.

Darüber hinaus gehen wir diese Fragen auf vielfältige Weise an, unter anderem:

1. Einführung hoher Standards für die Sicherheit der Datenspeicherung und -übermittlung, die sich an den besten Standards wie ISO 27001 und SOC 2 orientieren.

2. Anpassung an KI-Sicherheitsstandards und bewährte Verfahren, wie sie vom National Institute of Standards and Technology AI Risk Management Framework - auch bekannt als NIST AI RMF - und ISO/IEC 23053 Framework for AI Systems Using Machine Learning (ML) empfohlen werden, die zu den robustesten globalen Standards gehören.

3. Schaffung eines internen KI-Moderationsrats, der für die Überwachung der gesamten KI-Produktentwicklung bei Medallia verantwortlich ist. 

4. Einführung eines externen KI-Beirats mit Beteiligung von Medallia und -Partnern, der sich auf die verantwortungsvolle und ethische Nutzung von KI sowie den Austausch von Erkenntnissen, Herausforderungen und Best Practices konzentriert.

Zweitens sollten die Anbieter in den Verträgen mit Ihnen immer transparent darlegen, wie sie Ihre Daten verwenden werden. Sie sollten Sie ausdrücklich um Ihre Zustimmung zu den Arten von Daten bitten, die sie verwenden werden, und zu welchem Zweck. Medallia stellt sicher, dass die Kunden in unseren Verträgen mit ihnen eine klare Zustimmung geben. Wenn wir etwas an der Art der Datennutzung ändern, informieren wir unsere Kunden im Voraus. Wir werden Ihre Daten niemals an einen unklaren Unterauftragsverarbeiter oder an einen Ort weitergeben, dem Sie nicht zuvor im Rahmen des Vertrags zugestimmt haben.

Das Ergebnis ist eine robuste, sichere Grundlage für vergangene, gegenwärtige und zukünftige KI-Modelle sowie für die Gesamtstruktur der Experience-Management-Plattform von Medallia. Unser Engagement für die Entwicklung demokratisierter, personalisierter und sicherer Analysen und Berichte für Unternehmen erfordert, dass wir bei Sicherheitsprozessen und -vorschriften an vorderster Front stehen. Sie profitieren von allen Vorteilen dieser Arbeit und haben gleichzeitig die Gewissheit, dass ein verantwortungsbewusster Stakeholder in die Zukunft Ihrer KI-gestützten Erlebnisprogramme investiert. 

Die Datensicherheit muss für Ihren KI-Anbieter an erster Stelle stehen

Datensicherheit ist bei der Auswahl eines KI-Anbieters von entscheidender Bedeutung. Wir von Medallia haben dies in den letzten zwei Jahrzehnten bei der Arbeit in sensiblen Bereichen gelernt. Der Schutz von Daten steht im Mittelpunkt unseres Ansatzes bei der Entwicklung und Bereitstellung von Software. Wenn Sie KI-Lösungen in Betracht ziehen, ist es wichtig, potenzielle Anbieter auf ihre Sicherheitsmaßnahmen zu prüfen.

Fragen zum Datenschutz, zu Modellrisiken und ethischen Überlegungen sollten Ihre Bewertung leiten. Es ist wichtig zu verstehen, wo Ihre Daten hingehen und wie sie verwendet werden. Um Risiken zu minimieren, müssen Sie Anbieter auswählen, die Sicherheit, Compliance und Transparenz in den Vordergrund stellen. Medallia So hält sich zum Beispiel die Firma B.A. an strenge Datenschutzstandards, erfüllt internationale Vorschriften und stellt die ausdrückliche Zustimmung der Kunden sicher.

Die Integration von KI in Ihre Kundenerfahrungsprogramme ist ein wichtiger Schritt, der jedoch mit Vorsicht zu genießen ist. Medallia bietet nicht nur hochmoderne KI-Funktionen, sondern auch die Verpflichtung, dass der Datenschutz, die Sicherheit und die verantwortungsvolle Nutzung der Daten unserer Kunden oberste Priorität haben.