Wird Sicherheit ein KI-Trend?
Daten sind wertvoll. Denn sie bilden sozusagen die Grundlage der digitalen Wirtschaft. Sie treiben Innovationen an, verbessern Entscheidungsprozesse und schaffen Wettbewerbsvorteile durch die erlangten Erkenntnisse.
Egal ob man von CRM spricht oder der Nutzung von einer KI im Unternehmenskontext: die KI und Ihr CRM werden nur so hilfreich sein, wie die Daten, mit denen sie “gefüttert” worden sind. Eine schlechte Datenbasis führt somit also nur zu mittelmäßigen, oder im schlimmsten Fall zu unbrauchbaren Ergebnissen.
Dieser Umstand macht zudem deutlich, wie wichtig der Schutz von Daten ist. Im Rahmen der vermehrten Nutzung kommt unweigerlich die Frage auf, ob ein reelles Risiko besteht, KI zu verwenden. Wird Sicherheit also ein KI-Trend von 2025?
Regulierung durch den EU AI Act
Ein wichtiger Schritt in Richtung transparenter und ethisch vertretbarer Verwendung von KI-Systemen stellt der EU AI Act dar, welcher voraussichtlich in diesem Jahr in Kraft treten soll. Auch wenn dies mehr ein wichtiger gesetzlicher Schritt als ein KI-Trend ist, ist er trotzdem von enormer Bedeutung.
Bereits im vergangenen Jahr wurden die wichtigsten Punkte des EU AI Act deutlich:
- Kategorisierung von KI-Anwendungen: Anhand ihres Risikos sollen KI-Modelle eingeordnet werden in “Unzulässige KI” (z.B. manipulative KI), “Hochrisiko-KI” (z.B. durch biometrische Überwachung oder die automatisierte Verwendung von sensiblen Nutzerdaten) sowie KI mit einem geringen Risiko wie etwa KI-gestützte Chatbots.
- Transparenzpflicht: Sofern Inhalte mittels KI erstellt worden sind, müssen Modelle wie ChatGPT dies offenlegen. Gleichzeitig sollen Maßnahmen getroffen werden, die die Verbreitung von Fehlinformationen eindämmen.
- EU-KI-Behörde: Die Aufsicht über die Einhaltung soll eine neue KI-Behörde übernehmen. Große Unternehmen müssen zudem ihre neuen KI-Modelle melden und ein Prüfverfahren durchlaufen.
Das lokale Modell als KI-Trend statt des zentralen Anbieters
Ein weiterer KI-Trend wird vermutlich die Verschiebung sein, dass Unternehmen in Zukunft womöglich vermehrt auf lokale KI-Modelle auf dem eigenen Server oder Edge-Geräten setzen und sich von zentralen Anbietern wie OpenAI oder Google abwenden.
Insbesondere im Hinblick auf Datenschutz, Compliance und Datensouveränität hat dies mehrere Vorteile. Mit einem lokalen KI-Modell behalten Unternehmen die Kontrolle über ihre sensiblen Daten und begeben sich nicht in eine Abhängigkeit von US-amerikanischen oder chinesischen Cloud-Anbietern.
Lokale Modelle sind ein KI-Trend, der eine schnelle Analyse von Daten ermöglicht, aufgrund ausbleibender Verzögerungen durch das Senden und Empfangen von Daten über das Internet.
Der Trend hin zu kleineren und spezifischen KI-Modellen, bedeutet zudem eine Möglichkeit zur Spezialisierung und Anpassung. Unternehmen können diese Modelle trainieren, damit sie genau auf ihre Bedürfnisse zugeschnitten sind. Ein Beispiel für diesen KI-Trend wären unter anderem Open-Source-Modelle wie LLaMA oder Mistral; sie können lokal optimiert und angepasst werden, ohne Daten des Unternehmens an Dritte weiterzugeben.
KI-Governance mit dem Einstein Trust Layer
Obwohl KI-gestützte Prozesse und Automatisierung die Geschäftswelt in Zukunft maßgeblich prägen werden, stellt der Datenschutz für Unternehmen eine Herausforderung dar. Wie kann verhindert werden, dass externe KI-Modelle mit sensiblen Kunden- oder Unternehmensdaten trainiert werden?
Salesforce hat mit dem Einstein Trust Layer die Antwort auf die Frage gegeben. Er verhindert zum einen, dass Kundendaten außerhalb von Salesforce gespeichert werden und verschlüsselt zum anderen sämtliche Kommunikation mit dem LLM (Large Language Model). So werden weder Ihre Prompt und Daten zum Trainieren des LLM verwendet noch können sie in etwaiger Form abgefangen werden.
Zusätzlich steuert der Einstein Trust Layer die Eingabeaufforderungen gemäß den Compliance-Richtlinien des Unternehmens, abhängig von den Berechtigungen des Benutzers.
Damit ist der Einstein Trust Layer nicht nur als KI-Trend zu verstehen, sondern als wichtigen Schritt in Richtung verantwortungsvoller Nutzung und Sicherheit.