Generative KI (GenAI)

Der richtige Einsatz von GenAI kann die Geschäftseffizienz, den Kundendienst und mit Anwendungen im Gesundheitswesen und im Gesundheitsbereich sogar die Lebensqualität verbessern. Viele werden argumentieren, dass die Vorteile von GenAI die Risiken überwiegen, aber diese Risiken sollten berücksichtigt und so weit wie möglich gemindert werden.

Die mit dem Einsatz von generativer KI (GenAI) verbundenen Cybersecurity-Risiken sind vielfältig und ergeben sich sowohl aus den inhärenten Eigenschaften der Technologie als auch aus der Art und Weise, wie sie eingesetzt und genutzt wird. Diese Risiken lassen sich grob in mehrere Schlüsselbereiche einteilen:

• Privatsphäre und Datenschutz: GenAI-Systeme erfordern den Zugriff auf riesige Datenmengen, den die meisten Benutzer nicht steuern können. Einige dieser Daten können sensible oder persönliche Daten enthalten, die auf eine Anfrage hin öffentlich zugänglich gemacht werden könnten. 
• Input und Output: Bedrohungsakteure haben den Request/Prompt-Prozess von GenAI-LLMs genutzt, um bösartige Daten zu injizieren oder Schwachstellen im System auszunutzen. Dies kann zu einer Datenschutzverletzung führen, wenn das System speziell für eine kontrollierte Nutzung entwickelt wurde, z. B. im Gesundheitswesen oder im Finanzwesen. GenAI kann auf Anfragen auch mit einem Output reagieren, der unangemessen und schädlich ist. Diese Ergebnisse können durch Training, Parameter und böswillige Aktionen von Bedrohungsakteuren beeinflusst werden. Die meisten Benutzer wissen nicht, was diesen Output verursacht hat.
• Compliance und rechtliche Risiken: GenAI kann die Einhaltung von Vorschriften zum Datenschutz und zur Privatsphäre erschweren. Beispielsweise stellt die Datenschutz-Grundverordnung der Europäischen Union (DSGVO) strenge Anforderungen an die Verarbeitung personenbezogener Daten, und die Datenverarbeitungspraktiken von GenAI könnten möglicherweise mit diesen Vorschriften in Konflikt geraten.
• Automatisierte Social-Engineering-Angriffe: GenAI ist darauf ausgelegt, menschliche Kommunikationsstile zu imitieren, was es zu einem perfekten Werkzeug für anspruchsvolle Phishing- und Social-Engineering-Kampagnen macht. Böswillige Akteure könnten GenAI nutzen, um die Erstellung äußerst überzeugender Phishing-E-Mails oder -Nachrichten zu automatisieren, wodurch es für Einzelpersonen schwieriger wird, zwischen legitimer und betrügerischer Kommunikation zu unterscheiden. Mehrere LLMs wurden bereits gestohlen und für böswillige Zwecke zweckentfremdet:
  • FraudGPT: Ein abonnementbasiertes bösartiges GenAI-Tool, das Inhalte für Cyberangriffe wie Phishing und Identitätsmissbrauch erstellt. Es funktioniert ähnlich wie ChatGPT von OpenAI, verfügt aber nicht über die integrierten Kontrollen und Einschränkungen, die Missbrauch verhindern.
  • WormGPT: Ein Open-Source-System, das Kriminellen helfen soll, Malware und bösartigen Code zu schreiben, Phishing-Inhalte zu erstellen und Systemschwachstellen zu finden.
  • PoisonGPT: Dieses Tool verbreitet Fehlinformationen online, indem es falsche Details in politische und historische Narrative einfügt, Fake News erstellt und die öffentliche Meinung manipuliert.
  • XXXGPT: Diese Anwendung wurde entwickelt, um Kriminellen bei der Einrichtung von Botnetzen, Malware, Keyloggern, Infostealern, Remote-Access-Trojanern und Cryptostealern zu helfen.

Generative KI birgt auch neue Risiken, wenn sie über eine Anwendungsprogrammierschnittstelle (API) eingesetzt wird. APIs ermöglichen die Integration separater Technologien und sind in vielen der oben beschriebenen Anwendungsfälle erforderliche Komponenten. APIs können ein erhebliches Risiko für das gesamte Unternehmen darstellen. Diese müssen wie jede andere Komponente der digitalen Infrastruktur verwaltet und gesichert werden.