Das solltest du über «Schatten-KI» und weitere aktuelle Cyber-Gefahren wissen
Das grösste Schweizer Telekom-Unternehmen hat am Dienstag seinen alljährlichen Bericht zur IT-Sicherheit und Cyber-Bedrohungslage veröffentlicht.
Der «Cybersecurity Threat Radar 2025» der Swisscom soll Entscheidungsträgern in Wirtschaft und Politik helfen, sich einen Überblick zu aktuellen und dringlichen Herausforderungen zu verschaffen.
watson fasst die aus User-Sicht wichtigsten Erkenntnisse zusammen. Spoiler: Wir müssen über ein von ChatGPT ausgelöstes Problem reden, das wahrscheinlich noch viele Angestellte und Chefs unterschätzen.
Bist du Teil des Problems?
Die nicht genehmigte Verwendung von KI-Tools im beruflichen Umfeld wird als «Shadow AI» bezeichnet, oder auf Deutsch «Schatten-KI». Und wir reden hier von mehr als dem gelegentlichen Anwerfen von ChatGPT, um sich einen komplizierten Sachverhalt erklären zu lassen.
Mögliche Erscheinungsformen der Schatten-KI:
- KI-Chatbots werden «oft ohne Genehmigung zur Bearbeitung von Kundenanfragen eingesetzt». Dies kann zu ungenauen und fehlerhaften Antworten führen.
- Wenn Angestellte zur Analyse von eigenen Unternehmensdaten externe Plattformen mit Machine-Learning-Modellen nutzen, kann dies wertvolle und vertrauliche Informationen gefährden.
- Marketing-Automatisierungstools steigern zwar die Produktivität, «können aber Compliance-Regeln verletzen und das Kundenvertrauen schädigen».
- Auch KI-Funktionalität in eigener Software kann Probleme verursachen: Etwa wenn nach dem Updaten einer bestehenden Anwendung eine zusätzliche KI-Funktion ohne entsprechende Prüfung aktiviert wird und daraufhin ungewollt Daten preisgibt.
Im Swisscom-Bericht wird eine Studie der Marktforschungsfirma Gartner erwähnt, wonach über 50 Prozent der befragten Angestellten während ihrer Arbeit KI-Tools oder Machine-Learning-Anwendungen nutzen, von denen die IT-Abteilung keine Kenntnis hat. Tatsächlich dürfte die Dunkelziffer – insbesondere bei Wissensarbeiterinnen und Wissensarbeitern – grösser sein.
Was harmlos erscheinen mag, birgt erhebliche Risiken, wie aus dem Swisscom-Bericht hervorgeht. Denn jede User-Anweisung an eine KI («Prompt» genannt), jeder Datei-Upload und jede Informationsabfrage stellt eine potenzielle Sicherheitslücke dar.
Was macht Schatten-KI so gefährlich?
Die Problematik von Schatten-IT besteht seit Jahren und umfasst unter anderem die illegale Nutzung von urheberrechtlich geschützter Software. Doch Schatten-KI ist viel riskanter.
KI-Fachleute sprechen vom Blackbox-Problem und meinen damit die mangelnde Transparenz seitens der Anbieter. Kommerzielle KI-Tools wie ChatGPT des Marktführers OpenAI, Claude (Anthropic) oder Le Chat (Mistral AI), aber auch frei verfügbare Open-Source-Sprachmodelle wie Llama (Meta) oder DeepSeek sind einfach zu bedienen, aber zu mächtig und undurchsichtig.
Der nicht autorisierte KI-Einsatz kann laut Swisscom unter Umständen zu schwerwiegenden Vorfällen führen oder gar existenzbedrohende Folgen haben – für die fehlbaren Angestellten und betroffenen Unternehmen:
- Zu den wahrscheinlichen Szenarien zählen Datenschutzverletzungen und Sicherheitsrisiken. Während einige KI-Sprachmodelle lokal ausgeführt werden, also auf Servern des eigenen Unternehmens laufen, verlassen sich derzeit noch viele Organisationen auf Cloud-basierte KI-Dienste von Drittfirmen.
- Beim Bekanntwerden von Missbrauch droht ein immenser Reputationsschaden. Der nicht autorisierte KI-Einsatz in einem Unternehmen könnte aber auch juristische Folgen haben. Etwa dann, wenn die eigene Personalabteilung (HR) eingehende Job-Bewerbungen durch eine KI prüfen und bewerten lässt. Die in grossen KI-Sprachmodellen enthaltenen Vorurteile könnten zu einer ungewollten Diskriminierung führen.
- Der Swisscom-Bericht erwähnt Compliance-Verstösse, insbesondere im Bereich Daten- und Geheimhaltungsschutz oder auch im Hinblick auf den EU AI Act (sofern für Unternehmen in der Schweiz anwendbar). Bei Nichteinhaltung der EU-Gesetzgebung drohe – je nach Verstoss – eine Strafe bis zu 30 Millionen Euro oder 6 Prozent des weltweiten Jahres-Umsatzes.
- Der ungewollte KI-Einsatz komme Unternehmen aber auch sonst teuer zu stehen: etwa durch doppelte Ausgaben und inkonsistente Prozesse.
Wie weiter?
Abschliessend ist festzuhalten, dass Schatten-KI nicht auf böse Absicht zurückzuführen ist. Sie entsteht dort, wo Leute einen Weg zur Lösung von Problemen sehen. Der versteckte KI-Einsatz gefährdet allerdings die Sicherheit, verletzt Gesetze und Vorschriften und kann zu ungenauen oder verzerrten Ergebnissen führen.
Schatten-KI wird jedoch nicht mehr verschwinden, dafür ist der (kurzfristige) praktische Nutzen zu gross.
Im Swisscom-Bericht heisst es:
Durch regelmässige Audits und Schulungen können potenzielle Risiken frühzeitig erkannt und behoben werden. Nur so kann die Schatten-KI in ein kontrolliertes und sicheres KI-Ökosystem integriert werden.»
Neben der Sensibilisierung für die grundlegenden KI-Probleme sowie technischen Sicherheitslösungen, um Datenabflüsse zu bekämpfen, sollten den Berufstätigen sichere KI-Tools zur Verfügung gestellt werden.
Was gilt es sonst noch im Auge zu behalten?
Viel mehr DDoS-Attacken
Die Zahl der Server-Überlastungsangriffe, Distributed Denial of Service (DDoS) genannt, hat sich in der Schweiz von 2023 auf 2024 verdoppelt, wie aus dem Swisscom-Bericht hervorgeht. Im Durchschnitt wurden täglich 293 DDoS-Attacken registriert. Dies sei auch dem Umstand geschuldet, dass solche Attacken «vermehrt gegen eine geringe Gebühr als Dienstleistung auf kriminellen Marktplätzen im Darknet angeboten werden».
Hinzu komme, dass es für Cyberkriminelle dank des Siegeszugs der generativen künstlichen Intelligenz immer einfacher werde, ihre DDoS-Attacken gefährlicher und wirkungsvoller zu gestalten.
IT wird immer komplizierter
Die Komplexität der IT-Systeme, insbesondere über Technologie- und Unternehmensgrenzen hinweg, nimmt gemäss Swisscom laufend zu. Gerade im Hybrid-/Multi-Cloud-Umfeld mit vielen Cloud-Anbietern würden IT-Landschaften komplexer. «Dadurch steigt die Risikoexposition und die Fehlersuche wird erschwert.»
Der Druck auf die Cybersicherheits-Fachleute wächst
In der Branche hält der Fachkräftemangel an, wie die Swisscom schreibt. Das Fehlen gut ausgebildeter Mitarbeiter könne die Abwehrfähigkeit gegenüber Cyberbedrohungen erheblich schwächen und sowohl für Unternehmen als auch deren interne Spezialisten zu einer Belastung werden. Dazu heisst es im Bericht:
Cybersecurity-Profis sind – wie andere Arbeitnehmerinnen und Arbeitnehmer – auf geordnete Verhältnisse angewiesen, der ewige Krisenmodus schadet.
Weitere Trends im Bereich der Cybersicherheit sowie Detailinformationen und Einschätzungen findest du im unten verlinkten «Cybersecurity Threat Radar 2025».
Quellen
- swisscom.ch: Threat Radar 2025 (Medienmitteilung und 44-seitiger Bericht)
