Cyber-Sicherheit in Zeiten von KI:Trends und Prognosen für 2024

Jeder zweite deutsche Nutzer sorgt sich um Einzug von KI ins tägliche Leben. Zu diesem Ergebnis kommen die Recherchen der Kaspersky-Experten für die „Story of the Year“. Dazu haben sie die Auswirkungen von Künstlicher Intelligenz (KI) auf die Cyber-Sicherheitslandschaft analysiert.

Im Fokus der Untersuchungen steht der Einsatz von KI durch Cyber-Kriminelle, aber auch wie man sie im Bereich Cyber-Sicherheit einsetzen kann. Die Analyse ist Teil des Kaspersky Security Bulletin, einer jährlichen Reihe von Vorhersagen und analytischen Reports im Bereich der Cyber-Sicherheit.

Egal, ob Bildbearbeitung oder das Schreiben von Essays – Künstliche Intelligenz hat sich rasend schnell im vergangenen Jahr 2023 entwickelt und verbreitet. Allerdings ist auch die Hälfte (47 Prozent) der Bundesbürger in Deutschland über den Einzug von KI ins alltägliche Leben besorgt.

Eng verknüpft mit KI-gestützten Large Language Models (LLMs) ist die Frage nach Cyber-Sicherheit und Datenschutz. Die Experten von Kaspersky stellen daher ihre Prognosen im Bereich Künstliche Intelligenz für das Jahr 2024 vor.

• Komplexere Schwachstellen: Textbefehlen folgende LLMs werden zunehmend in Verbraucherprodukte integriert. Hierdurch werden neue komplexe Schwachstellen an der Schnittstelle von (probabilistischer) generativer KI und traditionellen (deterministischen) Technologie entstehen. Infolgedessen wird die Angriffsfläche größer. Entwickler müssen daher neue Sicherheitsmaßnahmen schaffen, indem sie beispielsweise Nutzer-Zustimmungen zu von LLM-Agenten eingeleiteten Aktionen fordern.
• Umfassender KI-Assistent für Cyber-Sicherheitsexperten: Red-Team-Mitglieder und Sicherheitsexperten setzen das Potenzial generativer KI zunehmend für innovative Cyber-Sicherheitstools ein. Dies könnte zur Entwicklung von Assistenten führen, die LLM oder Machine Learning (ML) einsetzen, um Red-Team-Aufgaben zu automatisieren.
• Neurale Netzwerke zur Bildgenerierung für Scams: In diesem Jahr könnten Betrüger ihre Taktiken ausweiten, indem sie neurale Netzwerke und KI-Tools nutzen, um überzeugendere Betrugsinhalte zu erstellen.
• KI wird die Cyber-Sicherheitswelt nicht grundlegend verändern: Trotz des KI-Trends erwarten die Kaspersky-Experten keine grundlegende Veränderung der Bedrohungslandschaft in naher Zukunft. Genauso wie Cyber-Kriminelle werden auch IT-Sicherheitsverantwortliche dieselben oder fortschrittlichere generative KI-Tools einsetzen, um die Sicherheit von Software und Netzwerken zu verbessern.
• Mehr Initiativen und Regularien: Synthetische (künstlich erzeugte) Inhalte werden gekennzeichnet werden müssen, so dass weitere Regulierungen und Investitionen in Erkennungstechnologien notwendig sind. Entwickler und Wissenschaftler werden Methoden entwickeln, um synthetische Medien durch Wasserzeichen leichter identifizierbar und rückverfolgbar zu machen.

„Künstliche Intelligenz in der Cyber-Sicherheit ist ein zweischneidiges Schwert. Ihre Anpassungsfähigkeit stärkt zwar die Cyber-Abwehr und bietet einen proaktiven Schutz gegen sich weiterentwickelnde Bedrohungen. Allerdings birgt dieselbe Dynamik auch Risiken, denn Cyber-Kriminelle nutzen sie für raffiniertere Angriffe. Die richtige Balance zu finden, die einen verantwortungsvollen Einsatz gewährleistet, ohne übermäßig sensible Daten weiterzugeben, ist entscheidend, um unseren digitalen Raum zu schützen“, kommentiert Vladislav Tushkanov, Sicherheitsexperte bei Kaspersky.(rhh)

Weitere Informationen zu KI in der Cyber-Sicherheit