Studie: Malware kann ChatGPT als Komplize für eigene Optimierung und Verbreitung nutzen

f-computervirus-illustration

Die Cybersicherheit steht vor neuen Herausforderungen: Forscher haben gezeigt, wie Computerviren Large Language Models (LLMs) wie ChatGPT nutzen können, um sich selbst zu tarnen und zu verbreiten. Diese Entwicklung könnte die Art und Weise, wie wir Malware bekämpfen, grundlegend verändern.

TL;DR – die wichtigsten Infos

  • Forscher demonstrieren, wie Malware ChatGPT zur Selbst-Modifikation nutzen kann
  • Viren können ihren Code umschreiben, um Antivirenprogramme zu umgehen
  • KI-generierte, kontextbezogene E-Mails dienen zur Verbreitung der Malware
  • Erfolgsquote liegt bei etwa 50%, mehrere Versuche erhöhen die Chancen
  • Experten sehen Handlungsbedarf, aber auch Potenzial für KI in der Cyberabwehr
Computerviren, die sich über ChatGPT verändern und über immer besser formulierte Mails verbreiten – ein kleiner Alptraum für die Forscher (Bild: Midjourney KI).
Computerviren, die sich über ChatGPT verändern und über immer besser formulierte Mails verbreiten – ein kleiner Alptraum für die Forscher (Bild: Midjourney KI).


Laut einer kürzlich veröffentlichten Studie (Zollikofer/Zimmerman) haben Forscher der ETH Zürich und der Ohio State University eine beunruhigende Entdeckung gemacht: Computerviren können ChatGPT nutzen, um ihren eigenen Code umzuschreiben und sich durch täuschend echte E-Mails zu verbreiten.

ChatGPT als Werkzeug für “Metamorphische Malware”

Die Forscher David Zollikofer und Benjamin Zimmerman haben ein Szenario entwickelt, in dem ein Virus nach der ersten Infektion über einen E-Mail-Anhang Zugriff auf ChatGPT erhält. Das Besondere: Die Malware nutzt die KI, um ihren eigenen Code neu zu schreiben und so Antivirenprogramme zu umgehen.

“Wir bitten ChatGPT, die Datei umzuschreiben, wobei die semantische Struktur erhalten bleibt, aber die Benennung von Variablen und die Logik leicht verändert werden”, erklärt Zollikofer. Diese Anpassung ermöglicht es dem veränderten Virus, routinemäßige Antivirenscans zu umgehen, sobald das ursprüngliche Format identifiziert wurde.

Oben der "alte" Weg, wie sich Malware verbreitet. Und unten die zwei neuen Methoden, die die Forscher in der Praxis demonstrieren konnten (Grafik aus der Studie).
Oben der “alte” Weg, wie sich Malware verbreitet. Und unten die zwei neuen Methoden, die die Forscher in der Praxis demonstrieren konnten (Grafik aus der Studie).

Kontextbezogene E-Mails als Verbreitungsweg

Nach der Umschreibung geht die Malware noch einen Schritt weiter: Sie öffnet im Hintergrund Outlook, analysiert die jüngsten E-Mail-Ketten und lässt ChatGPT eine kontextbezogene Antwort verfassen. Diese E-Mail enthält dann einen unauffälligen Verweis auf einen Anhang – den getarnten Virus.

Ein Beispiel verdeutlicht die Raffinesse: Findet das Programm eine Geburtstagseinladung in euren E-Mails, könnte es eine Antwort generieren, die die Einladung annimmt und den Anhang als passende Playlist für die Party beschreibt. “Es ist nichts, was aus heiterem Himmel kommt”, betont Zollikofer. “Der Inhalt ist so gestaltet, dass er zum bestehenden Kontext passt.”

Hier von den Forschern noch ein Video zur Studie:

Erfolgsquote und ethische Bedenken

In den Experimenten lag die Erfolgsquote bei etwa 50 Prozent. In manchen Fällen verweigerte ChatGPT sogar die Mitarbeit, wenn es den bösartigen Zweck erkannte. Die Forscher gehen jedoch davon aus, dass bei 5 bis 10 Versuchen pro infiziertem Computer die Chancen auf eine erfolgreiche Verbreitung gut stehen.

Alan Woodward von der University of Surrey äußert sich auf ScienceHub besorgt: “Wir wissen bereits von verschiedenen Möglichkeiten, wie LLMs missbraucht werden können, aber der beängstigende Teil ist, dass die Techniken verbessert werden können, indem man die Technologie selbst um Hilfe bittet.”

KI als Lösung und Problem zugleich?

Interessanterweise sehen die Experten in der KI-Technologie nicht nur eine Bedrohung, sondern auch eine mögliche Lösung. Woodward betont: “Ich denke, ein Forschungsbereich, der sich schnell entwickeln muss, ist der, wie man diese Art von Missbrauch bekämpfen kann. Paradoxerweise könnten LLMs uns dabei helfen.”

Zollikofer stimmt zu, dass KI sowohl schaden als auch nützen kann: “Es ist eine Art Balance. Die Angreiferseite hat im Moment einige Vorteile, weil es dazu mehr Forschung gab. Aber ich denke, dasselbe kann man über die Verteidigungsseite sagen: Wenn man diese Technologien in die Verteidigung einbaut, kann man die Abwehrseite verbessern.”

Ich bin mir relativ sicher, dass die Entwicklung von Viren und Malware durch KI sicher beschleunigt und ausgefeilter wird. Gleichzeitig ist das größte Einfallstor für Schadsoftware (zumindest am Mac) der Mensch, der davor sitzt. macOS ist ziemlich gut abgesichert und ohne Admin-Rechte kommt Malware nicht weit, aber wenn der Benutzer durch “Social Engineering” dazu gebracht wird, das Admin-Passwort einzugeben, wenn sich der Virus installieren möchte, dann hat selbst ein sehr gut abgesichertes Betriebssystem keine Chance.

Fragen zum Thema (FAQ)

Wie genau nutzt die Malware ChatGPT zur Selbstoptimierung?

Die Malware verwendet ChatGPT, um ihren eigenen Code umzuschreiben. Dabei bleibt die grundlegende Funktionalität erhalten, aber Variablennamen und Logik werden leicht verändert. Dies erschwert es Antivirenprogrammen, die Malware zu erkennen, da diese oft mit “Footprints” arbeiten, die sich bei den veränderten Viren nicht mehr finden würden.

Können auch Apple-Geräte von dieser Art von Malware betroffen sein?

Theoretisch ja. Obwohl macOS und iOS als relativ sicher gelten, zeigt diese Forschung, dass fortschrittliche KI-gestützte Angriffe auch für Apple-Geräte eine potenzielle Bedrohung darstellen könnten. Die Gefahr ist hier jedoch eher, dass der Nutzer, die Software nicht als Malware erkennt und willentlich installiert.

Wie hoch ist die Erfolgsquote dieser KI-gestützten Malware?

In den Experimenten lag die Erfolgsquote bei etwa 50%. Die Forscher gehen davon aus, dass bei 5 bis 10 Versuchen pro infiziertem Computer die Chancen auf eine erfolgreiche Verbreitung gut stehen.

Gibt es Möglichkeiten, sich vor dieser Art von Malware zu schützen?

Klassische Schutzmaßnahmen wie Vorsicht bei E-Mail-Anhängen und regelmäßige Software-Updates bleiben wichtig. Gesunder Menschenverstand ist aus meiner Sicht immernoch die beste Antivirus-Maßnahme. Experten arbeiten zudem an KI-gestützten Abwehrmechanismen, die solche fortschrittlichen Angriffe erkennen können.

Könnte KI auch zur Bekämpfung dieser Malware eingesetzt werden?

Ja, Experten sehen in KI nicht nur eine Bedrohung, sondern auch eine mögliche Lösung. KI könnte in Zukunft zur Verbesserung von Antivirenprogrammen und zur Entwicklung fortschrittlicher Abwehrmechanismen eingesetzt werden.

Meine Tipps & Tricks rund um Technik & Apple

Hat dir der Artikel gefallen und helfen dir die Anleitungen im Blog? Dann würde ich mich freuen, wenn du das Blog über eine Steady-Mitgliedschaft unterstützen würdest.

Kommentar verfassen

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Im Sir Apfelot Blog findest du Ratgeber, Anleitungen und Testberichte zu Apple Produkten wie iPhone, iPad, Apple Watch, AirPods, iMac, Mac Pro, Mac Mini und Mac Studio.

Specials
Shopping
  •  
  •