KI hilft auch den Kriminellen

Aktuell veröffentlichte das Bundesamt für Sicherheit in der Informationstechnik (BSI) seinen Jahresrückblick 2023. Im Fokus des Berichts stehen dabei das Bedrohungspotenzial von KI-Programmen und die bekannt gewordenen Sicherheitsvorfälle im letzten Jahr.

So zählten Datenleaks bei Unternehmen und öffentlichen Einrichtungen sowie Phishing-Angriffe auf Verbraucher zu den häufigsten Bedrohungen, wie es in dem Bericht aus Bonn heißt. Unter Phishing versteht man den Versuch, über gefälschte E-Mails, SMS, Webseiten usw. als vertrauenswerter Kommunikationspartner zu erscheinen.

Über diesen Weg versuchen die elektronischen Gauner an persönliche Daten (z. B. Passworte) zu gelangen, um mit ihnen kriminellen Missbrauch zu treiben. Ebenso standen die Entwicklungen bei der sogenannten Künstlichen Intelligenz (KI) unter der BSI-Beobachtung.

KI-gestützte Anwendungsfelder zählen zu den im Jahr 2023 meist debattierten digitalen Themen. Insbesondere breit verfügbare Anwendungen auf Basis generativer KI und großer Sprachmodelle, wie Spracherkennungssysteme sowie textbasierte Audio-, Bild- und Videogeneratoren, prägten die Diskussion maßgeblich.

96 % der Befragten aus z. B. der Umfrage „CyMon – Der Cybersicherheitsmonitor“ haben bereits von KI gehört, 60 % glauben genau zu wissen, was mit KI gemeint ist. Weniger bekannt seien, so das BSI, KI-gestützte Betrugsmaschen und die Risiken von Angriffen auf KI-Anwendungen. Die gestiegene Verfügbarkeit und die einfache Anwendung derartiger Programme, mache es auch Kriminellen ohne oder mit nur geringem technischem Know-how einfach, sie in ihrem Sinn zu nutzen. Mittels KI lassen sich z. B. täuschend echte Phishing-Mails generieren oder Stimmen nachahmen, wie dem BSI-Bericht zu entnehmen ist.

Laut der erwähnten Umfrage kennen 52 % der Befragten sogenannte „Schockanrufe“ bzw. „Enkeltricks“ mit KI-generierten Stimmen als Betrugsmasche. 48 % sind manipuliertes Video- und Bildmaterial bekannt, weitere 46 % kennen auch die Nutzung von Social-Media-Profildaten für Betrugsversuche. 36 % gaben zudem an, dass Phishing-Nachrichten auch von KI-Sprachmodulen umgesetzt werden können. Nur 14 % der Befragten wussten allerdings, dass „Angreifende KI-Anwendungen mitunter manipulieren, also die eingebauten Regeln der KI umgehen können“.

Digitale Phishing-Mails in Schriftform haben zudem an professioneller Qualität hinzugewonnen, auch mit Hilfe der KI. Unpersönliche Anrede, Schreib- und Grammatikfehler usw. gehören zunehmend der Vergangenheit an. Auch bei gut formuliertem Text sollte man wachsam sein, warnt das BSI. Die Bonner Sicherheitsexperten empfehlen bei Mails mit dringendem Handlungsbedarf und Sanktionen (Androhung von Datenverlust, Kontosperrung) Vorsicht.

Ähnliches gilt für die Aufforderung von Freigabe von vertraulichen Daten, wie der PIN oder an die Mail angehängte Links und Formulare. Ebenfalls erhöhte Aufmerksamkeit sollte an den Tag gelegt werden, wenn die Mail zwar von einer bekannten Person oder Organisation zu stammen scheint, aber das formulierte Anliegen des vermeintlichen Absenders einem ungewöhnlich vorkommt. Auch hierbei könnte es sich um eine Phishing-Mail handeln (https://www.bsi.bund.de/ SharedDocs/Downloads/ DE/BSI/Publikationen/ DVS-Berichte/dvs-jahres rueckblick_2023.pdf?__ blob=publicationFile&v=4.

Bildquelle: KI-generiert/leonado.ai