KI-Phishing – Wenn selbst Profis gefälschte E-Mails nicht mehr erkennen können

Du kennst die alten Regeln zur Erkennung von Fake-Mails: Rechtschreibfehler, holprige Anrede, eine seltsame Absenderadresse, ein Link, der irgendwohin führt und natürlich die ausländische IBAN. Wer aufmerksam war, hat Phishing-Mails jahrelang zuverlässig erkannt. Doch genau diese Regeln funktionieren heutzutage nicht mehr. Denn die Angreifer schreiben ihre Nachrichten heute nicht mehr selbst, sie lassen sie meistens von der künstlichen Intelligenz schreiben. Diese Mails kommen fehlerfrei, im richtigen Ton und mit genau den Details bei dir an, die zu deinem Unternehmen passen.

Dieses Vorgehen der Cyberkriminellen nennt man KI-Phishing. Das sind Cyberangriffe, bei denen generative KI und Deepfake-Technologie eingesetzt werden, um Menschen zu täuschen. Sie sind so gut geworden, dass selbst geschulte Mitarbeiter und erfahrene Führungskräfte darauf hereinfallen. In diesem Artikel erfährst du, was KI-Phishing so gefährlich macht, wie ein solcher Angriff heute abläuft, woran du ihn trotzdem erkennst und wie du dein Unternehmen im Rhein-Main-Gebiet konkret schützt.

Warum KI-Phishing eine vollkommen neue Qualität hat

Phishing gibt es seit den Anfängen des Internets. Neu ist nicht die Masche, sondern die Perfektion, mit der sie ausgeführt wird. Früher war Phishing ein Massengeschäft mit Millionen identischer Mails, schlecht übersetzt, mit der Hoffnung, dass ein kleiner Prozentsatz ahnungsloser Nutzer anbeißt. Die schlechte Qualität war dein bester Schutz. Eine Mail, die dich mit „Sehr geehrter Kunde“ anschrieb und vor Fehlern strotzte, war leicht als Betrug zu entlarven.

Generative KI hat diese Logik jedoch nachhaltig auf den Kopf gestellt. Ein Angreifer erzeugt heute in Sekunden eine grammatikalisch perfekte, überzeugend formulierte Nachricht, natürlich auf Deutsch, im Tonfall deiner Branche und passend zum Anlass. Er kann öffentlich verfügbare Informationen über dein Unternehmen aus dem Impressum, von LinkedIn oder aus Pressemitteilungen automatisiert einsammeln und in die Nachricht einarbeiten. Aus dem anonymen Massenversand wird so ein gezieltes, personalisiertes „Spear-Phishing“, aber zu den Kosten und mit der Geschwindigkeit des Massenversands.

Was sich technisch verändert hat

Drei technische Entwicklungen treiben KI-Phishing an:

1. Sprachmodelle: Sie produzieren fehlerfreie, kontextbezogene Texte in jeder Sprache und imitieren auf Wunsch den Schreibstil einer bestimmten Person, wenn ihnen ein paar Textproben vorliegen.

2. Stimmklone: Aus wenigen Sekunden Audiomaterial, etwa aus einem Video, einem Podcast oder einer Sprachnachricht, lässt sich eine Stimme so überzeugend nachbauen, dass sie am Telefon kaum vom Original zu unterscheiden ist.

3. Video-Deepfakes: Gesichter lassen sich in Echtzeit in Videokonferenzen einblenden, sodass ein Anrufer aussieht und klingt wie dein Geschäftsführer.

Das BSI dokumentiert in seinem Lagebericht 2025 erstmals konkrete Fälle von KI-generierten Phishing-Kampagnen, die durch ihre höhere Qualität deutlich schwerer zu erkennen sind. Die klassischen Warnzeichen verschwinden, und damit auch die Erkennungsmuster, auf die sich Unternehmen jahrelang verlassen haben.

Die Zahlen – KI-Phishing ist längst Alltag

Wie ernst die Lage ist, zeigen die aktuellen Studien. Die Bitkom-Wirtschaftsschutzstudie 2025 beziffert den jährlichen Gesamtschaden durch Cyberangriffe für die deutsche Wirtschaft auf 289,2 Milliarden Euro, den höchsten je gemessenen Wert und rund acht Prozent mehr als im Vorjahr. 87 Prozent der befragten Unternehmen waren von Datendiebstahl, Spionage oder Sabotage betroffen.

Besonders aufschlussreich ist der KI-Bezug. Zwei Drittel der Unternehmen vermuten, dass Angriffe durch den Einsatz künstlicher Intelligenz effektiver geworden sind. 11 Prozent berichteten bereits von Deepfake-Angriffen, 23 Prozent von KI-gestützten „Robo Calls“, also automatisierten Betrugsanrufen. Das ist also alles keine ferne Zukunft mehr, sondern täglich gelebte Realität in deutschen Unternehmen.

Auch das BSI schlägt Alarm. Die IT-Sicherheitslage in Deutschland bleibt laut Lagebericht 2025 weiterhin auf höchst angespanntem Niveau. Im Berichtszeitraum von Juli 2024 bis Juni 2025 wurden durchschnittlich 119 neue Schwachstellen pro Tag bekannt, ein Anstieg von rund 24 Prozent. Weltweit entstehen laut BSI über 800 neue Phishing-Seiten pro Tag, die meist nur wenige Stunden aktiv sind, bevor sie wieder verschwinden, und von Ransomware-Angriffen, die häufig mit einer Phishing-Mail beginnen, sind sogar zu 80 Prozent kleine und mittlere Unternehmen betroffen. Die Vorstellung, zu klein oder zu unbedeutend für einen gezielten Angriff zu sein, ist damit gefährlich falsch.

Ist dein Unternehmen im Fokus von Cyberkriminellen? Finde es heraus! Unsere Experten prüfen in einem kostenlosen Erst-Check mit dir zusammen, wie angreifbar deine E-Mail- und Zahlungsprozesse für KI-Phishing wirklich sind.

Wie ein KI-Phishing-Angriff heute abläuft

Um zu verstehen, warum selbst Profis auf moderne Phishing-Mails hereinfallen, hilft ein typisches Szenario, das sich so oder ähnlich bereits mehrfach abgespielt hat. Ein Mitarbeiter im Finanzbereich wird zu einer Videokonferenz gebeten. Dort sieht und hört er den Finanzvorstand und mehrere Kollegen, es geht um eine dringende, vertrauliche Überweisung. Was er nicht ahnt: Alle Teilnehmer außer ihm selbst sind KI-generierte Deepfakes! Die Gesichter, die Stimmen, der vertraute Umgangston im Raum wirken echt genug, um seine anfängliche Skepsis zu überwinden. Am Ende gibt er die Zahlung frei, oft über mehrere Einzelbeträge und in Millionenhöhe. Solche Vorfälle sind längst dokumentiert und keine Ausnahme mehr.

Dieses Muster ist typisch für moderne Angriffe: Sie kombinieren mehrere Kanäle und setzen auf Autorität und Zeitdruck. Es beginnt oft mit einer harmlos wirkenden Nachricht, gefolgt von einem Anruf oder einer Videokonferenz, die die Echtheit scheinbar bestätigt. Genau diese vermeintliche Bestätigung durch einen zweiten Kanal war früher der beste Schutz. Heute wird sie selbst gefälscht.

Bemerkenswert ist dabei ein bestimmtes Muster. Häufig sind die Betroffenen anfangs durchaus misstrauisch, und erst die vermeintliche Bestätigung durch mehrere scheinbar vertraute Teilnehmer oder eine bekannte Stimme räumt letzte Zweifel aus. Genau darin liegt die Perfidie von KI-Phishing: Es greift nicht die Nachlässigen an, sondern hebelt gezielt die Vorsicht der Aufmerksamen aus. Die Angreifer beschränken sich dabei übrigens schon längst nicht mehr auf einen einzelnen Kanal. Von der klassischen Phishing-Mail über geklonte Stimmen am Telefon bis zur manipulierten Videokonferenz nutzen Cyberkriminelle heute das gesamte Arsenal an Möglichkeiten.

Der Deepfake-Anruf

Die gefährlichste Variante ist der sogenannte CEO-Fraud mit Stimmklon. Ein Mitarbeiter in der Buchhaltung erhält einen Anruf, der klingt wie sein Geschäftsführer. Die Stimme bittet dringend um eine Überweisung für eine vertrauliche Transaktion wie zum Beispiel eine Firmenübernahme, eine Sonderzahlung, eine Angelegenheit, über die noch nicht gesprochen werden darf. Die Kombination aus vertrauter Stimme, Autorität und Dringlichkeit setzt genau die Prüfroutinen außer Kraft, die eigentlich greifen sollten.

Quishing und andere neue Maschen

Neben E-Mail und Anruf verbreiten sich in letzter Zeit immer weitere, neue Kanäle. Beim „Quishing“ verstecken Angreifer den schädlichen Link hinter einem QR-Code, der klassische E-Mail-Filter unterläuft und den Nutzer auf eine täuschend echte Anmeldeseite lockt. Beim „Vishing“, also Voice Phishing, kommt der Angriff per Telefon oder Sprachnachricht. Allen Varianten gemeinsam ist, dass KI die Qualität und die Personalisierung dramatisch erhöht hat. Die Nachricht kennt deinen Namen, deine Position, den Namen deines Vorgesetzten und manchmal sogar Details aus einem echten laufenden Projekt.

Warum die alten Erkennungsregeln versagen

Jahrelang lautete der Rat: Achte auf Rechtschreibfehler, misstraue unpersönlicher Anrede, prüfe die Absenderadresse, klicke nicht auf verdächtige Links. Diese Regeln sind nicht falsch, sie greifen bei KI-Phishing jedoch viel zu kurz. Rechtschreibfehler gibt es keine mehr. Die Anrede ist persönlich und korrekt. Der Ton passt zur Branche und manchmal sogar zum individuellen Schreibstil des angeblichen Absenders.

Der entscheidende Punkt ist, dass KI-Phishing nicht mehr auf technische Erkennungsmerkmale, sondern auf menschliche Psychologie zielt. Es nutzt Autorität, Dringlichkeit, Hilfsbereitschaft und Angst eiskalt aus. Eine Untersuchung zeigte, dass ein erheblicher Teil der Testpersonen auf KI-generierte Phishing-Nachrichten hereinfiel, und zwar unabhängig davon, wie technisch versiert sie waren. Ist die Fälschung perfekt, hilft kein noch so geschultes Auge für Details mehr. Was dann noch helfen könnte, sind klar definierte Prozesse.

Hinzu kommt das Problem der Skalierung. Wo ein Angreifer früher jede überzeugende, personalisierte Nachricht mühsam von Hand verfassen musste, erledigt das heute ein Sprachmodell in Sekunden, tausendfach, für tausend unterschiedliche Empfänger, jeweils individuell zugeschnitten. Der Aufwand für einen gezielten Angriff ist praktisch auf null gesunken. Das erklärt wiederum, warum auch kleine und mittlere Unternehmen, die früher unter dem Radar der Cyberkriminellen blieben, heute lohnende Ziele sind. Der Schutz durch Unauffälligkeit existiert praktisch nicht mehr.

Woran du KI-Phishing trotzdem erkennst

Auch wenn die Sprache perfekt ist, bleiben Warnzeichen, auf die du und dein Team achten könnt. Sie liegen nicht mehr in der Form, sondern im Inhalt und im Ablauf.

Das stärkste Warnsignal ist eine ungewöhnliche Bitte in Kombination mit Zeitdruck und Geheimhaltung. Wenn eine Nachricht dich drängt, schnell zu handeln, niemanden einzuweihen und von den üblichen Abläufen abzuweichen, sollten alle Alarmglocken läuten, egal, wie echt der Absender wirkt. Seriöse Vorgesetzte umgehen keine internen Prozesse und verlangen keine geheimen Sofortüberweisungen.

Ein zweites Signal ist der Wechsel des Kommunikationskanals: Eine Anfrage, die plötzlich über einen ungewöhnlichen Weg kommt, etwa per WhatsApp statt über die Firmen-E-Mail, verdient besondere Vorsicht.

Ein drittes Signal sind Änderungen an sensiblen Daten, etwa die kurzfristige Bitte, eine hinterlegte Bankverbindung eines Lieferanten zu ändern.

Die wichtigste Regel lautet jedoch: Verlasse dich nicht mehr darauf, ob eine Nachricht echt aussieht oder echt klingt. Verlasse dich darauf, ob sie über einen von dir kontrollierten Kanal verifiziert wurde!

So schützt du dein Unternehmen

Gegen KI-Phishing hilft kein einzelnes Werkzeug, sondern nur das Zusammenspiel aus Technik, klaren Abläufen und geschulten Menschen. Das Gute daran: Die meisten dieser Maßnahmen lassen sich mit überschaubarem Aufwand umsetzen, und sie schützen zugleich gegen eine ganze Reihe weiterer Bedrohungen.

Technische Maßnahmen

Auf der technischen Ebene bilden moderne E-Mail-Sicherheitslösungen die erste Verteidigungslinie. KI-gestützte Filter erkennen Anomalien in Absenderverhalten und Nachrichteninhalt, auch wenn die Sprache fehlerfrei ist. Ergänzend sorgen korrekt konfigurierte E-Mail-Authentifizierungsverfahren wie SPF, DKIM und DMARC dafür, dass gefälschte Absenderadressen deiner eigenen Domain gar nicht erst durchkommen.

Multi-Faktor-Authentifizierung ist in einer modernen Geschäftswelt ebenfalls unverzichtbar! Selbst wenn ein Mitarbeiter seine Zugangsdaten auf einer gefälschten Seite eingibt, kann der Angreifer ohne den zweiten Faktor nichts damit anfangen.

Organisatorische Maßnahmen

Weil KI-Phishing die menschliche Prüfung angreift, sind klare Prozesse der wirksamste Schutz. Drei Prinzipien haben sich dabei stets bewährt:

• Das Vier-Augen-Prinzip: Zahlungen ab einer bestimmten Höhe und Änderungen an Bankverbindungen müssen von einer zweiten Person freigegeben werden.
• Out-of-Band-Verifikation: Sie ist eine Rückrufverifizierung über einen bekannten Kanal. Bei jeder ungewöhnlichen Zahlungsanweisung ruft der Mitarbeiter den angeblichen Auftraggeber unter der ihm bekannten, hinterlegten Nummer zurück, niemals unter einer Nummer aus der verdächtigen Nachricht selbst.
• Ein internes Codewort für sensible Anfragen: Ein vorab vereinbartes Kennwort, das bei kritischen telefonischen Anweisungen abgefragt wird, entlarvt einen Deepfake-Anruf sofort, weil die KI es nicht kennt.

Der Faktor Mensch

Technik und Prozesse wirken nur, wenn dein Team sie kennt und lebt. Regelmäßige Schulungen und realistische Phishing-Simulationen sind deshalb keine lästige Pflicht, sondern die vielleicht wichtigste Investition in die Sicherheit deines Unternehmens.

Entscheidend ist dabei ein echter Kulturwandel. Mitarbeiter müssen wissen, dass es niemals negative Konsequenzen hat, eine verdächtige Anweisung zu hinterfragen, selbst wenn sie scheinbar vom Chef kommt. Ein Unternehmen, in dem Nachfragen selbstverständlich ist, ist gegen KI-Phishing deutlich besser gewappnet als eines, in dem niemand die Autorität eines vermeintlichen Vorgesetzten infrage zu stellen wagt.

Von MFA über die sichere E-Mail-Konfiguration bis zu klaren Freigabeprozessen: riomar richtet die passenden Schutzmaßnahmen für dein Unternehmen ein und schult dein Team.

Mit unseren Maßnahmen sparst du im Ernstfall bis zu 80 % möglicher Schäden. Jetzt Beratungstermin vereinbarenmen, wie angreifbar deine E-Mail- und Zahlungsprozesse für KI-Phishing wirklich sind. Jetzt Erst-Check vereinbaren

Drei Schritte, die du jetzt gehen solltest

1. Prüfe deine Zahlungs- und Freigabeprozesse. Gibt es ein verbindliches Vier-Augen-Prinzip für Überweisungen und für Änderungen an Bankdaten? Ist eine Rückrufverifizierung über bekannte Nummern vorgeschrieben? Ist das nicht der Fall, ist das die dringlichste Baustelle.
2. Bring deine technische Basis auf den aktuellen Stand. Sind MFA, moderne E-Mail-Sicherheit und die Authentifizierungsverfahren für deine Domain vollständig und korrekt eingerichtet? Eine Lücke hier macht alle organisatorischen Maßnahmen angreifbar.
3. Schule dein Team, und zwar mit Beispielen, die zur neuen Bedrohungslage passen. Klassische Phishing-Schulungen, die nur auf Rechtschreibfehler hinweisen, gehen an der Realität von KI-Phishing vorbei. Dein Team muss lernen, Prozesse statt Sprachgefühl als Prüfmaßstab zu nutzen.

Die Experten von riomar begleiten dich bei allen drei Schritten: von der Analyse deiner Prozesse und deiner technischen Infrastruktur über die Einrichtung der passenden Schutzmaßnahmen bis zur Schulung deines Teams.

Vertrauen braucht Verifizierung, nicht Bauchgefühl

KI-Phishing hat die Art und Weise, wie wir mit gefährlichen Mails umgehen sollten, nachhaltig verändert. Die Zeit, in der ein aufmerksamer Blick eine Betrugsmail zuverlässig entlarvte, ist leider vorbei. Wenn Sprache, Stimme und sogar das Gesicht perfekt gefälscht werden können, taugt der erste Eindruck nicht mehr als Prüfinstrument. Was bleibt, ist ein einfaches Prinzip. Vertraue keiner ungewöhnlichen Anweisung, nur weil sie echt aussieht oder echt klingt. Vertraue ihr erst, wenn du sie über einen von dir kontrollierten Kanal verifiziert hast.

Aber es gibt auch gute Nachrichten zu verkünden! Wer Technik, klare Prozesse und geschulte Mitarbeiter kombiniert, ist gegen KI-Phishing gut aufgestellt. Diese Maßnahmen sind umsetzbar, bezahlbar und schützen zugleich gegen viele weitere Angriffsformen. Der Schlüssel liegt nicht darin, die perfekte Fälschung zu entlarven, sondern darin, sie durch einen zweiten Kanal ins Leere laufen zu lassen.

Warum regionale Nähe bei IT-Sicherheit zählt

Gerade im Rhein-Main-Gebiet, wo Unternehmen aus Finanzdienstleistungen, Logistik, produzierendem Gewerbe und öffentlicher Verwaltung besonders im Fokus von Cyberkriminellen stehen, ist ein regionaler IT-Partner mit tiefem Branchenverständnis ein klarer Vorteil.

Die Experten bei riomar kennen die spezifischen Anforderungen von Unternehmen in Wiesbaden, Frankfurt am Main und Rüsselsheim und wissen, welche Schutzmaßnahmen zu welchem Unternehmensprofil passen. Ob du deine E-Mail-Sicherheit prüfen, deine Zahlungsprozesse absichern oder dein Team für die neue Bedrohung durch KI-Phishing sensibilisieren möchtest, riomar begleitet dich von der ersten Analyse bis zur finalen Umsetzung. Das Ziel ist dabei immer, dass die perfekte Täuschung bei dir ins Leere läuft, bevor ein echter Schaden entsteht.

Du hast ein Unternehmen mit Sitz in Wiesbaden, Frankfurt am Main oder Rüsselsheim? Als professionelles IT-Systemhaus aus der Region ist riomar schnell bei dir vor Ort. Lerne unser Team jetzt ganz unverbindlich kennen!

Häufige Fragen zum Thema KI-Phishing

Quellenverzeichnis

1 BSI – Bundesamt für Sicherheit in der Informationstechnik, Die Lage der IT-Sicherheit in Deutschland 2025. Primärquelle: bsi.bund.de

2 Bitkom e.V., Studie Wirtschaftsschutz 2025. Primärquelle: bitkom.org