Deepfakes und KI-Betrug: So schützen Betriebe Geld, Postfach und Ruf

Was sich geändert hat

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt Deepfakes als Fotos, Videos und Tonaufnahmen, die mit künstlicher Intelligenz so gut gefälscht werden, dass sie von echten Aufnahmen kaum zu unterscheiden sind. Stimmen lassen sich aus Text erzeugen oder in Echtzeit umwandeln. Das BSI nennt ausdrücklich den Fall, dass sich Kriminelle als Vorgesetzte ausgeben und Mitarbeitende zu schädlichen Handlungen bringen.

Für einen Betrieb geht es dabei selten um Politik oder Promis. Es geht um drei ganz praktische Einfallstore: Zahlungen, das Postfach und den Ruf im Netz.

Einfallstor 1: Der Anruf vom Chef

Der bekannteste Fall betraf 2024 das Ingenieurbüro Arup. Ein Mitarbeiter in Hongkong nahm an einer Videokonferenz mit dem vermeintlichen Finanzchef und weiteren Kollegen teil. Alle anderen Teilnehmer waren Fälschungen. Er überwies in 15 Buchungen rund 200 Millionen Hongkong-Dollar, etwa 25 Millionen US-Dollar. Arup hat den Vorfall bestätigt.

Kleine Betriebe trifft dieselbe Masche in kleinerem Maßstab: eine Sprachnachricht vom „Chef“ von der Baustelle, eine dringende Anzahlung, eine geänderte Bankverbindung eines Lieferanten. Der Trick ist fast immer derselbe: Zeitdruck, Ausnahme vom üblichen Weg, Bitte um Verschwiegenheit.

Die wichtigste Regel: Ungewöhnliche Zahlungen und geänderte Bankdaten werden nur nach einem Rückruf über eine Nummer bestätigt, die schon vorher bekannt war. Nie über die Nummer oder Adresse aus der Nachricht selbst.

Dazu passen ein Vier-Augen-Prinzip ab einem festen Betrag und ein Codewort, das nur das Team kennt. Beides kostet nichts und hält auch dann, wenn die Fälschung perfekt ist.

Einfallstor 2: Die perfekte Mail

Früher verrieten sich Phishing-Mails oft durch holpriges Deutsch. Mit KI-Werkzeugen schreiben Betrüger fehlerfreie, persönliche Mails im Ton eines echten Geschäftspartners. Besonders teuer sind gefälschte Rechnungen, die echt aussehen und nur eine andere Bankverbindung enthalten.

Hilfreich sind wenige, feste Gewohnheiten: Absenderadresse genau ansehen, statt nur auf den angezeigten Namen zu achten. Links in Mails zu Kundenkonten oder Banken nicht anklicken, sondern die Seite selbst aufrufen. Das Postfach mit Zwei-Faktor-Anmeldung schützen.

Für Ihre eigene Domain lohnt ein Blick auf drei Einträge mit sperrigen Namen: SPF, DKIM und DMARC. Sie legen fest, welche Server in Ihrem Namen Mails verschicken dürfen. Richtig eingerichtet, erschweren sie es Betrügern, Ihren Kunden Mails mit Ihrer Absenderadresse zu schicken. Ihr IT-Dienstleister oder E-Mail-Anbieter kann das meist in einer Stunde prüfen.

Einfallstor 3: Bewertungen und Ruf

Gefälschte Bewertungen lassen sich mit KI in Massen schreiben, positiv wie negativ. Das trifft Betriebe doppelt: Erfundene Kritik schadet dem eigenen Profil, und gekaufte Lobeshymnen bei anderen verzerren den Wettbewerb.

Die Rechtslage ist klar. Gefälschte Bewertungen zu schreiben, zu beauftragen oder Bewertungen verfälscht darzustellen, ist gegenüber Verbrauchern immer unzulässig (Anhang Nr. 23c UWG). Wer Bewertungen auf der eigenen Website zeigt und behauptet, sie stammten von echten Kunden, muss das angemessen prüfen (Anhang Nr. 23b UWG) und angeben, ob und wie geprüft wird (§ 5b Abs. 3 UWG).

Praktisch heißt das: das eigene Google-Unternehmensprofil regelmäßig ansehen, auffällige Bewertungen über die Meldefunktion der Plattform melden, sachlich antworten und zufriedene Kunden aktiv um eine ehrliche Bewertung bitten. Gekaufte Bewertungen bringen vor allem ein Abmahnrisiko.

Was die KI-Verordnung ändert

Seit dem 2. August 2026 gilt Artikel 50 der europäischen KI-Verordnung. Anbieter von Werkzeugen, die Bilder, Videos, Ton oder Text erzeugen, müssen die Ergebnisse maschinenlesbar als künstlich kennzeichnen. Wer beruflich Deepfakes einsetzt, also Inhalte, die echte Personen, Orte oder Ereignisse täuschend echt nachbilden, muss das offenlegen. Und wer einen Chatbot einsetzt, muss erkennbar machen, dass man mit einer KI spricht.

Gegen Betrüger hilft das wenig, denn die halten sich nicht an Kennzeichnungspflichten. Für Ihren eigenen Betrieb ist es trotzdem wichtig: Wenn Sie in der Werbung KI-Bilder oder KI-Videos verwenden, die wie echte Aufnahmen wirken, gehört ein Hinweis dazu. Ein Assistent auf Ihrer Website stellt sich als KI vor, so wie Mara auf dieser Seite.

Checkliste für Ihr Team

1. 1.Ungewöhnliche Zahlungen und neue Bankdaten nur nach Rückruf über eine bekannte Nummer.
2. 2.Vier-Augen-Prinzip ab einem festen Betrag, auch wenn der Chef selbst anruft.
3. 3.Ein Codewort für dringende Anweisungen, das nur das Team kennt.
4. 4.Zeitdruck und die Bitte um Verschwiegenheit sind Warnsignale.
5. 5.Postfächer mit Zwei-Faktor-Anmeldung schützen.
6. 6.SPF, DKIM und DMARC der eigenen Domain prüfen lassen.
7. 7.Bewertungen im Blick behalten und Auffälliges melden.
8. 8.Einmal im Quartal 15 Minuten im Team über aktuelle Maschen sprechen. Das BSI nennt die Schulung der Beteiligten als zentrale Gegenmaßnahme.

Wie wir dabei helfen

Bei CyCure bauen wir KI-Lösungen für Betriebe, und wir bauen sie mit Freigaben: Zahlungen, Angebote und Mails mit Außenwirkung gehen erst raus, wenn ein Mensch aus Ihrem Team zugestimmt hat. Unser Gründer Nicolas Wehmeyer hat viele Jahre Software für Cybersecurity entwickelt. Wenn Sie wissen möchten, wo Ihr Betrieb heute angreifbar ist und wo KI sinnvoll entlasten kann, sprechen wir gern darüber.