Europäisches KI-Gesetz: Was ist wichtig fürs Marketing?
Man kann die künstliche Intelligenz hypen, auf den Mars schießen wollen oder sie sich dort zunutze machen, wo sie das Leben wirklich erleichtert. In jedem Fall geht der Einsatz von KI mit einem mehr oder weniger hohem Risko einher – nicht nur in Bezug auf Qualität. Deshalb hat die EU mit der Verordnung (EU) 2024/1689 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz das sogenannte KI-Gesetz verabschiedet. Wie hoch das Risiko bei KI-Übersetzungen ist? Dazu gibt es eine kleine Anekdote am Ende des Artikels.
Die KI-Verordnung, häufig auch als „AI Act“ bezeichnet, soll „den Schutz von natürlichen Personen, Unternehmen, Demokratie und Rechtsstaatlichkeit sowie der Umwelt erleichtern und gleichzeitig Innovation und Beschäftigung fördern“. Denen, die befürchten, dass Deutschland und die EU durch die KI-Verordnung gegenüber anderen Regionen abgehängt werden könnten, sei gesagt, dass es nicht um undifferenzierte Verbote, sondern um die verantwortungsvolle Anwendung und Weiterentwicklung von KI-Tools geht.
In dem europäischen Rechtsrahmen sind vier Risikostufen für KI-Systeme festgelegt
| Risikoklasse | Beschreibung | Regulierung | Beispiel |
| Inakzeptables Risiko | Verletzung grundlegender Rechte | Verboten | Social Scoring Systeme |
| Hohes Risiko | Potenziell hohes Schadensrisiko | Weitreichende Anforderungen | Kreditwürdigkeitsprüfung, Lebenslauferkennung |
| Begrenztes Risiko | Interaktion mit Personen | Transparenzpflichten | Chatbots |
| Niedriges Risiko | Alle übrigen Systeme | Keine Anforderungen | Vorausschauende Wartung |
Quelle: adaptiert von: https://www.ihk.de/darmstadt/produktmarken/digitalisierung/ai-act-die-eu-reguliert-ki-6261116
Die EU-Verordnung zielt darauf ab, nur KI-Systeme, die ein hohes Risiko für die Allgemeinheit darstellen, strengen Regeln zu unterwerfen oder zu verbieten. Die meisten KI-Systeme fallen nicht in diese Kategorie, und für sie gibt es deshalb keine Vorschriften oder lediglich eine Transparenzpflicht. Die EU-Verordnung ist erst ab dem 2. August 2026 voll gültig, einige Vorschriften sind aber bereits früher anwendbar:
- KI-Systeme mit inakzeptablem Risiko sind schon nach sechs Monaten verboten, das heißt ab Februar 2025.
- Vorschriften zu KI-Modellen mit allgemeinem Verwendungszweck gelten nach 12 Monaten, also ab August 2025.
Was bedeutet das fürs Marketing?
- Transparenz bei KI-generierten Inhalten
- Kennzeichnungspflicht: Ausdrücklich zu kennzeichnen sind ab August 2026 sogenannte „Deepfakes“, also KI-Inhalte in Form von Bild-, Ton- oder Videomaterial, die realen Personen, Gegebenheiten oder Ereignissen merklich ähneln bzw. echt erscheinen.
- KI-Werke, die keine Deepfakes darstellen, müssen nicht zwingend gekennzeichnet werden. Eine Kennzeichnung sollte trotzdem zur „guten Praxis“ gehören, um das Vertrauen von Kund*innen zu stärken.
- Qualitätssicherung
- Alle KI-generierten Inhalte sollten vor der Veröffentlichung von fachkompetenten Personen geprüft werden. Das gilt auch für Übersetzungen.
- Prüfen Sie dabei auch, ob die KI den Kontext Ihres Unternehmens und Ihrer Zielgruppe ausreichend berücksichtigt hat.
- Anpassung an Markenstimme bzw. Corporate Identity
- Bearbeiten Sie die KI-generierten Inhalte, um sicherzustellen, dass Ton und Stil mit Ihrer Markenidentität übereinstimmen
- Erstellen Sie dazu zum Beispiel einen Redaktionsleitfaden bzw. Styleguide, damit alle Redakteur*innen in Ihrem Unternehmen einheitlich arbeiten. Gerne unterstützen wir Sie bei der Erstellung.
- Datenschutz und DGSVO-Konformität
- Die Nutzung von KI, um personenbezogene Daten zu analysieren oder Werbekampagnen zu personalisieren, muss selbstverständlich DSGVO-konform sein. Die Zustimmung der Nutzer*innen muss eingeholt werden und es dürfen keine sensiblen Daten in Drittländer ohne ausreichenden Schutz übermittelt werden.
- Wenn KI genutzt wird, um automatisierte Entscheidungen über Verbraucher*innen zu treffen (z. B. bei dynamischer Preissetzung), haben diese das Recht, darüber informiert zu werden und Einspruch einzulegen.
- Schulungen und Aufklärung
- Entwickeln Sie für Ihre Mitarbeitenden klare Richtlinien zur Verwendung von KI für die Content-Erstellung.
- Schulen Sie Ihre Mitarbeitenden darin, relevante Vorschriften zu verstehen und anzuwenden. Das betrifft im Marketingbereich z. B. Chatbots, Predictive Analytics zur Vorhersage von Trends, KI-basiertes Content Management und maschinelle Übersetzung.
Was ist mit KI-generierten Übersetzungen?
Das KI-Gesetz der EU stuft maschinelle Übersetzungstools nicht generell als Hochrisikosysteme ein. Allerdings können sie in bestimmten Anwendungsfällen als hochriskant gelten, wenn sie erhebliche Auswirkungen auf wichtige Aspekte des Lebens haben. Ob der folgende Fall wohl so eingeschätzt werden kann? Im Mai 2024 wurde in Bayern ein Zug evakuiert und ein Passagier festgenommen, nachdem er vermeintlich eine Bombendrohung ausgesprochen hatte. Nach dem Einsatz der Bundespolizei stellte sich dann heraus, dass die eigentlich harmlose Frage des Passagiers von seiner Handy-App falsch aus dem Arabischen ins Deutsche übersetzt worden war. Ganz allgemein kann man sagen, dass sich aus fehlerhaften Übersetzungen – wie sie beim Einsatz von KI leicht entstehen – die Frage der Haftung ergibt. Wurde eine Übersetzung professionell von einem menschlichen Übersetzer erstellt, so haftet grundsätzlich dieser für seine Leistung. Üblicherweise haben Profis deshalb eine berufliche Haftpflichtversicherung.
Fazit: Vor dem Einsatz von KI-Tools sollte immer eine Risikoabwägung erfolgen. Und wenn Sie sich bei maschinell erstellten Übersetzungen nicht sicher sind: Fragen Sie uns, wir sind Profis. Rufen Sie uns einfach an oder senden Sie uns eine E-Mail
Quellen:
https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai (KI-übersetzt)
https://www.bundesregierung.de/breg-de/aktuelles/ai-act-2285944
https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
