KI, Datenschutz und Urheberrecht: Bringt die KI-Verordnung der EU Einschränkungen und neue Risiken für Marketer? 

11 Min.
Aktualisiert:

Mit der zunehmenden Verfügbarkeit von Anwendungen, die Künstliche Intelligenz (KI) nutzen, und dem Hype um KI im Marketing wirst auch du dir schon überlegt haben, wie du KI innovativ nutzen kannst, um als Marketer deine Zielgruppen effektiver erreichen zu können.  

Doch mit einer zunehmenden Verwendung von KI ohne jegliche Regulierungen wird immer deutlicher, dass diese auch erhebliche Risiken für die geschützten Rechte der Bürger und Unternehmen nach sich ziehen kann.  

Die KI-Verordnung, auch bekannt als AI Act oder KI-Gesetz, zielt darauf ab, sicherzustellen, dass KI-Systeme in einer Weise genutzt werden, die die Grundrechte und die Sicherheit der Bürgerinnen und Bürger der EU respektiert. Als weltweit erstes umfassendes Regelwerk für KI setzt die Verordnung einen Meilenstein. 

Doch welche Fragen und Unsicherheiten können sich hieraus bei KI-gestützten Marketingstrategien mit Blick auf den Datenschutz und die sonstigen rechtlichen Rahmenbedingungen ergeben? 

KI im E-Mail Marketing: Rechtliches

💡 Du arbeitest im E-Mail Marketing und fragst dich, wie du künstliche Intelligenz rechtskonform einsetzt? Dann sieh dir diesen Leitfaden von Anwalt Martin Erlewein an!

Jetzt herunterladen

Was können die Risiken KI-gestützter Kampagnen sein? 

  1. Auswirkungen auf den Datenschutz:  
    Der Einsatz von künstlicher Intelligenz im Marketing und anderen wirtschaftlichen Bereichen kann Risiken für die geschützten Rechte der betroffenen Personen, wie zum Beispiel dem durch die DSGVO geschützten Recht auf Selbstbestimmung über eigenen personenbezogenen Daten, begründen.  
    Wenn KI-Systeme große Mengen personenbezogener Daten analysieren, um zum Beispiel Werbung oder sonstige Marketinginhalte individuell anzupassen, besteht die Gefahr, dass personenbezogene Daten ohne Vorliegen eines nach der DSGVO erforderlichen Rechtfertigungsgrundes gesammelt und verarbeitet werden. Dies kann zu einer Verletzung der Privatsphäre und des Rechts auf informationelle Selbstbestimmung führen.  
  1. Mögliche Diskriminierung aufgrund bestimmter Merkmale:  
    Darüber hinaus kann es aufgrund der Auswahl von einseitigen Daten für das Training einer KI zu unfairen oder diskriminierenden Ergebnissen kommen, durch die bestimmte Gruppen bevorzugt oder benachteiligt wird. Naheliegendes Beispiel aus dem Marketing ist die Personalisierung von Preisen. 
  1. Deepfakes: Ein weiteres Risiko können Deepfakes sein, also gefälschte Inhalte, die von KI erstellt wurden und so realistisch aussehen oder klingen, dass sie von echten Inhalten kaum zu unterscheiden sind. Diese können verwendet werden, um Personen in missbräuchlicher Weise zu manipulieren, indem sie falsche Aussagen tätigen oder Handlungen ausführen, die nie stattgefunden haben. So wurden zum Beispiel bereits ohne Wissen der Betroffenen Deepfakes von Sprechern der Tagesschau erstellt und veröffentlicht, um so für Finanzprodukte zu werben. 

Welche Risiken behandelt die EU KI-Verordnung? 

Die KI-Verordnung der EU hat das Ziel einen umfassenden Rahmen für den Einsatz von KI-Technologien zu schaffen und festzulegen, welche Arten von KI als akzeptabel gelten und bei welchen ein hohes Risiko für den Schutz der Gesundheit, der Sicherheit und der allgemeinen Grundrechte befürchtet werden muss. In der Diskussion über die KI-Verordnung ging es zuletzt zudem darum, zu verhindern, dass eine zu weite Regulierung Innovationen im Bereich der KI-Entwicklung in Europa unmöglich machen könnte. 

Risikoklassen künstlicher Intelligenz 

Eine wichtige Komponente der Verordnung sind die Risikoklassen, in die KI-Systeme eingeteilt werden. Es wird unterschieden zwischen “unannehmbaren”, “hohen” und “geringen/minimalen” Risiken.  

  • KI mit einem “unannehmbaren” Risiko: 
    Eine künstliche Intelligenz mit unannehmbarem Risiko ist eine etwa solche, die geeignet erscheint die Menschenwürde zu verletzen oder die Privatsphäre zu gefährden. Diese Anwendungen sind in Deutschland und der EU verboten. Hierzu zählen zum Beispiel KI-Anwendungen zur Bewertung der Vertrauenswürdigkeit natürlicher Personen auf der Grundlage ihres sozialen Verhaltens oder persönlicher Eigenschaften (sog. social scoring). Gesichtserkennung zur Überwachung soll lediglich in Ausnahmefällen – wie der Gefahr eines Terroranschlags – zulässig sein. 
  • KI mit einem “hohen” Risiko: Für KI-Systeme mit einem hohen Risiko gelten besondere Anforderungen im Hinblick auf die Transparenz der Verarbeitung, die Sicherheit und den Schutz der Grundrechte. Darunter fallen etwa Systeme, die für die Durchführung von Bewerbungsverfahren oder Personalmanagement sowie zur Bewertung der Kreditwürdigkeit oder der Risiken im Fall von Lebensversicherungen eingesetzt werden.  
  • Allzweck-KI-Systeme: Nicht pauschal als Hochrisiko-KI-System bewertet, sind nach der KI-Verordnung Allzweck-KI-Systeme (GPAI) wie ChatGPT anzusehen; da diese für die verschiedensten Einsatzzwecke verwendet werden können. Die Risiken im Sinn der Verordnung ergeben sich hier erst aus der konkreten Gestaltung der KI-Anwendung, in die zum Bespiel ChatGPT eingebunden wird. 

Muss ein Marketer jeden mit KI-generierten Content kennzeichnen? 

Die EU hat auf eine generelle Kennzeichnungspflicht von KI-generierten Inhalten verzichtet. Jedoch sind die Anbieter von KI-Systemen verpflichtet, synthetische Audio-, Bild-, Video- oder Textinhalte in einer maschinenlesbaren Form so zu kennzeichnen, dass diese Inhalte als künstlich erzeugt oder manipuliert erkannt werden können. 

Kennzeichnungspflichten für Bild-, Audio- oder Video-Inhalte 

Bei dir als Verwender können die speziellen Transparenzpflichten nach Artikel 52 der KI-Verordnung greifen. Wenn du KI-Systeme nutzt, um Bild-, Audio- oder Videoinhalte zu erzeugen oder zu manipulieren, die als Deep Fakes betrachtet werden, musst du deutlich kennzeichnen und offenlegen, dass diese Inhalte künstlich erzeugt oder manipuliert wurden.  

Wie schon gesagt, besteht die Gefahr von Deep Fakes, also KI-generierten Bild-, Audio- oder Videoinhalte, die realen Personen ähneln, darin, dass sie  fälschlicherweise als echt wahrgenommen werden können. Eine weniger deutliche Kennzeichnung wäre zum Beispiel erforderlich, wenn der Inhalt des Deepfakes offensichtlich künstlerischen oder satirischen Charakter hat.  

Kennzeichnung von Texten von öffentlichem Interesse 

Für Texte, die durch KI generiert werden und veröffentlicht werden, gilt eine Kennzeichnungspflicht unter anderem nur, wenn mit diesen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert wird, und die KI-generierten Inhalte nicht von einem Menschen überprüft wurden. KI-generierte Marketingtexte sind danach in der Regel nicht kennzeichnungspflichtig. 

Zu den konkreten Anforderungen an eine ausreichende Kennzeichnung wird das neu gegründete AI-Office der EU-Vorgaben ausarbeiten und veröffentlichen. 

Welche Konflikte können bei der Verwendung von KI im Marketing entstehen? 

Bei der Verwendung von KI im Marketing können verschiedene Konflikte entstehen, insbesondere im Hinblick auf den Datenschutz und die Privatsphäre der Verbraucher. Marketer müssen sicherstellen, dass die verwendeten KI-Systeme die geltenden Datenschutzbestimmungen einhalten und transparent darüber informieren, wie Daten verarbeitet werden.  

Daneben sind bei Nutzung KI-generierter Inhalte unter anderem auch Verletzungen des Urheber- und Markenrechts sowie sonstiger Persönlichkeitsrechte (z.B. des Rechts am eigenen Bild) denkbar.  

Bei bewusster Manipulation von Informationen und der potenziellen Verbreitung von Fehlinformationen können sich auch ethische Bedenken oder sogar strafrechtliche Fragen ergeben. 

Welche datenschutzrechtlichen Probleme gibt es bei der Verwendung von Tools wie ChatGPT? 

Die Nutzung von Tools wie ChatGPT kann Datenschutzprobleme verursachen, wenn personenbezogene Daten über die Prompts ins System eingegeben und dort verarbeitet werden. Als KI-Sprachmodell ist ChatGPT so programmiert, dass es Eingaben in natürlicher Sprache verarbeitet und analysiert. Das System kann dabei nicht zwischen personenbezogenen und sonstigen Informationen unterscheiden. Wenn diese Eingaben zudem zum Training der KI genutzt werden, kann nicht gänzlich ausgeschlossen werden, dass sie Teil des KI-Modell werden und nicht mehr gelöscht werden können. 

Eine Verarbeitung personenbezogener Daten ist stets nur zulässig, wenn ein Rechtfertigungsgrund nach Art. 6 der DSGVO – wie zum Beispiel eine Einwilligung der betroffenen Personen – vorliegt. Auch Marketer müssen sicherstellen, dass die verwendeten KI-Systeme die geltenden Datenschutzbestimmungen einhalten und transparent darüber informieren, wie die Daten konkret erhoben und verarbeitet werden.  

So verwendest du ChatGPT sicher & rechtskonform 

Allgemein ist zu empfehlen, keine personenbezogenen Daten wie vollständige Namen, Adressen oder andere personenbezogene Daten mit einer KI zu verarbeiten, wenn du Zweifel am Vorliegen eines ausreichenden Rechtsfertigungsgrundes für die Verarbeitung der Daten hast. 

In der kostenfreien Version von ChatGPT werden die Chats zum Training des zugrundeliegenden KI-Modells genutzt. Du solltest daher in deinem Account bei ChatGPT einstellen, dass deine Chats gerade nicht für Trainingszwecke verwendet werden.  

Wie sieht es beim Kampagnen-Generator von GetResponse aus? 

Bei dem Kampagnen-Generator von GetResponse ist ChatGPT übrigens über eine kostenpflichtige API-Schnittstelle eingebunden. Deine Chats werden daher nicht für das Training des KI-Modells verwendet. Bei kostenpflichtiger Version verarbeitet OpenAI, der Entwickler von ChatGPT, personenbezogene Daten als Auftragsdatenverarbeiter und ausschließlich zur Erfüllung des geschlossenen Vertrages. 

Welche Probleme können sich bei KI-generierten Inhalten aus dem Urheberrecht ergeben? 

Im Rahmen des Trainings und Betriebs eines KI-Systems zur Generierung von Texten, Bildern, Videos und Sprache, sowie bei Verwendung der generierten Inhalte ergeben sich verschiedene Fragen im Zusammenhang mit dem Urheberrecht. So kann der Entwickler einer KI zum Bespiel bestehende Urheberrechte verletzen, wenn er auch geschützte, nicht rechtmäßig zugängliche Werke für die Erstellung der Trainingsdaten der KI kopiert und für das Text und Data Mining verwendet. 

Auf der anderen Seite gilt in Europa und Ländern wie den USA, dass ein Urheberrechtsschutz nur für Werke möglich ist, die Ergebnis der persönlichen, geistigen Schöpfung eines Menschen sind. KI-generierte Werke werden jedoch als Ergebnis der KI-Technologie angesehen. Allein die Eingabe einer Prompt als Vorgabe für die KI reicht nicht aus, um eine Urheberschaft des Nutzers der KI-Anwendung annehmen zu können.  

Bei der Nutzung KI-generierter Werke – zum Beispiel durch öffentliche Zugänglichmachung auf deinen Webseiten – verletzt du danach regelmäßig auch keine Urheberrechte Dritter.  

Lediglich in Ausnahmefällen, in denen das KI-generierte Werk, urheberrechtlich geschützten Werken, mit denen die KI ursprünglich trainiert wurde, entspricht oder so stark ähnelt, dass kein ausreichender Abstand zum ursprünglichen Werk besteht, wäre eine Urheberrechtsverletzung durch dessen Nutzung denkbar. In der Regel kommen solch relevante Ähnlichkeiten jedoch nur vor, wenn dem KI-System ein urheberrechtlich geschütztes Werk als Vorlage in der Prompt vorgegeben wurde oder als Ergebnis geschickter Prompts, mit denen gerade solche Ähnlichkeiten erzeugt werden sollen. 

Bei KI-generierten Texten für das Marketing kann auch dieses Restrisiko nahezu gänzlich ausgeschlossen werden, da die entsprechenden Werbetexte, mit denen die KI trainiert wurden, als Gebrauchstexte angesehen werden, bei denen bereits aufgrund einer geringen Schöpfungshöhe und Originalität im Regelfall der Verfasser des ursprünglichen Textes keinen Urheberrechtsschutz genießt.  

Zeigen jedoch KI-generierte Bilder oder Videos reale Menschen, etwa wegen konkreter Vorgaben an die KI, kann die Verwendung dieser Bilder Persönlichkeitsrechte der Abgebildeten, wie zum Beispiel das Recht am eigenen Bild verletzten oder bei beleidigenden oder verleumderischen Inhalten die Begehung einer Straftat bedeuten. 

Worauf du jedoch achten musst, ist, dass selbst wenn die KI-generierten Inhalte urheberrechtlich unbedenklich sind, ihre Nutzung möglicherweise aufgrund der Nutzungsbedingungen des KI-Anbieters nur beschränkt möglich ist.  

Wie sieht es beim Kampagnen-Generator von GetResponse aus? 

Bei Verwendung des Kampagnen-Generators von GetResponse stellt sich dieses Problem für dich nicht, da der Generator auf Bilddatenbanken zurückgreift und dir alle benötige Rechte für die Nutzung für deine Kampagnen zur Verfügung gestellt werden. 

Den Kampagnen-Generator kannst du mit einem GetResponse-Konto als eine der Funktionen von GetResponse 30 Tage lang gratis testen. Du kannst dir ein GetResponse-Konto hier kostenlos erstellen

 

FAQs zum Thema KI, Datenschutz und Urheberrecht

Welche KI-Tools sind sicher aus Sicht des Datenschutzes und des Urheberrechts? 

Es gibt KI-Tools, die als sicher aus Sicht des Datenschutzes und des Urheberrechts gelten. Dazu gehören Plattformen von etablierten Anbietern, die strenge Datenschutz- und Sicherheitsstandards einhalten. Marketer sollten jedoch immer sicherstellen, dass die von ihnen verwendeten Tools den geltenden Vorschriften entsprechen und sie über die erforderlichen Rechte verfügen, um die generierten Inhalte verwenden zu können. Eine Beschränkung kann sich zum Beispiel aus den Nutzungsverträgen der KI-Anbieter ergeben. 

Was bedeutet die EU KI-Verordnung für Marketer? 

Für Marketer bedeutet die EU KI Verordnung, dass sie sich bewusst sein müssen, welche Arten von KI sie verwenden und welche rechtlichen Anforderungen diese erfüllen müssen. Sie müssen sicherstellen, dass ihre KI-Strategien den geltenden Vorschriften entsprechen und transparent über die Verwendung von KI entsprechend der Vorgaben der KI-Verordnung informieren. Bei der Verwendung von Deep Fakes oder KI-generierten Informationen an die Öffentlichkeit muss geprüft werden, ob und wie diese zu kennzeichnen sind. 

Gibt es bei der Verwendung von ChatGPT Probleme mit dem Datenschutz? 

Bei der Verwendung von Tools wie ChatGPT können Datenschutzprobleme insbesondere auftreten, wenn Nutzer ohne ausreichende datenschutzrechtliche Rechtsfertigungsgründe personenbezogene Daten in ein KI-System eingeben und diese zudem noch für das Training des KI-Systems verwendet werden. Marketer müssen sicherstellen, dass sie die Datenschutzbestimmungen einhalten und transparent darüber informieren, wie die Daten verwendet werden; dies gilt ausdrücklich auch für automatisierte Entscheidungsfindung. Im Fall der kostenpflichtigen Nutzung von ChatGPT – zum Beispiel mit ChatGPT Business – ergeben sich einige datenschutzrechtliche Probleme nicht. 

Gibt es bei der Verwendung von ChatGPT Probleme mit dem Urheberrecht? 

An KI-generierten Inhalten entsteht grundsätzlich kein Urheberrecht. Eine Verletzung von Urheberrechten kann im Ausnahmefall jedoch vorliegen, wenn das KI-generierte Werk einem ursprünglichen, geschützten Werk gleicht oder sehr stark ähnelt. Marketer sollten in jedem Fall sicherstellen, dass sie über die erforderlichen Rechte verfügen, um die generierten Inhalte zu verwenden. 

  

Bei diesen Ausführungen handelt es sich nicht um eine Form der Rechtsberatung. Bei weitergehenden Fragen solltest du einen im IT-Recht spezialisierten Anwalt oder eine entsprechende Anwältin kontaktieren. 


Martin Erlewein
Martin Erlewein
Martin ist Fachanwalt für IT-Recht. Im dem sich rasant entwickelnden Rechtsgebiet des Datenrechts sorgt er dafür, dass seine Mandanten nicht die Übersicht verlieren. Er berät unter anderem Onlineshops, E-Mailmarketer, Medienplattformen und der Werbenetzwerke mit den Schwerpunkten E-Commerce, Datenschutz-, Urheber-, Marken- und Wettbewerbsrecht. Martin ist externer Datenschutzbeauftragter verschiedener Unternehmen aus den Bereichen Online-Marketing und Medien. Auch aufgrund seiner weitergehenden Erfahrung im Gesellschaftsrecht begleitet er Unternahmen vom Start-Up bis zum Exit. Er veröffentlicht regelmäßig Artikel, hält Vorträge und leitet Workshops zum Datenschutz, E-Commerce und den angrenzenden rechtlichen Themen. Martin erreichst du ganz einfach über sein LinkedIn Profil oder über seine Webseite.