Künstliche Intelligenz wird die personalisierte Kundenansprache weiter voranbringen. Doch der EU AI Act setzt hier klare Grenzen.
Der Traum vieler Werbungtreibender ist die personalisierte Ansprache ihrer Kunden. Wenn jeder potenzielle Käufer mit einer individuell auf ihn abgestimmten Botschaft angesprochen werden könnte, würde das die Wirksamkeit der Werbemaßnahmen deutlich erhöhen, so die These. Bislang war so eine Ansprache nur in rudimentären Ansätzen möglich, etwa durch eine persönliche Ansprache in E-Mails oder Hinweisen auf abgebrochene Online-Käufe. Doch mit einer zunehmend granularen Datennutzung und einer immer genaueren Ausspielung über digitale Kanäle ließen sich hier zuletzt deutliche Verbesserungen erzielen.
Einen Quantensprung erhoffen sich Marketers jetzt von Künstlicher Intelligenz. Zum einen, weil KI selbst in unstrukturierten Datenbergen verborgene Muster erkennen kann, die neue Hinweise auf eine zielgerichtete Ansprache geben. Zum anderen, weil Generative KI in der Lage ist, in Sekundenbruchteilen Text- und Bildwelten für personalisierte Botschaften zu erschaffen, die dann sofort ausgespielt werden können.
Damit ließe sich ein Prozess automatisieren, der manuell niemals abgewickelt hätte werden können. „Die Möglichkeiten der Personalisierung werden endlich Realität“, betonte Manisha Powar, Lead CX Product Management bei Qualtrics, kürzlich in einem Interview. „Bislang war es eher schwierig, wirklich personalisierte Erlebnisse zu schaffen. Wir hatten einfach nicht genug menschliche und maschinelle Power, um diese personalisierten Erlebnisse zu kreieren.“ Mit KI ergäben sich nun ganz neue Perspektiven.
Verbotene KI-Praktiken sind eine Grenze
Der EU AI Act, der am 1. August 2024 endgültig in Kraft trat, setzt den Personalisierungsbestrebungen der Branche allerdings deutliche Grenzen. Verboten ist die personalisierte Kundenansprache beispielsweise, wenn sie die Schwelle zu einer verbotenen KI-Praktik überschreitet (EU AI Act, Artikel 5). Das könnte dann der Fall sein, wenn ein jugendlicher Gamer, der seit Stunden zockt und deshalb geistig erschöpft ist, eine Werbebotschaft erhält, die seine Situation ausnützt. „Es ist verboten, Schwachstellen von Personen auszunutzen, die sich zum Beispiel aufgrund des Alters ergeben“, erklärt Rechtsexperte Fabian Kreis, Partner bei Evolution Rechtsanwälte in Düsseldorf.
Verboten sind auch manipulative Werbe-Techniken, die so auf das Unterbewusstsein einwirken, dass die avisierte Person keine freie Entscheidung mehr treffen kann. Das könnte dann der Fall sein, wenn in Audio, Video oder Bildern unterschwellige Botschaften versteckt sind, die die Betroffenen nicht bewusst wahrnehmen. Diese Techniken werden zwar seit den 50er-Jahren diskutiert und waren auch schon mal Thema in einem Film mit Inspektor Columbo. „Aber durch die technischen Möglichkeiten von KI-Systemen erhalten sie eine ganz neue Dimension“, so Kreis.
Tracking von Emotionen fällt unter Hochrisiko
Ansonsten ist personalisierte Werbung nach dem EU AI Act weitgehend erlaubt. Allerdings fällt sie, wenn sie biometrische Informationen nutzt, unter die Hochrisiko-Anwendung. Das ist dann der Fall, wenn Emotionen getrackt und ausgewertet werden – etwa der Gemütszustand, Glücklichkeit, Trauer oder Wut – und sich die Werbung danach ausrichtet. Schließlich ist KI durchaus in der Lage, aus Mimik und Gestik auf die Kauflaune zu schließen, was wiederum die Ausspielung entsprechend verpackter Werbeangebote auslösen könnte.
Da Werbungtreibende in der Regel solche KI-Systeme kaufen und nicht selbst entwickeln, gelten sie nach dem EU AI Act als „Betreiber“. Trotzdem unterliegen sie zahlreichen Vorgaben. Sie müssen beispielsweise ihre potenziellen Kunden über den Einsatz der KI und die Verwendung von Emotionserkennung informieren, unter Umständen Hinweise auf KI-generierte Texte, Bilder und Videos geben, ihre Mitarbeitenden für den Umgang mit den Systemen schulen und prüfen, ob die genutzten Daten überhaupt geeignet sind.
Schluss bei Schaden
„Regelmäßig dürfte für eine biometriegestützte Werbung die Einwilligung der Kunden erforderlich sein“, betont Fabian Kreis. „Außerdem müssten die Werbetreibenden umfassend und transparent über die personalisierte Kundenansprache in einer Datenschutzerklärung informieren.“ Und außerdem: Die Nutzung des KI-Systems muss sofort beendet werden, wenn erkennbar wird, dass durch den Einsatz des Systems Schäden drohen.
Äußerst sensibel ist auch die personalisierte Ansprache, die Angaben über die ethnische Herkunft, politische Ansichten, weltanschauliche Überzeugungen oder sexuelle Orientierung verwendet. Die ist bereits nach Artikel 9 der DSGVO untersagt, wenn die betroffenen Personen nicht ausdrücklich zustimmen. Allerdings gibt es immer wieder Diskussionen darüber, wie diese Zustimmung letztendlich aussieht. Immerhin hat der Meta-Konzern vor einigen Monaten persönliche Informationen wie sexuelle oder religiöse Interessen aus den Nutzerprofilen entfernt. User, die wirklich sichergehen wollen, sollten ihre Werbeeinstellungen aber zusätzlich selbst anpassen.
