"Para, Sozial" | Folge 4/4: Werden wir Freunde?

Virtuelle Influencer, Kennzeichnung und Vertrauen: Wie künstliche Intelligenz unser Scrollen und Kaufen verändert.

Shownotes

Staffelfinale, vorerst! Ein massiver, verpixelter Elefant steht im digitalen Raum und er trampelt mit riesigen Schritten in unseren Alltag: K.I.

Wird es ein Post-Influencer-Zeitalter geben? Was ist eigentlich der EU AI ACT? Können wir zu virtuellen Influencern eine Beziehung aufbauen, vielleicht sogar eine parasoziale? Werden wir etwa….Freunde?

KI kann uns zu besseren Kommunikatoren machen, findet KI- und Wirtschaftspsychologe Prof. Ingo Hamm, doch auch er sieht gewisse Risiken. Chinesische KI-Influencerinnen verkaufen schon ganze Autos an echte Menschen, berichtet Marketingprofessorin Dr. Kristina Klein und sieht in Sachen Influencer-Zeitalter kein Ende der Timeline. Aber welche Regeln gelten eigentlich für virtuelle Influencer und wann wird aus offensichtlicher Satire (fröhliches Hai-Reiten) ein handfester Verstoß gegen europäisches Recht? Und wollen wir wirklich nur noch KI-Imbissplakate? Darüber spricht Yasmin mit Simon Götze, Digitalexperte bei der Verbraucherzentrale Berlin, in der letzten regulären Folge von Para, Sozial.

(Anfang Dezember gibt es aber nochmal eine Bonusfolge, pünktlich zum Weihnachtsgeschäft.)

Danke fürs Reinhören, das war "Para, Sozial" - Es war mir eine Freude, ich sage: Obacht beim Weiterscrollen und auf Bald!

dürfen die das? ist ein Podcast der Verbraucherzentrale Berlin, gefördert durch das Bundesministerium der Justiz und für Verbraucherschutz, aufgrund eines Beschlusses des Deutschen Bundestages.

LINKS:

Emely Pellegrini KI Influencerin.

Koreanische Dopamin Sites.

Alles zum EU AI ACT.

Skript, Moderation, Produktion: Yasmin Polat Musik, Soundeffekte: Descript

Transkript anzeigen

00:00:00: Yasmin Mod: Pst, ein Elefant steht im Raum. Ja, ja, der da hinten grau, verpixelt. Fängt mit K an und hört mit I auf. Oh, oh, er kommt auf uns zu. Äh, okay. Okay, ich war doch immer nett eigentlich Na gut, es gibt die schlechten, es gibt die guten Influencer. Wir können unser Scrollverhalten reflektieren. Wir sind mündiger im Umgang mit Social Media, aber Social Media bleibt ja nicht stehen. Das scrollt schon von alleine so ungefähr, denn die Technologien entwickeln sich konstant weiter und wir müssen schauen, dass wir bei all dem trotzdem irgendwie noch die Oberhand haben

Ich glaube, allen ist klar, wovon ich gerade spreche. Ja, natürlich, ich spreche von KI. Keine Sorge, es folgt kein Fachsimpeln diese Folge. Ich mag das selber gar nicht gern. Es wird jetzt lebensnah. Viel näher, als man beim Thema künstliche Intelligenz: eigentlich für möglich halten würde. KI ist überall. In unseren Haushaltsgeräten, in unseren Autos, in unseren Feeds. KI hat die Welt verändert. Es verändert uns, Social Media, unsere Beziehungen. Und wir müssen uns immer öfter fragen, ob das, was wir grade in unseren Feeds sehen, Realität oder doch nur Reality ist. aber nicht nur das. So langsam müssen wir uns auch fragen: Macht das für uns überhaupt noch einen Unterschied? Mein Name ist Yasmin Polat. Ich bin Podcasterin und Autorin und für die Verbraucherzentrale Berlin mache ich mich auf die Suche durch einen Ort, der mir so vertraut scheint, obwohl er voll ist mit fremder Spezies. Social Media.

00:01:42: KI gibt es ja nicht, aber wenn die KI als solches 'n Insta-Account hätte, würde ich nicht auf Folgen gehen. Klar, ich versteh schon, dass es nützlich ist. Aber ich finde, KI wird einem regelrecht aufgedrängt. Also und nicht nur KI, sondern eben auch alles, was damit zusammenhängt. Beim Googeln kommt jetzt immer direkt die KI-Zusammenfassung. Smart Glasses filmen alles mit. Es gibt ständig neue Aufnahmen von Hollywood-Stars, wie die mit diesen kleinen, humanoid-robotischen Gestalten posieren, ja, oder sogar interagieren, um die so 'n bisschen zu vermenschlichen. In den USA werden auf dem Nachrichtensender NBC News einfach ganze Interviews geführt, also wirklich auf ernst, mit der AI-Schauspielerin Tilly Norwood. und all das passiert, während wir immer noch an unseren Druckern rumfummeln und Kundenservice-Chatbots mir den letzten Nerv rauben.

KI und alles, was damit einhergeht, schleicht sich nicht schrittweise ein. Es trampelt sich in unser Leben wie ein Elefant im Porzellanladen.: noch 'n paar Beispiele? Okay, bei Doctolib werden zum Beispiel die eigenen Daten zu KI-Trainingszwecken verwendet und nach Zustimmung sogar Gespräche zwischen Arzt und Patient aufgezeichnet. Auf der Secondhand-Plattform Vinted werden neue Betrugsmaschen geboren. Man schickt ein verkauftes, tadelloses Kleidungsstück los. Der Betrügerempfänger macht ein Bild davon, verändert es mit KI so, dass es zerstört aussieht und kann dann sein Geld zurückverlangen. OpenAI macht sich sowieso schon selbstständig. In Australien wurde sich beispielsweise Zugang zu einem Regierungsportal der Krankenversicherung verschafft

und wenn man Jacob Coxen, diesem Ex-Mitarbeiter von dem KI-Unternehmen Anthropic glauben soll, wird die KI uns am Ende sogar töten. Ich kann das alles nicht mehr Aber das tut überhaupt nichts zur Sache, was ich kann, . Außerdem, ja, auch das muss man sagen, es erleichtert hier und da einiges,: ne? Prozesse, Abläufe, Fragen wie: Habe ich meine Pflanze mal wieder übergossen? es kann auch Vereinsamung etwas lindern, hat die Psychotherapeutin Professor Dr. Astrid Müller in der letzten Folge gesagt. Also auch das ist natürlich ein Faktor, den man einbeziehen muss. Und damit scheint sie nicht alleine zu sein. Viele scheinen in AI so 'ne Art Beziehungsersatz zu suchen. Besonders, sagen wir mal, was personalisierte Inhalte angeht, scheint die Nachfrage wirklich groß zu sein. Auf Instagram gibt es beispielsweise eine KI-Influencerin mit dem sehr inspirierten Namen Emily Pellegrini. Der folgen wirklich 360.000 Accounts, Menschen, wie auch immer. Emily ist erstellt von einem Mann, der lieber anonym bleiben möchte. Und ja, mit ihr kann man halt chatten, sexuelle Inhalte anfragen. eigentlich so 'n klassischer Sex-Bot auf Insta, ne, wie man sie auch schon als Spam kennt, nur eben im fortgeschrittenen OnlyFans-Modus, so ungefähr. Den Artikel dazu verlink ich euch in den Shownotes.

In den letzten Folgen haben wir ja gelernt, Authentizität ist: ein unschlagbarer Wert in der Influencer-Follower-Beziehung. Aber was, wenn authentisch eine völlig neue Bedeutung annimmt? die parasoziale Beziehung an sich ist erst mal nicht problematisch, sagen die Expert:innen dieser Staffel. Erst mal. Aber wie ist das, wenn das Online-Gegenüber ausschließlich online ist, immer verfügbar, sofort antwortet und einem eigentlich nur nach dem Mund redet? dann nimmt die parasoziale Beziehung vielleicht noch mal eine andere Dimension an. dann müssen wir zurück zum Start. Oder? Dann gehen wir doch mal zurück zum Start zum Wirtschaftspsychologen Professor Dr. Ingo Hamm. Den haben wir in der ersten Folge kennengelernt. er sagt sogar, dass KI uns Menschen zu besseren Kommunikatoren machen kann. Aber auch er sieht gewisse Risiken, Hören wir mal rein

00:05:47: geht, um Täuschung geht. Wo sehen Sie denn jetzt die Grenze?

00:06:03: Ingo Hamm: Ja, wir müssen uns ja mit dieser Technologie erst noch vertraut machen und wir erleben aber eigentlich exakt die gleichen Prozesse des Vertrautmachens, wie wir bei anderen Technologien auch hatten. Bei der Erfindung der sozialen Medien und auch da haben wir ja schon seit Jahren sehr intensive Diskussionen, ne, die völlig unabhängig von KI ganz große Fragezeichen machen: Wie setzen wir soziale Medien ein? Wie nicht? Wie wollen wir es haben in der Gesellschaft? Suchmaschinen, ja, als die kamen, 'ne Riesendiskussion: Was können die? Was dürfen die? Was sollen die vielleicht doch nicht, ne. Am Anfang bejubelt, dann kritisch hinterfragt, weil Kommerzialisierung. Wir erleben das, das Gleiche, glaube ich, jetzt mit 'ner neuen Technologie, die vielleicht noch mal in der Qualität, vielleicht auch in der Geschwindigkeit anders ist, aber es findet ja schon genau das statt, was jede Technologie braucht, diesen kritischen Umgang.

Also da bin ich ja in dem Sinne auch positiv, also nicht nur in meiner eigenen Erfahrung mit der Nützlichkeit von KI und den, den Fähigkeiten von KI, sondern dass wir Menschen ja auch: intensiv das schon hinterfragen und vorsichtig werden und, und versuchen, über Regulierung nachzudenken, die auch manchmal vielleicht übers Ziel hinausschießt. Aber wir sind eigentlich genau in dem Prozess, der gesund ist und, und dann nicht irgendwas jetzt schon losgetreten wurde, was jetzt gar nicht mehr einzufangen ist.

00:07:16: Yasmin Mod: Da bin ich mir übrigens nicht so sicher, ob ich zustimme. Also ich beobachte zumindest keinerlei Absichten, die Entwicklung zu stoppen. Das sagt Herr Professor Hamm ja auch gar nicht, aber hier und da wird ja schon die Kontrolle drüber verloren, ne? Es geht einfach alles sehr, sehr schnell. gut, aber er sagt ja auch kritischer Umgang damit. Dann mal zurück ins Gespräch. Wir wollen ja eigentlich zu den KI-Influencern.

00:07:36: Yasmin Interview: KI ist jetzt wirklich in unseren Alltag eingezogen und virtuelle Influencer: Können die überhaupt dieselbe Wirkung erzielen wie echte, reale menschliche Influencer? Also fehlt da nicht was Entscheidendes im Kontakt?

00:07:49: zwei Jahre zurückblenden, wie weit da KI war mit Texterstellung, mit Bilderstellung, mit Videoerstellung und was dann innerhalb kürzester Zeit technologisch passiert, ist es eigentlich nur eine Frage der Zeit, bis wir das nicht mehr trennen können. Und wenn's vielleicht nicht morgen ist, aber vielleicht im August 2027 oder auch 28, wird es so sein, dass 90, 95 % der Zielgruppe das nicht mehr technisch visuell unterscheiden können. Ob sie ein Foto, ein Film, ein Audio, ein Text einer künstlichen, äh, Influencerin oder auch Absenderin empfangen oder echt. Ich glaube, dann geht es nur noch um die Inhalte, um die Rahmenbedingungen, ja, Stilistik, Ästhetik, was wird gesagt. Und da sind wir wieder bei alten Gesetzen der Kommunikation und auch der Psychologie, wo ich dann denke, ja, dann kann man's genauso auch eigentlich nachbauen. Dann muss ich mir nicht irgendwas kaufen.

Dann haben wir allenfalls noch Rechtefragen, ne. Ich könnte dann natürlich mir eine künstliche Person ausdenken, die: neu in die Welt tritt. Die muss ich erst aufbauen, bekannt machen. Ich kann ja jetzt nicht auch sagen, ich kopiere jetzt den Jürgen Klopp und lasse den jetzt für mein kleines Produkt werben. Dann wird der über seine Rechtsanwälte schon sagen: „Hey, das dürft ihr nicht", ne. Aber er könnte ja oder wer auch immer sagen: „Hey, ich, ich kann jetzt nicht zum Drehen, macht es doch mit KI." Und das ist mein Okay dafür. Das, das halte ich alles für, für sehr realistische Szenarien. Also wir haben da neue Qualitäten der Vermarktung echter Celebrities und, und Influencer mit KI-Unterstützung. Wir haben das Aufbauen von künstlichen Figuren, gerade im Micro-Influencing, wo ja die Bekanntheit ohnehin keine große Rolle spielt, sondern eher eine Botschaft, eine Fachexpertise. Da kann ich mir das extrem gut vorstellen, dass da künstliche Personen, ja, Influencer aufgebaut werden, die dann ihre Wirkung genauso entfalten.

00:09:44: Yasmin Interview: Verändert denn KI die Kaufentscheidung eher auf der rationalen Ebene dann oder auf der instinktiven, emotionalen Ebene, die Sie ja auch beschrieben haben. Also wo lässt sich das ansiedeln? Warum würden wir dann kaufen, wenn es um KI geht?

00:09:59: KI zwei Funktionen hat. Einmal kann uns KI heute schon sehr gut unterstützen in, in der Produktrecherche und es geht ja so langsam erst los, dass da KI sich kommerzialisiert, ja. Man denkt ja in den USA bei einigen KI-Anbietern schon über platzierte Werbung nach. Da wird's natürlich sehr perfide, ne. Zurzeit gehen wir ja daran und, und halten, äh, 'ne KI mehr oder weniger für allwissend. Wenn jetzt bezahlte Werbung, bezahlte Produktplatzierung da reinkommt, ohne dass wir's vielleicht merken, ne, und wir fragen 'ne KI: „Was sind das, was ist denn die beste Zahnbürste?" Und dann sagt die KI: „Ja, eindeutig hier, ich hab hier recherchiert und eindeutig Produkt XY", aber Produkt XY hat dafür bezahlt, dass die KI das Produkt nennt, dann haben wir 'n echtes Problem, ne. Weil wir grade eine, eine so immense Glaubwürdigkeit und diese Expertise projizieren, dass wir da 'n ganz, ganz großen Glaubwürdigkeitsvorsprung haben, rein in dieser Nutzung KI als Rechercheinstrument.

Nicht mal nur: KI baut irgendwelche virtuellen Influencer, ne, sondern so ich, ich geb was in meinen KI-Bot in Chat hier ein und, und bekomm dann 'ne, 'ne fachlich versierte Antwort. Das ist, glaub ich, eher 'ne Gefahr, die wir sehen. Das beginnt so langsam. Ich bin da selber ganz gespannt, ja, also, also wissenschaftlich neutral gespannt, wohin die Reise da geht, ob diese Kommerzialisierung zugelassen wird, auch durch Regulierung, auch durch die Anbieter selbst. Weil ich glaube, diese, die selbst merken auch, dass sie da so 'n bisschen die Büchse der Pandora öffnen. Nicht nur das, was wir jetzt so lesen, so KI ist ausgebrochen und hat 'ne, 'ne Firma gehackt und so weiter, ne, sondern auch wenn solche Beeinflussungen stattfinden über das, was wir kommerziell vielleicht als ganz nett empfinden. Ich glaube, da schrillen bei sehr, sehr vielen Leuten, die was zu sagen haben, dann die Alarmglocken. Also da, da bin ich 'n bisschen positiv, dass nicht all das Schlimmste auch direkt in wenigen Monaten passieren wird. Aber wir müssen halt aufpassen. Und das ist überhaupt mein Credo als Konsumenten wie a-als Mensch in der Gesellschaft, auch beim Thema Konsum, ja.

Wenn ich jetzt KI benutze für: Recherche oder ich irgendwelche Influencer sehe, immer die Zeit nehmen und die hab ich eigentlich immer, kritisch zu hinterfragen: Ist das echt oder nicht echt? Interessiert mich das? Ist das glaubwürdig? Brauch ich das Produkt überhaupt? Will ich nicht vielleicht noch mal hier und da weiter recherchieren? Will ich nicht mal so 'ne Behauptung mal überprüfen, ja. Also die Freiheit haben wir immer. Wir werden nie so manipuliert, dass wir automatisch wie 'n Kaninchen vor der Schlange im Märchen, ne, da automatisch schon hypnotisiert in den Laden laufen oder auf 'n Bestellbutton drücken. Da kann ich immer an die Menschen appellieren, sich 'n bisschen mehr zu reflektieren, einfach mal innezuhalten und egal von wem es kommt, ja, Roboter, Mensch, Maschine, da zwei, dreimal hinzugucken und auch sich selbst zu hinterfragen: Brauch ich das?

Will ich das wirklich? Also ich find's einfach nur fair, sich zu kennzeichnen, also sich zu erkennen zu geben. Das finde ich überhaupt ein gutes Prinzip übrigens nicht nur in der Werbung, sondern auch in, in sozialen: Medien, in Meinungsäußerungen, dass wir uns nicht hinter einer Anonymität verstecken, weder jetzt in dem Mitteilen von Meinungen noch im Verkaufen von Dingen, sondern ganz klar sagen: Das bin ich, ja. Das ist meine Meinung und ich stehe zu dieser Meinung. Und weil ich vielleicht nach außen sichtbar bin, mache ich mir zweimal, dreimal die Gedanken, ob ich etwas sagen möchte und wie ich es sagen möchte und wem ich es sagen möchte. Und das gilt für Werbetreibende genauso. Also insofern finde ich Kennzeichnungspflichten gut. Ich wüsste auch nicht, was dagegenspricht. Also ganz ehrlich, ne. Also 'ne Urheberschaft ist, glaube ich, in jeder Hinsicht gut. Wir haben die Debatten ja auch in den anderen Bereichen, wo übrigens ja noch gar nicht so viel passiert ist im Musikbereich. Ja, man, man entdeckt da ja interessanterweise, weil da eine ganze Industrie von Juristen unterwegs ist, die extrem hart gegen jeden Wettbewerbsverstoß oder Urheberrechtsverstoß vorgehen.

Da sieht man plötzlich, das Ganze ist da ziemlich reguliert und da traut man sich nicht so ran, ne. Also KI erzeugte Musik: hat ja beim Viben noch keinen Durchbruch erzeugt. Also hört man hier und da, aber da, da ist wirklich problematisch.

00:14:07: Yasmin Mod: an dieser Stelle mache ich was, was man als guter Interviewer nie macht und was die KI vermutlich auch nie machen würde: Ich unterbreche Herrn Professor Hamm. Aber mir fällt in dem Moment, wo er die Musikbranche anspricht, was ein, was ich eigentlich erfolgreich verdrängt hatte, nämlich dass ich möglicherweise auf einen KI-Rapper reingefallen bin. Willy L'ancien heißt der. Und ob der ein echter Mensch ist oder nicht, darüber streiten sich die Menschen zum Zeitpunkt dieser Aufnahme noch. gibt Punkte, die dafür und dagegen sprechen. Und das erzähl ich jetzt auch mal Professor Hamm.

00:14:33: Yasmin Interview: Da muss ich ja gestehen, ich habe gerade tatsächlich genau das gehabt. Ich mag einen Künstler sehr gerne und dann google ich den. Will mal gucken, ja, wo kommt der her? Frankreich und so, ne. Kann sein, dass der KI ist. Also dass ich hier jetzt in meiner Küche zu KI getanzt habe. So richtig sicher ist es nicht, weil es gibt auch Fotos und so, aber das ist quasi 'ne Debatte. Da habe ich mich richtig geschämt.

Da frage ich mich Was passiert denn eigentlich psychologisch, wenn ich als Follower jetzt merke Halt, stopp, dieser Influencer, das war gar kein: echter Mensch. Das ist 'ne KI, mit der ich hier kommuniziere, der ich folge. Glauben Sie, dass dann da so eine Enttäuschung eintritt oder dass man eben trotzdem loyal bleibt?

00:15:07: Ingo Hamm: Nein, absolut. Es ist ein Vertrauensbruch und, und diesen Vertrauensbruch spüren wir als Menschen ohnehin auch von Mensch zu Mensch, ne. Nehmen wir mal an, man wollte jemanden kennenlernen, äh, über irgendwelche Plattformen und man sieht 'ne Person, man unterhält sich 'ne Person und stellt dann plötzlich fest, die ist gar nicht echt, ja. Und jetzt nicht nur KI erzeugt, sondern war 'ne andere, als sie sich ausgegeben hat, ne. Irgendjemand, der sagt: „Ich mach mir 'n blöden Scherz draus." Ist ja eine wahnsinnige Enttäuschung. Also einmal knabbert es an einem selbst und es schafft auch nach außen, ja, Frust, ja, wenn nicht sogar vielleicht 'n gewissen Hass gegen diese Person.

Also ein ganz ungesunder Prozess, der rein auf vertrauensbildenden Prozessen passiert, die wir tagtäglich haben, ne. Nicht nur jetzt beim Kaufen und beim Musikhören, sondern bei Arbeit, im Freundes-, Familienkreis. Wir bauen ja mühsam Vertrauen auf, indem wir uns gegenseitig einander öffnen, etwas von uns preisgeben und: das positiv immer behutsam weitergeben. Wenn da plötzlich dieser Prozess so massiv verletzt wird, ja, nicht einfach nur es geht nicht weiter und es ebbt so aus, sondern da hat jemand uns was vorgespielt. Da sind wir natürlich extrem empfindlich und enttäuscht und sofort fällt die Vertrauensbasis wieder auf Null. Also ich glaub, da gibt's kein Rezept, diesen massiven Vertrauensbruch zu verhindern.

00:16:26: Yasmin Mod: . Ja, bis auf saubere Kennzeichnung. Das sagt ja auch Professor Hamm. Dass vernünftig gekennzeichnet werden muss, das ist gesetzlich geregelt in Deutschland. Dafür sorgt unter anderem der EU AI Act. Den erklär ich gleich. Aber wenn allen Beteiligten immer ganz klar ist, wer da eigentlich vor einem ist, kann dann noch so etwas wie eine parasoziale Beziehung entstehen? Und wird es ein Post-Influencer-Zeitalter geben? Das und mehr frage ich noch mal die Marketingprofessorin Dr. Kristina Klein von der Uni Bremen. Die antwortet auf diese Frage und verrät mir auch noch, wo KI-Fluencen schon längst in den Online-Alltag eingezogen ist

00:17:01: Was denken Sie denn, wie sich die Beziehung zwischen Verbraucher und Influencer verändert, wenn jetzt eben KI-generierte Influencer ins Spiel kommen? Kann da überhaupt so was wie parasoziales Vertrauen entstehen, denken Sie? Ja, das ist ganz interessant. Das kennt man nämlich schon aus anderen Märkten. Also in asiatischen Märkten ist dieses Thema virtuelle und KI-Influencer viel größer als in anderen, also auch tatsächlich auch in den USA. Und die sind teilweise so groß und haben so, so 'ne große Follower Base, dass eben da tatsächlich auch so was wie Freundschaften entstehen oder dieses Freundschaftsgefühl. Also das ist schon was, was man beobachten kann, ne? Also auch in asiatischen Märkten sind das Leute, die dann auch mit denen über ihre persönlichen Probleme sprechen, die dann auch da Heiratsanträge schicken und so weiter und so fort. Also das ist so 'n bisschen auch dieses Thema, was ich tatsächlich so 'n bisschen traurig finde, dass sich Interaktion dann sehr stark in diesen virtuellen Raum verschiebt.

Na, das ist so 'n bisschen meine persönliche Beobachtung und das wird sich, glaub ich, verstärken, wenn: wir nicht wirklich irgendwann zurückkommen zu dem zu sagen: „Na ja, irgendwie so richtige Menschen ist doch eigentlich auch ganz nett."

00:18:07: Yasmin Mod: Übrigens auch, was Onlineshopping angeht. Es gibt nämlich schon seit einiger Zeit koreanische Dopamin-Sites. Das sind Websites, die Onlineshopping oder Lieferdienste nachahmen. Nur am Ende hat man da keine Ware zu Hause und auch nichts bezahlt. Man shoppt um des Shoppens Willens, also man legt in den Warenkorb. Teils hat man sogar eine Sendungsverfolgung, die ist aber natürlich auch fake. Und all das nur, um diesen Dopaminkick zu bekommen, ohne dass echter finanzieller Schaden entsteht. Aber ich finde wirklich krass, also wir haben uns so weit runtergescrollt, dass wir unsere psychologischen Mechanismen verstanden haben, die dann nachbauen, ohne dass wirklich was passiert.

Ist das jetzt abgestumpft oder einfach nur smart und vielleicht als so 'ne Art Nikotinpflaster zu sehen? Darüber könnte man streiten. Zurück zum Gespräch mit Kristina Klein. Ich hab sie gefragt, ob sie glaubt, dass solche Dopamine Sites auch in Deutschland funktionieren könnten. Darauf meinte sie nur so ganz trocken Äh, nee. Also wenn sie die Deutschen einschätzen müsste, glaubt sie nicht,: ne, dass das für uns funktioniert. Aber das ist nur ihre ganz persönliche Einschätzung. Deswegen geht's jetzt noch mal zurück zu den KI-Fluencern.

00:19:07: Kristina Klein: Es gibt tatsächlich KI-Influencer, die für reale Marken Werbung machen. Gibt's 'ne chinesische KI-Influencerin, die hat irgendwie den BMW Mini innerhalb von Sekunden hat die, glaub ich, fünfunddreißig Exemplare davon abverkauft, ne? Und das ist ja jetzt nix, was irgendwie mal euro fünfzig kostet. Also das gibt's schon. Da hab ich jetzt auch kein Stress mit, weil am Ende ist es halt der gleiche Mechanismus wie bei 'ner Person. Ja, es ist halt 'ne aufgebaute Persönlichkeit, die eben halt nicht existiert. Und wenn Leute sich von der überzeugen lassen, dann bitte schön. Ne, also das, die Marken arbeiten ja mit denen zusammen. Für Marken und Unternehmen sind solche virtuellen Influencer fast noch besser als die Richtigen, sagen wir mal so, weil die kann ich kontrollieren.

Ich kann denen sagen, was sie tun sollen. Ich kann sagen, wie die aussehen sollen. Die haben keine persönlichen Krisen oder Skandale oder so. Für, für 'ne Marke ist per se ein virtueller Influencer schon: besser. Das ist natürlich jetzt auch noch unter der Voraussetzung, dass man vielleicht nicht weiß, dass das virtuelle Influencer sind, wenn man die so sieht auf Kanälen. Das wird sich natürlich verändern. Und ist das denn dann in der Kennzeichnung, also wenn ich jetzt sehe als Verbraucher:in, ah ja, diese Werbung wurde unterstützt durch KI, muss man jetzt ja auch kennzeichnen. Und, äh, macht das was mit mir, äh, in meiner Kaufabsicht oder ist das egal? Ist da irgendwie, gibt's da schon Daten zu oder Beobachtungen? Ja, da gibt's so erste Ideen zu. Da gibt's auch tatsächlich neue Studien, die sozusagen sagen: Ja, im Prinzip lehnen Menschen das erst mal ab. Also alles, was irgendwie KI ist und KI generiert, das wird jetzt erst mal abgelehnt. Ich glaube aber, dass das 'n, sagen wir mal, ein vorübergehendes Phänomen sein wird. Wir werden uns daran gewöhnen, dass das so ist, ne? Also mich persönlich stört das auch, dass jedes Dorffest irgendwie jetzt mit so KI generierten Postern beworben wird, die auch einfach nur abgrundtief hässlich sind. Gut, ich gehe da vielleicht trotzdem hin, weil das Dorffest ist halt nun mal dann um die Ecke, ne.

Also es hat auch: früher schon furchtbare Werbung gegeben, die hässlich aussah, ne. Jetzt haben wir gerade diesen Hype und das wird auch wieder zurückgehen, ne. Also jeder probiert sich jetzt da mal aus und dann, dann geht das auch wieder zurück so. Also ich glaube, ähm, das ist so 'n Gewöhnungseffekt, wenn das jetzt sehr stark irgendwie überall zu Sehen es, dass das KI generiert wird, kann ich mir vielleicht auch und das wäre so ein bisschen meine Hoffnung, dass das insofern wieder zurückgeht, dass die Leute den Mensch wieder in den Vordergrund stellen. Da gibt's ja auch so ein bisschen die Diskussion darüber, welche Inferenz hat das eigentlich, dass jemand irgendwas mit KI generiert? Zum Beispiel, dass man sich keine Mühe mehr gibt, dass das unkreativ ist. Das wird am Ende dann natürlich negativ zurückschlagen. Und wenn man das jetzt vermehrt beobachtet, dann wird das wahrscheinlich auch sozusagen irgendwann zu so einer Balance führen. Wie viel wird eigentlich tatsächlich und welche Prozesse werden KI generiert? So Ideenfindung und so finde ich ja komplett unproblematisch, aber vielleicht dann die kreative Umsetzung, die Execution wird dann doch wieder stärker menschgetrieben sein. Wie und wo in dem Prozess setzt sich das ein und wo empfinden das Menschen auch als problematisch?

Also ja, vor: allem kann das ja dann doch darauf einzahlen, dass eben diese Glaubwürdigkeit und die Authentizität ja doch noch mal vielleicht stärker in den Vordergrund rückt, als es ohnehin schon ist, wo es dann doch eben ein Wert ist, nicht Informationen haben zu können, sondern Geschmack, Kuration, Authentizität und so weiter, dass das einfach ein bisschen höher bewertet wird. Unter anderem ja dann auch von Mikroinfluencern, ne. Also solchen, die eben gar nicht so viele Follower haben, aber dadurch eben als glaubwürdiger eingestuft werden. Es gibt ja auch virtuelle Influencerinnen, die sind sehr deutlich, äh, KI generiert und dann gibt's natürlich welche, die so gut gemacht sind, dass man fast gar nicht unterscheiden kann, ob das jetzt ein richtiger oder ein virtueller Influencer, eine Influencerin ist. Und da wird's natürlich wieder problematisch, aber da wäre ja dann tatsächlich auch jetzt zum Beispiel der nu-neue EU AI Act käme dann ins Spiel. Das ist ja dann etwas, was mit der Öffentlichkeit interagiert und in dem Fall müsste es KI gekennzeichnet werden. Genau. Und da ist dann die Frage: Okay, haben die Leute das schon vorher gewusst?

Was wahrscheinlich der Fall ist, würde ich jetzt mal annehmen. Und dann spielt's weniger 'ne Rolle oder ist das jetzt was zu: komplette Neuigkeit für die Person? Das könnte dann tatsächlich zu diesem negativen Empfinden führen, also auf dieser Route sozusagen.

00:23:08: Yasmin Mod: Ah, Stichwort AI Act, den wollt ich ja noch mal nachschauen. Moment, da gibt's 'n guten Artikel von der Website der Verbraucherzentrale zu. Da scroll ich mich mal hin. Also, der EU AI Act ist eine Verordnung über künstliche Intelligenz und die gibt so 'n rechtlichen Rahmen vor, was Entwicklung, Einsatz beziehungsweise die Nutzung von KI angeht. Diese Verordnung soll Entwicklung und Fortschritt ermöglichen, aber eben gleichzeitig KI-Systeme sicherer und transparenter machen. Und dafür sorgen, dass die eben verantwortungsbewusst eingesetzt werden.

Dabei ist übrigens auch egal, ob sich die Einrichtung in der EU befindet oder nicht, ne. Sobald es in der EU verwendet wird, greift der AI Act. es wurden auch verschiedene Risikokategorien herausgearbeitet. Also es gibt zum Beispiel ein unannehmbares Risiko. Das sind dann so biometrische Echtzeitidentifizierung im öffentlichen Raum oder: sexualisierte Gewalt durch KI-Manipulation, Deepfakes, so was, ne? Dann gibt es noch hohes Risiko, zum Beispiel im Gesundheitswesen oder bei Banken. dann gibt's noch begrenztes Risiko. Das sind dann zum Beispiel Chatbots im Kundenservice und minimales Risiko. Trotzdem muss auch nicht alles ausdrücklich als KI gekennzeichnet sein. Texte zum Beispiel dann nicht, wenn sie hinterher von einem Mensch geprüft worden sind oder auch 'n Mensch die Verantwortung dafür trägt. Auch Anwendungen im Hintergrund, die nur technische Funktionen übernehmen, also zum Beispiel Spam-Erkennung oder auch private Beiträge auf Social Media müssen nicht sofort gekennzeichnet werden, sofern sie nicht kommerzielle oder berufliche Zwecke haben zur Kennzeichnung schlägt die EU drei Icons vor. Einmal nur AI, das bedeutet, die KI war irgendwie im Spiel. dann AI modified, das ist, wenn echter, natürlicher menschlicher Content mit KI verändert wurde. Und dann gibt es noch zu guter Letzt AI generated. Das ist, wenn wirklich alles aus der KI kommt.

Die Verordnung ist schon im August 2024 in Kraft getreten. Seit August diesen: Jahres gilt sie. Die Kennzeichnung ist mittlerweile also Pflicht und die EU-Kommission prüft jährlich, ob und was angepasst werden muss Okay, zurück zu Professor Klein. Ich hab Sie mal 'n bisschen orakeln lassen. Ich hab Sie gefragt, ob es ein Post-Influencer-Zeitalter geben wird Ihrer Meinung nach, jetzt mit KI und so. Und falls ja, wie das dann aussehen könnte.

00:25:24: Kristina Klein: Gute Frage. Ich glaub nicht, dass das verschwindet. Das hat sich schon als relevanter Verkaufskanal etabliert und dafür sind eben auch diese ganzen, sagen wir mal, Mechanismen, über die Social Media funktioniert, ne. Also immer wieder neue Inhalte. Man fühlt sich, als wäre man bei anderen dabei. Das ist auch 'ne Art von, ja, Informationsmöglichkeit, ne. Also Facebook ist ja auch immer noch nicht tot.

Warum? Weil Leute da auch ihre Dinge noch teilen mit anderen befreundeten Personen, die man vielleicht nicht so oft sieht und man hat man Bedürfnis, das Leuten zu sagen. Die Frage wird natürlich nur sein, wie sich das gestaltet. Man weiß ja schon seit Jahren, dass: sich das ja viel stärker professionalisiert. Es gibt eben Agenturen und so weiter, die das machen. Es gibt auch viel mehr, sagen wir mal, Unterstützung für Influencerinnen und Influencer, was so rechtliche Gegebenheiten gibt, wie macht man's und so weiter. Also das wird halt einfach noch viel stärker professionalisiert werden, was ja auch gut ist. Aber man spricht ja jetzt auch eben schon teilweise von dieser KI-Schwemme. Also das sieht man ja auch auf den Social-Media-Kanälen insgesamt, dass viel mehr KI generiert wird. Also die Frage wird am Ende sein: Wie setz ich mich durch, dass ich sozusagen weiterhin Aufmerksamkeit bekomme? Und das wird sicherlich nur durch Authentizität und Glaubwürdigkeit passieren, weil eben Vertrauen das ist, was Verbraucherinnen und Verbraucher am Ende am ehesten davon überzeugen wird, einer Empfehlung zu folgen.

Also das ist sozusagen die knappe Ressource, erst mal Aufmerksamkeit zu bekommen und zweitens dann so viel Vertrauen aufgebaut zu haben, dass Menschen einem 'ne Empfehlung auch in Anführungsstrichen abkaufen und das dann eben zu irgendwie 'ner Handlung führt. das Vertrauen: also, da landen wir am Ende wieder und das kann man anscheinend auch in gewissem Maße zu Maschinen aufbauen, zu virtuellen Influencern, solange alle Beteiligten darüber im Klaren sind. Ja gut, am Ende geht's wahrscheinlich nur darum, was will ich als Follower, Wenn's nur Informationen sind, ja, dann kann das wahrscheinlich funktionieren. Dann gerne auch Empfehlungen, wie Herr Professor Hamm das meinte, wenn sie gekennzeichnet sind.

00:27:20: Yasmin Mod: Aber wie kennzeichnet man eigentlich virtuelle Influencer? Ja, im Grunde genommen gelten für die virtuellen dieselben wettbewerbsrechtlichen Regeln wie für die echten. Aber wie sieht das in der Praxis, im Alltag aus? Wie ordnen wir Werbeanzeigen und Werbecontent dann überhaupt ein? Denn KI kann so viel sein.

Auf dem einen Plakat reitet 'ne Person vielleicht auf 'nem Hai, auf dem anderen wird nur ein Kleiderschrank zusammengebaut. Beide sind aber mit KI gekennzeichnet. Wer haftet eigentlich, wenn die Kennzeichnung falsch ist oder ganz weggelassen wurde? All das und mehr frage ich jetzt Simon Götze. Er ist Digitalexperte bei der Verbraucherzentrale Berlin. Er leitet unter anderem ein Informations- und Aufklärungsprojekt. Bei: dem geht's einerseits um Beratung, also Hilfe zur Selbsthilfe hat er's genannt, zum Beispiel beim Onlineshopping, dass Verbraucher wissen: Wie sieht ihr Widerrufsrecht aus? In dem Projekt werden aber auch Betrugsmaschen gemonitort, also Trends, die aufkommen und so weiter und die dann eingeordnet. Kleine Info am Rande: Simon saß zum Zeitpunkt des Interviews, mit 'nem gebrochenen Sprunggelenk zu Hause und hat sich trotzdem Zeit genommen für dieses Gespräch. Also das nenn ich mal 'ne Maschine, das grenzt an KI. Gehen wir mal rein.

00:28:28: Yasmin Interview: Hallo und herzlich willkommen Simon Goetze bei „Dürfen die das?"

00:28:31: Simon Götze: Hallo.

00:28:33: Yasmin Interview: Hi, ich hab schon vorab geklärt, ich darf dich duzen. Deswegen geht's jetzt einfach- Ja, gerne. im Du weiter und ich sag jetzt auch Simon. Wie geht's dir heute?

00:28:40: Simon Götze: Ähm, ja, es geht mir ganz gut. Ich, äh, freue mich auf das Interview. Ich, äh, hab mir das Sprunggelenk gebrochen, deswegen ist das natürlich 'ne guter Zeitvertreib hier, währenddessen ich mich hier quasi noch, ja, unbeweglich zu Hause befinde.

00:28:52: Yasmin Interview: vielen Dank, ne, dass du trotzdem zugesagt hast. Also das ist quasi heldenhafter Einsatz, dass ich dir mal alle Fragen stellen darf.

00:28:59: Verbrau..., für den Verbraucherschutz.

00:29:02: Yasmin Interview: Ja, es gibt tatsächlich viele Fragen. Wie ist 'n das, wenn wir in Richtung Zukunft schauen? Virtuelle Influencer werden ja ein Thema. KI-Content muss ja seit diesem EU AI Act gekennzeichnet sein. Das betrifft bisher aber eher so Deepfakes, also realistisch aussehende Bilder, Videos und so weiter. Aber wie ist 'n das eigentlich mit diesen künstlichen Creatorn? Wie würde das denn gekennzeichnet werden, denkst du?

00:29:24: Simon Götze: Ja, also das ist wahrscheinlich dann am Ende des Tages auch sozusagen nach dem, nach diesem KI-Act, nach dieser Transparenzregel trotzdem auch ein Diebfähig, auch wenn das sozusagen jetzt nicht. Wir verstehen da eher, dass mein Gesicht jetzt manipuliert wird, sodass ich etwas sage, was ich nicht gesagt habe, aber auch schon alleine das Erstellen einer realistisch aussehenden Person würde schon unter dieses Transparenzpflicht fallen, das zu kennzeichnen. Daneben gibt es ja auch schon vorher das Wettbewerbsrecht, das es jetzt schon so ein paar tausend Jahre gibt, gefühlt.

Äh, also jeden Fall schon lange vor KI. Müssen wir nicht ins Detail gehen, aber da steht halt im Grunde genommen sinngemäß drin, darauf einfach nicht lügen in Werbung. Und wenn ich dann: sozusagen suggeriere, dass da ein echter Mensch mir gerade etwas versucht zu verkaufen, dann ist das ja auch schon sozusagen wettbewerbsrechtlich abmahnpfähig. Das heißt, schon vorher wäre eigentlich, wenn dieser KI Act jetzt verschlafen worden wäre, hätte man jetzt eigentlich schon sich ein bisschen auf wettbewerbsrechtliche Probleme einstellen müssen, wenn man dann einfach sozusagen, äh, auf KI-Influencer geht, die behaupten, sie haben hier dieses Kosmetikprodukt ausprobiert, das sie natürlich, weil sie keine Person sind, äh, nie ausprobiert haben konnten. Und genau, also das ist eben schon unabhängig davon, dass es jetzt noch den KI Act gibt, der das sowieso noch mal doppelt verpflichtet, das zu kennzeichnen, ist es auch schon eigentlich nach den normalen lauterkeitsrechtlichen Regeln erforderlich gewesen, dass man so was hätte kennzeichnen müssen.

00:30:40: Yasmin Interview: Interessant. Das heißt, da muss man ohnehin aufpassen. Die EU schlägt ja drei Icons vor: AI Generated, AI Modified und einfach nur AI. Was ist denn, wenn diese Kennzeichnung nicht stimmt? Also wie überprüft man das denn, denkst du?

00:30:53: Simon Götze: Genau, also diese Labels sind ja erst mal Empfehlung. Also man muss es kennzeichnen, aber diese konkreten Labels zu benutzen, ist ja eine Empfehlung.

Man: kann es auch mit dem Bild in Text machen, äh, sozusagen über irgendwie Caption oder über so 'ne Fußnote im Bild, wie es jetzt zum Beispiel bei vielen Werbeplakaten ist. Wenn ich jetzt durch die Stadt gehe, sieht man das mittlerweile. Es gibt noch zusätzlich, äh, sind jetzt die Anbieter verpflichtet, die, also diese, die KI-Unternehmen, die solche Bilder erstellen können, sind verpflichtet, so einen unsichtbaren Code in dem Bild zu hinterlassen. Das heißt, wenn ich mir jetzt hier ein Bild generieren lasse, wo ich auf zwei Haien reite und ich dieses Bild schicke, dann ist dahinter dann eben etwas, was dann du nicht sehen kannst, aber halt ein entsprechendes Programm könnte sehen, dass es da eben so einen Schlüssel gibt, dass es KI erstellt. Das ist natürlich eine technische Lösung. Man muss nicht viel Fantasiereichtum haben, um das zu umgehen. Das reicht dann zum Beispiel einfach einen Screenshot zu machen von diesem Bild und dann sind diese ganzen, ja, Metadaten, die in so einer Datei sind, natürlich auch noch wieder weg.

00:31:46: Yasmin Interview: Wer haftet denn, wenn so eine Kennzeichnung vergessen oder einfach nicht raufgepackt wurde oder verloren gegangen ist?

00:31:52: Verbraucherzentrale und das dann eben nicht kennzeichne als KI, dann ist dann eben mein Vorstand der Ansprechpartner, der dann da eben da entsprechend, genau, haften würde.

00:32:07: Yasmin Interview: Also wenn das Foto von dir auf den zwei Haien reitend rausgehen würde ohne Kennzeichnung, dann müssten wir Herrn Kammradt leider, leider eine schlimme Mail schreiben.

00:32:16: Simon Götze: Nee, eigentlich nicht, weil, ähm, da gilt die Kennzeichnungspflicht nicht. Also die gilt nur für Sachen, die dann tatsächlich echt aussehen könnten, aber was halt offensichtlich Satire ist oder Kunst oder Quatsch. Also ist natürlich komplett plausibel, dass ich so was mal gemacht habe, aber, äh, die meisten Leute würden das erst mal nicht glauben und deswegen eben so was Quatsch, wir nennen es irgendwie Drachen und was auch immer dabei sind, Fantasiefiguren. Dann gilt diese Kennzeichnungspflicht nicht. Aber ehrlich gesagt, wenn ich mir so angucke, was mir manchmal Leute als Videos schicken, wo ich sagen würde, das ist doch offensichtlich KI. Also die Grenze darüber, ab wann etwas offensichtlich Quatsch ist, ist wahrscheinlich für die individuellen Personen dann anders anzusehen. Aber ja.

00:32:53: Yasmin Interview: Ist aber, ist aber vielleicht auch ein spannender Punkt in Sachen Recht, weil es natürlich dann auch irgendwie Auslegungssache und Argumentationssache ist.

Es war doch: ganz klar Satire. Was ich aber allerdings sehr viel sehe gerade, sind wirklich diese Plakate auf, keine Ahnung, Wochenmärkten, Essensimbissen und so weiter und da beschweren sich die Menschen auch drüber, die auch wirklich sagen so: Oh, bitte lasst mich in Ruhe mit euren KI-Plakaten. Man kann's natürlich als Unternehmer sich ein bisschen verstehen, weil es irgendwie vielleicht kostengünstig ist und man das so raushaut, aber rein ästhetisch habe ich schon das Gefühl, dass das gemeine Volk aka wir das schon eher scheiße finden und das irgendwie wirklich nicht hübsch finden.

00:33:27: Simon Götze: Ja, also das ist wirklich 'ne, 'ne Plage geworden, würde ich sagen. Ist am Ende 'ne Geschmacksfrage. Aber vielleicht auch so 'n bisschen 'ne kleine, ja, wie hier wie Lauterkeitsrecht wieder, weil also dieser Smoothie oder was auch immer, der dann, der KI generiert, der hat ja gar nichts mehr mit dem zu tun, was ich dann am Ende bekomme. Klar, die Leute identifizieren das auch dann offensichtlich als KI, dann erwarten sie's vielleicht das nicht als Ergebnis, aber im Grunde genommen hat das eigentlich nichts mehr mit dem zu tun, was man dann am Ende bekommt, ähm.

00:33:54: Whopper sieht aber gut aus und am Ende hast du da so 'n trauriges Brötchen vor dir liegen.

00:34:04: Simon Götze: Das stimmt. Ja, also die, die, die ... Wir kennen ja den Serviervorschlag. Das ist ja auch etwas, was, was sich jetzt auch wieder irgendwie so halb durch Verbraucherzentralen, Abmahnungen herauskristallisiert hat. Nichtsdestotrotz, ich finde der Burger King Burger, man hat schon das Gefühl, das wurde immerhin versucht mit dem ähnlichen Zutaten nachzustellen und das ist ja bei diesen KI Sachen auch-- Also abgesehen davon, dass es natürlich 'ne Geschmacksfrage ist, wenn ich auf so 'nem Jahrmarkt bin, dann, dann, ähm, ist natürlich viel charmanter, diese selbst ausgedruckten Fotos in der Klarsichtfolie, äh, wo dann der Preis mit Comic Sans, drunter steht.

Also würde man nicht denken, aber jetzt vermisst man das, wenn man dann auf einmal irgendwie so 'n, so 'n Börek, das aussieht wie, weiß ich nicht, 'n Goldbarren oder so. Also das ist ja genau, also ja, es ist halt 'ne Plage. Vielleicht erholt sich da der Markt irgendwann von. Also ich erinner mich, dass auch als das vor einem Jahr rauskam oder ein, zwei Jahren so 'n bisschen für alle Menschen als Anwender Haben angefangen, sich dann lustige KI-Bilder zu erstellen und das wurde: relativ, ich finde, es ist jetzt mittlerweile schon langweilig geworden. Also mittlerweile heißt das umgeschwappt, find ich, und die Leute finden das eher nervig. Und das sind natürlich kleinere Gewerbe, das sind irgendwelche Leute, die sind wahrscheinlich näher am Verbraucher als jetzt mal natürlich ein Burger King, die da halt Möglichkeit haben, Produktfotos zu erstellen. Aber ja, vielleicht merkt man da dann irgendwann, okay, das können wir uns sparen mit dem. Aber vielleicht ist es auch nicht so. Vielleicht kommt's auch besser an. Vielleicht sind wir die einzigen beiden, die das nicht so geschickt finden.

00:35:24: Yasmin Interview: Nee, ich glaube tatsächlich nicht, dass wir die beiden einzigen sind. Ich glaube, dass es ganz vielen Menschen so geht. Zumindest ist das, äh, mein Eindruck, wenn ich auf Social Media unterwegs bin, weil ich sehe ganz viele Videos tatsächlich auch dazu und Content. Jetzt noch mal ganz kurz ins andere Extrem: Ich hab neulich 'ne Werbung gesehen, ich glaube, es war Ikea und da haben die dann irgendwie so 'n Schrank gezeigt, der einfach aufgemacht wird und wieder zugemacht wird.

Oder vielleicht war's auch 'n Plakat. Auf jeden Fall war's 'n Schrank, so viel weiß ich noch. Und da stand dann auch drunter ganz, ganz, äh, klein, KI-unterstützt oder mit KI hergestellt oder so was. Und da hab ich mich gefragt Ja, ich seh es jetzt ja irgendwie gar nicht so richtig. Also gut, das ist jetzt 'n Schrank,: ne. Vielleicht macht die KI da wirklich nur so 'n mikroskopischen Teil aus. Ist das dann irgendwie sinnvoll, wenn Marken oder Unternehmen das dann vielleicht auf alles draufklatschen, wo halt irgendwie einmal, keine Ahnung, ChatGPT angeschmissen wurde oder irgendwie 'ne Bildgenerationsmaschine? Also sollte diese Pflicht vielleicht auch einfach nur für Menschen und Natur gelten und nicht für Grafikcontent oder Gegenstände.

00:36:20: Simon Götze: Ja, das ist so 'ne typische Reaktion dann von Unternehmen auf solche gesetzlichen Pflichten, dann das Ganze zu überlabeln, sozusagen. So 'ne Art vorauseilender Gehorsam oder es halt einfach zu verwässern, also sozusagen, dass das dann einfach ausgeblendet wird, weil sobald überall 'n Label drauf ist, dann nimmt man's nicht mehr so richtig wahr in der Form oder setzt das dann einfach voraus, dass das jetzt normal ist.

So ist es ja auch bei der Werbung bei Influencern. Wenn die das überall machen, wird's irgendwie auch ausgeblendet. Ja, ist schon bisschen schwierig, ob das jetzt dann nur für bestimmte Gegenstände gelten sollte. Man muss auch sagen, diese KI-Pflicht, die Kennzeichnungspflicht, die gilt jetzt nicht, wenn ich, ich sag mal, normale Werkzeuge in der Bildbearbeitung: benutzt habe. Das gibt es ja auch, die dann sozusagen dann bestimmte Sachen rauswischen. Das gibt's eigentlich auch schon Ewigkeiten. Kriegt jetzt halt den Begriff KI. Das ist eigentlich unproblematisch, wenn ich so was einsetze, klein einzelne Werkzeuge, dann muss ich das auch nicht unbedingt direkt mal als KI kennzeichnen. Deswegen wäre das auch sozusagen überflüssig, falls das da nur bei dem Ikea-Schrank passiert ist. Gleichzeitig darf ich jetzt auch nicht einfach 'n Ikea-Regal entwerfen lassen von der KI, das ich nicht verkaufe. Ja, das ist schon etwas, was einem auffällt. Man weiß nicht so ganz, was da der Hintergrund ist, was die Motivation dahinter, ob es vorauseilender Gehorsam ist oder eben so 'ne Labelmüdigkeit beim Verbraucher zu erzeugen. Ich denke mal, es ist wahrscheinlich eher der vorauseilende Gehorsam, der dann da dafür führt, dass das KI-Label jetzt auf jedem Werbeplakat zu finden ist.

00:37:43: Yasmin Interview: Ich glaube, man kann festhalten, es wird uns noch lange beschäftigen, dieses Thema, oder?

00:37:46: Simon Götze: Das glaub ich auch, ja.

00:37:55: Yasmin Mod: So viel ist sicher am Ende des Tages sind wir ja auch nur Menschen

Danke: Simon, danke an alle Gäste aus dieser Staffel „Dürfen die das?" Es war mir eine Freude. Das war die letzte reguläre Folge von „Para, Sozial". Wir hören uns aber noch mal wieder zu 'ner kleinen Extra-Episode pünktlich zum Weihnachtsgeschäft. denn Weihnachten ist für viele Branchen natürlich die umsatzreichste Zeit des Jahres. Da geht's auch für mich vom Microdosing gerne mal ins Maxi-Shopping und besonders, wenn wir uns so Buy now, pay later-Systeme anschauen, da müssen wir über einiges sprechen. Das machen wir in der Bonusfolge Anfang Dezember. Da schnür ich so'n kleines Staffelgeschenk zusammen mit den Expert:innen. Vielen Dank fürs Hören, fürs Dabeisein, fürs Mitscrollen. bis dahin den eigenen Blick in regelmäßigen Abständen über die Landschaft schweifen lassen, meinetwegen auch durch die Handykamera.

Danke. Bis dann. Folge dem Podcast, um nichts zu verpassen und gib eine Bewertung ab. Darüber freuen wir uns sehr. Diese Staffel von „Dürfen die das?“ war eine Produktion von Yasmin Polat im Auftrag der Verbraucherzentrale Berlin. „ Dürfen die das?“ ist ein Podcast der Verbraucherzentrale Berlin, gefördert durch das Bundesministerium der Justiz und für Verbraucherschutz: aufgrund eines Beschlusses des Deutschen Bundestages.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.