Der Netzpolitische Abend AT.
Keynotes,
Kommentare,
Diskussionen zu Themen und Fragestellungen der digitalen Gesellschaft.
Willkommen zurück am Elevate und zum 64. Netzpolitischen Abend zum ersten Mal in Graz dank der Kooperation von Elevate Spektral und MuR.at.
Was ist der Netzpolitische Abend? Einmal im Monat treffen sich seit 2015 netzpolitisch interessierte Menschen,
um sich kurze Vorträge anzuhören,
darüber zu diskutieren und einen gemeinsamen Abend zu verbringen.
Ich möchte mich auch bedanken bei der Freien Radius für die Übernahme in ihr Sendeprogramm.
Wir werden heute drei Kurzverträge haben zu ihr 15 Minuten mit anschließender Möglichkeit Fragen zu stellen.
Aus dem Publikum und aus dem Internet bitte Twitter und Mastodon mit dem Hashtag Netzpad für Netzpolitischer Abend Österreich.
Dann werden wir die Fragen hier auch aufnehmen.
Die drei Vortraginnen heute sind Thomas Lohninger von Epicenter Works,
der über Chatkontrolle sprechen wird,
ein EU-Vorhaben,
das plant,
unsere gesamte Textkommunikation,
Messengerkommunikation zu überwachen.
Leonhard Rabensteiner wird den von ihm mitgegründeten Verein Werbefrei vorstellen,
der Werbung kritisch hinterfragt und Schritt für Schritt reduzieren will.
Bewusstsein für das Thema schaffen will und alternative Nutzungsmöglichkeiten für Werbeflächen aufzeigen.
Und Jana Lasser von der Theokrat forscht im Bereich komplexer soziale Systeme mit Methoden des maschinellen Lernens,
der Datenwissenschaft und der Sozio-Physik.
Interessiert sich sehr für Open Science Praktiken und setzt sich dafür ein für Reproduzierbarkeit und Transparenz in der Forschung.
Sie wird über Chancen und Herausforderungen ihres Forschungsgebiets sprechen.
Und dann darf ich schon den ersten Redner begrüßen. Danke.
Hallo,
vielen Dank. Vielen Dank für die Einladung. Ich freut mich sehr,
dass wir den netzpolitischen Abend heute nach Graz bringen können.
Und ich habe euch ein Thema mitgebracht,
das gerade sehr aktuell ist. Auf EU-Ebene wird nämlich wieder mal ein neues netzpolitisches Gesetz diskutiert.
Dieses Mal kein gutes wie die Datenschutzgrundverordnung oder Netzraturalität,
sondern ein sehr gefährliches.
Der Titel ist Chatkontrolle und das ist aber auch nur ein Teil des Problems.
Worüber werden wir heute sprechen? Es geht im Kern wirklich um was ganz Analoges,
um das Briefgeheimnis,
um die Vertraulichkeit unserer persönlichen Kommunikation mit anderen Menschen.
Das ist nur eines der Grundrechte,
die dieses EU-Gesetz gerade versucht massiv auszuhöhlen.
Die Diskussion rund um dieses Gesetz,
die begann schon relativ früh. Wir hatten schon im Jänner 2021 die ersten Artikel bei Erich Möchl auf FM4.
Die EU will Verschlüsselung abschaffen und damals gab es noch laute Dementi von der EU-Kommission.
Nein,
nein,
niemand hat die Absicht,
Verschlüsselung abzuschaffen.
Als nächste Etappe in diesem Theaterstück,
in diesem Horrorfilm,
kam dann die sogenannte E-Privacy Interim Derogation.
Das war ein Gesetz,
das es ermöglicht hat für Messengerdienste,
für Plattformen nach den Inhalten zu suchen,
die man als Child Sexual Abuse Material einstuft,
also als Dokumentation von Kindesmissbrauch.
Dieses Gesetz,
die E-Privacy Interim Derogation,
war eine Kannbestimmung,
hat es WhatsApp und Signal ermöglicht nach solchen Inhalten zu suchen.
Und jetzt geht es in die nächste Runde. Es gibt eben einen Gesetzesvorschlag,
der das,
was damals als Option da war,
jetzt verpflichtend für alle machen will.
Ich habe schon erwähnt,
Child Sexual Abuse Material,
CSAM,
dieser Abkürzung,
die wird noch ein paar Mal vorkommen.
Es geht bei diesem Gesetz nämlich um drei Arten von Inhalten,
die gefiltert werden sollen.
Einerseits bekannte CSAM-Inhalte,
also bekannte Bilder oder Videos von der Dokumentation von Kindesmissbrauch,
die gesperrt und gelöscht werden sollen.
Dann geht es aber auch über unbekannte Inhalte,
die noch nicht in irgendeiner Datenbank liegen,
kategorisiert wurden und sozusagen das unbekannte Material,
das eben aber dann auch hier mit derselben Quote erkannt werden soll.
Und der dritte Versuch,
der dann irgendwie auch noch unklarer ist,
wie das technisch umzusetzen ist,
sind Anwahnungsversuche,
sogenanntes Grooming.
Also wenn ein erwachsener Mensch sich an ein Kind heranmacht oder eine Jugendliche mit sexueller Absicht,
nennt man das Grooming.
Solche Anwahnungsversuche sollen auch gefiltert werden mit diesem Gesetz.
Und bei den letzten beiden Kategorien wird auch ganz stark,
wenn man sich das Gesetz und das Impact Assessment durchliest,
auf Machine Learning,
also künstliche Intelligenz gesetzt.
Wie soll das Ganze funktionieren?
Der Status Quo ist,
wenn wir miteinander kommunizieren über Signal,
über irgendeinen verschlüsselten Messenger,
dann ist das eine sogenannte Ende-zu-Ende-Verschlüsselung.
Das Gerät,
das mit dem anderen Gerät kommuniziert,
baut da einen Tunnel auf,
also eine verschlüsselte Verbindung.
Und die Inhalte sind deswegen auch nicht einsehbar für Dritte,
die nicht Teil dieser zwei Kommunikationspartner sind.
Auch wenn da ein Server in der Mitte ist,
sieht der nichts davon.
Das ist die gute Verschlüsselung,
die wir eigentlich seit Jahrzehnten haben,
auf Basis derer jedes Netbanking funktioniert und auch ganz viel sonstige vertrauenswürdige Kommunikation.
Wie soll es künftig funktionieren?
Die eine Variante ist,
wir haben keine Ende-zu-Ende-Verschlüsselung mehr,
der Server hat die Daten im Klartext und kann auch filtern.
Das heißt,
der Server liest und durchsucht alles.
Die zweite Variante ist sogenanntes Client-Site-Scanning.
Also wir belassen zwar den verschlüsselten Kanal im Transportweg,
aber auf unseren Geräten wird gefiltert.
Einerseits mit Hatchfunktionen,
aber auch wiederum mit Machine Learning Modellen,
das heißt mit einer künstlichen Intelligenz,
die herausfinden soll,
ist das jetzt hier ein Bild von zwei 14-Jährigen,
die gerade medley in love sind,
oder ist es das Bild von einer 17-Jährigen und einem 16-Jährigen?
Wie ist das rechtlich zu bewerten? Ist dieses Bild von einem nackten Kind ein Kindesmissbrauchbild oder ist das etwas,
das vielleicht die Mutter gerade geschossen hat,
um es dem Opa zu schicken über Facebook Messenger?
All das soll der Computer künftig können.
Wenn der Computer glaubt,
dass er ein Bild gefunden hat,
das unter diese drei Kategorien fällt,
sollen folgende zwei Dinge passieren.
Einerseits muss dieser Inhalt an die zuständigen Law Enforcement Agencies gemeldet werden,
also Polizeistellen in die Mitgliedsländern.
Es gibt dann auch noch mal eine EU-Institution,
die hier mit ins Spiel kommt,
die unter Europol in Den Haag angesiedelt ist.
Und zweitens muss der Inhalt von der Plattform gelöscht werden,
sowohl sozialer Netzwerke,
wie auch verschlüsselter Messenger.
Und wenn wir uns dann klar machen,
dass die Fehlerquote von der Software,
die heute versucht,
sowas zu leisten,
irgendwo zwischen 52 Prozent liegt,
im besten Fall.
Und wenn wir dann überlegen,
wie viele Milliarden Inhalte,
wie viele Milliarden Messages in Europa jeden Tag verschickt werden,
sehen wir,
wie hoch die Fehlerquote ist,
wie massiv hier in Privatsphäre eingegriffen wird.
Man könnte sich jetzt denken,
das wird doch sicherlich nur die ganz schlimmen Plattformen betreffen.
Nein,
es betrifft das gesamte Internet und zwar wirklich das Gesamte.
Wir reden von allen Messenger-Apps,
Signal,
WhatsApp,
Fremar,
wir reden von sozialen Netzwerken,
Facebook,
Snapchat,
TikTok,
wir reden von Dating-Apps,
von Tinder,
über Grindr und Bumble und so weiter.
Aber eben auch Webform,
wie Wilhaben oder Reddit. Der Standard wäre betroffen. Aber eben auch Webmail-Anbieter,
wie GMX oder Hotmail oder Web.de.
Was sind die Probleme jetzt mit diesem Gesetz? Auch gerade wenn man sich überlegt,
hier gibt es nicht mal eine Start-up oder KMU-Ausnahme.
Das,
was wir heute über dieses Phänomen des Austausches von Dokumentation von Kindesmissbrauch wissen,
und es gab ja in den letzten Jahren zum Glück auch Ermittlungserfolge in diesem Bereich,
übrigens auf bestehender Gesetze,
ist der hauptsächlicher Weg,
wie dieses Material ausgetauscht wird im sogenannten Darknet.
Also im Tor-Netzwerk,
in den Teilen des Internets,
die architekturell wirklich sehr stark abgeschützt sind von jeder Art der staatlichen Zugriffe.
Das ist gut,
weil so können Menschen in Russland und in China noch freies und zensiertes Internet nutzen und dabei einigermaßen anonym sein.
Aber es ist dann eben auch ein Hindernis für lokale europäische oder amerikanische Strafverfolgungsbehörden.
Wenn wir wissen,
dass im Darknet eigentlich diese Leute unterwegs sind,
kann man sich dann fragen,
wieso dieses Gesetz nur im Clear-Web ansetzt.
Also es geht hier überhaupt nicht um die bekannten Wege,
wie dieses Material getauscht wird,
sondern es geht eigentlich eher um die Art von Verschlüsselung,
die heute in der Masse der Bevölkerung Gang und Geber ist. WhatsApp hat Milliarden Nutzer auf diesem Planeten und vertraut natürlich hier auch ganz stark auf die Verschlüsselung,
die es eingebaut hat.
Und das ist aber etwas,
das wir jetzt gerade eben neu debattieren.
Der zweite Grund,
wieso dieses Gesetz problematisch ist,
ist die anlasslose Massenüberwachung,
die es mit sich bringt.
Und das betrifft nicht nur einzelne Gruppen,
sondern die gesamte Bevölkerung. Das inkludiert alle Berufsgeheimnisträger,
jeden Journalisten,
der mit einer Quelle kommuniziert,
jede Ärzte,
mit einem Patienten,
jeden Psychotherapeuten,
jeden Whistleblower. Und da haben wir natürlich dann auch mit so einer Macht in der Hand des Staates ein ganz neues Gefüge.
Das nächste,
wir haben ja ganz oft Machine Learning gesagt oder irgendwelche Hashtabellen verwendet,
das sind Techniken,
die sehr schwer zu kontrollieren sind.
Wenn jede Nachricht,
die potentiell verschickt wird,
durch so einen Filter durchlaufen muss,
dann wird es verdammt wichtig,
was dieser Filter sperrt und was er durchlässt.
Und es wäre ein leichtes hier eben auch andere Inhalte in so einer bestehenden technischen Infrastruktur mitzufiltern.
Man könnte dann sehr leicht das ausweiten auf terroristische Straftaten,
andere schwere Straftaten,
vielleicht auch das,
was man sich dann in Ungarn,
in Polen oder in Russland einfallen lässt.
Die Dienste sind global,
die Gesetze würden aber lokale Sperrregime notwendig machen. Und nachdem das teilweise auf unseren Geräten passiert,
wäre es dann auch relativ leicht machbar zu sagen,
in diesem geografischen Gebiet gibt es halt diese und jene Inhalte nicht mehr zu sehen. Und das,
glaube ich,
ist eine Art von Kontrollinfrastruktur,
die wir nicht mit einer liberalen aufgeklärten Demokratie in Einklang bringen können.
Nächstes Problem,
denkt an das Grooming,
die Anbahnungsversuche. Die Maschine wird nicht wissen,
ob das ein erwachsener Mensch ist,
der mit einem Kind spricht.
Das heißt,
eigentlich muss man sich identifizieren. Die Plattform hat dann in ihre Risikoabschätzung,
und die wird gesetzlich hier vorgeschrieben,
de facto fast keine Ausrede mehr,
wieso man nicht das Alter der Nutzerinnen und Nutzer erhebt,
wieso man sich nicht die Identität vorlegen lässt.
Schon allein um dann gefundene gefilterte Inhalte auch mit den Postern direkt an die strafe Folgen melden zu können,
gäbe es wahrscheinlich
einen direkten Angriff auf alle Formen von Anonymität oder Absurdität im Internet. Für jene,
die diese Plattform betreiben,
wäre es dann wahrscheinlich
in einer Risikoanalyse fast nicht mehr haltbar,
noch Anonymität unter ihren Nutzerinnen und Nutzern zuzulassen.
Diejenigen,
die wissen,
wie das Internet funktioniert,
wissen auch,
dass diese Art der Zentralisierung wirklich genau das Gegenteil ist,
wieso wir das Internet gebaut haben,
als dezentrales,
sensorresilientes Netzwerk. Und gleichzeitig wird sich jeder Mensch mit technischem Sachverstand
auch sofort fragen,
wie soll das denn funktionieren. Also einen Anbahnungsversuch,
ein unbekanntes Bild herauszufinden.
Computer sind nicht so klug. Diesen Kontext herauszufinden,
werden sie nicht leisten können.
Das heißt,
wir werden mit massiven Fehlerquoten zu kämpfen haben,
wenn es um diese Technik geht. Und zuletzt glaube ich,
dass es auch etwas mit
unserer Gesellschaft machen wird,
wenn wir wissen,
dass wir auf Schritt und Ritt immer überwacht werden. Wenn es einsehbar ist,
dass jede Kommunikation
potentiell,
entweder mit Absicht oder mit einem Fehler in diesem Filter-Algorithmus,
bei der Polizei landen kann. Das wird etwas daran ändern,
wie Journalisten mit ihren Quellen kommunizieren,
wie Betroffene von Kindesmissbrauch mit ihren Anwälten oder mit ihren Ärztinnen und Ärzten
kommunizieren. Es wird wirklich einen gravierenden Unterschied machen,
worauf wir uns als Gesellschaft noch verlassen können und inwieweit die
Verbindungen,
die wir miteinander aufbauen,
übers Netz noch wirklich vertrauenswürdig sind oder nicht. Das war vor meiner Zeit,
aber wir hatten in den 90er
Jahren,
es wurde sogar im vorherigen Vortrag angesprochen,
die Crypto Wars 1.0. Da hat die amerikanische Regierung versucht,
starke Verschlüsselung zu
verbieten und das war vereinzustufen. Wir haben diese Crypto Wars gewonnen. Wir haben sie gewonnen,
weil wir am Ende Code mit Sprache gleichgesetzt
haben. Wie Lawrence Lessig so schön sagt,
Code is Speech. Aber wir haben es auch gewonnen,
weil wir die Banken auf unserer Seite hatten.
Leute,
die gerne Steuern hinterziehen,
brauchen auch Verschlüsselung. Das haben die damals dann gecheckt und auf einmal waren sie auf unserer Seite.
Da hat die Gegenseite daraus gelernt. In den Crypto Wars 2.0,
in denen wir uns jetzt gerade befinden,
verbietet man nicht mehr die Technik. Man verpflichtet die
Anbieter dieser Technik,
das doch ein bisschen schlechter zu machen. Wir brauchen den Zugriff. Hier und da müssen wir noch reinschauen. Und deswegen sind die Crypto Wars 2.0
auch ein gänzlich neues Feld. Wir sind erst dabei,
hier wirklich auch die Sprache zu finden,
die Narrative zu bauen,
um mit einer großen europaweiten
Kampagne,
die es geben wird von der netzpolitischen Zivilgesellschaft,
hier wirklich auch etwas dagegen zu halten. Das Gesetz ist im Mai vorgestellt worden.
Ihr könnt euch vorstellen,
das wird kein ruhiger Sommer. Und im Herbst,
wenn die Verhandlungen losgehen,
brauchen wir wirklich auch viel Unterstützung von allen
Menschen,
um hier dran noch etwas zu ändern. Und ein Argument,
das uns ganz klar begegnen wird,
wenn wir sagen,
ihr zerstört hier gerade die Privatsphäre und die
Meinungsfreiheit,
werden die sagen,
aber es ist doch für die Kinder. Wir wollen doch die Kinder beschützen. Und hier weise ich wieder zurück auf das,
was ich eingangs gesagt habe.
Bestehende Netzwerke werden unberührt bleiben von diesem Eingriff. Wir haben auch für Kinder und Jugendliche Grundrechte wie Datenschutz und Meinungsfreiheit.
Und alles,
was in einer Demokratie ein Gesetz vom Staat verabschiedet wird,
das in Grundrechte eingreift,
muss verhältnismäßig sein.
Und es gibt einen Grund,
wieso der Bundesdatenschutzbeauftragte in Deutschland gesagt hat,
dieses Gesetz ist nicht mit europäischen Werten vereinbar.
Und ich glaube,
wir werden noch viel mehr solcher Stimmen sehen. Ganz wichtig zuletzt die Zahlen,
auf die sich die EU-Kommission beruft.
Angeblich zig Millionen solcher Fälle,
die in Europa jedes Jahr passieren. Ein heute erschienener Artikel auf Netzpolitik.org schaut sich das mal näher an.
Lies euch das durch,
das sind lange Artikel,
aber der Gist ist,
man kann wirklich sehr stark anzweifeln,
ob es hier um Millionen geht.
Vielleicht sind wir im tausender Bereich an Fällen,
die wirklich belegbar sind in Europa.
Und ich glaube,
dass hier auch ganz stark mit einer emotionalisierten Debatte gearbeitet wird,
wo der Terrorismus gerade nicht mehr herhält.
Man braucht halt ein neues Thema,
wo Menschen nicht mehr sachlich darüber nachdenken,
ob das gerechtfertigt ist oder nicht.
Unsere Forderungen wären ganz klar,
hier keine Angriffe auf Ende-zu-Ende-Verschlüsselung zuzulassen,
keine Uploadfilter oder Kleinstheiz-Scanning-Infrastruktur aufzubauen.
Man muss viel stärker in den Opfer- und Präventionsschutz investieren.
Hier gäbe es auch gute Beispiele von der Charité in Berlin zum Beispiel,
dass man sagt,
okay,
jemand,
der die Neigung hat,
muss um jeden Preis davon abgehalten werden,
ein Täter zu werden.
Damit schützt man Kinder,
nicht indem man Online-Plattformen neue Aufgaben gibt,
die sie jetzt als globale gewinnorientierte Konzerne schon nicht gut erfüllen.
Und gute Polizeiarbeiten,
da haben wir auch genügend Beispiele,
zeigt auch,
dass es viel mehr an Löschverpflichtungen,
an klaren Regeln für die Strafverfolgungsbergen und auch mehr Personal mangelt in diesem Bereich.
Leider ist das gewählte Instrument gar nicht in der Lage,
hier Regeln zu machen,
weil es geht nur um Wirtschaft,
es geht nur um Online-Plattformen.
Aber das Internet ist hier schon wieder der Austragungsort für gesellschaftspolitische Konflikte.
Ganz zuletzt,
was können wir hier alle tun im Saal? Ganz wichtig,
sich zu informieren und mit anderen Leuten darüber zu reden.
Das kann nur der erste von ganz vielen Gesprächen und Anstößen sein,
dieses Thema in die Öffentlichkeit zu heben.
Für uns,
das EP Centerworks,
wird es ein Haupt Priority One-File bleiben für den Rest dieser Legislaturperiode.
Und mit allen anderen netzpolitischen NGOs,
mit denen ich bisher geredet habe,
die sehen das ganz genauso.
Das ist ein All-Hands-Issue.
Es gibt einen offenen Brief der Zivilgesellschaft,
den schon über 100 NGOs unterschrieben haben,
ist auch noch weiter offen für Unterschriften.
Und es gibt bei uns noch mal Mitmach- und Spendenoptionen,
wenn man sich hier einbringen will. Vielen Dank.
Danke für den Vortrag und dieses wichtige Thema,
das uns alle betrifft. Jetzt ist Zeit und Raum für Fragen.
Hallo,
danke für den Vortrag. Es war sehr spannend.
Mich würde interessieren,
was ihr so hands-on für den Eindruck habt,
die Leute,
die die Gesetze momentan schreiben,
wie weit die sich vorstellen können,
wie diese technische Umsetzung funktioniert und auch irgendwie überprüfbar ist.
Weil ich als Techniker denke mir so,
hä?
Also wie hands-on die Leute,
die Gesetze schreiben,
haben wir auch wirklich Verständnis dafür,
was da technisch passiert.
Gute Frage. Das ist politisch zu beantworten.
Also es gibt zwei Kommissarinnen,
die dieses Dossier treiben. Das sind die EU-Innenkommissarin Johansson und die Kommissionspräsidentin Ursula von der Leyen.
Die Geschichte in diesem Thema hatte ich erinnere an Censursula in Deutschland 2009.
Also Internet kaputt machen,
um Kindern zu helfen,
ist etwas,
das ihr Branding ist so ein bisschen.
Und es gibt die Kritik von den Fachabteilungen.
DigiConnect,
das Digitalministerium unter Thierry Petain,
ein Franzosen,
der normalerweise nicht unser Freund ist.
Er war hier extrem kritisch. Wir haben Leaks aus der Zeit,
wo dieses Gesetz innerhalb der Kommission verhandelt wurde,
wo all die Kritikpunkte,
die wir jetzt hier aufbringen,
damals schon gesagt wurden.
Das Impact Assessment liest sich wie ein dadaistisches Meisterwerk,
weil hier einfach Probleme zwar erkannt,
aber dann fallen gelassen werden.
Ganz stark dürfte der Einfluss von Firmen wie Torne sein,
der Firma von Aston Kutscher,
also den Herstellern von der Filtertechnologie,
die hier per Gesetz allen Plattformen verordnet wird,
weil die haben halt zufällig Produkte,
die genau diese drei Kategorien von Inhalten abdecken.
Und deren Erfolgsversprechen,
was man denn an Erfolgsquote und Fehlerquote leisten kann,
decken sich auch sehr gut mit dem,
was jetzt von diesem Gesetz behauptet wird im Impact Assessment.
So,
lange Rede,
kurzer Sinn. Es gibt die Kritik,
aber die wird aus politischen Gründen hier einfach nicht gehört.
Und es ist auch so,
dass wir zuerst gehofft haben,
die Kommission könnte sich noch einmal anders überlegen.
Aber hier gibt es einfach wirklich eine Vogelstrauß-Mentalität. Die Kommission wird sich von sachlichen Argumenten nicht beeinflussen lassen.
Die Frage ist,
wie es im Rat und beim EU-Parlament aussieht. Da rechne ich uns mehr Chancen aus.
Deutschland ist sehr,
sehr kritisch. Alle drei Regierungsparteien. Österreich wankt. Ich habe Hoffnung.
Und es gibt andere Länder,
die ähnlich kritisch sind. Und im Parlament liegt es an uns allen,
mit unseren Abgeordneten zu sprechen,
dass wir die überzeugen.
Drei Anschlussfragen. Die erste ist,
würde das bedeuten,
dass amerikanische Technologie,
amerikanische Messenger überwacht?
Die zweite Frage ist,
wie soll das mit den ganzen Sprachen in Europa gehen? Stichwort,
chatten auf albanisch oder gelisch.
Und die dritte ist,
bedeutet das dann nicht,
wenn eine Meldung von Meldungen eingeht,
gesammelt in einer bestimmten Sprache,
nicht so eine Art DDoS-Attacke auf überforderte Polizeibehörden?
Drei sehr gute Fragen. Ja,
im Moment sind die hauptsächlichen Hersteller US-amerikanische. Ich glaube,
wenn wir einen Markt geschaffen,
wird er auch europäisch sehen.
Dieses von mir erwähnte neue Zentrum als EU-Behörde in Den Haag unter Europol soll auch KMUs solche Filtertechnologie anbieten.
Ist dann halt die Frage,
welche ist das? Ist das amerikanische? Darauf ist ein großes Datenschutzproblem.
Das ist ein ganz großes Problem. Wir kennen Schrems I,
Schrems II,
der europäische Gericht,
soviel gesagt,
in den personenbezogenen Daten in die USA,
eigentlich schwierig.
Und hier reden wir ja wirklich von allen Daten,
von allen Menschen. Also wirklich problematisch. Ich glaube auch sowieso nicht,
dass das vor Gericht halten wird.
Sogar wenn man glaubt,
dieses Gesetz könnte Kindern helfen,
großes if,
es würde vor Gericht nicht halten. Also nach drei Jahren wäre das beim Möstgericht aufgehoben.
Das ist ja auch keine stabile Maßnahme. Wenn man schon sagt,
wir machen jetzt ein Kinderschutzpaket,
wieso nicht die 30.000 anderen Ideen und die Community,
die sich wirklich um den Kinderschutz in Europa kümmert,
hätte sehr viele gute Ideen,
die hier nicht drinstehen im Gesetz.
Deine zweite Frage,
das ist auch wieder so ein absolut ungelöstes Problem. Es tut so,
als wären all diese Machine Learning Modelle in allen Sprachen absolut perfekt.
Gerade bei kleinen Sprachen wie Estnisch,
Lettisch,
1,
5 bis 1,
2 Millionen Leute,
die da sprechen,
forget it. Also da gibt es nicht einmal gute Übersetzungsprogramme,
einfach weil du nicht so viele Premiere-Quellen hast. Und hier anzunehmen,
dass die Software gleich gut funktionieren würde,
de facto ist es eine Diskriminierung von marginalisierten Sprachen.
Dem Problem wird überhaupt keine Aufmerksamkeit geschenkt,
aber du hast absolut recht,
das ist ja real,
gerade bei diesem dritten Inhaltstyp des Groomings,
wo man ja Texterkennung machen muss.
Also da hast du absolut recht. In der Zwischenzeit habe ich deine dritte Frage vergessen.
Die DOS-Attacken auf die Polizei.
Genau,
ja,
das ist natürlich auch das Problem,
was wir auch schon angemerkt haben,
weil heutzutage ist es so,
dass die Stellen,
die sich wirklich um die Behandlung dieser Meldungen kümmern,
weil de facto ist keinem Kind geholfen,
wenn das Zeug nur gelöscht ist. Man muss da ja,
das ist ja die Dokumentation eines Verbrechens,
das hoffentlich aufgeklärt wird,
wo es vielleicht auch noch anhaltenden Missbrauch gibt,
der abgestellt werden muss. Und im Moment,
das wissen wir,
mangelt es an diesen menschlichen Kapazitäten bei den Strafverfolgungsbehörden an,
an diesen Stellen wirklich anzusetzen.
Mit klassischer Ermittlungsarbeit. Und da jetzt einfach die Flat-Gates auszumachen und von jeder Plattform wahrscheinlich Millionen Meldungen am Tag dorthin zu liefern,
glaube ich,
ist total kontraproduktiv zu dem eigentlichen Missstand,
den das aufzuklären gilt.
Ich will nicht zu viel Zeit,
ich bin auf jeden Fall noch da und freue mich auch später noch über mehr Fragen. Vielen Dank.
Danke Thomas,
dann darf ich Leonhard Rabensteiner zu mir bitten mit der Vorstellung von Werbefrei. Danke.
Ja,
ich stehe heute vor Ihnen und möchte ein wenig darüber erzählen,
warum Werbung nicht so toll ist. Manche Arten von Werbung noch weniger toll sind. Das ist ein recht großer Themenbereich,
den ich jetzt erstmal nur ganz allgemein...
Genau,
also für viele Menschen ist Werbung generell mal kein Problem,
sie gehen dran rüber,
denken nicht weiter drüber nach.
Manche Menschen fragen sich dann schon,
warum muss ich das sehen,
kommen dann darüber zu dem Eindruck,
dass es irgendwie doch eine visuelle Verschmutzung gibt,
dass es dann aber auch eine Reizüberflutung gibt,
dass wir am Weg zur Arbeit oder im öffentlichen Raum sehr viel sehen,
worüber wir dann auch nicht bestimmen können oder was uns dann quasi zugestellt wird,
ohne dass wir mitsprechen können oder etwas dagegen sagen können,
also es gibt keine Mitsprache.
Und wenn man dann mit Menschen aus der Werbeindustrie spricht,
hört man dann das Argument,
ja,
das ist doch eine Information,
ein Dienst an den Kundinnen und Kunden,
aber ist es eigentlich nicht.
Also es geht ja darum,
ein gewisses Produkt zu verkaufen und ein gewisses Produkt auch anzupreisen,
das vielleicht sonst auch gar nicht gekauft würde und das vielleicht auch nicht das Beste ist.
Also es ist genau die Umkehrung davon und das führt uns aber auch zur Frage,
wie frei entscheiden wir uns,
wie frei oder wie sehr werden wir wirklich nur informiert oder ab wann beginnt dann der Punkt,
bei dem wir auch wirklich davon manipuliert werden.
Und das führt uns zu einem Namen,
nämlich Edward Bernays,
der hat ein Standardwerk geschrieben namens Propaganda schon 1928,
ein Name,
der vielleicht manchen was sagt,
manchen nicht.
Das ist ein Wegbereiter der Öffentlichkeitsarbeit,
wie wir sie heute kennen.
Edward Bernays war ein Neffe von Sigmund Freud und hat sich auch von dessen Menschenbild sehr stark beeinflussen lassen.
Das vereinfacht gesagt,
besagt,
Menschen sind irrational und triebgesteuert und genau dieser Triebe wollte sich Bernays auch zu eigen machen,
zu nutzen machen und eine Anleitung schreiben,
wie damit umgegangen werden kann,
wie die beeinflusst werden kann.
Propaganda selbst,
das ist ja ein Begriff,
der dann gerade auch in der Zwischenkriegszeit irgendwo ein schlechtes Image bekommen hat und was hat Bernays dann gemacht?
Er hat es unbenannt,
er hat es ge-rebranded und einfach zu PR,
also Public Relations,
unbenannt.
Ja,
das Konzept ist das gleiche,
das wird auch bis heute so gelehrt,
das ist ein Grundbuch in PR,
nur der Name hat sich geändert.
Es gab auch seit damals Kritik daran,
dass Menschen beeinflusst werden und eben an ihrem freien Willen manipuliert wird oder versucht wird,
Einfluss darauf zu nehmen.
Die war aber nie erfolgreich genug,
sondern im Gegenteil,
also auch in Verbindung mit dem Kapitalismus hat sich Werbung dann wirklich durchgesetzt,
wurde dann auch zum Identifikationsmoment,
auch im Gegensatz zum Kommunismus,
wo man sich dann auch wirklich identifiziert hat und diese Art von Freude eigentlich damit hatte und gesehen hat,
dass man in einer Überflussgesellschaft gelebt hat.
Und ja,
popkulturell gab es dann schon auch Kritik vermehrt ab der 1970er Jahren,
als es dann auch Wirtschaftskrisen gab,
als es dann auch auf persönlichen Ebenen Probleme sich eingestellt haben.
Also diese Konsumkritik war dann auch im Mainstream vielleicht nicht ganz so präsent. Ein Film zum Beispiel,
ein Beispiel ist hier They Live von John Carpenter.
Hier sieht man durch Brillen,
wie die Aliens in diesem Film versuchen die Menschen zu beeinflussen und man sieht die Wahnbotschaften hinter der Werbung.
Natürlich sehr zugespitzt,
aber es zeigt sehr gut auf,
wie diese Kritik dann auch ausgesehen hat.
Ein Thema oder ein Kritikpunkt wurde in den letzten Jahren immer stärker,
nämlich Umwelt- bzw. Klimaschutz und eben die Auswirkungen von Werbung.
Also eine grundlegende Funktion von Werbung ist ja den Konsum zu stimulieren und dadurch eben auch für mehr Wachstum zu sorgen und mehr Kaufanreise zu schaffen.
Und wenn man hier zum Beispiel auf der Abfallpyramide auf der rechten Seite sieht,
diese Punkte,
die weiter unten stehen,
kennen wir alle.
Wir schauen,
dass wir Recycling betreiben,
Dinge wiederverwenden. Viele zumindest tun das,
wenn sie an Nachhaltigkeit denken.
Aber der Punkt,
der ganz oben steht,
die Vermeidung,
die wird eigentlich so gut wie nicht behandelt oder nach wie vor sehr selten auch wirklich diskutiert.
Das nachhaltigste Produkt kann noch so sehr wiederverwendbar sein und immer wieder verwendet werden und all das.
Aber wenn es gekauft wird,
ohne dass es einen wirklichen Nutzen dafür gibt,
dann ist auch das nicht wirklich nachhaltig oder nicht wirklich das,
wo wir eigentlich hin sollten.
Ja,
und es gibt dann eben auch diesen Unterschied zwischen primären und sekundären Ressourcenverbrauch.
Primär,
also die Werbemittel an sich,
Plakate und Stromverbrauch bei Online-Werbung,
aber dann eben auch sekundär,
was sich schlimmer oder schlechter messen lässt,
nämlich die Ressourcen,
die dann durch gesteigerten Konsum auch verbraucht werden.
Bei dieser Kritik gibt es dann aber auch eine andere Richtung oder einen anderen Ansatz,
nämlich der Versuch,
möglichst klimaschädliche Werbung zu thematisieren und zu versuchen,
Diesel zu reduzieren.
So eben fossile Werbung,
also Werbung für primär Erdöl-basierte oder Kohlen- oder Gas-basierte Produkte,
Autos,
Flugreisen,
Kreuzfahrten,
all diese Dinge.
Und ein Beispiel,
weswegen dieser Ansatz auch umgesetzt werden sollte,
ist Tabakwerbung,
die eben auch aufgrund der Schädlichkeit in den letzten Jahren reduziert wurde oder auch verboten wurde,
und das glücklicherweise jetzt auch schon fast weltweit.
Und hier kann man eben auch argumentieren,
fossile Werbung ist im Moment vielfach erschädlicher,
auch für die Menschen,
die sie nicht konsumieren oder die Produkte nicht konsumieren,
aber eben bisher ist sie noch nach wie vor sehr legal umsetzbar.
Dagegen gibt es jetzt eine europäische Bürgerinneninitiative,
Ben Fossil Fuel Ads,
die ist auch bis Oktober noch zu unterschreiben.
Es geht eben darum,
genau diese Art von Werbung als auch Sponsoring für diese Produkte europaweit zu vermeiden und sie bis Anfang Oktober zu unterschreiben.
Es geht hier auch um Greenwashing,
also dass Firmen sich grüner darstellen und als sie es eigentlich sind,
dass zum Beispiel eine Ölfirma damit wirbt,
dass all ihre Büroräumlichkeiten durch Solarzeiten mit Strom versorgt werden,
gleichzeitig produziert diese Firma aber genauso weiterhin Erdöl
und die Schäden davon sind natürlich immer ein vielfaches größer als das,
was sie ein wenig besser machen.
Diese Meinung,
das vertritt jetzt auch nicht nur eine gewisse Gruppe,
sondern auch im letzten IPCC Report des Weltklimarats wird explizit auf die klimaschädliche Funktion von Werbung
als auch von fossiler Werbung hingewiesen und auch der österreichische Klimarat,
der vor etwa zwei Wochen seine Empfehlungen abgegeben hat,
ist eben auch gegen klimaschädliche Werbung,
also ist für ein Verbot bzw. ist eine starke Reduktion.
Ja und jetzt zur Außenwerbung oder gerade auch zur digitalen Außenwerbung. Im Außenraum können wir eben keinen Adblock installieren,
da sehen wir,
was auf der Straße ist oder wir schauen weg und nehmen die Dinge dann erst unterbewusst wahr durch eine ständige Wiederholung.
In den letzten Jahren gibt es eben diese Tendenz,
dass verstärkt in der Außenwerbung diese Analogen zu digitalen Werbeschildern ausgetauscht werden.
Teilweise gibt es dann eben auch in öffentlichen Verkehrsmitteln,
auf öffentlichen Plätzen Infoscreens oder andere Linebände oder Screens,
auf denen dann Infotainment stattfindet,
also Schlagzeilen und erste Einblicke in Nachrichten werden gegeben und das legitimiert dann eben auch,
dass Werbung gezeigt wird.
Die Frage ist dann natürlich auch,
also wer verdient daran? Natürlich hat die Firma ein Interesse daran,
die Werbung zu schalten und nicht Nachrichten zu zeigen
und das scheint dann eben auch so weit erfolgreich zu sein,
dass der öffentliche Raum noch mehr mit Werbung versorgt wird.
Digitale Werbung hat für Werbeende natürlich große Vorteile. Man kann dadurch interaktivere Werbung zeigen.
Wir als Konsumentinnen sehen viel mehr auf bewegte Werbung und auch auf beleuchtete Werbung als auf toter,
sich nicht bewegende Plakate.
Das Problem damit ist natürlich auch der Ressourcenverbrauch. Also gerade der Stromverbrauch bei diesen Werbeflächen besteht bis zu drei Haushalte.
Das ist jetzt eine englische Studie. Ich habe keine Zahlen für Österreich.
Das ist aber doch,
wenn man ansieht,
wie viele davon schon in der Straße oder auf öffentlichen Plätzen stehen,
eine gar nicht so kleine Zahl.
Und jetzt auch in der aktuellen Energiekrise ist das auch ein Punkt,
wo man sagen könnte,
hier könnte man einsparen.
Ja und bei Onlinewerbung,
da gibt es natürlich diesen Vorteil,
dass man einen Adblocker installieren könnte,
was vielleicht auch viele hier im Raum machen.
Das ist natürlich bedingt ein Vorteil,
also in Apps funktioniert das dann wieder nicht und gewisse Programme funktionieren dann wieder nicht,
wenn man die Werbung daran blockiert. Das ist das ständige Katze-und-Maus-Spiel,
dass die Programme weiterentwickelt werden und dann eben auch die Werbeformen weiterentwickelt werden.
Ja,
jedenfalls ist auch hier der primäre Ressourcenverbrauch immens groß. Es gibt verschiedene Statistiken,
also den ganzen Internet-Traffic zu monitoren,
ist dann doch keine so leichte Aufgabe,
aber es gibt verschiedene Statistiken,
die gehen von zwischen 9 bis 11 Prozent des Traffics davon aus,
dass das sich dabei nur um Werbung handelt.
Also man kann hier wirklich von Größenverhältnissen sprechen,
von wie vielen Kraftwerken das sind,
wie viele Kohlekraftwerke dahinter stehen.
Es gibt dann aber auch zum Beispiel zwei Webseiten,
die helfen zu berechnen,
was der Fußabdruck einer Webseite ist,
also Server-Standort als auch die Stromform,
die dann eben auch dazu helfen können,
Webseiten irgendwie grüner zu machen,
indem diese Zahlen dann eben auch den Betreibernenden zur Verfügung gestellt werden.
Das ist aber auch nur ein netter Ansatz für die,
die sich dafür interessieren.
Und oft gibt es eben dann auch das Problem,
dass Werbung oder Datenschutz eine Wahlmöglichkeit ist,
das sollte aber eben nicht entweder oder heißen,
sondern es sollte natürlich so und so möglich sein,
also dass keine Werbung,
kein Tracking stattfindet und das auch,
wenn nicht dafür gezahlt wird.
Also hier der Beispiel vom Standard,
der Standard.at,
Österreichs größte Online-Tageszeitung oder meistgenutzte,
wo das eben genau diese Entscheidung zu treffen ist.
Entweder man sieht Werbung oder man zahlt für das Produkt.
Und generell blockieren ist zu wenig,
um diesem Problem auch wirklich teil zu werden oder um dieses Problem am besten zu behandeln.
Es ist hier eine Diskussion nötig,
ob für Content mehr bezahlt werden sollte oder ob es andere Subventionen oder Förderungen geben sollte.
Das ist ein toller,
das sprengt jetzt aber auch hier den Rahmen.
Und zum Schluss noch zum öffentlichen Raum.
Wenn man Menschen fragt,
was statt der Werbung dort sein könnte,
stehen könnte,
haben die Menschen viele,
viele gute Ideen.
Ein Baum,
eine Bank oder eben gerade Kunst,
also Kunst statt Werbung,
dass diese Flächen anders bespielt werden.
Das passiert teilweise auch,
also durch Adbusting oder Subvertising,
wo diese Flächen angeeignet werden,
Werbesugets abgewandelt werden und ausgetauscht werden.
Das ist so ein interessantes Spannungsfeld,
wo AktivistInnen und aber auch KünstlerInnen sehr,
sehr interessante Werke schaffen.
Auch wenn diese Werke noch teilweise nicht so lange bestehen bleiben,
sie werden natürlich schnell ausgetauscht,
aber Fotos davon haben oft eine sehr große Reichweite.
Bei der Gelegenheit muss ich natürlich dazu sagen,
das ist ein legaler Graubereich bzw. befindet sich auch jenseits davon und ich möchte nicht dazu aufrufen.
Es ist natürlich auch möglich,
auf Gemeindeebene sich dafür einzusetzen,
dass Flächen umgewidmet werden,
auf Gemeinde- oder Stadtebene und eben ganz konkret zu erreichen,
weniger Außenwerbung zu haben,
im Digitalen wie auch im Analogen.
Damit danke sehr und danke.
Danke für diesen kritischen Blick auf das Thema Werbung. Gibt es dazu Fragen?
Ja,
Leo,
du hast uns jetzt einiges erzählt über das,
was so passiert,
leider. Wie kann jeder einzelne dazu beitragen,
dass sich da was verändert und kann das vielleicht dabei helfen,
weil ich hab es zufällig dabei.
Ja,
danke. Es ist tatsächlich schwierig,
den richtigen Fokus zu finden. Es gibt eben Außenwerbung,
es gibt Werbung per Post,
die ich jetzt gar nicht genannt habe,
es gibt wie Online-Werbung,
das sind alles Felder,
da könnte man extrem viel machen und es gibt sehr,
also es gibt,
man könnte ohne Ende sich dafür einsetzen.
Wir glauben gerade,
dass der Einsatz gegen die fossile Werbung ein sehr interessanter Ansatz ist oder einer ist,
der am ersten was bringt oder vielleicht am ersten auch Bewusstsein dafür schafft.
Also genau diese Liste,
die du in der Hand hast,
hier kann man diese europäische Bürgerinneninitiative dann auch gleich persönlich unterschreiben.
Natürlich,
es ist eine Frage des Fokus. In anderen Ländern funktioniert das zum Beispiel so,
dass gegen Außenwerbung Community-Arbeit stattfindet,
dass zum Beispiel in England eigene Ortsgruppen in London existieren,
die sich für den Rückbau oder die Umwidmung von Werbeflächen einsetzen. Also man könnte auf sehr vielen Ebenen aktiv werden.
Okay,
da die Liste jetzt da ist,
lade ich mal jeden dazu ein,
der Interesse hat sich einzutragen. Sie liegt hier.
Ja,
danke.
Jetzt freue ich mich sehr auf den letzten Talk von Jana Lasser.
Ja,
ich freue mich sehr heute Abend hier sein zu dürfen. Ich bin Jana Lockl hier von der TU Graz und ich möchte ein bisschen über mein Forschungsgebiet reden,
nämlich die Erforschung komplexer sozialer Systeme mit computergestützten Methoden.
Und weil ich so neben dem Anträge schreiben und publizieren als Hobby mich auch mit Themen der Transparenz und Reproduzierbarkeit und Biases in der Wissenschaft beschäftige,
möchte ich jetzt nicht nur über die coolen Sachen reden,
die wir mit unseren coolen computergestützten Tools alles so machen können,
sondern auch ein bisschen über die Probleme,
Herausforderungen,
denen wir so im täglichen Forschungsbetrieb begegnen.
Und das Ganze möchte ich anhand von zwei Forschungsprojekten ein bisschen illustrieren,
an denen ich jetzt gerade aktiv arbeite. Ja,
ich fange gleich mit dem ersten an.
In diesem Projekt beschäftigen wir uns mit der Frage,
welche Counterspeech Strategien am effektivsten sind. Um diese Frage zu verstehen,
muss man erstmal verstehen,
was Counterspeech eigentlich ist.
Und da muss man noch einen Schritt zurückgehen und verstehen,
was Counterspeech eigentlich machen will,
nämlich gegen Hate Speech wirken.
Es gibt im Online-Diskurs mittlerweile relativ viel sehr sehr unfreundliche Sprache und wenn die Leute angreift oder beleidigt aufgrund von Religionsgehörigkeit,
Geschlecht,
Ethnizität,
dann reden wir von Hate Speech.
Und Counterspeech möchte sich dem entgegenstellen,
im öffentlichen Diskurs einen Gegenpol aufmachen dazu und da stellt sich die Frage,
welche Strategien kann man da einsetzen,
die am effektivsten Hate Speech entgegentreten.
Wir als Forschende machen uns etwas zu Nutze,
was wir ein natürliches Experiment nennen,
nämlich etwas,
das in der echten Welt ganz ohne unser Zutun passiert,
das wir einfach nur beobachten müssen.
Und das ist in diesem Fall das Battle zweier Online-Gruppen,
die Reconquista Germanica,
einer organisierten rechtsextremen Gruppe,
die sich ungefähr 2017 im Vorfeld der Bundestagswahl in Deutschland gegründet hat.
Die hat ungefähr 5000 Mitglieder umfasst und sich über Discord organisiert,
mit dem Ziel,
Hate Speech unter Nachrichtenposts von öffentlich-rechtlichen und bekannten News-Sites in Deutschland zu posten.
Und als Reaktion darauf hat sich eine andere Gruppe formiert,
die Reconquista Internet,
unter tatkräftiger Mithilfe von Jan Böhmermann,
der das angeleiert hat.
Die Reconquista Internet versteht sich als Bürgerrechtsbewegung mit dem Ziel,
Liebe und Vernunft im Internet und eine Zivilisierung des gesellschaftlichen Diskurses in sozialen Netzwerken zu erwirken.
Hatte auch etwa 4.000 bis 5.000 Mitglieder,
hat sich auch organisiert und hat eben auf Twitter,
wo das Ganze hauptsächlich stattgefunden hat,
versucht,
dieser Hate Speech,
die sich eben unter Accounts von Spiegelzeit,
Tagesschau abgespielt hat,
dem mit Counterspeech zu begegnen.
Nur um ein Beispiel zu bringen,
ein Beispiel für Hate Speech kann zum Beispiel ein Post-Reconquista Germanica sein,
der da sagt,
dass die erländige zionistische Regierung alles tut,
um irgendwas zu erreichen.
Und dabei handelt es sich um eine Beleidigung aufgrund anscheinend von Religion.
Counterspeech auf der anderen Seite wäre zum Beispiel ein Post,
der sagt,
dass nach einer Statistik des Ministeriums für Inneres und der Führung der CDU 83% der antisemitischen Hassverbrechen von rechten Extremisten verübt werden.
Das wäre ein Beispiel für das Bereitstellen von Informationen einer Strategie,
die von diesen Counterspeechern der Reconquista Internet eingesetzt wurde.
Wir haben all diese Kommentare,
die sich da in Twitter-Threads unter den Accounts von Nachrichtenseiten abgespielt haben,
gescrapet.
Das sind 22 Nachrichtenseiten,
ungefähr 180.000 vollständig aufgelöste Konversationen,
ungefähr 1,
3 Millionen einzelne Tweets in einem Zeitraum von 2016 bis 2019.
Und das Schöne daran ist,
wir sehen da eben das Nutzerverhalten in freier Wildbahn.
Das heißt,
wir haben nicht jetzt irgendwie ein artificielles Forschungsdesign,
wo wir Leute ins Labor einladen und sie bitten,
auf irgendwelche Hassposts zu reagieren,
sondern wir sehen wirklich,
was in der echten Welt passiert.
Das heißt,
diese ganzen Biasis von sozial erwünschtem Verhalten,
das wir vielleicht im Labor sehen würden oder auch irgendwie Inhibitionen,
weil so artificiell ist,
das haben wir alles nicht.
Nur um ein bisschen einen detaillierteren Einblick zu geben,
wie wir dann Effizienz von Counterspeech messen wollen,
hier zeige ich einen sehr stilisierten Konversationsbaum auf Twitter.
Wir haben oben einen Tweet von einer Nachrichtenseite,
das ist die Wurzel von einem Konversationsbaum,
dann haben wir einen Hass-Tweet drunter und im Blau hätten wir einen Counter-Tweet.
Und alles,
was sich darunter abspielt,
Tweets von neutralen Teilnehmenden in Grau oder weitere Hass-Tweets,
das ist das,
wofür wir uns interessieren.
Also wir interessieren uns dafür,
was passiert nach diesem Counter-Tweet und wir messen zwei Dinge.
Das eine ist die Toxizität der Konversation,
da hat Google ein Tool,
Machine Learning,
das Toxizität von Sprache misst und damit können wir zumindest ein bisschen versuchen zu quantifizieren,
wie hässlich es dazu geht.
Und das zweite ist,
wir schauen uns an,
wie viele neutrale Teilnehmende verbleiben in der Konversation nach dieser Counterspeech-Intervention,
weil das für uns so eines der Ziele von Counterspeech ist,
dass die Konversation soweit neutralisiert wird,
dass nicht alle neutralen Teilnehmenden die Konversation verlassen und es nur noch ein Hate-Battle ist.
Und jetzt ist natürlich die Frage,
was für eine Strategie wird hier in diesem Counter-Tweet eingesetzt und wie wirkungsvoll ist diese Strategie.
Wir haben uns die Daten angeschaut,
natürlich nicht alle 1,
3 Millionen Tweets,
aber ein Sample davon und es gibt natürlich auch Literatur,
die sich das schon angeschaut hat und haben eine Reihe von Counterspeech-Strategien identifiziert,
die so stattfinden,
zum Beispiel das Bereitstellen von Informationen,
Sachen hinterfragen,
Humor,
auf Dinge hinweisen,
Konsequenzen,
Widersprüche,
verletzende Sprache,
die eigene Meinung sagen oder auch einfach zurückbeleidigen.
Dann machen wir das,
was in meinem Bereich fast alle machen. Wir können natürlich nicht 1,
3 Millionen Tweets von Hand durchklassifizieren,
sondern wir nehmen uns ein Sub-Sample davon,
in unserem Fall 10.000,
trainieren Expertinnen,
denen wir diese Taxonomie beibringen,
die uns dann diese Tweets labeln.
Dann trainieren wir ein Deep Learning Modell,
ein Transformer Modell in unserem Fall,
das lernen soll,
diese Strategien automatisch zu erkennen und uns dann die restlichen 1,
3 Millionen Tweets durchklassifiziert,
damit wir das analysieren können.
Und da kommen wir auch schon zu einer Herausforderung. Wir geben diesen Tweet,
mit gespendeten Laptops voll mit Lernsoftware von Lab-Doo im Gepäck könnte man viel bewirken. Was ist das jetzt?
Eine unserer Bewerterinnen sagt,
das ist Faktenbereitstellen,
eine unserer Bewerterinnen sagt,
das ist die eigene Meinung sagen.
Und da kommen wir schon zum grundlegenden Problem,
das ist ein sehr komplexes Ding,
so eine Strategie zu klassifizieren.
Selbst Menschen sind sich da oft nicht einig. Wir können uns schon einig sein,
dass das ein relativ konstruktiver Kommentar ist,
aber wenn es dann in die Details geht,
wird es schwierig.
Und weil sich auch unsere Bewerterinnen beim Durchlabeln des Datensatzes sehr oft nicht einig sind,
ist auch unser Machine Learning Classifier nicht wahnsinnig gut.
Er erkennt schon Sachen,
aber wir können nicht bei einem Tweet mit absoluter Sicherheit sagen,
das ist jetzt die Strategie.
Das heißt,
die Aussagen,
die wir am Ende machen können,
sind immer statistisch und im Aggregat.
Wir können im Aggregat sagen,
diese Strategie wirkt ein bisschen besser als diese Strategie,
aber über einzelne konkrete Tweets können wir eigentlich nichts sagen.
Ja,
und was hilft jetzt? Also so unter diesem Qualifier und auch unter dem Qualifier,
dass das ein Work in Progress ist und unser Classifier erst 6000 Tweets gelernt hat,
was üblicherweise zu mehr Toxizität führt in der Konversation nach dem Counterspeed,
ist das Gegenüberbeleidigen.
Was uns ein bisschen überrascht hat,
ist,
dass auch konstruktive Beiträge,
wie zum Beispiel Sachen hinterfragen oder Informationen geben,
tendenziell zu mehr Toxizität führen.
Was hilft oder zu weniger Toxizität führt,
ist Humor und die eigene Meinung sagen.
Aber wie gesagt,
Work in Progress,
mal schauen,
was dann am Ende rauskommt.
Das zweite Projekt,
das ich ganz kurz vorstellen wollte,
beschäftigt sich mit der Frage,
wie man mit der Ausbreitung von Falschinformationen auch auf Social Media umgehen kann.
Was kann man dagegen tun? Wie kann man das reduzieren?
Hier ist die Grundidee,
dass man so etwas wie eine Impfung gegen Fehlinformationen anwenden kann.
Die Idee dabei ist,
dass man Leute im Vorhinein aufklärt über die Strategien,
die üblicherweise so eingesetzt werden,
um Falschinformationen zu verbreiten.
Wir haben im ersten Vortrag heute schon gehört,
eine hohe Emotionalisierung des Themas,
des Contents,
das wird oft eingesetzt,
um Informationen,
die jetzt nicht wirklich auf Fakten basieren,
unter die Leute zu bringen.
Und genau diese Strategie,
die Emotionalisierung des Contents,
haben wir uns vorgenommen und wollten schauen,
ob wir die auf großer Skala auf sozialen Medien ausrollen und testen können.
Dafür haben wir zusammengearbeitet mit Verhaltungssychologen,
die uns ein Video erstellt haben,
ungefähr 40 Sekunden lang,
das recht humoristisch,
aber schon faktenbasiert aufklärt über diese Strategie der Emotionalisierung von Content.
Und dieses Video wollen wir in einer randomisierten,
kontrollierten Studie unter die Leute bringen.
Warum randomisierte,
kontrollierte Studie? Das ist eine Strategie,
die haben wir uns angeschaut oder abgeschaut in der Pharmabranche oder in der Medizin.
Sowas wird üblicherweise eingesetzt,
wenn man herausfindet,
wie wirkungsvoll etwas ist.
Wenn man Wirkung von etwas testet,
ist man üblicherweise sehr,
sehr viel in Bias ausgesetzt.
Ein Bias,
wie ich meine Probanden auswähle,
ein Bias,
wie ich das Ganze dann bewerte,
wer überhaupt dieser Intervention ausgesetzt wird.
Und gegen sehr viele dieser Biases hilft es,
die Studie zu randomisieren. Das funktioniert so.
Wir haben zuerst einen Haufen von Bottenzellen-Probandinnen,
die teilen wir dann zufällig in zwei Gruppen auf.
Eine Gruppe kriegt die Intervention,
eine Gruppe kriegt ein Placebo und dann messen wir ein Ergebnis.
Und in unserem Fall ist zum Beispiel ein Ergebnis,
das uns interessiert,
dass Leute zum Beispiel weniger Tweets mit negativen Emotionen retweeten.
Und natürlich auch,
dass Leute weniger Tweets mit Fehlinformationen retweeten.
Und jetzt ist die Frage,
wie bringen wir das in großem Stil auf Social Media? Können wir das überhaupt?
Und da ist die Antwort ein resonierendes Ja und Nein.
Wir können das,
was im Vortrag vor mir kritisiert wurde,
zu unserem Vorteil nutzen,
nämlich Werbung.
Wir können Werbung nutzen,
um dieses Video unter die Leute zu bringen.
Twitter hat das schöne Tool der sogenannten maßgeschneiderten Zielgruppen.
Das heißt,
wir können Listen von User-IDs hochladen und sagen,
die sehen jetzt bitte diese Werbung.
Und genau das machen wir. Wir haben eine Interventionsgruppe,
100.000 User,
die sehen unser Aufklärungsvideo.
Und unsere Kontrollgruppe auch 100.000 User sehen als Placebo ein Video zu Gefrier Brand.
Einfach,
damit sie auch ein Video gesehen haben.
Und jetzt kommt das große Nein. Wir haben jetzt also 100.000 Nutzerinnen,
die die Werbung sehen sollen.
Jetzt macht Twitter etwas sehr Schlaues,
das nämlich verhindern soll,
dass man gezielt einzelne Leute targeten kann mit Werbung.
Bin ich eigentlich auch ein starker Fan von,
aber es macht unser Leben an der Stelle sehr schwer.
Die machen nämlich etwas,
das sie Fuzzy Matching nennen.
Das heißt,
von den 100.000 Nutzer-IDs,
die wir hochladen,
zeigen sie nur 40% die Werbung.
Und dann füllen sie das mit 60% ähnlichen Nutzern auf,
die wir nicht definiert haben,
sondern die Twitter irgendwie findet.
Und von diesen 40% sehen dann überhaupt nur jeder Vierte das Video.
Das heißt,
am Ende haben wir 10% der vorgeschlagenen Nutzer sehen unsere Intervention und wir wissen nicht welche.
Das heißt,
es kann schon sein,
dass wir etwas messen am Ende.
Aber was auch immer wir messen,
ist um einen Faktor 10 ungefähr reduziert.
Das ist so ein bisschen der K-Wert.
Ja,
was messen wir?
Wir messen,
dass einen Tag nach der Intervention,
also diesem Video,
tatsächlich es ein kleines bisschen weniger wütende Retweets und auch weniger angstgefüllte Retweets gibt
und ein kleines bisschen mehr fröhliche Retweets.
Und unter diesem K-Wert,
dass alles,
was wir messen um einen Faktor 10 reduziert ist,
bin ich relativ hoffnungsvoll,
dass da tatsächlich etwas passiert.
Aber nur vor einem kurzen Zeitraum und auf einer sehr kleinen Skala.
Und jetzt ist natürlich die große Frage,
was ist mit den Fehlinformationen?
Das war unser eigenes Forschungsziel.
Und da muss ich einen ganz kurzen Exkurs machen.
Wer sagt denn eigentlich,
was eine Fehlinformation ist?
Das ist in dieser Forschung ein großes,
großes Problem,
mit dem wir alle kämpfen.
Und in unserem Fall ist das NewsGuard.
NewsGuard ist eine Firma,
eine kommerziell betriebene Firma.
Die haben eine Datenbank,
in der sie Domains bewerten anhand von einem Kriterienkatalog.
Das heißt,
was wir machen,
um zu messen,
was falsch ist.
Wir schauen uns an,
welche URLs teilen die Nutzer auf Twitter,
matchen das gegen die Datenbank,
die Qualitätskriterien für Domains hat
und messen dann,
wie qualitativ hochwertig die Information ist,
die die Leute teilen.
Und dieser Kriterienkatalog besteht aus Fragen wie publiziert nicht wiederholt falsche Inhalte,
sammelt und präsentiert Informationen verantwortungsvoll,
korrigiert regelmäßig Fehler.
Das hört sich jetzt alles sehr objektiv an.
Aber wenn man genau drüber nachdenkt,
dann sind das auch alles eigentlich sehr subjektive Kriterien.
Und das heißt,
bei NewsGuard sitzt auch jemand,
ein Mensch,
schaut sich die Domains an und bewertet,
was regelmäßig ist oder was verantwortungsvoll ist.
Aber das ist das,
womit wir arbeiten.
Ja,
wir haben nicht viel was Besseres aktuell.
Ja,
und was ist jetzt das Ergebnis?
Ich habe leider noch keins.
Und zwar aus folgendem Grund.
Eigentlich ist es sehr ganz einfach,
Links gegen eine Datenbank matchen.
Aber was wir sehen ist,
ganz ganz viele Leute nutzen Linkschorternah.
Zum Beispiel Bit.ly.
Das heißt,
wir haben da einen Link,
da steht Bit.ly,
irgendwas total Legitimes oder Kurzes.
Und wenn man den Link dann folgt,
dann führt er zu Infowars.
Und wir haben ungefähr 5 Millionen solcher Links.
Und gerade läuft auf meinem Server ein Skript,
das all diesen Links folgt und die originalen Domains rausfiltert.
Ja,
das heißt,
wenn ihr uns Forscher und das Leben leicht machen wollt,
bitte immer,
wenn ihr auf Infowars Links keinen Shorter verwendet.
Ja,
das ist es auch schon.
Ich möchte ein kurzes Fazit ans Ende stellen.
Dem aufmerksamen Beobachter ist vielleicht aufgefallen,
dass alles,
was ich vorgestellt habe,
auf Twitter stattgefunden hat.
Und das hat einen sehr einfachen Grund.
Twitter ist sehr gut darin,
uns vorhandenen Daten bereitzustellen.
Die sind sehr freundlich,
die haben eine super funktionierende API.
Und diese Verfügbarkeit von Daten bestimmt tatsächlich zu einem großen Teil,
was wir erforschen können.
Das heißt,
wir schauen uns ganz,
ganz doll Twitter an.
Aber was auf Telegram oder WhatsApp passiert,
sehen wir leider nicht.
Zweiter Punkt,
maschinelles Ernen.
Ja,
wir sehen ganz stark,
menschliche Bias reproduzieren sich.
Je komplexer die Konzepte werden,
die wir versuchen,
Maschinen in Klassefeiern beizubringen,
desto schlimmer wird das,
desto mehr hängt das davon ab,
was für Hintergründe die Leute haben,
die wir benutzen,
um unsere Trainingsets zu labeln.
Wir haben an vielen Stellen mit undurchsichtigen Algorithmen auf Seiten der Plattformen zu kämpfen.
Was Twitter genau macht,
um unsere Kohorten zu matchen,
ist eine Blackbox für uns.
Wir können nur versuchen,
das zu reverse-ingenieren,
aber wir wissen es nicht genau.
Und last but not least,
ja,
wer entscheidet,
was falsch ist.
Gerade da sind kommerzielle Firmen gerade ganz groß.
Wir als Forschende lassen fünfstellig viele Euros pro Jahr,
um Zugriff auf diese Datenbank zu bekommen.
Und es ist für uns auch überhaupt nicht einsichtig,
wie diese Bewertungen zustande kommen.
Wir können dem nur glauben.
That's it. Da gibt's meine Slides zum Nachschauen.
Gibt's Fragen?
Vielen Dank. Sehr interessant. Erste Frage schon da.
Danke für den Vortrag. Es war wirklich sehr,
sehr spannend.
Vielleicht habe ich es auch ein bisschen verpeilt,
aber mich interessiert nur,
wie ihr dann mit diesen Tweets umgeht,
die man in beide Klassen kategorisieren könnte.
Also,
schließt ihr die dann aus den Analysen aus oder wie geht es ihr mit den Fällen um?
Naja,
also diese Tweets,
das Beispiel,
das ich gezeigt habe,
das ist unser Trainingsdatensatz.
Und da haben wir einige Tweets,
die von zwei Labelern klassifiziert werden.
Und wenn es da ein Disagreement gibt,
dann schließen wir die aus.
Und bei den Tweets,
die wir dann automatisch klassifizieren,
sagt uns unser Algorithmus üblicherweise,
wie sehr er der Klassifizierung traut.
Also mit welcher Wahrscheinlichkeit er glaubt,
dass der Tweet in diese Klasse gehört.
Und da ja,
es hängt ein bisschen davon ab,
was wir analysieren wollen und wie,
aber eine Standardsvorgehensweise ist es einen Threshold einzusehen und zu sagen,
alles was mit einer Konfidenz niedriger als so und so klassifiziert wird,
ignorieren wir.
Danke.
Ich habe zwei Fragen.
Die erste wäre,
du hast dir sicher Gedanken gemacht,
wie Twitter funktioniert
und welche Nachrichten Leute auf Twitter sehen,
wie sehr das Einfluss auf das hat.
Ist das klar,
was ich meine?
Ja.
Okay.
Und dann das zweite wäre,
ich habe nicht ganz verstanden bei der Klassifizierung,
wie schlimm jetzt oder wie positiv jetzt so ein Counterding funktioniert hat,
wie das von der Länge von diesem Thread vielleicht auch abhängt,
wenn jetzt da eine Person noch gearbeitet hat,
aber zwar richtig hateig
oder wenn jetzt da Hunderte geantwortet haben,
also wie praktisch die Länge in dieser Bewertung mit einfließt.
Also zu deiner ersten Frage,
das ist auch ein ganz,
ganz großes Problem.
Das hätte ich auch mit aufnehmen können und etwas,
wo wir uns viel den Kopf drüber zerbrechen,
aber keinen Ansatz haben,
der Kontext,
in dem jemand einen Tweet zieht.
Was kommt davor,
was kommt danach? Was hat der davor alles gelesen?
Wir haben keine Ahnung,
weil wir nicht wissen,
wie Twitter die Timelines macht.
Und dann hängt es auch noch davon ab,
ob der User jetzt chronologische oder irgendwie
algorithmisch zusammengestellte Timeline angibt.
Das heißt,
wir haben keine Chance,
das irgendwie zu sehen.
Wir gehen alles so durch die Welt und sagen,
es wird schon nicht so viel Einfluss haben,
aber da glaube ich nicht so wirklich dran.
Wir sind jetzt gerade dran,
eine Studie zu designen,
wo wir Leuten artificielle Timelines zeigen,
die wir zusammenstellen,
wo wir wissen,
wie die ausschauen
und dann schauen,
wie sie auf Tweets reagieren,
abhängig davon,
was vorher kommt.
Was war die zweite Frage? Sorry.
Wie die Bewertung ausschaut,
wie gut jetzt ein Ding funktioniert?
Ja,
das ist eine relativ einfache Antwort. Wir normieren immer mit der Länge vom Thread.
Gut,
dann darf ich mich verabschieden. Ich möchte mich bei allen Rednerinnen noch einmal bedanken.
Schönen Abend noch und wir können noch weiter diskutieren.
Das war's für heute. Bis zum nächsten Mal.