Index · Nachrichten · Der Unsicherheits Net: Wie Social Media gegen Frauen Gedreht

Der Unsicherheits Net: Wie Social Media gegen Frauen Gedreht

2014-10-09 9
   
Advertisement
résuméIm Dezember 2012 entdeckte eine isländische Frau namens Thorlaug Ágústsdóttir eine Facebook-Gruppe namens "Männer sind besser als Frauen." Ein Bild, das sie dort gefunden, Thorlaug schrieb uns in diesem Sommer in einer E-Mail ", war von ein
Advertisement

Der Unsicherheits Net: Wie Social Media gegen Frauen Gedreht


Im Dezember 2012 entdeckte eine isländische Frau namens Thorlaug Ágústsdóttir eine Facebook-Gruppe namens "Männer sind besser als Frauen." Ein Bild, das sie dort gefunden, Thorlaug schrieb uns in diesem Sommer in einer E-Mail ", war von einer jungen Frau nackt auf Rohre gefesselt oder ein Ofen in dem, was wie ein Betonfundament sah, alle zerschlagen und blutig. Sie sah mit einem schrecklichen gebrochenen Blick auf wer auch immer nahm das Bild von ihr rollte sich nackt. "Thorlaug schrieb einen empörten Post darüber auf ihrer eigenen Facebook-Seite.

Es dauerte nicht lange, "sind Männer besser als Frauen" ein Benutzer auf veröffentlichte ein Bild von Thorlaug Gesicht, verändert zu blutig und geknickte erscheinen. Unter dem Bild, jemand sagte: "Frauen wie Gras sind, müssen sie regelmäßig geschlagen / geschnitten zu werden." Ein anderer schrieb: ". Sie müssen nur vergewaltigt werden", berichtete Thorlaug das Bild und Kommentare auf Facebook und beantragt, dass die Website, um sie zu entfernen .

"Wir haben das Foto überprüft Sie berichtet" , kam Facebook automatische Antwort ", fand aber es verstößt nicht gegen Facebook- Community - Standards über Hassreden, die Beiträge oder Fotos enthält , die eine Person angreifen aufgrund ihrer Rasse, der ethnischen Zugehörigkeit, nationaler Herkunft, Religion, Geschlecht , Geschlecht, sexueller Orientierung, Behinderung oder Erkrankung. "

Stattdessen markiert die Facebook Screener den Inhalt "Umstrittene Humor." Thorlaug nichts sah lustig darüber. Sie machte sich Sorgen die Drohungen waren real.

Etwa 50 andere Benutzer geschickt, um ihre eigenen Anforderungen in ihrem Namen. Alle erhielten die gleiche Antwort. Erst am Vorabend des neuen Jahres, genannt Thorlaug die lokale Presse, und die Geschichte verbreitete sich von dort. Erst dann wurde das Bild entfernt.

Im Januar 2013 veröffentlichte Wired eine kritische Darstellung von Facebook die Reaktion auf diese Beschwerden. Ein Unternehmenssprecher in Kontakt gebracht, die Veröffentlichung sofort zu erklären , dass Facebook Screener den Fall falsch behandelt hatte, kassierte dass Thorlaug das Foto "nach unten genommen werden sollte , wenn es um uns berichtet wurde." Laut dem Sprecher, versucht das Unternehmen Beschwerden über Bilder auf eine Adresse Fall-zu-Fall - Basis innerhalb von 72 Stunden, aber mit Millionen von Berichten täglich zu überprüfen, "es ist nicht leicht , mit Anfragen zu halten." der Sprecher, der anonym Wired - Leser, fügte hinzu : "Wir sind für den Fehler entschuldigen."

* * *

Wenn, wie der Philosoph Kommunikation Marshall McLuhan sagte einst , Fernsehen , um die Brutalität des Krieges in die Wohnzimmer gebracht, ist das Internet heute bringen die Gewalt gegen Frauen aus ihm heraus. Sobald weitgehend aus dem Blick verborgen, wird diese Brutalität nun in noch nie da gewesenen Art und Weise ausgesetzt zu sein. In den Worten von Anne Collier, Co-Direktor des ConnectSafely.org und Co-Vorsitzender der Obama - Regierung Online - Sicherheit und Technologie - Arbeitsgruppe : "Wir sind in der Mitte eines globalen freien Rede Experiment ." Auf der einen Seite, um die Online Bilder und Worte bringen das Bewusstsein auf eine langjährige Problem. Auf der anderen Seite wird die Verstärkung dieser Ideen über Social-Media-Netzwerke ist die Validierung und Verbreitung Pathologie.

Wir, die Autoren haben sich beide Seiten des Experiments aus erster Hand erfahren. Im Jahr 2012, Soraya, die auf Geschlecht und die Rechte der Frauen hatte berichtet, bemerkt, dass mehr und mehr von ihren Lesern ihr wurden in Kontakt für die Aufmerksamkeit der Medien zu stellen und mit Online-Bedrohungen helfen. Viele geschickt grafische Bilder, und einige enthalten detaillierte Polizeiberichte, die nirgendwo gegangen war. Ein paar geschickt Videos von Vergewaltigungen im Gange. Wenn Soraya über diese Themen geschrieben, erhielt sie Bedrohungen online. Catherine, inzwischen erhielt Warnungen zu sichern, während auf der Vertuschung eines sexuellen Übergriffen berichtet.

All dies erhöht eine Reihe von beunruhigenden Fragen: Wer hat diesen gewaltsamen-Inhalte wuchernden? Wer seine Verbreitung kontrollieren? Sollte jemand sein? In der Theorie sind Social-Media-Unternehmen neutrale Plattformen, auf denen Benutzer Inhalte und Berichtsinhalte generieren, wie gleich. Aber, wie in der physischen Welt, sind einige Benutzer gleicher als andere. Mit anderen Worten, ist Social Media mehr Symptom als Krankheit: Ein 2013 Bericht der Weltgesundheitsorganisation genannt Gewalt gegen Frauen "ein globales Gesundheitsproblem der epidemische Ausmaße", von häuslicher Gewalt, Stalking und Straße Belästigung Sexhandel, Vergewaltigung und Mord. Diese Epidemie ist in der Petrischale von Social Media gedeihen.

Während ein Teil der Aggression gegen Frauen zwischen Menschen auftritt Online, die einander kennen, und ist zweifellos illegal, geschieht das meiste davon zwischen Fremden. Zu Beginn dieses Jahres veröffentlicht Pacific Normal eine lange Geschichte von Amanda Hess über ein Online - Stalker , die speziell einen Twitter - Account einrichten, um ihr Morddrohungen schicken.

Unter dem Bild, jemand sagte: "Frauen wie Gras sind, müssen sie regelmäßig geschlagen / geschnitten zu werden."

Quer durch Websites und Social - Media - Plattformen, täglich sexistische Kommentare vorhanden entlang einem Spektrum , das auch unerlaubte sexuelle Überwachung, "schließt creepshots " Erpressung, doxxing, Stalking, böswillige Identitätswechsel, Drohungen und Vergewaltigung Videos und Fotos. Die explosive Nutzung des Internets von Menschenhandel zu führen hat auch einen Platz auf diesem Spektrum gegeben, dass drei Viertel der Opfer Menschen sind Mädchen und Frauen.

Ein Bericht, "Misogyny auf Twitter," von der Forschung und Politik Organisation veröffentlicht Demos im Juni dieses Jahres, fand mehr als 6 Millionen Instanzen des Wortes "Schlampe" oder "Hure" , die in englischer Sprache auf Twitter zwischen 26. Dezember 2013 und 9. Februar 2014. (die Wörter "Hündin" und "cunt" wurden nicht gemessen.) schätzungsweise 20 Prozent der misogyny Studie Tweets erschien den Forschern, bedrohlich. Ein Beispiel: "@XXX @XXX Sie dumm hässlich Fickluder werde ich in Ihre Wohnung gehen und schneiden Sie Ihre verdammten Kopf Sie inzüchtig Hure aus."

Eine zweite Demos Studie zeigte , dass während männliche Prominente, weibliche Journalisten und männliche Politiker mit der höchsten Wahrscheinlichkeit von Online - Anfeindungen konfrontiert, Frauen sind deutlich häufiger speziell ihres Geschlechts wegen ausgerichtet sein, und die Menschen sind überwiegend die belästigende diejenigen tun. Für Frauen der Farbe oder Mitglieder der LGBT-Gemeinschaft wird die Belästigung verstärkt. "In meinen fünf Jahren Twitter, ich habe 'Nigger' so oft genannt worden , dass es kaum als Beleidigung registriert mehr" , erklärt Rechtsanwalt und Rechts Analyst Imani Gandy. "Sagen wir einfach, dass meine" Nigger Möse 'Cup über runneth. "

Auf der dies VidCon Sommer, eine jährliche bundesweite Kongress statt in Südkalifornien, teilten Frauen vloggers eine erstaunliche Anzahl von Beispielen. Die gewalttätigen Bedrohungen unter YouTube - Videos veröffentlicht, sie beobachtet werden drängen Frauen aus dieser und anderen Plattformen in keinem Verhältnis Zahlen. Wenn Anita Sarkeesian ein Kickstarter ins Leben gerufen , um eine feministische Video - Serie namens finanzieren Tropes gegen Frauen , wurde sie im Mittelpunkt einer massiven und heftig misogynistic cybermob. Unter den vielen Formen der Belästigung erlitten sie ein Spiel war, wo Tausende von Spielern "gewonnen" von praktisch bludgeoning ihr Gesicht. Ende August in Kontakt gebracht , sie die Polizei und hatte ihr Zuhause zu verlassen , nachdem sie eine Reihe von schweren Gewalt Online - Bedrohungen erhalten.

Danielle Keats Citron, Jura - Professor an der University of Maryland und Autor des kürzlich erschienenen Buch Hassverbrechen im Cyberspace , erklärt : "Immer und immer wieder, diese Frauen keine Ahnung haben , oft die es ihnen angreift. Ein cybermob an Bord springt, und man kann sich vorstellen, dass das einzige, was die Angreifer über das Opfer wissen ist, dass sie eine Frau ist. "Mit Blick auf 1606 Fälle von" Rache Porno ", wo explizite Fotos ohne Zustimmung verteilt sind, gefunden Citron, dass 90 Prozent der Ziele waren Frauen. Eine weitere Studie zitierte sie festgestellt, dass 70 Prozent der weiblichen Spieler wählte als männliche Charaktere zu spielen, anstatt zu kämpfen mit der sexuellen Belästigung.

Diese Art von Belästigung füllt auch die Kommentar Abschnitte von beliebten Websites. Im August Mitarbeiter der weitgehend weiblichen besetzt Website veröffentlicht Jezebel einen offenen Brief an die Muttergesellschaft der Website, Gawker sind, wobei die professionelle, körperliche und emotionale Kosten an den pornographischen GIFs der Site bevöl Kommentare Abschnitte täglichen böswillig suchen zu müssen. "Es ist wie das Spielen Whack-a-Mole mit einem Soziopathen Hydra", schrieb sie und bestand darauf, dass Gawker entwickeln Werkzeuge für die Sperrung und Verfolgung von IP-Adressen. Sie fügte hinzu: "Es wird Auswirkungen auf unsere Fähigkeit, unsere Arbeit zu tun."

Für manche sind die Kosten höher. Im Jahr 2010, 12-jährige Amanda Todd entblößte ihre Brust, während Sie online mit einer Person im Chat, die ihr versichert hatte, dass er ein Junge war, aber es war in der Tat ein erwachsener Mann mit einer Geschichte von Pädophilie. Für die nächsten zwei Jahre, Amanda und ihre Mutter, Carol Todd, waren nicht in der Lage anonyme Benutzer zu stoppen zu veröffentlichen, das Bild auf sexuell explizite Seiten. Eine Facebook-Seite, die mit "Umstrittene Humor" verwendet Amanda Name und Bild-und die Namen und Bilder von anderen Mädchen, ohne Zustimmung. Im Oktober 2012 begangen Amanda Selbstmord, ein YouTube-Video zu veröffentlichen, die sie Schikanen und ihre Entscheidung erklärt. Im April 2014 kündigte niederländischen Beamten, dass sie eine 35-jährige Mann, der verdächtigt verhaftet hatte, um das Internet genutzt haben Dutzende von Mädchen zu erpressen, einschließlich Amanda, in Kanada, dem Vereinigten Königreich und den Vereinigten Staaten. Der Verdächtige jetzt Gesichter Gebühren von Kinderpornografie, Erpressung, kriminelle Belästigung und Internet Anlocken.

Wenn Anita Saarkeesian ein Kickstarter startete eine feministische YouTube-Serie zu entwickeln, erstellt jemand ein Spiel, in dem Tausende von Spielern praktisch ihr Gesicht prügeln konnte.

Fast unmittelbar nach Amanda ihr Originalbild geteilt, erschien verändert Versionen auf den Seiten und Videos stark vermehrt. Eine der Seiten wurden mit Bildern von nackten vorpubertären Mädchen gefüllt, sie Bleichmittel zu trinken zu fördern und zu sterben. Während sie die vielen Online-Tribut zu Ehren ihrer Tochter, Carol Todd spukt durch "Selbstmord Humor" und pornografische Inhalte nun für immer in Verbindung mit ihrer Tochter Bild zu schätzen weiß. Es gibt Web - Seiten gewidmet , was jetzt "Todding" genannt wird . Einer von ihnen kennzeichnet eine Fotografie einer jungen Frau hängen.

Unterdessen geht Erpressung anderer Opfer. In einer zunehmenden Zahl von Ländern , filmen Vergewaltiger jetzt ihre Vergewaltigungen auf dem Handy , so dass sie Opfer von Berichterstattung über die Verbrechen erpressen können. Im August, nach einem 16-jährigen indischen Mädchen war vergewaltigt, erklärte sie, "Ich hatte Angst. Während ich vergewaltigt wurde, zeigte ein anderer Mann mit einer Pistole und nahm mich mit seiner Handy-Kamera. Er sagte, er wird den Film auf dem Netz laden, wenn ich meine Familie oder die Polizei sagen. "

In Pakistan ist die Gruppe Bytes für All-Organisation , die zuvor die Regierung verklagt für die Zensur von YouTube - Videos veröffentlichten eine Studie zeigt , dass Social Media und Mobile Tech verursachen tatsächlichen Schadens für die Frauen im Land. Gul Bukhari, der Autor des Berichts, sagte Reuters: "Diese Technologien helfen die Gewalt gegen Frauen zu erhöhen, nicht nur sie spiegeln."

Im Juni 2014 eine 16-jährige Mädchen namens Jada wurde auf einer Party in Texas unter Drogen gesetzt und vergewaltigt. Partygoers veröffentlicht ein Foto von ihr bewußtlos, wieder ein Bein angewinkelt. Bald hatten andere Internet-Nutzer in ein meme gedreht, ihre Pose und mit dem Hashtag #jadapose spöttisch. Kasari Govender, Geschäftsführer der Sitz in Vancouver West Coast Legal Education und Action Fund (LEAF), nennt diese Art von Verhalten "cybermisogyny.« »Cyber-Mobbing", sagt sie, "hat dieser Begriff geworden, die oft um mit wenig Verständnis geworfen wird. Wir denken, es ist wichtig, die Kräfte zu nennen, die dies, um sich zu motivieren, um herauszufinden, wie es zu lösen. "

In einer ungewöhnlich mutigen Akt, Jada reagiert , indem sie öffentlich sprechen über ihre Vergewaltigung und der Online - Missbrauch , die folgten. Fans nahm bald an das Internet in ihrer Verteidigung. "Es gibt keinen Punkt in einem Versteck", sagte sie ein Fernsehreporter. "Jeder hat mein Gesicht und meinen Körper schon gesehen, aber das ist nicht das, was ich bin und wer ich bin. Ich bin nur wütend. "

* * *

Der Unsicherheits Net: Wie Social Media gegen Frauen Gedreht


Nach Facebook Thorlaug das veränderte Bild und die Vergewaltigung Bedrohungen entfernt, fühlte sie sich erleichtert, aber sie war zu wütend. "Diese Fehler werden wieder in Gang zu manifestieren", sagte sie Wired " , wenn es nicht klar genug Politik ist."

Doch zum Zeitpunkt der Thorlaug des Berichts hatte Facebook eine klare Politik. Seine detaillierte Community-Standards für Sprache, oft als der Goldstandard in der Branche, die von Reporting-Tools gestärkt wurden die Benutzer beleidigende Inhalte zu berichten erlaubt, und Thorlaug diese Werkzeuge wie angewiesen verwendet hatte. Aber schwere Fehler wurden manifestiert immer noch regelmäßig.

Nicht lange nach Thorlaug Kampf ihr Bild zu entfernen, ein Facebook-Benutzer ein Video gepostet die Bande Vergewaltigung einer Frau, die von der Seite einer Straße in Malaysia zu dokumentieren. Die sechs Minuten Grafik Aufnahmen wurden live für mehr als drei Wochen, in denen Facebook Moderatoren Anfragen zur Entfernung wiederholt zurück. Es war Hunderte Male vor einem Leser von Soraya weitergeleitet um das Video zu ihr mit der Bitte um Hilfe angesehen. Wir benachrichtigt einen Kontakt auf Facebook Safety Advisory Board und wurde nur dann das Video offline genommen.

Etwa zur gleichen Zeit, eine andere isländische Frau, Hildur Lilliendahl Viggósdóttir, entschieden die Aufmerksamkeit auf ähnliche Probleme zu zeichnen, indem Sie eine Seite namens "Männer, die Frauen hassen" zu schaffen, wo sie Beispiele für misogyny reposted sie an anderer Stelle auf Facebook zu finden. Ihre Seite wurde viermal ausgesetzt und nicht wegen der anstößigen Inhalten, sondern weil sie wurde Bilder ohne schriftliche Erlaubnis reposting. Inzwischen sind die ursprünglichen Nachrichten-grafisch darstellt Vergewaltigung und verherrlichen den physischen Missbrauch von Frauen Gebliebene auf Facebook. Als Aktivisten seit Jahren unter Hinweis darauf war, wie diese Seiten wurden von Facebook erlaubt unter der Kategorie bleiben Andere humoristische Seiten zu der Zeit leben hatten Namen wie "Ich töte Hündinnen wie Sie", "Häusliche Gewalt" Humor. ": Do not Make Me Tell You Twice "," ich liebe die Vergewaltigung Van "und" Raping Babys, weil Sie Fearless bist verdammt. "

* * *

Jillian C. York, Direktor für internationale Meinungsfreiheit auf der Electronic Frontier Foundation, ist eine von vielen Bürgerrechtler, die Facebook und anderen Social-Media-Plattformen glauben sollte dies nicht screenen, oder überhaupt, Inhalte überhaupt. "Es ist natürlich zu beachten, dass die unternehmens wie jede unternehmens ist auch innerhalb seiner Rechte Rede zu regeln , wie es für richtig hält", sagte sie in schrieb ein Stück Mai 2013 in Slate in Reaktion auf die wachsende Aktivismus. "Die Frage ist nicht , kann Facebook Rede zensieren, sondern sollte es?" Sie argumentiert , dass keine Inhalte zu zensieren "einen gefährlichen Präzedenzfall für spezielle Interessengruppen setzt suchen ihr Haustier Problem, die Aufmerksamkeit der Facebook-Zensoren zu bringen."

"Ein cybermob springt an Bord, und man kann sich vorstellen, dass das einzige, was die Angreifer über das Opfer wissen ist, dass sie eine Frau ist."

Wenn das Problem der Hälfte der Weltbevölkerung betrifft, ist es schwierig, es als zu klassifizieren "pet Problem." Was mehr ist, gibt es kostenlose Sprachprobleme auf beiden Seiten des geregelten Inhalts Gleichung. "Wir haben die expressive Interessen der Belästiger zu bedrohen, um Fotos zu veröffentlichen, zu verbreiten, Verleumdung, Vergewaltigung Bedrohungen, liegt auf der einen Seite", erklärt Citron. "Und auf der anderen Seite haben Sie die freie Rede Interessen, unter anderem der Opfer, die zum Schweigen gebracht werden und offline angetrieben."

Diese loss-of-Speech-Fragen sind in der Regel weniger Aufmerksamkeit und Sympathie als Rechte auf freie Meinungsäußerung zu ziehen. Doch wie Citron weist darauf hin, hat sexuelle Feindschaft bereits als Quelle eines tatsächlichen Schadens identifiziert: Titel VII verlangt, dass Arbeitgeber eine solche Feindseligkeit am Arbeitsplatz regeln. Diese Richtlinien existieren, Citron sagt, weil sexuelle Feindschaft "verstanden wird als ein Verhalten mit Lebenschancen zu stören."

Für die Online-Belästiger, ist dies oft eine offenkundige Ziel: weibliche Mitglieder der Gemeinschaft zum Schweigen zu bringen, sei es durch sexuelle Beleidigungen oder gar Bedrohungen. Es ist wenig überraschend , dass das Internet ein mächtiges Werkzeug in intimen Partner Gewalt geworden ist: A 2012 Umfrage des Nationalen Netzwerks zur Beendigung von Gewalt in der Familie gefunden (NNEDV) , dass 89 Prozent der lokalen häuslicher Gewalt Programme Opfer berichtet , die Technologie-fähigen Missbrauch erlebt wurden, oft über mehrere Plattformen hinweg.

Für ihren Teil, Social-Media-Unternehmen zum Ausdruck bringen oft Engagement für die Sicherheit der Anwender, aber ihr Einfluss auf die breitere Kultur verharmlosen. Administratoren immer wieder erklären, dass ihre Unternehmen, während sehr besorgt mit dem Schutz der Nutzer, sind im Geschäft nicht freie Rede von Polizeiarbeit. Wie Twitter-Mitbegründer Biz Stone formuliert es in einem Beitrag mit dem Titel "Tweets fließen muss," "Wir streben nicht Tweets auf der Grundlage ihrer Inhalte zu entfernen." Die Unternehmensrichtlinien Leser ermutigen , die Offensive Partei und unfollow "Ihre Gefühle auszudrücken [ zu einem vertrauenswürdigen Freund], so können Sie weitermachen. "

Nichts davon war von viel Hilfe zu Caroline Criado-Perez, ein britischer Journalist und Feministin, die ein Bild von Jane Austen auf der £ 10-Banknote bekommen geholfen. Der Tag Bank of England die Ankündigung, Criado-Perez begann auf Twitter mehr als 50 gewaltsamen Bedrohungen pro Stunde zu erhalten. "Die unmittelbare Auswirkung war , dass ich nicht essen oder schlafen konnte," sie sagte The Guardian im Jahr 2013 fragte sie Twitter einen Weg finden , um die Bedrohungen zu stoppen, aber zu der Zeit bot das Unternehmen keinen Mechanismus Missbrauch für die Berichterstattung. Seitdem hat sich das Unternehmen eine Reporting-Taste freigegeben, aber ihre Nützlichkeit ist äußerst begrenzt: Es setzt voraus, dass jeder Tweet gesondert ausgewiesen werden, ein umständliches Verfahren, das dem Benutzer keine Möglichkeit, zu erklären gibt, dass sie ein Ziel der laufenden Belästigung ist. (Das System bietet derzeit kein Feld für Kommentare.)

Und doch Unternehmen wie Facebook, Twitter und YouTube moderate Inhalt tun und Quasi-Regierungsentscheidungen in Bezug auf Sprache machen. Einige Inhalte Mäßigung auf rechtlichen Verpflichtungen , wie im Fall von Kinderpornografie, sondern viel mehr eine Frage der kulturellen Interpretation. Die Unternehmen haben offenbart , dass die Regierungen sich auf sie verlassen Zensur - Anfragen-früher in diesem Jahr umzusetzen, zum Beispiel Twitter blockiert Tweets und Konten "blasphemisch" von der pakistanischen Regierung angesehen. (Als Reaktion auf diese Regierung Einfälle, eine Koalition von Akademikern, Juristen, Unternehmen , Non-Profit - Organisationen und Schulen kamen im Jahr 2008 zusammen , um die Bildung Global Network Initiative , eine nichtstaatliche Organisation , die sich auf Privatsphäre und freie Meinungsäußerung.)

Wenn es um Urheberrechte und geistiges Eigentum Interessen geht, sind Unternehmen stark reagieren, wie Hildurs "Männer, die Frauen hassen" Erfahrung hervorgehoben. Aber, sagt Jan Moolman, der die Vereinigung der Progressive Kommunikation Frauenrechtsabteilung koordiniert "," Garten Sorte "Gewalt gegen Frauen-eindeutig Menschenrechtsverletzungen auf häufig eine lauwarme Antwort erhalten, bis es ein Problem der schlechten Presse wird."

Aus diesem Grund, wenn Social-Media-Unternehmen nicht zu Beschwerden und Anfragen, die Opfer von Online-Mobbing häufig an Einzelpersonen wenden zu reagieren, die ihre Fälle bekannt machen können. Trista Hendren, ein Oregon-basierte Blogger, wurde ein Anwalt für andere Frauen nach der Leser aus Island, Ägypten, Australien, Indien, Libanon, und das Vereinigte Königreich begann sie zu fragen, über ihre Erfahrungen zu schreiben. "Ich war überwältigt", sagte sie uns. Im Dezember 2012 Hendren und mehrere Mitarbeiter erstellt eine Facebook-Seite namens RapeBook, wo Benutzer könnte Flagge und melden Anstößige Inhalte, die das Unternehmen take down abgelehnt hatte.

Facebook Inhalt als "Humor" enthalten Seiten betitelt kategorisiert "Ich Hündinnen wie Sie töten", "Ich habe den Raub Van Liebe" und "Raping Babys, weil Sie Fearless Ficken."

Bis April 2013 wurden mit Menschen RapeBook Bilder von Frauen zu schreiben und vorpubertären Mädchen vergewaltigt oder geschlagen zu werden. Einige Tage, Hendren erhielt mehr als 500 anonym, explizit gewalttätige Kommentare- "Ich werde Schädel-fick deine Kinder", zum Beispiel. Facebook-Nutzer aufgespürt und veröffentlicht ihre Adresse, ihr die Namen der Kinder, und ihre Telefonnummer und begann, sie anzurufen.

Zu diesem Zeitpunkt hatte Hendren jede Hoffnung aufgegeben, dass Facebook die Berichtsmechanismen mit ihr helfen könnte. Sie konnte jedoch arbeiten direkt mit einem Facebook Moderator die Bedrohungen und kriminelle Inhalte zu adressieren. Sie stellte fest, dass das Unternehmen aufrichtig helfen wollte. Ihre Vertreter diskutierten die Beiträge mit ihr auf einer Fall-zu-Fall-Basis, aber heftiger und bedrohlicher Beiträge gehalten kommt, und ein großer Teil der Inhalte erlaubte sie Grafik und missbräuchlichen galt als zu bleiben.

Schließlich sagte Hendren uns, sie und Facebook wurde in Uneinigkeit gesperrt über das, was konstituiert "Sicherheit" und "Hass" auf der Website. Facebook-Leute, sagte sie, sagte ihr, sie berücksichtigen nicht die Gefahren für sie und ihre Familie glaubhaft oder legitim. Hendren war jedoch besorgt genug, um die Polizei und das FBI zu kontaktieren. Das FBI leitete eine Untersuchung; mittlerweile Hendren, körperlich und emotional verbrachte, ausgesetzt ihr Facebook-Konto. "Ich war der krasseste ich je gewesen bin", sagte sie. "Es war wirklich ekelhaft Arbeit. Wir begannen gerade zu denken, "Warum sind wir auf freiwilliger Basis alle unsere Anstrengungen widmen Arbeit zu tun, die Facebook-mit Milliarden von Dollar-sollte Sorge nehmen?"

Hendren kontaktiert Soraya, die Facebook direkt drücken weiter. Zur gleichen Zeit, Soraya und Laura Bates, Gründer des Alltags Sexism Projekt begann auch Hinweise auf den Vergleich, was die Leser sie sandten. Bates wurde durch überraschende Anzeigenplatzierungen geschlagen. Zu der Zeit, geuntertitelt ein Foto "Die Hündin nicht wissen, wann man den Mund halten" erschien neben den Anzeigen von Dove und iTunes. "Häusliche Gewalt: Lassen Sie mich Sie nicht zweimal Tell" -a Seite mit Fotos von Frauen besetzt geschlagen, gequetscht, und die Blutung-wurde von Anzeigen für Facebook COO Sheryl Sandberg neue bestverkauften Buch bevölkert, Lean In: Frauen, Arbeit, und die wird zu führen.

Anfang Mai beschlossen Bates bei einem dieser Unternehmen zu twittern. "Hallo @Finnair hier Ihre Anzeige auf der anderen Seite häuslicher Gewalt-werden Sie Werbung mit Facebook stoppen?" FinnAir reagierte sofort: "Es ist absolut gegen unsere Werte und Politik. Dank @ R2PH ! @everydaysexism Können Sie uns die URL senden Sie bitte so , dass wir Maßnahmen ergreifen können? "

Soraya, Bates, und Jaclyn Friedman, der Geschäftsführer von Frauen, Action, und Medien, eine Medien Gerechtigkeit Interessengruppe, zusammengetan und startete eine Social-Media-Kampagne entwickelt, um Werbetreibenden Aufmerksamkeit. Das ultimative Ziel war Facebook zu drücken explizite Gewalt gegen Frauen als Verstoß gegen ihre eigenen Verbote gegen Hassreden, grafische Gewalt und Belästigung zu erkennen. Innerhalb eines Tages die Kampagne von Anfang, 160 Organisationen und Unternehmen hatten gemeinsam unterzeichnet einen öffentlichen Brief , und in weniger als einer Woche, mehr als 60.000 Tweets wurden teilte die #FBrape Hashtag-Kampagne verwenden. Nissan war das erste Unternehmen seine Werbung Dollar von Facebook zusammen zu ziehen. Mehr als 15 weitere folgten bald. Der Brief betont, dass Facebook die Weigerung Inhalt herunterzunehmen, die verherrlicht und verharmlost Grafik Vergewaltigung und häusliche Gewalt wurde tatsächlich freien Ausdruck, es war "marginaliz [ing] Mädchen und Frauen, sidelin [ing] unsere Erfahrungen und Sorgen, und contribut [ing] behindert Gewalt gegen uns. "

Am 28. Mai Facebook gab eine öffentliche Antwort:

In den letzten Tagen ist es klar geworden, dass unsere Systeme haben Hassrede zu identifizieren und zu entfernen, wie effektiv gescheitert zu arbeiten, wie wir möchten ... Wir haben in den letzten Monaten gearbeitet unsere Systeme zu verbessern, um Berichte über Verletzungen zu reagieren, aber die Richtlinien von diesen Systemen verwendet haben es versäumt, alle Inhalte zu erfassen, die unsere Standards verstößt. Wir müssen tun, besser und wir werden.

* * *

Der Unsicherheits Net: Wie Social Media gegen Frauen Gedreht


Für alle seine Mängel, macht Facebook mehr als die meisten Unternehmen , die Online - Aggression gegen Frauen anzusprechen. Cindy Southworth , Vice President für Entwicklung und Innovation an der Nationalen Netzwerk häusliche Gewalt zu beenden, hat sich auf Facebook Sicherheits - Beirat seit 2010 "serviert [My Organisation] bekommt Anrufe von Google, Twitter, Microsoft, aber Facebook und Airbnb die einzigen sind, die uns auf einen Beirat gesetzt haben ", sagte sie uns.

Das ist ein riesiger Fortschritt, sagt sie. Mit der Einladung Experten, die die Wurzeln der Gewalt gegen Frauen und Kinder und sind vertraut mit neuer Strategien verstehen, es zu verhindern, ist Tech eher Verbesserungen zur Innovation. Die einst überschwänglich angewandt "Umstrittene Humor" Label in Facebook ist nicht mehr in Gebrauch ist. Das Unternehmen erkennt nun offiziell geschlechtsbezogene Hass als legitimes Anliegen, und ihre Vertreter auch weiterhin eng mit Befürwortern wie Southworth und der Koalition zu arbeiten, während der #FBRape Kampagne gebildet. Es gibt laufende Bemühungen Sicherheit für den Anwender und identifizieren Inhalte zu verbessern, die, belästigend, abscheulich oder diskriminierend bedroht.

Southworth nennt Vertretern des Unternehmens "nachdenklich, leidenschaftlich, besorgt, und spreizt die Grenze zwischen der freien Meinungsäußerung und Sicherheit." Aber manchmal Fortschritt fühlt sich langsam. "Die Teams, die diese Fälle behandeln nur überschwemmt werden", erklärte sie.

Als Emily Bazelon, Autor eines Buches und einer Geschichte Atlantic März 2013 über Internet schikaniert, Facebook-Zentrale besuchte, sah die jungen Männer , die sie arbeiten als Moderatoren etwa 30 Sekunden , jede gemeldete Post Bewertung der Ausgaben wurden, eine Woche Millionen von Berichten. Outsourced Rede Mäßigung hat eine boomende Branche. Wie eigene Moderationsprozess des Facebook, die Operationen dieser Unternehmen sind undurchsichtig durch Design.

TaskUs, mit Basen in Santa Monica, Kalifornien, und an verschiedenen Standorten in den Philippinen, bietet die Moderation für iPhone und Android-Anwendungen wie Flüstern, Geheimnis und Yik Yak. Das Unternehmen wirbt "ein kugelsicher System, um sicherzustellen, dass niemand, nicht eine einzelne Person-wird durch die Handlungen eines anderen Benutzers in einer anonymen App Gemeinschaft körperlich oder geistig verletzt." Doch TaskUs nicht offenbart seine Standards der Sprache, ihre Einstellungspraxis , seine Trainingsprozess oder die Arbeitsbedingungen. "Leider", wurde uns gesagt, wenn wir angefragt, "wir durch die Vertraulichkeit gebunden sind von Details des Prozesses einschließlich der Einstellung und Ausbildung zu diskutieren. Wir können in der Regel darüber sprechen, wie wir den Moderationsprozess handhaben, aber unsere Kunden sind nicht zufrieden mit uns nichts proprietärer auszusetzen (und sie betrachten die Moderation und Trainingsprozesse proprietär). "

Während private Unternehmen, ihre Praktiken zu schützen, gemeinnützige Organisationen wie die Stiftung Internet Watch nicht. IWF, mit Sitz in Cambridge, England, schirmt Bilder von sexuellem Kindesmissbrauch für Facebook, Google und Virgin Media, unter anderem. IWF Personal Uhr, zu analysieren, zu kategorisieren, und melden Sie missbräuchlichen Bilder-70 Prozent von ihnen von der Polizei in England und Wales im Jahr 2012 gesammelt Kinder unter 10 Jahren Daten beinhalten legen nahe, dass 150 Millionen Kinderpornografie Bilder in der Verteilung waren allein in Großbritannien in diesem Jahr. Zum Vergleich: Im Jahr 1995, als die Reichweite des Internets war viel enger, nur etwa 7.000 Kinderpornografie Bilder waren in der Online-Umlauf.

Wenn es um Urheberrechte und geistiges Eigentum Interessen geht, sind Unternehmen stark reagieren. Aber Gewalt gegen Frauen "wird häufig eine lauwarme Reaktion, bis es ein Problem der schlechten Presse wird."

IWF Analysten alles sehen, sagte Heidi Kempster, IWF-Direktor für Geschäftsangelegenheiten, während einer in diesem Sommer Gespräch. Kempster war offen über IWF Geschäftspraktiken: Die Gruppe Bildschirme rigoros während seiner Einstellungsverfahren, die Durchführung von psychologischen Interviews, die alles von Familiengeschichte und Aufbau von Beziehungen Fähigkeiten Ansichten über Pornografie etablieren. Das Unternehmen hat auch monatliche individuelle Beratung und vierteljährlich Gruppenberatung, sowie kompetente Beratung-mit der Polizei, Anwälte oder judges- und Pausen nach Bedarf erfordert. IWF-Analysten, sagte Kempster, "Blick auf schockierende und heftige Bilder ganzen Tag jeden Tag. Es gibt Tage, die hart sind. Sie haben Zeit zu nehmen. "

In den vergangenen zwei Jahren hat sich Facebook Schritte unternommen, um seine Reporting-System zu verbessern. Matt Steinfeld, ein Sprecher für Facebook, sprach mit uns über Facebook Mitleid Research, einem Projekt entwickelt Mobbing-Prävention in Verbindung mit Yale Center for Emotional Intelligence. Die Werkzeuge, durch dieses Programm entwickelt haben mehr als die Rate verdreifacht, bei der Benutzer direkt an die Person eine Nachricht senden, die die Offensive Material gebucht, für die Entfernung von Fotos oder Kommentare zu fragen. Nun, in 85 Prozent der Anfragen, die Person, die das Foto gepostet nimmt das Foto oder sendet eine Antwort.

Dennoch hat das Unternehmen noch nicht mit einem zuverlässigen Ansatz für den Umgang mit den anderen 15 Prozent der Fälle kommen. "Wir haben immer anerkannt, dass es geht, zufrieden zu sein, die nicht durch Mitgefühl Tools moderiert werden", sagte Steinfeld. "Wir werden die Leute nicht sagen, wer Recht hat und wer nicht."

Die Opazität um Mäßigung beibehalten bedeutet Websites sind nicht für die Berichte zu ehren verpflichtet, die sie erhalten, und jede Entscheidung, Inhalte zu entfernen, wie Kate Crawford von Microsoft Research und MIT, und Tarleton Gillespie an der Cornell University, beobachtet in einer August-Studie über soziale Medien legitimiert werden Reporting-Tools. Mit anderen Worten: "gegeben, dass Fahnen Interpretation offen bleiben und gamed werden können, können sie auch weg erklärt werden, wenn die Website zieht sie zu ignorieren."

In Gesprächen in diesem Sommer, Matt Steinfeld, ein Sprecher für Facebook, behauptet, dass seine eigene Unternehmens-Standards klar definiert sind. "Es ist das Missverständnis, dass es ein Algorithmus", sagte er während eines Gesprächs im Juli, "aber es ist ein Mensch, der objektive Standards gegeben hat" für den individuellen Beschwerden reagieren.

Wenn wir mit Microsofts Crawford über ihre Forschung sprach, beschrieb sie die Grenzen dieser scheinbar objektiven Standards. "Die Flagge wird gebeten, zu viel zu tun", sagte sie. "Es ist ein grundlegend engen Mechanismus: '. Ich protestiere" die technische Version Und während einige Plattformen behaupten, dass Flags "objektive" Daten über die Inhalte zu entfernen, sie sind Teil eines zutiefst menschlichen Entscheidungsprozess über das, was in der Öffentlichkeit angemessene Sprache darstellt. "

Forscher und Experten aus der Industrie beginnen, die Auswirkungen dieser Zusammenhang zu betrachten. Neunzig Prozent der Tech-Mitarbeiter sind Männer. Auf der höchsten Führungsebenen, geht diese Zahl auf 96 Prozent. Acht bis neun Prozent der Startup-Führungsteams sind alle männlich. Google hat vor kurzem angekündigt , dass es Programme implementiert in den Worten zu, einem New York Times - Bericht, "tiefliegenden kulturellen Vorurteile bekämpfen und eine heimtückische Frat-Haus Haltung, die die Tech - Unternehmen durchdringt." Eine Computersimulation von der Firma verwendet , dargestellt , wie eine branchenweite 1-Prozent Voreingenommenheit gegenüber Frauen in der Leistungsbewertung könnte die deutliche Abwesenheit von Frauen in leitenden Positionen geführt haben.

Viele Silicon Valley Führer-wie Twitter-Mitbegründer Jack Dorsey, der vor kurzem eine "Führungskrise" bei den Frauen in anerkannten technisch waren in Programme investieren sie hoffen, Mädchen ermutigen zu betreten und bleiben in MINT-Bereichen. Allerdings ist die Tatsache, dass Unternehmen besser verstehen die Notwendigkeit, Mädchen und Frauen zu fördern, bedeutet nicht unbedingt, sie willkommen sind. Trotz der Anwesenheit von sichtbaren, aktiven und prominente Frauen in der Branche nach einer neueren Studie, 56 Prozent der Frauen , die gebe Tech die Branche verlassen , häufig die besagt , dass sie wurden von Sexismus herausgeschoben. Diese Fluktuationsrate ist doppelt so hoch ihre männlichen Kollegen. As Vivek Wadha, author Innovating Women , recently pointed out, only 2.7 percent of 6,517 companies that received venture funding from 2011 to 2013 had female chief executives.

It's not hard to imagine how unconscious biases might affect systems architecture, including the ways companies handle moderation requests. It is notable that Ello, a new ad-free social network, launched without private profiles, a block button, or a reporting mechanism. (After much criticism , those features were added.) Its designers appear to be seven young white men whose features, appearing on the beta website, are obscured by smiley faces. The Ello site reads, “We reserve the right to enforce or not to enforce these rules in whatever way we see fit, at our sole discretion. According to our lawyer, we should also tell you that Ello's rules and policies do not create a duty or contractual obligation for us to act in any particular manner. And we reserve the right to change these rules at any time. So please play nice, be respectful, and have fun.”

* * *

Sandy Garossino, a former British Columbia prosecutor who has worked on dozens of cases of cyber extortion and online child pornography, is concerned about the implications of today's industry practices and policies, not only for children but for adults. “Right now, the slightest calibrations are going to have a profound effect on the future,” she told us.

In late June, the US Supreme Court announced it would hear the case of Anthony Elonis, a man with five charges of sexual harassment, who was imprisoned after threatening to kill his wife on Facebook. Elonis insists that his Facebook posts were not real threats but protected speech. Tara Elonis, his estranged wife—possibly aware that most female murder victims are killed by intimate partners—said that there was nothing unthreatening about her husband's Facebook posts and that they forced her to take necessary, costly precautions. “If I only knew then what I know now,” read one, “I would have smothered your ass with a pillow, dumped your body in the back seat, dropped you off in Toad Creek, and made it look like a rape and murder."

“Although threats are traditional categories of excluded speech,” explains First Amendment legal scholar Susan Williams, “there is very little take on actually defining what a true threat is in constitutional terms.” This lack of definition is what plagues social media companies seeking scalable solutions for moderating content and keeping users safe. Following legal precedent they, too, avoid defining what makes a comment a threat and instead home in on whether or not there's one specific target. However, as Williams explains, “threats can be one of those environmental factors that reduce the autonomy of whole classes of persons.”

“What these people are doing is reminding women that, no matter who they are, they are still women. They are forever vulnerable.”

In a recent high-profile case, intimate photographs of 100 celebrities—all of whom were women—were stolen and shared without consent. Google is now facing the possibility of a $100 million lawsuit , brought by over a dozen of the women whose privacy was violated, for refusing to remove the stolen photographs. In a letter dated October 1, the women's attorneys wrote that “Google has exhibited the lowest standards of ethical business conduct, and has acted dishonorably by perpetrating unlawful activity that exemplifies an utter lack of respect for women and privacy. Google's 'Don't be evil' motto is a sham.”

In response, Google removed tens of thousands of the hacked celebrity photographs. Meanwhile, social media companies have been far less responsive to similar demands from ordinary citizens. “Hey @google, what about my photos?” tweeted revenge porn victim Holly Jacobs in the aftermath of the celebrity scandal. It remains to be seen how the courts will rule in the case of Meryam Ali, a Houston woman who filed a $123 million lawsuit against Facebook for failing to remove a false profile that showed her face superimposed on pornographic images. As writer Roxanne Gay poignantly observed in The Guardian , “What these people are doing is reminding women that, no matter who they are, they are still women. They are forever vulnerable.”

In late August, Drew Curtis, founder of the content aggregator FARK, announced that the company had added “misogyny” to its moderation guidelines. FARK no longer allows rape jokes or threats. It also prohibited posts that call groups of women "whores" or "sluts," or suggest that a woman who suffered a crime is somehow asking for it. In a note to readers, Curtis wrote, “This represents enough of a departure from pretty much how every other large Internet community operates that I figure an announcement is necessary.” Responding in Slate , Amanda Hess praised FARK's new policy but also pointed out its limitations: Just underneath his announcement, users posted dozens of comments about rape, whores, and “boobies.”

Announcements like FARK's are important, particularly for catalyzing discussion, but policy changes alone can't solve such a complex problem. Kate Crawford of MIT and Microsoft urges tech innovators to think about solutions “as pluralistically as possible.” She'd like to see more platforms develop systems that leave traces of when and why content has been removed or modified—an approach in play at Wikipedia, for instance.

Other experts agree that companies have a responsibility to provide greater transparency. They also need to dedicate more staff to understanding and performing moderation. They need to attract and retain female engineers, programmers, and managers. They need to invite experts in violence prevention to their tables. Whether online or off, there seems to be an increasing consensus, from the NFL to the White House, that misogyny requires a broad societal response. As President Obama put it in mid-September, “It is on all of us to reject the quiet tolerance of sexual assault and to refuse to accept what's unacceptable.”

Soon after Hess's piece appeared on Slate , a reader posted it on a FARK message board and users filled the comment thread mocking the policy and discussing the best way slip a thermometer into Hess. So far, that thread has not been removed. As Hess herself put it, “Policing misogyny is fabulous in theory. In practice, it's a bitch.”

TOP

  • Day/
  • Week/
  • Original/
  • Recommand

Updated