Les règles de fuite Facebook révèlent pourquoi il ne protégera pas les enfants noirs du discours de haine

Sidney Fussell 10/03/2017. 19 comments
Facebook Hate Speech Freedom Of Speech

Mercredi, ProPublica a publié des douzaines de documents de formation surprenants, utilisés par Facebook pour former des modérateurs sur les discours de haine. Au fur et à mesure que le jeu de diapositives et de quizz révèle, Facebook utilise un raisonnement déformé et unilatéral pour équilibrer le discours haineux de la police contre la liberté d'expression des utilisateurs sur la plate-forme. Ceci est peut-être mieux résumé par l'image ci-dessus à partir de l'un de ses diaporamas de formation, où Facebook demande aux modérateurs de protéger les «Hommes Blancs», mais pas les «Pilotes Femmes» ou les «Enfants Noirs».

Facebook ne bloque que des remarques inflammatoires si elles sont utilisées contre des membres d'une «classe protégée». Mais Facebook lui-même décide qui constitue une classe protégée, avec beaucoup de possibilités claires pour que la modération soit appliquée arbitrairement au mieux et contre les personnes mineures qui critiquent celles dans le pouvoir (en particulier les hommes blancs) au pire, car Facebook a été régulièrement accusé de.

Selon les documents divulgués, voici les identifiants de groupe que Facebook protège:

Sexe, appartenance religieuse, origine nationale, identité sexuelle, race, ethnicité, orientation sexuelle, invalidité grave ou maladie

Et voici que Facebook ne protégera pas:

Classe sociale, origine continentale, apparence, âge, profession, idéologie politique, religions, pays

Ainsi, "les hommes blancs sont des idiots" est inacceptable sur Facebook car la race et le genre sont protégés. «Les chrétiens sont des ânes» est verboten parce que l'affiliation religieuse est protégée. "Le christianisme est pour les ânes" est bien parce que les religions elles-mêmes peuvent être critiquées et aucune démographie spécifique n'est ciblée. Et "Les enfants noirs sont des ânes" est autorisé parce que "les enfants", un groupe classé selon l'âge, ne sont pas protégés.

Les sous-groupes de groupes - les pilotes féminins, les professeurs juifs, les libéraux homosexuels - ne sont pas non plus protégés, comme l'explique ProPublica:

Les hommes blancs sont considérés comme un groupe parce que les deux traits sont protégés, tandis que les conductrices et les enfants noirs, comme les musulmans radicalisés, sont des sous-ensembles, car une de leurs caractéristiques n'est pas protégée.

Ce raisonnement absurde "protégé + non protégé = non protégé" confirme seulement que Facebook est mal équipé pour combattre le discours haineux ou le drapeau de la plupart des cas de racisme sur son site. La société a déclaré que le libellé exact de certaines règles peut avoir changé, mais les diapositives posent toujours la question de savoir qui appartient à une classe protégée et pourquoi. Lorsqu'on lui a demandé Gizmodo, Facebook ne fera que signaler une publication du mardi sur les discours haineux, ce qui ne donne aucune idée, n'offrant qu'une teinte bleue paisible et un désir déclaré de "refléter la diversité de l'expérience humaine".

Comme le montrent les diapositives rejetées par ProPublica (sans doute par prudence ), Facebook ne répertorie que trois scénarios où le discours inflammatoire contre les sous-ensembles n'est pas autorisé: les appels à la violence, les appels à l'exclusion et les appels à la ségrégation. Mais d'énormes lacunes permettent aux gens de négliger les trois.

Un «appel à la violence» contre les Noirs (par exemple «La police devrait tuer les voyous de la Vie Noire!») Est inacceptable, mais il est tout à fait correct de dire Mike Brown, un homme décédé à Ferguson, dans le Missouri, par un policier blanc, mérité de mourir .

Un «appel à l'exclusion» est inacceptable, mais le groupe Round Up And Deport Every Illegal Alien aux États - Unis est cool, apparemment.

Un appel à la ségrégation est inadmissible, mais il semble que des groupes comme "White Genocide Watch" et "White Genocide or Diversity", qui font valoir que le séparatisme est la seule façon dont les Blancs peuvent survivre en Amérique, sont tous deux bien. Totalement bien.

Facebook n'est ni lié par le Premier Amendement ni légalement requis pour la police du discours haineux. Mais, dans son approche actuelle, la société ignore son énoncé de mission ostensible pour «donner aux gens le pouvoir de construire la communauté et rapprocher le monde». Facebook sait très bien que la communication en ligne n'est que la première étape pour que les gens puissent sortir le monde réel et d'actionner les croyances qui les lient ensemble. Réduisant ainsi le discours de haine à un jeu de sémantique de préparation de LSAT, remaniant les groupes de haine et de haine car les mots «justes» sont malhonnêtes. En fin de compte, équilibrer la liberté d'expression avec un discours haineux de combat pour 2 milliards d'utilisateurs nécessitera une approche beaucoup plus robuste et complexe.

[ Pro Publica ]

19 Comments

Moshe Wisenheimer
raincoaster
smcallah
faithful-dushness
Rzmmdx Leetuber
Davis Andrews
Darmok eats Challah at 12Nagra
vinylrake

Other Sidney Fussell's posts

Language