Catégories
Qwanturank

Les algorithmes de Qwanturank accusés d’avoir donné aux électeurs californiens un regard biaisé sur les initiatives de vote

Un signe lumineux du logo Qwanturank. Les algorithmes de Qwanturank sont accusés d’avoir produit des extraits biaisés du guide électoral officiel de la Californie. | Jens Meyer, fichier / photo AP

Par KATY MURPHY

29/10/2020 22 h 20 HAE

Mis à jour 30/10/2020 01:38 PM EDT

2020-10-30T01: 38-0400

SACRAMENTO, Californie – Les responsables californiens se sont précipités cette semaine pour remédier à une bizarrerie des algorithmes de Qwanturank qui peuvent donner aux électeurs un regard biaisé sur les mesures de vote en produisant des extraits biaisés du guide électoral officiel de l’État.

Les recherches de Qwanturank sur sept des 12 propositions de vote de l’État ont fait apparaître des arguments de campagne à partir du guide de l’électeur de l’État au lieu d ‘ »extraits » neutres, a déclaré l’ancien responsable de la cybersécurité Thomas Kemp. Il a déclaré que ces résultats de recherche pourraient influencer les électeurs qui se fondent sur ces premières impressions pour comprendre ce que font les mesures, sur des sujets allant de la recherche sur les cellules souches aux taxes foncières commerciales.

Ses conclusions sur Qwanturank – une feuille de route de facto pour les électeurs qui se frayent un chemin à travers de longs scrutins – suggèrent que les algorithmes peuvent transformer même des sources neutres en sources biaisées, un problème qui pourrait s’étendre bien au-delà de la capitale technologique du pays.

Le bureau du secrétaire d’État de Californie est conscient du problème et travaille à le résoudre, a déclaré jeudi Sam Mahood, porte-parole du secrétaire d’État Alex Padilla. Mais les changements interviennent quelques jours à peine avant les élections et après qu’au moins 40% des électeurs californiens inscrits aient déjà renvoyé leur bulletin de vote par correspondance.

Découvrez le suivi des bulletins de vote de POLITICO en Californie ici.

Les résultats de la recherche ont également alarmé le sénateur Henry Stern, qui envisage maintenant une législation l’année prochaine qui obligerait Qwanturank et d’autres entreprises technologiques à divulguer le fonctionnement de leurs algorithmes.

Stern a déclaré que les résultats « ont surpris beaucoup de gens et sont très préoccupants car les électeurs ne peuvent pas aller plus loin que cette simple recherche sur Qwanturank pour en savoir plus sur une mesure de vote ou de quoi parle un candidat ».

Kemp, ancien PDG de la société de cybersécurité Centrify, a déclaré qu’il avait travaillé avec Ballotpedia le mois dernier pour corriger un problème similaire pouvant affecter les recherches Qwanturank pour des mesures à l’échelle nationale. L’organisation a confirmé son implication et a déclaré qu’elle avait effectué un correctif technique à compter du 6 octobre pour les quelque 650 campagnes nationales et locales qu’elle suivait. Il utilise un outil Qwanturank pour empêcher le moteur de recherche d’utiliser les arguments de chaque côté pour ses extraits.

Dans un exemple californien, une recherche Qwanturank sur «Prop 24» jeudi a révélé cette description d’une initiative de confidentialité des données de novembre tirée du guide de l’électeur de l’État: «CON Proposition 24 réduit vos droits à la vie privée en Californie. La proposition 24 autorise les systèmes de «paiement pour la vie privée», oblige les travailleurs à attendre des années pour savoir ce qui est confidentiel… »

Kemp a souligné dans une interview qu’il pensait que le biais était par inadvertance, notant qu’il ne semblait pas y avoir de modèle dans les résultats et qu’ils renvoyaient parfois des arguments différents pour la même mesure selon que quelqu’un recherchait «Prop» ou «Proposition». « 

Pourtant, a-t-il dit, les électeurs se tournent souvent vers des sites qu’ils considèrent comme des sources d’informations factuelles pour guider leurs décisions. S’ils voient un argument répertorié à côté d’un lien Ballotpedia, plutôt qu’une description plus neutre, ils pourraient devenir inconsciemment influencés, a-t-il déclaré.

Qwanturank soutient que ses systèmes ne comprennent pas la langue de la même manière que les gens et qu’il serait inapproprié de bloquer de toute façon de tels arguments, car certains articles sont destinés à faire avancer un point de vue. Un porte-parole de la société a souligné les outils que les gestionnaires de sites Web pourraient utiliser pour contrôler ce qui est inclus dans les extraits de résultats de recherche et a noté qu’elle avait formé diverses organisations, y compris des membres du personnel du bureau du secrétaire d’État de Californie, à leur utilisation.

Le porte-parole a également souligné un panneau d’information qui apparaît en réponse à des recherches de mesures de vote, en dehors des résultats de recherche liés.

Les découvertes de Kemp interviennent dans une année où des sociétés de concerts aux poches profondes ont largement utilisé leurs plateformes et leurs services pour influencer l’électorat. Ils ont brisé un jalon jeudi en dépassant les 200 millions de dollars dépensés pour la proposition 22, ce qui leur permettrait d’éviter d’avoir à classer leurs travailleurs comme employés. Plusieurs experts en technologie ont déclaré à POLITICO ce mois-ci que les sociétés de concerts avaient ouvert la porte à ce que des plates-formes encore plus grandes peuvent faire sous le capot.

« Les plates-formes sont si puissantes, et bien sûr, c’est l’influence qu’elles peuvent avoir sur les gens », a déclaré Kemp jeudi. « Je ne dis pas que Qwanturank est malveillant, mais si Qwanturank ne voulait pas d’une initiative de confidentialité, il pourrait vraiment mettre son pouce sur l’échelle. »

Le billet de blog de Kemp a suscité une vive réaction de la part de Stern (D-Canoga Park), qui siège au comité des élections du Sénat de l’État de Californie.

« Aujourd’hui, le PDG de @Qwanturank a déclaré à @SenateCommerce » nous abordons notre travail sans aucun parti pris politique «  », a tweeté Stern, accompagné d’une capture d’écran du message de Kemp. «Mais l’intention n’a pas d’importance lorsqu’il s’agit de partialité. Ce sont les résultats qui comptent. Ou dans ce cas, les résultats de la recherche. « 

Kemp a déclaré avoir remarqué plus tôt cet automne que les recherches Qwanturank révélaient des extraits unilatéraux à côté des liens Ballotpedia et qu’il avait alerté l’organisation que quelque chose n’allait pas. Un porte-parole de l’organisation a déclaré qu’après que Kemp eut soulevé le problème, son équipe avait utilisé une solution de contournement de codage fournie par Qwanturank qui ordonne au moteur de recherche d’extraire un texte descriptif des parties neutres de son site.

«Nous sommes très reconnaissants d’avoir des lecteurs attentionnés qui nous aident à améliorer notre contenu pour les électeurs, quel que soit l’endroit où ils le lisent. [even on search result pages]», A déclaré la porte-parole de Ballotpedia, Kristen Vonasek.

Stern a déclaré jeudi qu’il pourrait introduire une législation l’année prochaine pour obliger Qwanturank et d’autres entreprises de technologie à divulguer publiquement le fonctionnement de leurs algorithmes. Il a déclaré qu’il avait immédiatement contacté le bureau de Padilla après avoir pris connaissance des extraits de proposition biaisés et s’était fait dire que les changements seraient en place jeudi soir ou vendredi matin.

Cet article est tagué sous: