Si vous vous sentez observé⋅e,
vous changez de comportement.

 

Le Big Data amplifie cet effet à l'extrême.

Cela peut limiter votre désir de prendre des risques
ou d'utiliser votre liberté d'expression.

À plus long terme cette limitation de la communication peut entraîner un « gel » de toute une société.

 
Voilà comment ça marche : 

1.

Vos données sont converties en milliers de notations différentes.

Il y a des étoiles derrière le « cloud » :

Les revendeurs de données utilisent des algorithmes pour voir se dessiner les tendances de la société. Cela leur permet de calculer la probabilité de milliers de détails que vous n'avez jamais dévoilés. Voici quelques exemples réels :

Religion
Victime de viol
Fait un régime
Aime le jardinage   
Nombre d'amis en ligne
Nombre d'amis réel
QI
Opinions politiques
A avorté
Crédulité
Orientation sexuelle projetée
Orientation sexuelle réelle
Lit des magazines de voyage
Lit des livres de voyage
Envisage d'avoir un enfant

Parents divorcés avant ses 21 ans
Névrosé-e
Ouverture d'esprit
Date de naissance 
Aime la mode 

A des plantes à la maison 
Situation économique stable
Héritier⋅e potentiel 
Extraverti⋅e
Gentillesse
Année construction maison
Fume à la maison 
A des besoins de « senior »
Diabétique
A des tendances addictives
Physiquement fragile
Appareil de communication de prédilection
Adulte sans enfant
Niveau d'éducation
Aime les articles commémoratifs d'Elvis

Leurs « données dérivées », qui sont protégées sous couvert de liberté d'expression d'entreprise, ont plus de valeur que « vos données ».
S'il disent qu'ils ne vendent pas vos données, demandez-leur s'ils vendent les leurs. 

2.

Les gens commencent à comprendre que cette « réputation numérique » peut restreindre leurs opportunités.

 
(Et que ces algorithmes sont souvent biaisés, et basés sur des données médiocres.)

DANS LES ACTUALITÉS

3.

Les gens se mettent à changer de comportement pour avoir de meilleures notes.

Cela a de bonnes et de mauvaises conséquences.

Le refroidissement social décrit les impacts négatifs à long terme d'une économie de la réputation :

1. Une culture du conformisme

Avez-vous déjà hésité à cliquer sur un lien, car vous craigniez que votre activité soit enregistrée, et que cela puisse nuire à votre réputation ?

De plus en plus de gens ressentent cette pression, et commencent à pratiquer l'auto-censure. Cela s'appelle un « effet de dissuasion ».

L’ironie : on ne nous enlève pas des libertés, on a juste peur de les utiliser.

2. Une culture d'évitement du risque

Lorsque des médecins de New York ont été notés, cela a eu des résultats inattendus.

Les médecins qui ont essayé d'aider les patients atteints d'un cancer avancé avaient un taux de mortalité élevé, ce qui s'est traduit par une note plus faible.

Les médecins qui n'ont pas essayé d'aider ont été récompensés par des notes plus élevées, même si leurs patients mouraient prématurément.

Les systèmes de notation peuvent créer des motivations non souhaitées, et augmenter l'injonction à se conformer à une moyenne bureaucratique

3. Une rigidité sociale accrue

Les systèmes de réputation numérique limitent notre capacité et notre volonté de contester l'injustice.

En Chine, tous les citoyens adultes sont en passe d’avoir une « note de confiance » approuvée par le gouvernement. Elle donne à voir à quel point ils se sont bien comportés, et est basée sur les casiers judiciaires, ce qu'ils disent sur les réseaux sociaux, ce qu'ils achètent et même la note de leurs amis.

Si vous avez une note basse, vous ne pouvez obtenir ni poste de fonctionnaire, ni visa, ni prêt avantageux ni même un rendez-vous en ligne sympa.

La pression sociale est la plus forte et la plus subtile des formes de contrôle.

Alors que nos faiblesses sont cartographiées...

Nous devenons trop transparents.

 

Cela créé une société où l'auto-censure et la peur du risque sont la nouvelle norme.


                      

Oui, nous avions déjà des cotes de crédit avant. Mais nous atteignons là une toute autre échelle, avec un degré d'intégration, d'automatisation et d'accessibilité incroyable.

La grande question philosophique :

Devenons-nous plus raisonnables, mais moins humains ?

Est-ce que cela a du sens d'être libre dans un monde où la surveillance est le modèle économique dominant ?

La grande question économique :

Est-ce que nous affaiblissons notre économie créative ?

Dans une économie créative, les personnes qui osent être différentes sont notre plus grande ressource.

La grande question sociétale :

Est-ce que cela va impacter notre capacité à évoluer en tant que société ?

Le combat d'hier pour l'égalité d'une minorité est aujourd'hui une norme largement acceptée. Mais des points de vue minoritaires pourront-ils encore émerger ?

 

La solution ?

 

 

Nous devrons comparer ce problème au réchauffement climatique.

•  Le refroidissement social est subtil. La pollution de notre environnement social est invisible pour la majorité des gens, tout comme la pollution de l'air l'était au début.   

•  Le refroidissement social est complexe. Les politiciens, citoyens, entrepreneurs ou scientifiques ne peuvent pas y remédier seuls.   

 

 

 

La prise de conscience collective est encore faible.

Il a fallu 40 ans pour que la problématique du pétrole soit mise à l’ordre du jour, et 80 ans pour en arriver où nous en sommes aujourd’hui.
Nous ne pouvons pas prendre tout ce temps avec le refroidissement social.

 

 

 

 

Au cours des dix prochaines années, nous aurons besoin de propager une vision plus mûre et plus nuancée des données et de la vie privée. 

 

 

 

 

 

 

 

Lorsque l’injonction à la perfection augmente...

 


Lorsque les algorithmes jugent tout ce que nous faisons, nous devons protéger le droit à l'erreur.

Lorsque tout est mémorisé par le « big data », le droit à ce que nos erreurs puissent être oubliées est nécessaire.

 

 

Dans notre monde axé sur les données... 

Partager
(ces boutons de partage ne sont que de simples liens et respectent votre vie privée)