Last Updated:

Étude de cas : La Fintech et l'exploitation financière des données clients

De plus en plus, les services financiers tels que les assureurs, les prêteurs, les banques et les start-ups d'applications financières mobiles collectent et exploitent un large éventail de données pour prendre des décisions concernant les gens. Cela touche particulièrement les plus pauvres et les plus exclus de la société.

Par exemple, les décisions concernant l'octroi d'un prêt peuvent maintenant dépendre de plusieurs critères tels que :

  • Le réseau social d'une personne : Lenddo, décrit par un journaliste comme "PageRank pour les individus", fournit un score de crédit basé sur le réseau social d'une personne
  • Le contenu du smartphone d'une personne, y compris qui et quand vous appelez et recevez des messages, quelles applications sont sur l'appareil, les données de localisation, et plus encore : Tala, une startup basée en Californie qui offre des prêts dans des pays comme le Kenya.
  • Comment vous utilisez un site Web et votre emplacement : la société britannique de notation de crédit Big Data Scoring analyse la façon dont vous remplissez un formulaire (en plus de ce que vous dites dans le formulaire), et comment vous utilisez un site Web, sur quel type d'appareil et à quel endroit.

L'assureur automobile Admiral a tenté d'utiliser les informations des messages des jeunes conducteurs sur Facebook pour développer un profil psychologique et leur offrir des réductions sur l'assurance automobile.

Que s'est-il passé ?

Les services financiers ont commencé à utiliser la vaste quantité de données disponibles sur les individus pour porter des jugements sur eux et à utiliser une intelligence artificielle opaque pour classer et noter les gens en fonction de leur solvabilité. Comme l'a dit le fondateur et PDG de ZestFinance, Douglas Merill : "Nous pensons que toutes les données devraient être des données de crédit". ZestFinance utilise sa plateforme d'apprentissage automatique pour travailler avec les données des institutions financières et des courtiers en données afin de fournir des scores de crédit. Leur analyse a révélé, par exemple, que les emprunteurs qui écrivent en toutes lettres sont moins susceptibles de rembourser leurs prêts. En 2016, ZestFinance a annoncé que la société s'était associée au géant chinois de la recherche Baidu, pour utiliser ses données de recherche comme base de scoring de crédit.

Les rapports de crédit plus "traditionnels" contiennent des données sur des questions telles que le statut de vos comptes bancaires et de crédit, et les facteurs positifs et négatifs affectant votre capacité à obtenir un crédit. Dans de nombreux pays, les données qui peuvent être incluses dans les rapports de crédit - ou qui ne doivent pas l'être - sont réglementées par la loi. Pourtant, les services financiers ne considèrent plus que ces sources limitées de données pertinentes pour l'évaluation de la solvabilité ou la prise de décision en matière de prêt : tout, de ce que vous publiez sur les médias sociaux au type de téléphone que vous utilisez, est désormais considéré comme pertinent pour la prise de décision financière. L'utilisation de ces sources de données, plutôt que des dossiers de crédit traditionnels, est connue sous le nom de "cote de crédit alternative". De plus, pour analyser cette quantité croissante de données, le processus de prise de décision - souvent assisté par une intelligence artificielle adaptée - devient encore plus opaque ; il devient de plus en plus difficile pour un individu de comprendre ou même de demander pourquoi on lui a refusé un prêt ou qu'on lui a accordé une faible limite de crédit.

Une grande partie du discours entourant l'utilisation des cotes de crédit alternatives, par exemple, est axée sur la notion "d'inclusion", et sur l'intégration des groupes qui n'avaient auparavant pas accès au crédit ou aux services financiers. Toutefois, on a peu tenu compte du risque d'exclusion qui découle de l'utilisation de nouvelles formes de données par les sociétés de notation.

Par exemple, différents groupes de personnes utilisent leur téléphone et les médias sociaux, de différentes manières. Certains hommes homosexuels au Kenya, par exemple, utilisent plusieurs comptes Facebook, pour leur propre sécurité et pour contrôler qui sait quoi sur certains aspects de leur vie. Cependant, comme les profils des médias sociaux sont utilisés pour authentifier l'identité des personnes, quel impact le fait d'avoir plusieurs comptes a-t-il sur les décisions prises concernant les cotes de crédit ? Il a également été signalé que si les prêteurs constatent une activité politique sur le compte Twitter d'une personne en Inde, ils considéreront le remboursement plus difficile et ne prêteront pas à cette personne.

Les préoccupations concernant les données et les divers degrés d'opacité dans des prises de décision souvent automatisées, dépassent le secteur du crédit et s'étendent à tout l'espace des services financiers. Par exemple, en 2016, Admiral, un important fournisseur d'assurance automobile, a exploré la possibilité d'utiliser les profils Facebook des jeunes conducteurs pour offrir des rabais sur l'assurance automobile. Lorsque Facebook l'en a empêché, ils se sont tournés vers des jeux-questionnaires pour tenter de dresser le profil de la personnalité des jeunes conducteurs.

Pour bien comprendre le fonctionnement de le Fintech, rien de tel que leur propre infographie explicative :

La quantité de données que le secteur financier recueille sur nos vies augmente, et les gens ont simultanément des options limitées pour refuser que leurs données soient recueillies et exploitées de cette façon. On peut voir un exemple de cette expansion dans l'industrie de l'assurance automobile. Les véhicules sont de plus en plus "connectés" - c'est-à-dire qu'ils utilisent l'Internet d'une manière ou d'une autre - et sont essentiellement des ordinateurs pilotables. Dans les véhicules, des unités télématiques recueillent des données sur la conduite du véhicule et sur le fonctionnement des composants internes. Ce type d'information est considéré comme très précieux par les assureurs automobiles, qui analysent la façon dont une personne conduit, ainsi que les endroits qu'elle visite et le moment où elle le fait ; cela pourrait être étendu à la façon dont la musique est diffusée dans le véhicule, et plus encore. Privacy International mène des recherches sur les données détenues par les unités télématiques et sur les données transmises aux compagnies d'assurance et aux assureurs automobiles.

Quel est le problème ?

De plus en plus de données sont utilisées pour prendre ou façonner les décisions qui déterminent l'accès aux services financiers, à partir de sources qui dépassent de loin ce que les gens pourraient considérer comme "financières". L'intrusion est d'autant plus grande que le monde financier examine de plus en plus d'aspects de notre vie pour porter des jugements sur qui nous sommes et ce que nous pourrions faire. Comme de plus en plus de données sont utilisées pour le pointage de crédit, cela incite à produire toujours plus de données. L'option par défaut était auparavant (relativement) privée - argent comptant - mais il existe maintenant de nombreuses autres alternatives. De plus, de multiples acteurs sont soudainement impliqués dans votre paiement : selon la manière dont vous payez, cela peut impliquer votre banque ; la banque du commerçant ; la société de carte de crédit ; un fournisseur de portefeuille mobile ; Apple ou Google.

Un exemple de cette perte de contrôle croissante, mais souvent cachée, pour les clients est la collecte par les sociétés financières d'informations relatives à la façon dont les gens remplissent un formulaire en ligne, en plus de ce qu'ils remplissent dans le formulaire. Par exemple, la société de notation Big Data Scoring le fait par le biais d'un cookie sur le site Web d'un prêteur, qui peut recueillir des données, notamment la rapidité avec laquelle vous tapez les réponses, le type d'appareil que vous utilisez et votre emplacement". La plupart des gens ne considéreraient pas la valeur de ces données dans la prise de décision ; l'information que vous entrez dans un formulaire devient peut-être moins importante que la façon dont vous le remplissez.

L'exploitation des données financières peut avoir de vastes conséquences pour la société. Comment les gens peuvent-ils savoir, étant donné l'opacité de la prise de décision, que les décisions prises sont justes ? Et qu'en est-il des personnes qui tentent de " jouer avec le système " - peut-on être sûr que les commentaires faits sur le profil Twitter de quelqu'un sont leurs vraies pensées, ou sont-ils une tentative d'obtenir un meilleur taux sur un prêt ?

Quelle est la solution ?

Les jugements portés par les services financiers étant parmi les plus importants dans nos vies, il est essentiel qu'ils soient légaux et équitables. Comme dans le cas du dossier de crédit traditionnel - où, dans une grande partie du monde, nous avons le droit de voir les données qui sont stockées à notre sujet, et les prêteurs ont le devoir de garder ces données exactes - nous devons avoir le droit de savoir quelles données sont recueillies et utilisées pour porter ces jugements à notre sujet. Nous devons avoir le droit de contester les décisions prises à notre sujet.

Les services financiers sont essentiels pour vivre dans le monde moderne, il est donc essentiel qu'ils fonctionnent de manière à protéger notre vie privée. Nous ne devons pas vivre dans un monde où l'option par défaut est de générer les données qui peuvent être recueillies et exploitées par les services financiers. Par exemple, nous devons conserver l'option d'utiliser de l'argent comptant, et faire en sorte que cette option ne soit pas moralement douteuse.

Bien que nous devions fournir certaines données aux sociétés de services financiers pour qu'elles puissent offrir un service qui réponde à nos besoins, il faut comprendre que cela doit être mis en balance avec les répercussions que cela a sur notre vie privée. Avec son éventail de données considérablement élargi, même le secteur financier ne peut nous laisser complètement impuissants dans la façon dont nous gérons notre identité et les limites que nous nous fixons pour nous protéger contre les intrusions indésirables.

Comme nous pouvons le voir sur leurs différentes plaquettes, les entreprises de la Fintech se targuent de pouvoir nous profiler en temps réel.

Étant donné que de nombreuses entreprises offrent leurs services aux personnes pauvres et marginalisées - celles qui ont une cote de crédit officielle limitée - nous sommes confrontés à un problème qui fait que ces groupes sont plus susceptibles de devoir renoncer à davantage de données les concernant. Nous devons concevoir nos systèmes de manière à protéger les droits des marginaux et des pauvres, tout en veillant à ce qu'ils ne soient pas exclus.

Enfin, nous devons disposer d'une réglementation qui garantisse que la nouvelle croissance de ces nouvelles formes de services financiers ne soit pas discriminatoire à l'égard de certaines populations, ainsi que de la technologie nécessaire pour garantir que les algorithmes soient vérifiables.

En petit bonus voici un petit panorama de la France Fintech en janvier 2019. N'hésitez pas à visiter leur site... vous y découvrirez des informations assez intéressantes (comme ce panorama). Ah et pour vous rassurer... par défaut leur site n'est pas sécurisé... j'ai du rajouter le https à la main...

Sources : https://www.privacyinternational.org/case-studies/757/case-study-fintech-and-financial-exploitation-customer-data