Comment appliquer l'éthique en science des données


17

Il y a eu récemment une fureur avec Facebook expérimentant sur leurs utilisateurs pour voir s'ils pouvaient modifier leurs émotions et maintenant okcupid .

Bien que je ne sois pas un scientifique des données professionnel, je lis sur l'éthique de la science des données dans le livre de Cathy O'Neill `` Doing Data Science '' et je voudrais savoir si c'est quelque chose que les professionnels apprennent au niveau universitaire (je m'attends à ce que ce soit le cas) ou quelque chose qui est ignoré ou est légèrement appliqué dans le monde professionnel. Particulièrement pour ceux qui ont fini par faire de la science des données par accident .

Alors que l'article lié abordait l'intégrité des données, le livre a également discuté de l'éthique morale derrière la compréhension de l'impact des modèles de données qui sont créés et l'impact de ces modèles qui peuvent avoir des effets néfastes lorsqu'ils sont utilisés de manière inappropriée (parfois à leur insu) ou lorsque les modèles sont inexact, produisant à nouveau des résultats négatifs.

L'article traite d'un code de pratique et mentionne le code de conduite de la Data Science Association , est-ce quelque chose qui est utilisé? La règle 7 présente un intérêt particulier (citée sur leur site Web):

(a) Une personne qui consulte un scientifique des données sur la possibilité de nouer une relation client-scientifique sur une question est un client potentiel.

(b) Même lorsqu'aucune relation client-scientifique ne s'ensuit, un scientifique des données qui a appris des informations d'un client potentiel ne doit pas utiliser ou révéler ces informations.

(c) Un scientifique des données visé à l'alinéa (b) ne doit pas fournir de services professionnels de science des données à un client ayant des intérêts substantiellement opposés à ceux d'un client potentiel dans la même industrie ou une industrie substantiellement liée s'il a reçu des informations du client potentiel qui pourrait être très préjudiciable à cette personne en la matière

S'agit-il d'une pratique professionnelle? De nombreux utilisateurs acceptent aveuglément que nous obtenions un service gratuit (courrier, réseau social, hébergement d'images, plate-forme de blog, etc.) et acceptent un CLUF afin que des publicités nous soient envoyées.

Enfin, comment est-ce réglementé, je lis souvent que les utilisateurs sont en colère lorsque les conditions d'un service changent, mais il semble que cela nécessite une organisation de la liberté, un recours collectif ou un sénateur pour réagir à de telles choses avant que quelque chose ne se produise.

Soit dit en passant, je ne porte pas de jugement ici ni ne dis que tous les scientifiques des données se comportent comme ça, je suis intéressé par ce qui est enseigné académiquement et pratiqué professionnellement.


Je n'ai pas assez de représentant pour ajouter un tag éthique ou peut-être une expérimentation sociale et facebook, si quelqu'un pouvait l'obliger
EdChum - Réinstaurer Monica

1
Vous pouvez également trouver cette méta-discussion intéressante, si vous ne l'avez pas déjà lue.
Air

1
Je suggère de supprimer le mot «moral» du titre de la question. L'éthique, par définition, implique l'aspect moral comme fondamental.
Aleksandr Blekh

1
@AleksandrBlekh fera l'affaire, merci pour les commentaires, j'ai noté aujourd'hui que okcupid vient d'admettre avoir expérimenté sur les utilisateurs.
EdChum

Réponses:


2

Je pense que l'éthique en Data Science est importante. Il existe une différence fondamentale entre l'utilisation des données utilisateur pour améliorer leur expérience et la diffusion d'annonces pertinentes et l'utilisation des données utilisateur pour inciter les utilisateurs à cliquer sur des annonces dans un but de profit monétaire. Personnellement, j'aime les publicités qui me donnent des informations pertinentes comme des offres sur des choses que j'achèterais de toute façon. Cependant, me montrer des annonces de perte de poids parce que j'ai été vidé est effrayant et contraire à l'éthique. Comme mon ami Peter le dit toujours, "ne soyez pas effrayant avec les données".


0

Il ne semble pas y avoir d'éthique particulière en science des données - exploiter la douleur de quelqu'un d'autre pour gagner de l'argent est tout à fait faux. Il en va de même de voler leurs informations pour faire de l'argent. Ce n'est pas comme être médecin et décider s'il faut pousser le patient vers la chirurgie avec une chance extérieure de travailler quand c'est ce qu'il veut, mais vous savez que son conjoint et ses enfants veulent juste profiter de la plupart du temps qu'ils pourraient avoir ensemble. Jusqu'à présent, ces choses semblent peu enseignées - mais si quelque chose est nécessaire, c'est une aide pour reconnaître quand les gens sont injustement exploités.

En utilisant notre site, vous reconnaissez avoir lu et compris notre politique liée aux cookies et notre politique de confidentialité.
Licensed under cc by-sa 3.0 with attribution required.