IBM arrête la R&D en reconnaissance faciale

Nommé fin janvier à la tête d'IBM, Arvind Krishna pointe les dangers des biais de traitement générés par l'intelligence artificielle qui nécessitent de soumettre les applications de l'IA à des tests audités. Ci-dessus, lors de la conférence Think. (Crédit : IBM)

Nommé fin janvier à la tête d'IBM, Arvind Krishna pointe les dangers des biais de traitement générés par l'intelligence artificielle qui nécessitent de soumettre les applications de l'IA à des tests audités. Ci-dessus, lors de la conférence Think. (Crédit : IBM)

Dans une lettre adressée au Congrès américain, Arvind Krishna, CEO d'IBM, annonce que son entreprise ne proposera plus de produits de reconnaissance faciale à usage général et s'opposera à l'utilisation de ces technologies pour la surveillance de masse et les violations des droits de l'homme.

Arvind Krishna, CEO d'IBM, a envoyé hier une lettre de propositions au Congrès américain pour faire progresser l'égalité raciale aux Etats-Unis. Pour agir concrètement, la firme basée à Armonk décide en premier lieu de ne plus fournir de logiciels de reconnaissance ou d'analyse faciale à usage général. « IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, dont la reconnaissance faciale offertes par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits de l'homme et des libertés fondamentales, ou pour tout autre objectif qui ne serait pas conforme à nos valeurs et principes de confiance et transparence », écrit dans cette lettre le dirigeant de la firme basée à Armonk (dans l'état de New York). Cette prise de parole du CEO d'IBM intervient dans le contexte d'émotion et d'indignation mondiale qui succède au meurtre de George Floyd, citoyen américain noir, lors d'une interpellation de police à Minneapolis.

Arvind Krishna a pris ses fonctions à la tête d'IBM à la fin du mois de janvier dernier, pour succéder à Virginia Rometty. Dans sa lettre au Congrès, il fait valoir que le temps est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les agences nationales d'application des lois. « L'intelligence artificielle est un outil puissant qui peut aider les forces de l'ordre à assurer la sécurité des citoyens », reconnaît-il. Mais il en va de la responsabilité des fournisseurs et des utilisateurs de systèmes d'IA de s'assurer que les algorithmes sont bien testés pour éviter les biais, grand écueil de ces technologies conçues principalement par des développeurs appartenant peu ou prou aux mêmes groupes sociaux ou peu diversifiés.

Les tests de biais doivent être audités et communiqués

Arvind Krishna met l'accent sur l'importance de tester ces biais tout particulièrement lorsque ces technologies sont utilisées par les autorités policières. Il ajoute en outre que ces tests de biais doivent être audités et communiqués. Le CEO d'IBM estime enfin que la police nationale devrait également encourager elle-même et faire progresser les utilisations de technologies qui lui apportent davantage de transparence et lui permettent de rendre des comptes, telles que les caméras portées par les policiers et les techniques d'analyse de données modernes.

Le dirigeant fait aussi des propositions. Il faut, dit-il, étendre les opportunités de formation sur les compétences actuellement demandées. C'est un élément-clé pour faire acquérir à l'ensemble des Américains des formations recherchées sur le marché du travail et notamment aux communautés de la diversité. « Le besoin est particulièrement aigu dans les communautés de couleur », pointe le CEO, lui-même étant d'origine indienne, à l'instar de nombreux autres dirigeants de la high tech, comme Satya Nadella, CEO de Microsoft, Sundar Pichai, CEO d'Alphabet/Google et Shantanu Narayen, CEO d'Adobe, ou George Kurian, CEO de NetApp. « Chez IBM, nous voyons une demande urgente pour ce que nous appelons des postes arborant « un nouveau col » [NDLR : expression faisant référence aux cols blancs et bleus], qui requièrent des compétences spécialisées mais pas nécessairement un diplôme universitaire traditionnel de 4 ans ». On peut trouver de tels profils aujourd'hui dans des secteurs en plein développement comme la cybersécurité ou le cloud computing, fait valoir le dirigeant.

Créer d'autres cursus de formation et étendre les bourses

Et le CEO d'IBM de citer P-Tech, un modèle d'école créé par IBM il y a quelques années où les étudiants peuvent obtenir un diplôme en sciences et technologies sans coûts associés. Il y a aujourd'hui 22 écoles P-Tech dans le monde réunissant 150 000 étudiants. Arvind Krishna aborde aussi les bourses Pell du gouvernement américain attribuées aux étudiants peu argentés pour payer leurs études supérieures. Il faut aller plus loin, estime-t-il car il n'y a pratiquement aucun fonds fédéral pour les compétences ne relevant pas de l'Université. « Nous sommes conscients que ces mesures ne sont qu'un début, mais IBM veut contribuer à faire avance l'équité et la justice dans ce pays », conclut Arvind Krishna. Sur le fil Twitter d'IBM, un message lui fait écho.

Dans l'Hexagone, le programme P-Tech a été mis en place avec Orange et BNP Paribas à la rentrée scolaire de septembre 2019 dans deux établissements, le Lycée la Tournelle de La Garenne-Colombes (Ile-de-France) et le Lycée Edmond Labbé de Douai (Hauts-de-France), avec des retours très positifs selon IBM France. 

Ajouter un commentaire
0
Commentaires

s'abonner
aux newsletters

suivez-nous

Publicité

Derniers Dossiers

SD-WAN : un marché bouillonnant

SD-WAN : un marché bouillonnant

Les réseaux MPLS, longtemps et toujours utilisés pour interconnecter les différents sites de l'entreprise, doivent aujourd'hui cohabiter avec la technologie SD-WAN qui agrège tout...

Publicité