Home / Science / Les entreprises peuvent être condamnées à une amende si elles n'expliquent pas les décisions prises par AI

Les entreprises peuvent être condamnées à une amende si elles n'expliquent pas les décisions prises par AI

 Nouveau scientifique, Image par défaut

Certains départements des ressources humaines utilisent des algorithmes d'intelligence artificielle pour filtrer les candidatures à un emploi

Andriy Popov Stock Photo

amendes s’ils ne sont pas en mesure d’expliquer les décisions prises par l’intelligence artificielle, dans le cadre des plans présentés aujourd'hui par l'organisme britannique de surveillance des données.

Le Bureau du commissaire à l'information (ICO) a déclaré que ses nouvelles directives étaient vitales, car le les entreprises utilisent l'IA pour prendre des décisions pour la première fois. Cela pourrait inclure les départements de ressources humaines utilisant l'apprentissage automatique pour présélectionner les candidats sur la base d'une analyse de leur CV.

À propos de deux tiers des sociétés de services financiers britanniques utilisent AI pour prendre des décisions y compris des sociétés d'assurances. gérer les réclamations, et une enquête montre que près de la moitié des citoyens britanniques sont préoccupés par les algorithmes prenant des décisions que l'homme expliquerait habituellement. Les chercheurs en intelligence artificielle sont déjà invités à pour en faire plus pour expliquer la nature «boîte noire» de la manière dont l'apprentissage automatique aboutit à des résultats.
                    

Annonce

Simon McDougall de l'OIC déclare: «Il s'agit uniquement d'explicabilité. Il aborde toute la question de l’explicabilité de la boîte noire, mais c’est vraiment ce qui détermine le droit des personnes à une explication. Comment expliquez-vous qu'une décision d'intelligence artificielle soit transparente, juste, compréhensible et responsable vis-à-vis de l'individu? »

Le guide, qui fait l'objet d'une consultation aujourd'hui indique aux organisations comment communiquer des explications une forme qu'ils comprendront. Le non-respect de cette règle pourrait, dans des cas extrêmes, entraîner une amende pouvant aller jusqu'à 4% du chiffre d'affaires global d'une société, en vertu de la loi européenne sur la protection des données.

Ne pas avoir suffisamment d'argent ou de temps pour expliquer les décisions d'AI ne sera pas une excuse acceptable, dit McDougall. «Ils doivent être responsables de leurs actions. S'ils ne disposent pas des ressources nécessaires pour bien réfléchir à la manière dont ils vont utiliser l'IA pour prendre des décisions, ils devraient alors se demander s'ils devraient tout utiliser. »Il espère également que cette étape permettra aux entreprises d'acheter dans les systèmes d'IA plutôt que de construire leur propre système, posant davantage de questions sur leur fonctionnement.

Produites en collaboration avec l'Institut Alan Turing, les directives devraient entrer en vigueur en 2020.

Article modifié le .
                                    2 décembre 2019
                                

Nous avons corrigé le nom de l'institut impliqué dans le guidage.
                                

Plus sur ces sujets:

Source

About Actus-sante

Check Also

Big bang raconté: les rebondissements étranges dans l'histoire de la naissance de l'univers

Ce n'était certainement pas gros, et probablement pas – et les surprises de l'histoire conventionnelle …

Laisser un commentaire