Expliquer l'apprentissage automatique et l'intelligence artificielle des collections au régulateur

Expliquer l'apprentissage automatique et l'intelligence artificielle des collections au régulateur
4.4 (87.57%) 37 votes


Une approche pratique pour réaliser les avantages sans les maux de tête!

(article_ad)

L'application des techniques d'apprentissage automatique (ML) et d'intelligence artificielle (IA) au sein des collections connaît une croissance importante, car il a été prouvé que cette technique permettait de gagner en efficacité; de l'amélioration des résultats des modèles prédictifs à l'activation des robots AI qui interagissent avec les clients, laissant ainsi au personnel le soin de traiter des problèmes plus complexes. À l’heure actuelle, l’un des principaux obstacles à l’utilisation de cette technologie de pointe est la difficulté à expliquer les décisions prises par ces solutions aux régulateurs. Il est peu probable que cet accent sur la réglementation diminue, en particulier avec les divers exemples de biais d’IA qui continuent d’être découverts dans diverses applications, ce qui entraîne des comportements discriminatoires à l’égard de différents groupes de personnes.

Bien que les réglementations spécifiques aux collections restent relativement indéfinies sur le sujet, les grandes institutions ont recours à leur politique plus large; à savoir que toute décision doit être entièrement explicable. Bien qu’il existe des techniques explicites d’intelligence artificielle (xAI) qui peuvent nous aider à mieux comprendre les modèles ML tels que ceux de FICO. , la voie vers la signature au sein d’une organisation peut être un défi.

Les gagnants du peut fournir une solution pour réaliser les avantages de l'IA / ML sans le mal de tête associé!

Le défi consistait en une collaboration entre Google, FICO et des universitaires de Berkeley, Oxford, Imperial, UC Irvine et MIT, où des équipes de chercheurs ont été mis au défi de créer et d’expliquer un modèle de boîte noire. L’équipe de l’Université de Duke, qui a reçu le FICO Recognition Award pour sa soumission détaillée dans ce billet de blog, , ont adopté une approche différente – en substance, ils n’ont finalement pas utilisé un modèle de boîte noire, mais un modèle traditionnel, explicable.

Machine Learning en tant qu'enseignant en modélisation prédictive

En développant un modèle basé sur le ML, parallèlement à un modèle interprétable plus traditionnel, le spécialiste des données, ou le modélisateur analytique, peut «apprendre» des résultats de la solution de ML. Par exemple, la solution ML peut mettre en évidence:

  1. Approches de modélisation alternatives (approche basée sur un arbre de décision ou fonctions statistiques alternatives, par exemple)
  2. Nouveaux attributs intéressants à inclure dans le modèle, y compris les interactions clés complexes entre attributs
  3. Nouveaux modes de classement des attributs (par exemple, recherche d'un nouveau moyen de regrouper plusieurs valeurs moins continues en un nombre plus réduit de «bacs». Les bacs sont ensuite utilisés comme nouveaux groupes de données).

Le modélisateur peut inclure ces apprentissages de ML dans son modèle interprétable traditionnel et tenter de «chasser» le pouvoir prédictif supérieur du modèle de ML. C’est un jeu sans fin, où chaque tour pose une nouvelle intelligence ainsi que de nouveaux défis.

Le résultat final de cette approche est un modèle dont les décisions peuvent être facilement expliquées à un organisme de réglementation. De plus, les risques associés au biais de l'IA sont atténués à mesure que les entrées et les calculs du modèle continuent d'être compris par le modélisateur d'analyse. En résumé, cette solution constitue une excellente étape intermédiaire, permettant de tirer immédiatement parti des techniques de ML, tandis qu'une organisation se familiarise avec l'utilisation d'une solution d'IA / ML explicable, totalement opérationnelle.

Cet article a déjà été publié sur et a été republié ici avec la permission.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *