Un rapport sur « l’intelligence artificielle (IA) au service de la justice » vient d’être remis au garde des sceaux. Aperçu de ses conclusions. Créer un « assistant IA sécurisé et souverain » à destination des acteurs de la Justice, intégrant, à terme, des fonctions de recherche, synthèse, rédaction et retranscription. Telle est la première des douze recommandations formulée […]
Quand on voit déjà les dégâts qu’a fait un simple algorithme aux pays bas censé réduire la fraude aux allocations (sans surprise, il a déclaré comme fraudeurs plein de gens qui ne l’étaient pas, particulièrement des gens avec un nom à consonance étrangère, et certains se sont retrouvé ruiné par des amendes et se sont vu retirer la garde de leurs enfants…) !
Et puis pas besoin d’IA dans la justice
On peut déjà commencer tout simplement par le prévenu est il arabe/noir/pauvre/écolo/ ? Oui, alors coupable et au trou !
Je pense aussi que bientôt ils vont utiliser l’IA pour bloquer l’accès au droits (demander plein de documents justificatifs mais que les uns après les autres, organisant un labyrinthe administratif où seul quelques uns trouverons la sortie, …), bref, un peu ce qu’ils font actuellement mais où ils sont limite par le facteur humain
C’est clair. Et pas plus tard qu’aujourd’hui j’ai vu passer l’information comme quoi l’administration américaine – sans surprise – chercherais à déployer massivement l’IA dans ses services. On se doute que ça ne sera pas pour les beaux yeux des citoyens.ennes.x mais juste pour faire des économies aux détriments des erreurs.
Quand on voit déjà les dégâts qu’a fait un simple algorithme aux pays bas censé réduire la fraude aux allocations (sans surprise, il a déclaré comme fraudeurs plein de gens qui ne l’étaient pas, particulièrement des gens avec un nom à consonance étrangère, et certains se sont retrouvé ruiné par des amendes et se sont vu retirer la garde de leurs enfants…) !
Et puis pas besoin d’IA dans la justice On peut déjà commencer tout simplement par le prévenu est il arabe/noir/pauvre/écolo/ ? Oui, alors coupable et au trou !
Je pense aussi que bientôt ils vont utiliser l’IA pour bloquer l’accès au droits (demander plein de documents justificatifs mais que les uns après les autres, organisant un labyrinthe administratif où seul quelques uns trouverons la sortie, …), bref, un peu ce qu’ils font actuellement mais où ils sont limite par le facteur humain
C’est clair. Et pas plus tard qu’aujourd’hui j’ai vu passer l’information comme quoi l’administration américaine – sans surprise – chercherais à déployer massivement l’IA dans ses services. On se doute que ça ne sera pas pour les beaux yeux des citoyens.ennes.x mais juste pour faire des économies aux détriments des erreurs.