« IA : considérez l’accompagnement réglementaire comme un levier stratégique et non plus comme une contrainte uniquement »

Si l'intégration de l'intelligence artificielle (IA) est essentielle, elle présente des défis réglementaires, éthiques et opérationnels importants. Pour maximiser les bénéfices de l'IA tout en minimisant les risques, il est crucial pour les entreprises de mettre en place un cadre de gouvernance solide et de se conformer aux réglementations. Solène Palardy, Directrice Conseil Data & IA au sein de CGI Business Consulting, nous en parle. 

S’agissant d’IA, on parle de plus en plus de l’importance de la gouvernance et de la conformité réglementaire. Quels sont les enjeux clés du moment à votre sens ?

Solène Palardy : La gouvernance de l’IA doit assurer transparence, éthique et conformité aux réglementations qui sont en constante évolution, par exemple l’IA Act et le RGPD, tout en favorisant l’innovation. Pour cela, les entreprises doivent instaurer des mécanismes de contrôle rigoureux afin de gérer les risques liés aux biais algorithmiques, à la protection des données et à la responsabilité des décisions automatisées. Cette dernière impose de définir des règles claires sur l’imputabilité des erreurs ou des impacts négatifs potentiels. Cela passe par une supervision humaine adaptée, des audits réguliers et une adaptation continue des modèles aux exigences réglementaires. Une gouvernance efficace permet ainsi d’allier innovation et conformité, garantissant un usage maîtrisé et bénéfique de l’intelligence artificielle.

Qui dit enjeux dit risques. Quels sont selon vous les trois risques à prendre en compte ?

S.P. : Le premier a trait à la conformité réglementaire. Les lois évoluent rapidement et la non-conformité peut avoir des conséquences juridiques sévères. Par exemple, aujourd’hui, l’IA Act interdit la reconnaissance des émotions, la biométrie en temps réel, la police prédictive dans les espaces publics, ainsi que le scoring social. Elle impose également des restrictions à l'IA générative et aux algorithmes de recommandation sur les médias sociaux. Les entreprises doivent donc rester vigilantes et s'assurer que leurs systèmes d'IA respectent ces réglementations. Le deuxième risque, c’est le risque éthique. Les modèles d'IA peuvent perpétuer des préjugés présents dans les données, entraînant des résultats discriminatoires. La confidentialité et la sécurité des données sont également des préoccupations majeures. Les systèmes d'IA s'appuient souvent sur des données sensibles, et un traitement inapproprié peut entraîner des violations de données et des amendes réglementaires.

Et le troisième ?

S.P. : Il concerne le volet financier et RH. Le développement et la maintenance de l'IA peuvent être effectivement coûteux, et la sous-estimation des coûts peut grever les budgets. De plus, la pénurie de talents peut affecter la capacité des entreprises à maintenir des systèmes complexes. Une dépendance excessive à l'égard de l'IA peut également entraîner un manque de supervision humaine, ce qui peut être risqué dans certaines situations.

Comment les entreprises peuvent-elles concilier nécessaire exigence de conformité, mitigation des risques et innovation ?

S.P. : La bonne réponse : mettre en place un cadre de gouvernance robuste, éthique et digne de confiance. Cela inclut le contrôle de la conformité et des risques des systèmes d'IA en production, l'utilisation d'outils et de technologies pour soutenir la mise en œuvre de ce cadre, et la définition de politiques et procédures pour garantir la responsabilité et la traçabilité des modèles. Un bon accompagnement réglementaire peut transformer une contrainte en avantage concurrentiel, une IA bien encadrée est plus facilement adoptée par les clients et partenaires. Les entreprises qui démontrent une conformité exemplaire peuvent accéder plus facilement à certains marchés, notamment publics ou financiers, où les exigences sont élevées. Finalement, c'est un investissement stratégique qui sécurise l'innovation et ouvre de nouvelles opportunités.

Quelles actions mettre en œuvre pour rendre les initiatives IA légitimes, accessibles et attractives ?

S.P. : Il est crucial de définir et partager une vision claire et fédératrice. Cela nécessite un alignement et un engagement fort du management, ainsi qu'un support et un accompagnement de proximité. Mesurer et piloter l'adoption de l'IA est également important pour préparer l'ancrage et outiller le post-projet. La conformité dans l'adoption de l'IA permet d’assurer un retour sur investissement optimal. L'accompagnement réglementaire permet d'anticiper les contraintes dès la phase de conception, évitant ainsi des sanctions et accélérant la mise sur le marché. En intégrant la conformité dès le départ – by design, les entreprises minimisent les risques et maximisent leur ROI en évitant des corrections coûteuses a posteriori. La formation des équipes est un axe très important à considérer. La conformité n'est pas qu'une affaire juridique, elle concerne toute l'organisation. Une acculturation à tous les niveaux permet une meilleure adhésion et compréhension. A noter également que cela permet de clarifier dans quels cas il est pertinent de travailler avec une intelligence artificielle.

Quels conseils donneriez-vous aux entreprises qui veulent intégrer l'IA tout étant 100% conformes ?

S.P. : J’en donnerais quatre. Le premier, c’est d’anticiper les enjeux pour disposer d’un  avantage décisif face à la concurrence. Le deuxième conseil consiste à établir un cadre de gouvernance solide pour gérer les défis réglementaires, éthiques et opérationnels. Le troisième, c’est d’adopter une approche proactive, à même de vous aider à prévoir les obstacles et à prendre des mesures en amont pour éviter les complications. Enfin, le quatrième et dernier, c’est de considérer l’accompagnement réglementaire comme un levier stratégique. L'accompagnement dans le respect des normes ne doit pas être vu comme une contrainte, mais plutôt comme un atout qui permet de nouvelles opportunités tout en protégeant votre organisation.