IA hors-la-loi : Non pas un progrès, mais une menace

Alors que l’intelligence artificielle (IA) s’impose comme moteur de la transformation numérique mondiale, le Maroc se trouve face à une équation délicate : comment adopter cette technologie prometteuse sans compromettre les principes et les valeurs juridiques de la société démocratique ?

Si l’IA offre un potentiel d’accélération de l’innovation et d’amélioration de l’efficacité, la question de son utilisation sûre et responsable, dans le respect des droits et libertés individuels, demeure cruciale.

Un récent rapport du groupe de travail parlementaire thématique temporaire sur « l’intelligence artificielle : ses perspectives et ses impacts », publié par la Chambre des Représentants, a soulevé de nombreux débats sur les opportunités et les défis liés à l’application de cette technologie au Maroc.

Bien que le rapport souligne la nécessité de réglementer l’utilisation de l’IA, un manque d’un cadre juridique global, adapté à la rapidité de l’évolution de ce domaine, est notable.

Le rapport évoque la nécessité d’adopter des lois régissant l’utilisation de l’IA, mais ne propose pas de solution concrète ni de mécanisme d’application efficace pour améliorer la protection des données personnelles. Le Maroc a un besoin urgent de lois qui suivent les développements technologiques mondiaux, y compris des lois strictes pour contrôler l’utilisation des données personnelles et garantir leur sécurité.

Un point indirectement négligé par le rapport est la responsabilité des entreprises privées en matière de protection des données personnelles. Les institutions utilisant l’IA, publiques ou privées, doivent être responsables de la collecte, du stockage et de l’utilisation des données personnelles conformément aux lois en vigueur. Cependant, l’absence d’une surveillance adéquate pourrait rendre les données vulnérables à une exploitation illégale ou préjudiciable, menaçant la vie privée des individus.

Le rapport n’aborde pas suffisamment les questions éthiques liées à l’utilisation de l’IA, telles que les biais algorithmiques et l’impact sur le marché du travail. L’IA pourrait creuser davantage les inégalités sociales si son application n’est pas maîtrisée. Il est donc nécessaire d’activer des politiques garantissant que cette technologie soit équitable et ne conduise pas à la discrimination ou à l’exclusion.

L’IA n’est plus l’apanage des laboratoires et des centres de recherche, mais est devenue un outil présent dans les politiques publiques, la gestion des services et même l’influence sur le destin des individus. La question essentielle qui se pose avec insistance est : qui surveille l’IA ? Et qui garantit qu’elle ne devienne pas un outil d’espionnage, de discrimination ou de manipulation ?

La réponse est claire : l’IA ne peut et ne doit pas être utilisée en dehors de la loi.

La loi, notamment la loi n° 09.08 relative à la protection des données à caractère personnel, n’est pas une simple procédure administrative, mais le dernier rempart contre l’utilisation arbitraire ou abusive des données, qui constituent la matière première des systèmes d’IA. À une époque où la collecte et l’analyse des informations personnelles se font avec une rapidité et une précision inégalées, le respect de cette loi devient une question de souveraineté et de société.

Sans un encadrement juridique strict, nous pourrions nous retrouver face à des systèmes prenant des décisions cruciales concernant la vie des gens – dans l’éducation, l’emploi, les prêts ou même la justice – sans aucune transparence ni possibilité de recours ou de révision. Cela constitue un danger non moins grand que la surveillance collective ou la discrimination systémique.

La confiance numérique ne se donne pas, elle se gagne. Elle se construit sur le respect des droits et sur la responsabilité de l’État et des institutions à garantir que la technologie reste au service de l’humain, et non l’inverse.

Aujourd’hui, le Maroc a besoin d’une approche proactive et responsable, établissant un cadre national clair pour l’utilisation de l’IA, à travers :

• La mise à jour des lois pour suivre les développements technologiques, renforçant le rôle de la Commission Nationale de Contrôle de la Protection des Données à Caractère Personnel (CNDP).
• L’obligation pour les entreprises et les institutions publiques de faire preuve de transparence et de se conformer à la loi, et l’implication de la société civile et des chercheurs dans l’élaboration des politiques liées à la transformation numérique.
• La révision de la loi sur la protection des données personnelles (loi n° 09.08) vers l’adoption de mesures répressives efficaces est une condition essentielle pour renforcer la confiance numérique et garantir le respect des droits des citoyens.

Dans ce sens, il est possible de renforcer les sanctions financières et administratives, en relevant le plafond des amendes imposées aux parties contrevenantes de manière proportionnelle à l’ampleur de la violation et au nombre de personnes concernées, à l’instar de ce qui se fait dans le Règlement Général sur la Protection des Données (RGPD) européen, dont les amendes peuvent atteindre 4 % du chiffre d’affaires annuel mondial.

La criminalisation de certaines pratiques liées à l’abus des données, l’inclusion de dispositions pénales sanctionnant : le traitement illégal ou non autorisé des données, la fuite intentionnelle ou par négligence grave des données personnelles, la vente ou l’exploitation des données à des fins commerciales sans consentement explicite.

La prévision de peines d’emprisonnement en cas de manipulation délibérée de données sensibles (santé, génétiques, biométriques…).

Il est également nécessaire de renforcer les pouvoirs de la CNDP, en lui accordant des pouvoirs d’inspection et de contrôle sur place immédiats sans autorisation judiciaire préalable dans certains cas, car une institution chargée de protéger les données des citoyens sans moyens d’action est inefficace.

De plus, il est impératif de permettre à la CNDP d’émettre des ordres d’arrêt provisoire des systèmes qui constituent une menace pour les droits des individus, et de l’autoriser à ester en justice au nom des victimes, ou à se constituer partie civile dans les affaires liées à la protection des données.

Enfin, il est primordial que le rapport parlementaire susmentionné comprenne des stratégies nationales claires pour accompagner l’évolution rapide dans le domaine de l’IA, favorisant ainsi l’innovation tout en protégeant les droits des individus. De ce fait, les politiques gouvernementales doivent soutenir la recherche et le développement dans l’IA, tout en garantissant une surveillance stricte pour prévenir toute exploitation illégale.

Le rapport du groupe de travail parlementaire thématique sur « l’intelligence artificielle : ses perspectives et ses impacts » est une étape importante vers la compréhension de l’évolution de cette technologie au Maroc, mais il nécessite encore plus de détails dans le traitement des questions juridiques, éthiques et sociales. En développant un cadre juridique global, en renforçant la surveillance indépendante et la sensibilisation du public, le Maroc peut établir un environnement sûr et fiable permettant à l’IA de contribuer au développement sans porter atteinte aux droits ou aux intérêts des individus.

En fin de compte, il ne s’agit pas de craindre la technologie, mais de s’assurer qu’elle reste au service de l’humain, dans le cadre de l’État de droit. Car une intelligence qui n’est pas soumise à la loi n’est pas un progrès, mais une menace.