dimanche, 19 novembre 2023

Intelligence artificielle (IA), a-t-on vraiment besoin de réglementer ?

Depuis quelques mois, une frénésie s’est emparée de l’Europe, si ce n’est une peur panique.

L’avènement de Chat GPT, ses erreurs et ses approximations, mais son apparence de véracité ont suscité des interrogations sur les risques encourus dans l'usage de l'IA.

L’idée s’est alors imposée d’une réglementation à mettre en place pour régir l’intelligence artificielle et ses risques.

Mais est-il vraiment nécessaire de réglementer l'IA ?

Le Parlement européen a été le premier à produire un texte.

Il s’agit d’un projet de règlement communautaire appelé IA Act, voté le 14 Juin 2023. A l’heure où ces lignes sont écrites, on attend désormais le texte final pour la fin d’année 2023.

La Commission Européenne travaille en réalité sur ce sujet depuis plus de deux ans. La proposition initiale de l’IA Act date en effet du 21 Avril 2021. Plus encore, c’est depuis 2018 que la Commission européenne réunit régulièrement des experts de l’intelligence artificielle de toute l’Union, pour recueillir leurs pensées, leurs commentaires, leur expérience, sur cette technologie pas si nouvelle que ça.

Le Comité Européen de la Protection des Données (CEPD), organisme également basé à Bruxelles qui regroupe les CNIL européennes et la CNIL française elle-même, le Conseil National du Numérique et d’autres, publient en pagaille depuis plusieurs semaines, des avis, des fiches sur l’intelligence artificielle, son impact, ses limites, ses dangers.

Tout ça est très bien, mais une question préalable pourrait être posée : y a-t-il vraiment nécessité à réglementer l’IA ?

S’agissant de sujets spécialisés, tels que la propriété intellectuelle ou le droit des données à caractère personnel, nous sommes déjà largement pourvus de textes de Lois qui répondront à l’éventuel nouveau besoin.

Le Code de la Propriété Intellectuelle et le RGPD donneront des réponses à d’éventuels nouveaux besoins, au prix peut-être d’une adaptation ici ou là, mais le cadre est déjà et bien rempli. En tous cas, on peut être sur qu’il n’y aura pas de vide juridique.

Alors si les sujets spécialisés ont leurs réponses, a-t-on besoin d’un texte général sur l’IA ?

Après tout, les concepts juridiques de base existant sur la loyauté de l’information, la qualité des services notamment, devraient s’appliquer sans difficulté à l’IA. Pourquoi recréer la roue ?

Tout ce ci est bien vrai, mais la réponse à cette question se trouve aux Conditions Générales d’Utilisation du service ChatGPT édité par OpenAI.

Voilà ce qu’on peut y lire, sur la question de la responsabilité de l’éditeur OpenAI dans sa fourniture de ce service :

  • "Le Site et les services proposés sont fournis « en l’état » sans garantie d’aucune sorte, expresse ou implicite. Nous ne garantissons pas que le Site ou les services proposés répondront à vos attentes, seront ininterrompus, exempts d’erreurs ou que les résultats qui peuvent être obtenus grâce à l’utilisation du Site ou des services proposés seront précis ou fiables. Nous ne pouvons être tenus responsables des dommages directs, indirects, accessoires ou consécutifs, y compris, sans limitation, les pertes de bénéfices, de données ou d’autres pertes immatérielles, découlant de l’utilisation du Site ou des services proposés."*


Ici se trouve la nécessité d’une réglementation venant fixer les rôles et responsabilités des divers acteurs et en particulier de l’éditeur d’un service d’intelligence artificielle, et de celui ou celle qui en réutilisera les résultats.

A défaut, les Conditions Générales de Services ou d’Utilisation qui sont le contrat qui lie l’utilisateur à l’éditeur, écrit par un seul, l’éditeur, se trouveront à l’égal de ce que nous venons de lire, c’est-à-dire un système annoncé sans responsable.

Il est évident que cette position ne tiendra pas devant un Tribunal, mais combien d’années, d’argent et de temps, faudra t’il aux courageux utilisateurs particuliers, pour le faire reconnaître ?

Or, pour l’intérêt général, dès lors où une offre au public est faite, celui qui en prend la responsabilité, doit l’assumer sur le plan juridique.

Il faut donc non seulement une réglementation, mais surtout une réglementation d’ordre public, affirmée comme telle car c’est la seule qui peut surpasser un contrat, c’est-à-dire les Conditions Générales de Services ou d’Utilisateurs de l’éditeur du service d’intelligence artificielle.

En effet, selon un principe quasi universel, et codifié à l’article 6 du Code civil « On ne peut déroger, par des conventions particulières, aux lois qui intéressent l'ordre public ... »

Il faut donc encourager cette démarche de l’Union Européenne, en espérant qu’elle saura accoucher de textes simples et compréhensibles de tous. C’est là aussi une condition de la sécurité et de l'efficacité juridique.

lundi, 21 août 2023

Limiter l'accès ou bloquer les sites, une nouvelle passion française

Chacun se souvient ici, de la Décision du Conseil Constitutionnel du 10 Juin 2009 qui censurait une Loi de la même année confiant à l'HADOPI, chargée de lutter contre le téléchargement illégal, la faculté de restreindre ou couper l'accès à internet, le Conseil considérant que "le législateur ne pouvait, quelles que soient les garanties encadrant le prononcé des sanctions, confier de tels pouvoirs à une autorité administrative dans le but de protéger les titulaires du droit d'auteur".
Ce temps semble désormais révolu et dans une évolution générale et majeure passée inaperçue, il semble bien que la restriction ou le blocage de sites soit en passe de devenir une nouvelle passion française.

Lire la suite

mercredi, 8 juillet 2020

Le smartphone plus fort que le permis de conduire

Il y a quelque jours, je m’apprêtais à faire un virement via l’application sur mon smartphone mise à disposition par ma banque, quand je m’apercevais que le montant du virement dépassait le plafond autorisé par l’application.

Je me résignais alors à me rendre au guichet de ma banque.

Là, j’étais reçu par une guichetière, une jeune femme agréable, courtoise mais ferme.

Lire la suite

mercredi, 6 mai 2020

Audience en visioconférence, le Tribunal de commerce de Paris montre la voie

Ce 30 Avril 2020, en plein confinement et crise sanitaire et alors que les Tribunaux de commerce sont fermés, le Président du Tribunal de commerce de Paris rend pourtant une décision dans laquelle Iteanu Avocats est intervenu.

Il s'agit d'un litige portant sur le service Google Ads.

Iteanu Avocats assiste cinq sociétés numériques qui s'opposent aux Sociétés Google France et Irlande.

Les plaidoiries se sont tenues huit jours plus tôt, mais sans déplacement, ni transport d'aucune sorte, en visioconférence.

Lire la suite

dimanche, 5 janvier 2020

La donnée personnelle n'est pas toujours celle que l'on croit

Avec l’entrée en application largement médiatisée du RGPD en 2018, chacun croit savoir savoir ce qu’est une donnée personnelle ou à caractère personnel.

Il est vrai que la donnée personnelle est précisément définie depuis la première loi de 1978 relative à l'informatique, aux fichiers et aux libertés qui a institué la CNIL.

Cette définition est désormais reprise et détaillée à l’article 4 du RGPD.

On peut la résumer par la formule suivante : toute information susceptible d’identifier, directement ou indirectement, une personne physique .

Pourtant la définition est trompeuse.

Lire la suite

mardi, 24 septembre 2019

L’algorithme ne sera pas mon juge

Legaltech, intelligence artificielle, dématérialisation, etc. … Au fur et à mesure que la société toute entière bascule sur ou autour des réseaux numériques, phénomène que l’on nomme la transformation numérique, les algorithmes se multiplient et peuplent le quotidien du citoyen.

En particulier, on voit se développer une offre de logiciels dits de justice prédictive, basée sur des algorithmes.

A partir de la collecte des décisions de justice déjà rendues, et de leur comparaison, ces logiciels prétendent anticiper le résultat attendu d’un procès à venir, sur la base d’algorithmes intégrés dans le phénomène plus large dit de l’intelligence artificielle.

La définition de l’algorithme retenue par Wikipedia est la suivante: « un algorithme est une suite finie et non ambiguë d’opérations ou d'instructions permettant de résoudre une classe de problèmes. »

L’ordinateur exécute ensuite l’algorithme ce qui aboutit à automatiser un certain nombre d’opérations.

Dans ces conditions, l’algorithme peut-il aboutir par la voie d’opérations automatisées, à rendre un jugement en lieu et place d’un juge fait de chair, de sang et doté d’une âme ?

Lire la suite

mercredi, 24 juillet 2019

Le gendarme est en ballade

C’est une affaire rare que le Conseil d’Etat nous a donné à connaître dans une décision rendue le 24 avril 2019.

Un Capitaine de gendarmerie a été sanctionné de quinze jours d’arrêts pour avoir consulté « les fichiers de gendarmerie » de manière illégale.

Ces consultations illicites portaient sur l’employeur de sa fille ainsi que sur des membres de sa famille. Au total, ce Gendarme qui n’était pas de Saint-Tropez mais du centre opérationnel de la gendarmerie de Rouen, aurait reconnu avoir consulté sans justification plus de trois cent fiches individuelles de citoyens.

Le Gendarme ayant contesté la sanction, après avoir reconnu les faits durant l’enquête, les juridictions administratives ont été saisies de ce recours, qui aboutit à cette décision inédite de la plus haute des juridictions de l’ordre administratif de l’Etat de droit français.

Lire la suite

dimanche, 17 février 2019

« Cyberstructure » par Stéphane Bortzmeyer

index.jpg

Cet ouvrage, paru fin d’année 2018, est l’œuvre d’un des meilleurs spécialistes mondial du système de nommage internet (DNS), Stéphane Bortzmeyer, ingénieur R&D au sein de l’Afnic.

Les questions de sécurité du DNS n’ont pas secret pour lui, comme les travaux de l’ICANN et de l’IETF auxquels il participe activement depuis 25 ans.

L’ambition de l’ouvrage est annoncée dès les premières pages.

Les débats sociétaux et politiques qui agitent l’Internet intéressent au plus haut point Stéphane Bortzmeyer. Mais ces débats sur les droits d’auteur, la neutralité du net et la censure, la défense de la vie privée bien sur, la cryptomonnaie et la cybersécurité, « sont rarement appuyés sur une compréhension du fonctionnement de l’Internet, du point de vue technique, comme du point de vue humaine » regrette l’auteur et il a raison.

Lire la suite

mercredi, 16 janvier 2019

Cloud Act : halte à la propagande !

Dans une tribune parue dans la quotidien Les Echos, rubrique le point de vue du 2 octobre 2018, le Président du Syntec Numérique est l’auteur d’un article surprenant intitulé « Cloud Act ; halte à la désinformation ! ».

L’article est rédigé sur le thème circulez y a rien à voir.

Or, à l’heure où toute l’informatique bascule dans le cloud computing, entrainant les clients utilisateurs, cette Loi votée par le Congrès américain le 23 mars 2018 et promulguée par l’administration Trump, mérite au contraire et c’est le moins, une alerte à l’endroit de tout l’écosystème du cloud computing européen.

Lire la suite

lundi, 26 février 2018

Patrimonialisation des données, que faut-il en penser ?

Depuis quelques semaines, se répand un débat sur la patrimonialisation des données personnelles.

A l’origine de ce buzz, le philosophe Gaspard Koenig, fondateur d’un think tank qui a publié un rapport intitulé "mes data et moi".

Lire la suite

jeudi, 19 octobre 2017

Le brevet de la NSA qu’on n'explique pas*

« Device for and method of computer intrusion anticipation, detection, and remediation », c’est le titre d’un brevet n°8,898,784 B1 déposé à Washington par … la NSA !

Oui, vous avez bien lu, une méthode dont le titulaire n’est autre que la célèbre agence gouvernentale du Département de la Défense américaine, la National Security Agency.

Si on ajoute que parmi les trois inventeurs personnes physiques déclarées, on trouve Keith B. Alexander, le directeur de de la NSA de 2005 à 2014 et par ailleurs Général de l’armée américaine, alors on n’a plus doute, ça n’est pas une hallucination, il s’agit bien de la National Security Agency.

Lire la suite

mardi, 12 septembre 2017

A qui appartiennent les profils publics des membres Linkedin ?

En d’autres termes, ces informations publiées au sein du réseau social et accessibles de l’extérieur par des non membres du réseau, appartiennent elles à la personne qui les a renseignées, le membre, ou au réseau social Linkedin ?

Une question qui n’est pas sans incidence financière.

Lire la suite

mardi, 11 juillet 2017

RGPD / GDPR, je notifie, tu notifies …

Le Règlement Européen sur la Protection des Données entré en vigueur le 25 mai 2016 et dont l’application est différée à 2ans, tout le monde en parle.

Il faut dire que quelques-unes de ces mesures nouvelles font sensation, en particulier la fameuse sanction reconnue aux CNIL européennes, d’infliger des amendes administratives aux contrevenants jusqu’à 4% du chiffre d’affaires total mondial de l’exercice précédent.

Mais notre propos n’est pas là.

Nous allons nous intéresser à une autre de ces mesures nouvelles insérée dans le RGPD.

Lire la suite

mercredi, 7 juin 2017

Nul n’est censé ignorer la Loi

C’est la maxime apprise par tous les étudiants en droit de France, dès la 1ère année d’étude.

Elle signifie que le citoyen ne saurait se retrancher derrière sa prétendue méconnaissance de la Loi, pour échapper à ses obligations.

La maxime postule donc que ce même citoyen soit en état de prendre connaissance et de comprendre ce qui lui est demandé par l’Etat de droit.

Or, si on peut avoir une certitude aujourd’hui, c’est bien que la Loi n’est tout simplement plus lisible pour le commun des citoyens.

Lire la suite

samedi, 1 avril 2017

Hackers blancs reconnus par la Loi

La conquête de l’ouest américain est pleine d’histoires de ces bounty hunters ou chasseurs de primes, qui traquaient des personnes recherchées par la justice pour avoir été condamnés ou être suspectés d’avoir commis un vol ou un meurtre et être en fuite.

Le cyberspace est-il en train de réactiver cette ancienne institution tombée en désuétude ?

Lire la suite

jeudi, 29 décembre 2016

Pour la CEDH, le choc des photos ne fait pas le poids des mots

Dans un arrêt 4683/11 de 2016, la Cour Européenne des Droits de l’Hommes (CEDH) de Strasbourg a contredit le slogan historique de l’hebdomadaire Paris Match: le poids des mots et le choc des photos.

L’affaire concernait des photos parues dans un autre magazine aujourd’hui disparu, dénommé « Choc », sur l’affaire Ilan Halimi et le gang des barbares.

Lire la suite

dimanche, 27 novembre 2016

Quand les GAFA disent non au juge français, Hollywood dit oui

(Article basé sur de larges extraits de l’ouvrage « quand le digital défie l’Etat de droit » (Ed. Eyrolles – novembre 2016))

Chacun connaît la propension des GAFA (Google, Amazon, Facebook, Apple) à faire du mieux qu’ils peuvent pour refuser toute saisine d’un juge français à leur encontre, par leurs clients, partenaires, concurrents ou les autorités publiques. Les exceptions de procédure, fins de non-recevoir en tous genres, voire même subterfuges, se multiplient pour tenter de déplacer le litige aux Etats-Unis, à l’appréciation d’un juge le plus souvent américain et presque toujours californien.

Lire la suite

dimanche, 13 novembre 2016

Le TES ou le #FichierMonstre aussi

On aurait tort de minimiser la polémique sur le fichier dit TES pour Titres Electroniques Sécurisés relatif aux titres officiels d‘identité délivrés par la République française.

Lire la suite

mercredi, 3 août 2016

Là où la Google Car ne viendra pas

J’ai profité de cet été 2016, pour un périple dans ce beau pays de l’Inde.

Ici, on fait le plein de couleurs, d’odeurs, tout ou presque y est à vivre, sauf … la voiture.

Lire la suite

jeudi, 19 mai 2016

Au nom du formulaire, des outils et du saint-paramétrage

Lorsqu’on évoque avec Facebook la vie privée, la société fondée par Marck Zuckerberg répond formulaires, outils et paramétrage.

D’ailleurs, lorsqu’on évoque avec la même plateforme comme avec d'autres, n’importe quel problème sur tout contenu, la réponse sera toujours cette nouvelle trinité : le formulaire, l'outil et le saint-paramétrages.

Lire la suite

- page 1 de 6