IA générative : la FTC met en garde les géants technologiques

Lina Khan, présidente de la Federal Trade Commission (FTC), l’agence américaine de régulation de la concurrence et de protection des consommateurs, a pris sa plume pour exprimer ses craintes vis à vis du développement de l’IA générative. Sa tribune, publiée le 3 mai 2023 par le New York Times, sonne comme un avertissement explicitement dirigé vers les géants technologiques américains.

Pas étonnant venant de celle qui, depuis sa nomination par Joe Biden à la tête de l’agence de régulation à tout juste 32 ans, est connue pour leur mener la vie dure. "Bien que ces outils soient nouveaux, ils ne sont pas exemptés des règles existantes, et la FTC appliquera vigoureusement les lois qu'elle est chargée d'administrer, même sur ce nouveau marché", a-t-elle prévenu.

Les transitions technologiques sont propices aux pratiques déloyales

Lina Khan a commencé par comparer l’arrivée de l’IA générative avec celle du web 2.0, sous-entendant que cet épisode avait été mal régulé, regrettant l'installation de la surveillance des utilisateurs et de la monétisation de leurs données, mais surtout la domination exercée par une poignée d’entreprises sur ces services clés.

"La trajectoire de l'ère du web 2.0 n'était pas inévitable, elle a été façonnée par des choix politiques. Et nous sommes aujourd'hui confrontés à un nouveau moment de choix. Alors que l'utilisation de l'IA se généralise, les responsables publics ont la responsabilité de veiller à ce que cette histoire durement apprise ne se répète pas", a-t-elle écrit.

Les bigtech pourraient choisir les gagnants et les perdants sur le marché de l’IA

Elle a ensuite exprimé ses craintes concernant l’adoption croissante de l’IA, et en premier lieu le risque qu’elle renforce une fois encore la domination des big tech qui "contrôlent les matières premières nécessaires aux entreprises pour développer et déployer des outils d'IA". Elle parle évidemment des services cloud et de la puissance de calcul.

La dirigeante estime qu’ils pourraient utiliser leur contrôle sur ces intrants clés "pour exclure ou discriminer les rivaux en aval, et choisir les gagnants et les perdants sur ce marché" et compte bien l’empêcher, assurant que la FTC est "bien équipée en termes de compétences juridiques pour traiter les questions soulevées par le développement rapide du secteur de l'IA, y compris la collusion, la monopolisation, les fusions, la discrimination par les prix et les méthodes de concurrence déloyale".

La FTC s’intéressera aux escrocs mais aussi aux entreprises qui rendent ces fraudes possibles

Autre risque soulevé : la multiplication de la fraude en ligne facilitée par l’IA générative. Lina Khan indique que les chatbots sont déjà utilisés pour générer des courriels de spear-phishing bien ciblés, basés sur les publications d’utilisateurs sur les médias sociaux, ainsi que pour créer de faux sites web et de faux avis de consommateurs. Elle s’inquiète aussi des outils générant de fausses images et des clones de voix, qui facilitent l'extorsion à grande échelle.

Là aussi, son texte semble vouloir mettre la pression aux grands fournisseurs technologiques : "Dans le cadre de l'application de l'interdiction des pratiques trompeuses prévue par la loi, nous nous intéresserons non seulement aux escrocs qui déploient ces outils, mais aussi aux entreprises qui les rendent possibles".

Discrimination et exploitation des données

Enfin, ces outils d'IA formés à partir d'énormes quantités de données, de façon non-contrôlée pourraient selon elle "être alimentées par des informations truffées d'erreurs et de préjugés et risquent d'automatiser la discrimination". Ils pourraient également être entraînés sur des courriels privés, des chats et des données sensibles et ainsi "exposer des détails personnels violant la vie privée de l'utilisateur". Sur ce point, Lina Khan explique que les lois existantes interdisant la discrimination s'appliqueront, de même que celles interdisant la collecte ou l'utilisation de données personnelles à des fins d'exploitation.

La FTC semble donc déterminée à contrôler le marché de l’IA générative, surveillant aussi bien les fournisseurs de ces technologies que les entreprises les utilisant. En février dernier, l’institution avait publié une note assez hostile à destination des start-up mettant en avant la présence de technologies d’intelligence artificielle dans leurs produits, de façon trop souvent opportuniste et infondée.

Sélectionné pour vous

Pour réglementer l'IA, Microsoft propose de créer des licences délivrées par les gouvernements

Microsoft lance Fabric, une plateforme analytique tout-en-un à base d'intelligence artificielle

OpenAI s'inquiète des règles européennes sur l'IA, Google s'engage à travailler avec Bruxelles