OpenAI milite pour la création d'une agence internationale dédiée à la réglementation de l'IA

Il n’est pas courant que des entreprises réclament davantage de réglementations sur leur secteur d’activité. C’est pourtant ce que fait OpenAI, le concepteur du robot conversationnel ChatGPT, qui multiplie les propositions pour mieux encadrer l’émergence de l’intelligence artificielle générative.

Lundi 22 mai, son fondateur Sam Altman a de nouveau plaidé pour une coopération renforcée entre les différents gouvernements pour établir des règles communes. Mais il a aussi ouvert une nouvelle piste : la création d’une agence internationale, semblable à ce qui existe déjà sur le secteur de l’énergie atomique (avec l'AIEA, une branche des Nations Unies).

"Risques existentiels"

"Tout projet dépassant un certain seuil de capacité ou de ressources, comme la puissance de calcul, devra être soumis à une autorité internationale capable d'inspecter les systèmes, d'exiger des audits, de tester la conformité aux normes de sécurité, d'imposer des restrictions sur les niveaux de déploiement et de sécurité, etc", précise-t-il dans un message publié sur le blog d’OpenAI, et cosigné par deux autres dirigeants de la start-up.

Pour Sam Altman, cette nouvelle structure devra se focaliser sur les “risques existentiels” posés par le développement de l’IA. Et récemment mis en avant par Geoffrey Hinton, l’un des chercheurs les plus réputés dans le domaine, qui a décidé de quitter son poste chez Google. Chaque gouvernement sera ensuite chargé de gérer les autres problématiques, “comme définir ce qu’une IA a le droit de dire”.

Nouvelles règles en Europe

Le patron d’OpenAI plaide pour que ces nouvelles règles ne s’appliquent pas à tous les projets, afin de ne pas brider l’innovation. Surtout, il ne souhaite pas qu’elles s’appliquent aux modèles d’IA actuels, qui présentent selon lui des “risques comparables aux autres technologies Internet" et qui font déjà l'objet d'une réponse "appropriée" par les sociétés.

Depuis le lancement en fanfare de ChatGPT, la question de la réglementation de l’IA générative revient avec instance. En Europe, le Parlement a dû modifier son projet d’encadrement de l’IA pour ajouter de nouvelles mesures pour répondre aux défis qui n’avaient pas été anticipés il y a deux ans. Aux Etats-Unis, le Congrès souhaite aussi instaurer des règles. Le week-end dernier, les dirigeants du G7 ont par ailleurs lancé un groupe de travail pour "promouvoir une intelligence artificielle responsable".

Sélectionné pour vous

Salesforce mise sur l’IA pour faire rebondir sa croissance

Lightmatter lève 154 millions de dollars pour ses puces photoniques dédiées à l'IA

Grâce à l'IA générative, Foxconn anticipe un bond des ventes de serveurs