La Californie instaure une loi inédite pour réguler les entreprises d'intelligence artificielle

Alors que Donald Trump peste contre tout effort de régulation visant des entreprises technologiques américaines et notamment celles spécialistes de l'intelligence artificielle (IA), le gouverneur démocrate de Californie, Gavin Newsom, vient de prendre une voie inverse.

Lundi 29 septembre, celui qui s'était opposé début septembre au président des Etats-Unis, lorsque celui-ci avait réquisitionné la garde nationale californienne pour maintenir l'ordre à Los Angeles, a promulgué la loi SB 53, aussi appelée Transparency in Frontier Artificial Intelligence Act. Elle vise, comme son nom l'indique, à imposer davantage de transparence aux grandes puissances de l'IA. 

Signaler les incidents et protéger les lanceurs d'alerte

Dans le détail, ce texte rédigé à l'initiative du sénateur d'état californien Scott Wiener impose aux entreprises développant les modèles d’IA les plus complexes de rendre public leurs protocoles de sécurité, de signaler les incidents graves en moins de quinze jours et de protéger les éventuels lanceurs d’alerte au sein de leurs effectifs. Ces dernières sont également tenues de signaler des incidents liés à des crimes commis par des modèles d'IA sans supervision humaine, tels que des cyberattaques et même des comportements jugés trompeurs.

Sur le même thème, SB 53 crée en outre un mécanisme permettant aux mêmes sociétés ainsi qu'au public de faire remonter des incidents potentiellement graves au Bureau des services d'urgence de Californie. "L'IA est la nouvelle frontière de l'innovation et la Californie n'est pas seulement prête à la relever, mais elle s'impose également comme un leader national en adoptant la première législation nationale en matière de sécurité de l'IA, qui renforce la confiance du public alors que cette technologie émergente évolue rapidement", a commenté Gavin Newsom.

Une régulation qui déplaît au secteur

Dans un communiqué, l'élu démocrate a toutefois tenu à préciser "qu'il était possible de mettre en place des réglementations visant à protéger nos communautés tout en garantissant la prospérité continue du secteur en pleine croissance de l'IA". En d'autres termes, le gouverneur sait que les grandes entreprises de la Sillicon Valey risquent de ne pas apprécier ces nouvelles règles de transparence, alors que certaines d'entre elles font déjà pression sur le monde politique, à grand renfort de financements et de lobbying aux Etats-Unis mais également en Europe, pour que celui-ci adoucisse ses efforts de régulation.

Un an exactement auparavant, Gavin Newsom avait d'ailleurs déjà apposé son veto alors qu'était examinée un précédent semblable mais critiqué de cette loi, également déposé par le sénateur d'état Scott Wiener et baptisé SB 1047. Ce délai d'un an est désormais rattrapé. Et le gouverneur californien doit maintenant trancher sur un autre projet de loi concernant l'intelligence artificielle. SB 243, adopté en septembre par les deux chambres de l'état de la côte ouest des Etats-Unis, vise à réglementer les robots conversationnels qualifiés de "compagnons", en exigeant de leurs créateurs qu'ils mettent en œuvre des protocoles de sécurité.

Sélectionné pour vous

"Sur l'IA, la France n'a absolument pas à rougir", Amaury Delplancq, VP Europe du Sud de Dataiku

Opendatasoft devient Huwise pour s’imposer comme le leader des "data product marketplaces"

Le français Qovery lève 11 millions d'euros pour sa plateforme d'automatisation du cycle Devops