Geoffrey Hinton, un pionnier du deep learning, quitte Google pour exprimer ses craintes sur l'IA
Geoffrey Hinton, l'un des chercheurs les plus réputés en matière d'intelligence artificielle œuvrant au sein de Google, a décidé de quitter le navire pour pouvoir alerter en toute neutralité sur les dangers de cette technologie. Il redoute un flot incontrôlable d’informations et d’images falsifiées, ainsi qu'un bouleversement du marché du travail.
Geoffrey Hinton est l'un des pionniers du deep learning, récompensé avec Yoshua Bengio et Yann LeCun pour ses travaux sur le sujet par le Turing Award 2018, décerné par l'ACM. Travaillant depuis plus d'une décennie chez Google, il a annoncé le 1er mai 2023, à 75 ans, avoir quitté son poste pour pouvoir parler librement des dangers de cette technologie et notamment des développements récents autour de l'IA générative.
Désinformation et suppression d'emplois
Sa préoccupation principale, partagée avec le New York Times, est qu'Internet finisse par être tellement inondé de fausses informations, photos et vidéos, que l’on ne "pourra plus savoir ce qui est vrai". Il craint également que ces technologies ne bouleversent à terme le marché du travail, remplaçant par exemple les parajuristes, les assistants personnels ou encore les traducteurs.
"Ce que nous voyons, c'est que des systèmes comme GPT-4 éclipsent une personne en matière de connaissances générales, et de loin. En matière de raisonnement, il n'est pas aussi bon, mais il est déjà capable d'effectuer des raisonnements simples. (...) Pour l'instant, ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu'ils pourraient bientôt le devenir", a-t-il détaillé à la BBC.
Une course à l'IA impossible à arrêter ?
Pour Geoffrey Hinton, Google développait jusqu’ici cette technologie de manière responsable, mais depuis le début de la course à l’IA qui se joue actuellement entre les géants technologiques, lancée par Microsoft et OpenAI avec ChatGPT, Google et les autres sont soumis à une forte pression.
"Les géants technologiques sont enfermés dans une compétition qui pourrait être impossible à arrêter (…) Regardez comment étaient les choses il y a cinq ans et comment elles sont devenues aujourd'hui", a-t-il déclaré au NYT. "Prenez la différence et propagez-la vers l'avant. C'est effrayant".
Que les meilleurs scientifiques collaborent sur la création d'un contrôle
Le professeur Hinton a même confié au quotidien new-yorkais qu’il regrettait ce qui fut le travail de sa vie. "Je me console en me disant que si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait", a-t-il expliqué. Selon lui, outre une législation qui va être difficile à construire, le meilleur espoir pour éviter les risques précédemment cités est que "les meilleurs scientifiques du monde collaborent sur les moyens de contrôler cette technologie".
Geoffrey Hinton, un pionnier du deep learning, quitte Google pour exprimer ses craintes sur l'IA
Tous les champs sont obligatoires
0Commentaire
Réagir