La course à l'intelligence générale artificielle (agi) s'intensifie parmi les géants de la technologie comme Amazon, Google, Meta et Microsoft, ainsi que dans des organisations comme OpenAI. Agi, le concept de machines aussi intelligentes que les humains dans un large éventail de tâches, est devenu une priorité absolue pour ces entreprises. Cependant, des scientifiques de premier plan dans le domaine de l'IA ont fait part de leurs préoccupations concernant les risques existentiels potentiels posés par des agents d'IA non contrôlés dotés de compétences en planification à long terme. Le terme agi lui-même n'est toujours pas clairement défini, avec des opinions divergentes sur ce qu'il signifie. Certains, comme Geoffrey Hinton, préfèrent le terme de superintelligence pour les IAG qui surpassent les capacités humaines.
Alors que les progrès des techniques d'IA autorégressives ont conduit à des chatbots impressionnants, une véritable agi nécessiterait une technologie qui peut fonctionner aussi bien que les humains dans diverses tâches comme le raisonnement, la planification et l'apprentissage à partir d'expériences. Il y a un débat en cours au sein de la communauté de l'IA sur la façon de mesurer et de classer les IAG, certains préconisant des efforts de recherche de consensus. OpenAI, par exemple, a chargé son conseil d'administration à but non lucratif de déterminer quand leurs systèmes d'IA ont atteint l'agi.
Les dangers potentiels de l'IAG ont été mis en évidence dans une étude récente publiée dans Science, dirigée par le chercheur Michael Cohen. L'étude explore les risques associés aux systèmes d'IA capables de planification à long terme et la menace potentielle qu'ils représentent s'ils ne sont pas correctement réglementés. Cohen a souligné l'importance pour les gouvernements de prendre des mesures proactives pour répondre à ces préoccupations, car la réglementation actuelle peut ne pas être suffisante pour atténuer les risques associés au développement des IAG. Alors que la poursuite de l'IAG continue de progresser, la nécessité de cadres éthiques et réglementaires pour régir son développement devient de plus en plus urgente.
thèmes: Meta Amazon OpenAI Microsoft Google AI (Artificial intelligence)
