Prendre du recul pour éviter une catastrophe. Anthropic, entreprise phare de l'intelligence artificielle américaine, a proposé jeudi un système permettant aux leaders de la technologie de convenir d'une mise en pause de ses avancées. Cette démarche vise à "permettre aux institutions sociétaires et aux recherches sur l'alignement d'accéder aux avancées technologiques", comme indiqué dans leur publication disponible sur le site de l'Anthropic Institute.
Dans le domaine de l'intelligence artificielle, le terme d'alignement désigne un ensemble de recherches qui cherchent à garantir que ces intelligences se comportent selon les attentes et les valeurs humaines.
Connu pour son innovation avec Claude, Anthropic souligne le danger d'une "perte de contrôle" si les intelligences artificielles continuent à évoluer sans mesures appropriées, un phénomène qu'ils qualifient de "self-improvement" qui pourrait créer une génération de systèmes capables d'évoluer par eux-mêmes, réduisant ainsi le rôle des humains.
Entre bénéfices et dangers pour l'humanité
La start-up met en avant des données internes qui illustrent à la fois les progrès de ses modèles d'IA et l'accélération de leur amélioration. Par exemple, en mars 2024, Claude Opus 3 pouvait exécuter des tâches informatiques en seulement quatre minutes, tandis que Claude Sonnet 3.7, lancé deux ans plus tard, est capable de réaliser des tâches nécessitant jusqu'à 12 heures de travail humain.
"Si cette tendance se maintient, des missions pouvant prendre des jours à un expert pourraient être réalisées d'ici cette année. D'ici 2027, des IA pourraient accomplir des tâches s'étalant sur des semaines", avertit Anthropic, précisant que Claude génère actuellement 80 % de son propre code.
L'étape suivante pourrait impliquer des intelligences artificielles totalement autonomes, une avancée qui pourrait bénéficier à la société dans des domaines comme la santé et la science. Cependant, cette capacité d'auto-amélioration pose également un risque accru de perte de contrôle de ces systèmes, met en garde l'entreprise.
"Si ces intelligences créent leurs propres successeurs, il devient crucial de s'assurer de leur sécurité et de leur bon fonctionnement", insiste Anthropic.
Une pause coordonnée
Ce scénario alarmant n'est pas encore une réalité, mais il pourrait émerger plus rapidement que prévu. Anthropic appelle donc à une suspension de l'évolution de l'IA pour mieux évaluer les implications futures de cette technologie.
Faisant face à une concurrence acharnée avec OpenAI et Google, la start-up propose la mise en place d'un cadre de coordination mondiale pour qu'aucun concurrent ne prenne l'initiative de progresser dans le secret. Faute d'un tel accord, "les entreprises et le gouvernement seront poussés à prendre des décisions de sécurité sous intense pression concurrentielle et géopolitique", avertit l'entreprise.
Pour soutenir son argumentation, Anthropic évoque le précédent des traités sur les forces nucléaires, soulignant que, bien que ces accords ont nécessité des décennies d'élaboration, le besoin urgent de réglementations pour l'IA est bien plus pressant, compte tenu de sa capacité à se dissimuler facilement par rapport aux systèmes nucléaires. Jack Clark, co-fondateur d'Anthropic, a fait un parallèle avec le développement du secteur pétrolier au début du XXe siècle, qui a nécessité une réglementation pour instaurer la confiance du public.
"Le secteur de l'IA appuie sur l'accélérateur sans avoir de frein", a-t-il remarqué.
Plus précisément, Anthropic souhaite établir un système permettant aux développeurs d'IA de vérifiez que leurs pairs ralentissent leurs projets. Cela garantirait également qu'un acteur malveillant ne profite pas de cette pause pour prendre de l'avance.
Obstacles à la mise en pause
Bien que d'autres personnalités aient proposé de ralentir le développement de l'IA, les suggestions d'Anthropic pourraient rencontrer une forte opposition, notamment aux États-Unis, où de nombreux responsables de tech estiment que cela donnerait un avantage décisif à la Chine.
Par ailleurs, Donald Trump a récemment envisagé la coopération avec la Chine concernant la sécurité de l'IA lors d'une visite à Pékin et a signé un décret visant à encadrer le secteur sur une base volontaire.
La demande d'Anthropic s'oppose à la frénésie financière alimentée par le secteur de l'IA. L'annonce d'une introduction en bourse de SpaceX, qui comprend le laboratoire d'IA xAI d'Elon Musk, illustre cette dynamique. De plus, Anthropic mène également des démarches pour une entrée en bourse, sa valorisation ayant presque triplé en trois mois.
