Le PDG d’OpenAI, Sam Altman, a récemment exprimé ses profonds regrets à la communauté de Tumbler Ridge, au Canada. Cette déclaration intervient après une tragédie survenue en février, où une attaque a causé la mort de plusieurs personnes, dont des enfants et des membres de la famille de l’auteur.
Jesse Van Rootselaar, un jeune de 18 ans, avait en effet été suspendu de l’utilisation de ChatGPT pour des comportements jugés inquiétants, mais OpenAI a affirmé ne pas avoir constaté de menace imminente, ne jugeant pas nécessaire d’alerter les autorités. Cette tragédie a mis en lumière des lacunes dans la gestion des alertes par la société, étant donné que l’attaque a coûté la vie à des proches du tireur et à de nombreuses victimes innocentes, comme cela a été rapporté par Le Monde.
Des excuses avec des conséquences légales
Dans sa lettre, Altman a déclaré : « Je suis profondément désolé que notre entreprise n'ait pas informé les autorités des préoccupations liées à ces échanges. Les mots ne suffiront jamais à réparer les dommages causés, mais il est impératif de s'excuser et de reconnaître la souffrance subie par votre communauté. »
Suite à l'attaque, OpenAI a fait face à une vague de critiques concernant sa capacité à détecter et à gérer efficacement les signaux d’alerte. Les dirigeants de la société ont été convoqués à Ottawa pour clarifier leurs protocoles de sécurité. En outre, la famille d’une des victimes a déposé une plainte contre OpenAI, soulevant des questions éthiques sur la responsabilité des entreprises technologiquement avancées.
La société continue de faire l’objet d’un examen minutieux de ses politiques de sécurité et de ses algorithmes, alors que l’opinion publique exige des comptes. Altman a reconnu qu’il est essentiel que les entreprises prennent leurs responsabilités face aux conséquences de leurs outils, soulignant l'importance d'une réflexion plus approfondie sur une régulation appropriée dans le domaine de l'intelligence artificielle.
