Jan Leike, leader de la sécurité d’OpenAI, rejoint Anthropic, soutenu par Amazon

Anadolu | Anadolu | Getty Images

Jan Leike, l’un des principaux chercheurs en sécurité chez OpenAI qui a démissionné de la société d’intelligence artificielle au début du mois, a déclaré mardi qu’il avait rejoint la startup rivale d’IA Anthropic.

Leike a annoncé sa démission d’OpenAI le 15 mai, quelques jours avant que l’entreprise ne dissolve le groupe de superalignement qu’il codirigait. Cette équipe, formée en 2023, s’est concentrée sur les risques à long terme de l’IA. Le co-fondateur d’OpenAI, Ilya Sutskever, a annoncé son départ dans un article sur X le 14 mai.

“Je suis ravi de rejoindre @AnthropicAI pour poursuivre la mission de superalignement”, Leike écrit le X. “Ma nouvelle équipe travaillera sur une surveillance évolutive, une généralisation faible à forte et une recherche d’alignement automatisée.”

Anthropic est soutenu par Amazonequi s’est engagé à financer jusqu’à 4 milliards de dollars pour une participation minoritaire dans l’entreprise.

Dans un article suite à son départ d’OpenAI, Leike a écrit : « Quitter ce travail a été l’une des choses les plus difficiles que j’ai jamais faites, car nous devons de toute urgence trouver comment diriger et contrôler les systèmes d’IA beaucoup plus intelligemment que nous. “

La sécurité de l’IA a rapidement gagné en importance dans le secteur technologique depuis qu’OpenAI a introduit ChatGPT fin 2022, ouvrant la voie à un boom des produits et des investissements en IA générative. Certains acteurs du secteur ont exprimé leur inquiétude quant au fait que les entreprises agissent trop rapidement en rendant publics de puissants produits d’IA sans prendre en compte de manière adéquate les dommages sociétaux potentiels.

OpenAI, qui est soutenu par Microsoft, a déclaré mardi avoir créé un nouveau comité de sûreté et de sécurité dirigé par des cadres supérieurs, dont le PDG Sam Altman. Le comité recommandera « des décisions en matière de sûreté et de sécurité pour les projets et opérations OpenAI » au conseil d’administration de l’entreprise.

Anthropic, fondée en 2021 par les frères et sœurs Dario Amodei et Daniela Amodei et d’autres anciens dirigeants d’OpenAI, a lancé son rival ChatGPT Claude 3 en mars. Outre Amazon, l’entreprise a reçu un financement de Google, Force de vente et Zoom.

MONTRE: Co-fondateur d’Anthropic sur l’adoption de l’IA

Daniela Amodei, cofondatrice d'Anthropic, sur l'adoption de l'IA, Claude 3 et l'impact sur les paiements