Dispersés et sans cadre : l'évaluation de la sécurité des modèles d'IA dans un contexte






Appel à ralentir le développement des IA

Par Rémi Bayol

,

Dario Amodei, le dirigeant d’Anthropic, a publié un appel à ralentir la vitesse de développement des modèles d’intelligence artificielle.
Dario Amodei, le 12 septembre 2026, a publié un appel à ralentir la vitesse de développement des modèles d’intelligence artificielle et à ouvrir les modèles à des organismes chargés de les évaluer.
Bhawika Chhabra / REUTERS

DÉCRYPTAGE – Anthropic et OpenAI ouvrent la porte à des tests de risques de leurs modèles d’IA de pointe par des organismes indépendants. Une myriade d’acteurs se lancent, mais aucun standard n’existe.

Comment évaluer les risques derrière les algorithmes ? Samedi dernier, le dirigeant d’Anthropic, Dario Amodei, n’a pas seulement appelé à un ralentissement de la vitesse de développement des modèles d’intelligence artificielle les plus avancés, il a également exhorté les entreprises à la pointe de l’innovation à ouvrir l’accès aux modèles qu’ils développent. Une déclaration publique soutenue par Sam Altman (OpenAI), Demis Hassabis (Google) et Elon Musk (SpaceX).

Son idée ? Donner « un accès permanent (…) à une équipe d’évaluateurs tiers ». Leur rôle consisterait à « vérifier le respect des pratiques et des engagements (pris par les entreprises) en matière de sécurité et à signaler les incidents ». Dario Amodei a cité l’exemple de Metr, un institut de recherche mis en lumière par son enquête cet été sur l’incident de cybersécurité chez Hugging Face. Mi-juillet, un agent autonome reposant sur deux modèles d’OpenAI s’était extirpé de son milieu de test confiné pour attaquer cette entreprise…

Cet article est réservé aux abonnés. Il vous reste 82 % à découvrir.

Vente Flash

-70 % sur votre abonnement. Sans engagement.

Déjà abonné ?
Connectez-vous



SOURCE

By Julien Moreau

Je suis journaliste et rédacteur en chef basé en France, avec plus de 20 ans d’expérience dans le secteur des médias. Je travaille actuellement comme rédacteur pour un média d’information en langue française, spécialisé dans l’actualité nationale et internationale. Mon objectif est de proposer une information rigoureuse, claire et vérifiée, au service des lecteurs.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *