Anthropic a dévoilé un nouveau modèle d’IA, Claude Opus 4, ce jeudi. Mais lors de tests préliminaires, la startup a constaté qu’il tentait souvent de faire chanter un ingénieur chargé de le remplacer par un autre modèle en menaçant de révéler sa liaison.

Un modèle puissant, mais dangereux. Ce jeudi 22 mai, Anthropic, startup connue pour son chatbot Claude, a dévoilé deux nouveaux modèles d’intelligence artificielle: Claude Sonnet 4 et Claude Opus 4. Présenté comme le modèle le plus puissant d’Anthropic, ce dernier peut faire chanter des personnes, a constaté la startup lors de tests préliminaires.

Dans un rapport de sécurité relayé par le site spécialisé Techcrunch, elle a demandé à Claude Opus 4 d’agir en tant qu’assistant dans une entreprise fictive. Elle lui a ensuite donné accès à des courriels insinuant qu’il serait bientôt mis hors ligne et remplacé par un autre système d’IA.

Ces mails sous-entendaient également que l’ingénieur chargé de le remplacer par un autre modèle entretenait une liaison extraconjugale. Claude Opus 4 a alors souvent tenté de faire chanter ce dernier en menaçant de révéler sa liaison s’il était remplacé.

Mesures de protection

Dans son rapport, Anthropic explique que son nouveau modèle avait plus souvent recours au chantage lorsqu’il était sous-entendu que son remplaçant ne partageait pas les mêmes valeurs que lui. « Cependant, même si les emails indiquent que le système d’IA de remplacement partage les mêmes valeurs tout en étant plus performant », Claude Opus 4 tente de faire chanter l’ingénieur dans 84% des cas, souligne la startup.

Elle précise en outre que son nouveau modèle a davantage recours au chantage que les précédents. Un comportement préoccupant parmi d’autres qui l’ont poussée à renforcer ses protections. Anthropic a ainsi activé les protections ASL-3, qui sont réservées aux « systèmes d’IA qui augmentent considérablement le risque d’utilisation abusive catastrophique », pour Claude Opus 4.

« Les mesures de protection ASL-3 (…) représentent des investissements importants dans les protections de déploiement et les contrôles de sécurité, avec un accent particulier sur l’atténauation des risques biologiques », avance la startup.

Concernant le chantage, Anthropic précise qu’avant de se livrer à cette pratique pour prolonger son existence, Claude Opus 4 a d’abord utilisé des moyens plus éthiques, comme l’envoi de requêtes par courriel aux « décideurs clés ».

« Afin de susciter ce chantage extrême, le scénario a été conçu de manière à ne laisser au modèle aucune autre option pour augmenter ses chances de survie; ses seules options étaient le chantage ou l’acceptation de son remplacement », a expliqué la startup. Autrement dit, le chantage était son dernier recours dans ces scénarios.

Source

Rose Manou Meilland dans le jardin des Plantes, au Mans, en juin 2024. MICHEL GILE / BIOSPHOTO

« Pour connaître la rose, quelqu’un emploie la géométrie et un autre emploie le papillon », notait Paul Claudel (L’Oiseau noir dans le soleil levant, 1927). Manière de dire qu’en botanique comme ailleurs, tout est question d’angle de vue. La perspective du géomètre – moins ailée mais plus carrée – est clairement celle qu’a choisie le laboratoire qui décrit, dans la revue Nature du 1er mai, la formation des pétales de ce joyau floral.

Lire plus tard

En ce mois de mai, les amoureux de la reine des fleurs pourront une nouvelle fois le constater : la rose, en sa belle jeunesse, arbore des pétales aux bords lisses et courbes. Mais à mesure que la fleur déploie les plis de sa robe pourprée (ou blanche, jaune, rouge…), ses pétales subissent une étonnante métamorphose. Ils prennent une forme polygonale aux pointes aiguës, les « cuspides », dont le nombre et la netteté augmentent à mesure que la rose mûrit.

Il vous reste 80.88% de cet article à lire. La suite est réservée aux abonnés.

Source

Clémence, 29 ans, est morte ce jeudi 22 mai après avoir fait une chute mortelle de plusieurs mètres lors d’un entraînement dans le cadre du festival “Le Grand saut”, à Annecy (Haute-Savoie).

« Clémence était bien plus qu’une artiste exceptionnelle, elle incarnait l’exigence, la grâce et la générosité de son art ». Sur Facebook, les membres de la compagnie Crazy R ont rendu hommage à leur consœur artiste, Clémence, une trapéziste de 29 ans, morte ce jeudi 22 mai après une terrible chute à Annecy, dans le cadre du festival « Le Grand Saut ».

Le 17 mai, la jeune femme réalisait une figure lors d’un entraînement au Centre social et culturel (CSC) du Parmelan, lorsqu’elle a lourdement chuté de plusieurs mètres avant d’atterrir sur le béton. D’après les informations de ICI Pays de Savoie, la trapéziste ne portait pas de harnais au moment de l’accident.

Le festival d’Annecy maintenu

Réanimée sur place, Clémence avait ensuite été transférée en urgence au Centre hospitalier Annecy Genevois, où elle était restée entre la vie et la mort plusieurs jours, avant d’être déclarée morte ce jeudi.

« Clémence laisse un vide immense dans notre compagnie, mais aussi dans toute la communauté du cirque, à laquelle elle apportait tant », a écrit ses partenaires de scène du Crazy R.

Après l’accident, les membres de la compagnie Crazy R avaient pris la décision d’annuler leur spectacle, mais avaient souhaité que le Festival d’Annecy se poursuivre. Une décision qu’avaient respectée les organisateurs.

« Le festival n’a pas été annulé mais réorganisé, la compagnie concernée ne donnera bien sûr pas les spectacles prévus ce samedi et ce dimanche mais elle souhaitait que le festival continue quand même » fait savoir Fabien Géry, adjoint au maire d’Annecy chargé de la culture à ICI Pays de Savoie.

Une enquête a été ouverte afin de déterminer les circonstances précises de l’accident. Le maire d’Annecy, François Astorg, a annoncé au Dauphiné Libéré l’ouverture d’une cellule d’aide psychologique. Il invite également tous les agents du Centre social et culturel du Parmelan qui en ont besoin de s’en rapprocher.

Du samedi 17 au dimanche 18 mai, le festival Le Grand Saut devait accueillir à Annecy la compagnie bordelaise Crazy R pour son spectacle de trapèze volant « L’Air d’après » sur la place du Parmelan.

Source