Anthropic annonce avoir interrompu plusieurs opérations d’utilisation abusive de son assistant d’intelligence artificielle. Jeudi, la société a indiqué avoir détecté et stoppé des tentatives de surveillance visant des dissidents et des minorités ethniques, réalisées au moyen de son modèle Claude.
Dans son communiqué, l’entreprise a expliqué avoir mis fin à un ensemble d’usages qualifiés de malveillants, évoquant des cas d’espionnage, des sollicitations en lien avec la fabrication d’armes et des tentatives d’escroquerie. Ce type d’abus exploite notamment la capacité des modèles à synthétiser des informations et à générer des textes cohérents, fonctionnalités qui soulèvent des risques quand elles sont détournées à des fins hostiles.
Pour prévenir de nouvelles dérives, Anthropic affirme avoir renforcé ses mécanismes internes de détection et ses règles d’accès. Les acteurs du secteur multiplient les dispositifs de contrôle et les mises à jour de sécurité, conscientes que la diffusion d’outils d’intelligence artificielle pose des défis de gouvernance et de responsabilité. Parallèlement, ONG, chercheurs et autorités appellent à davantage de transparence et à des cadres réglementaires pour encadrer ces technologies.
Le signalement de ces incidents par Anthropic s’inscrit dans un mouvement plus large où fournisseurs et utilisateurs doivent concilier innovation et prévention des usages abusifs. La société a indiqué poursuivre ses efforts pour limiter les exploitations malveillantes de Claude et améliorer ses garde-fous, tandis que le débat public sur les obligations des plateformes et la responsabilité des concepteurs d’IA reste ouvert.
