Les responsables américains mettent en garde Wall Street contre les risques de l'IA d'Anthropic

Le modèle Mythos signale un risque de sécurité

L'accent est mis sur le modèle Mythos de la société Anthropic qui détecterait et exploiterait les vulnérabilités des systèmes d'exploitation et des plateformes web. De plus, la société a reconnu que le modèle est capable de simuler des attaques lorsqu'il est provoqué dans des conditions contrôlées. En tant que telles, les autorités considèrent ces capacités comme une menace potentielle lorsqu'elles sont exploitées par des individus mal intentionnés. Cela a renforcé la surveillance dans les domaines financier et réglementaire. Anthropic bénéficie d'un accès limité à Mythos et développe des applications défensives avec le projet Glasswing. De grandes entreprises comme Amazon, Apple et JPMorgan Chase font partie de l'initiative. De plus, des organisations telles que Google, NVIDIA et la Linux Foundation se sont impliquées. Proposant d'améliorer la sécurité logicielle grâce à la détection de vulnérabilités pilotée par l'IA, ces groupes poursuivent cet objectif.

La société a investi beaucoup de ressources pour promouvoir l'initiative et approfondir la portée défensive. Anthropic a fourni jusqu'à 100 millions de crédits d'utilisation et 4 millions de financement direct. De plus, plus de 40 organisations qui contrôlent des infrastructures critiques ont pu accéder au système. Cet effort conjoint vise à découvrir et à résoudre les défauts de haute gravité dans les logiciels populaires. Anthropic reste intéressant avec les changements dans les développements juridiques et réglementaires. L'administration Trump a tenté de prendre des mesures contre la société dans sa classification mais a été stoppée par un tribunal fédéral à San Francisco. La juge Rita Lin a ordonné que la désignation n'était pas substantiellement fondée sur la loi. Par conséquent, cette décision a été un répit de courte durée puisque les sociétés d'IA restent sous surveillance.

La société a enregistré une croissance financière robuste et ses revenus récurrents annuels ont fortement augmenté au cours des derniers mois. Cela a accru l'intérêt tant dans la technologie que dans la finance. De plus, les analystes évaluent toujours l'effet global sur les entreprises rivales, telles que Palantir Technologies. Les acteurs du marché suivent la façon dont la mise en œuvre de l'IA influence la concurrence dans l'industrie. Les innovations les plus récentes chez Anthropic ont suscité un intérêt accru pour la sécurité de l'IA, les exigences réglementaires et les conséquences sur le marché. Celles-ci sont restées influentes dans les débats politiques et la préparation financière.

Cet article a été initialement publié sous le titre US Officials Warn Wall Street About the Risks of Anthropic AI sur Crypto Breaking News – votre source fiable pour les actualités crypto, les actualités Bitcoin et les mises à jour blockchain.