Dans un essai intitulé « Policy on the AI Exponential« , Dario Amodei, cofondateur et PDG d’Anthropic, appelle à de nouvelles réglementations gouvernementales pour encadrer le déploiement de modèles d’IA puissants, en les comparant à l’aviation commerciale régulée par la FAA. Anthropic a également publié deux feuilles de route politiques : un « Advanced AI Framework » visant à gérer les risques catastrophiques des modèles et un « Economic Policy Framework » pour faire face à l’impact sur l’emploi de l’IA. L’annonce coïncide avec le lancement de Claude Fable 5 et de Claude Mythos 5, les modèles les plus avancés de l’entreprise. Dario Amodei souligne que les modèles d’IA nécessitant plus de 10 puissances 25 opérations flottantes ou développés par des entreprises avec plus de 500 millions de dollars de revenus en IA devront nécessairement passer des tests de sécurité. De plus, Anthropic met en avant la nécessité de sécuriser les environnements de développement IA contre les cyberattaques, et souligne que l’IA pourrait remplacer significativement le travail humain. Pour contrer cette évolution, la société veut investir 200 millions de dollars dans un fonds de recherche sur l’avenir économique et 150 millions de dollars à un programme de bourses nationales, pour faire la promotion des politiques telles que l’assurance salaire et un revenu de base universel.