La course aux armements en intelligence artificielle risque d'amplifier les dangers existentiels de la superintelligence.

"Bengio a exprimé des inquiétudes quant aux avancées de DeepSeek pouvant être préoccupantes dans un domaine longtemps dominé par les États-Unis, selon une interview accordée au Guardian. Il a mis en garde contre le fait que dans un environnement concurrentiel, les entités pourraient négliger les mesures de sécurité, croyant qu'elles sont en avance, comme le souligne Bengio. Bengio a souligné la nécessité d'une réglementation nationale pour garantir que les entreprises d'IA prouvent la sécurité avant de développer des modèles agentiques. Il a déclaré que les méthodes actuelles sont insuffisantes pour garantir que ces systèmes ne nuiront pas aux personnes ou ne se retourneront pas contre elles."