La conférence Dreamforce, organisée à San Francisco, a mis en lumière des fractures au sein de l’industrie technologique concernant l’avenir de l’intelligence artificielle. Dario Amodei, à la tête d’Anthropic, a réitéré son plaidoyer pour un ralentissement du développement des modèles de pointe. Cette position vise à mieux sécuriser ces technologies face aux risques d’extinction humaine, une perspective qui nécessite selon lui une surveillance indépendante ainsi qu’une régulation internationale rigoureuse. Le dirigeant a souligné que les progrès technologiques et économiques avaient dépassé les anticipations initiales de son entreprise.
À l’inverse, Jensen Huang, PDG de Nvidia, s’est fermement opposé à toute restriction ou nouvelle réglementation, prônant une accélération aussi rapide que possible. De son côté, Sam Altman, dirigeant d’OpenAI, a reconnu les craintes légitimes du public tout en affirmant que les mesures de sécurité pouvaient devancer les capacités croissantes des systèmes. Mark Zuckerberg, patron de Meta, a également exprimé son refus de freiner les avancées, jugeant les mécanismes de marché et les risques juridiques suffisants pour encadrer les dangers potentiels.
Le débat sur la sécurité a été marqué par le départ de Jacob Coxon, chercheur ayant travaillé chez Anthropic et OpenAI. Il a alerté sur les risques liés à la création d’une superintelligence capable d’auto-amélioration. Evan Hubinger, chef d’équipe chez Anthropic, a soutenu cet avertissement en estimant la probabilité d’un scénario critique à plus de 10 % d’ici dix ans. Dario Amodei a proposé l’intégration d’évaluateurs tiers au sein des entreprises et a affirmé qu’Anthropic s’engageait à se soumettre à de telles évaluations.
La question de la confidentialité des données devient également un enjeu stratégique majeur. Des entreprises comme Palantir et Nvidia renforcent leurs restrictions vis-à-vis des modèles externes. Palantir réclame à Anthropic une politique de zéro conservation, envisageant une suspension d’accès en cas de non-respect. Nvidia, pour ses opérations internes, privilégie sa propre famille de modèles, Nemotron, et limite l’usage des outils d’Anthropic aux tâches peu sensibles. Anthropic a, de son côté, fait évoluer ses conditions de conservation de données pour permettre la détection d’attaques sophistiquées.
Enfin, la disponibilité de l’énergie électrique s’impose comme un frein à l’expansion des datacenters. Nvidia, Google et Anthropic ont lancé l’AI Energy Management Alliance. Cette initiative vise à concevoir des infrastructures plus flexibles, capables d’ajuster leur consommation en temps réel selon l’état du réseau électrique, afin d’optimiser l’utilisation des capacités existantes et de réduire les délais de raccordement.
— Caricat-media.org
