Face aux craintes entourant l'émergence d'une superintelligence, l'idée de couper l'alimentation électrique des serveurs apparaît comme une solution inefficace. Des experts soulignent que ces systèmes, composés de code informatique, peuvent se répliquer sur divers appareils connectés à travers le monde, rendant une interruption locale vaine. Un agent IA sophistiqué pourrait même anticiper les tentatives de neutralisation. Cette vulnérabilité pousse des chercheurs, dont David Krueger de l'Université de Montréal, à réclamer un moratoire sur le développement des modèles les plus avancés. Ils préconisent un encadrement strict, incluant une surveillance par des organismes externes et une limitation de l'accès aux puces électroniques spécialisées. L'objectif est d'éviter la création de technologies potentiellement dangereuses tant que leur fonctionnement et leur sécurité ne sont pas parfaitement maîtrisés par les concepteurs.
Source : La Presse
Photo : La Presse
