Sécurité de l’IA : Microsoft réclame des « freins d’urgence » pour les agents intelligents
Le président du groupe Microsoft Brad Smith a appelé mardi entreprises et Etats à mettre en place des mesures de sécurité "réelles et effectives" pour contenir les risques liés à l'intelligence artificielle.
"Nous allons avoir besoin pour l'IA, comme pour tout le reste dans nos vies (...), de normes de sécurité réelles et effectives, dans lesquelles le public pourra avoir confiance", a déclaré le dirigeant à un groupe de journalistes, à la veille d'un sommet international sur l'IA organisé à Dublin.
Le responsable a détaillé les propositions de Microsoft pour renforcer la sécurité du secteur, à commencer par une obligation de doter les agents d'IA de "freins d'urgence", qui pourraient être activés par les utilisateurs en cas d'incident.
"L'idée, en particulier pour les IA qui gèrent des infrastructures critiques ou des systèmes automatisés, c'est d'avoir la possibilité de les éteindre ou de les ralentir", par exemple en cas de perte de contrôle, en utilisant ce frein d'urgence, a-t-il expliqué.
Brad Smith appelle également à imposer aux fournisseurs d'IA "des obligations de notification des incidents".
"Quand une entreprise est touchée par un incident de sécurité qui conduit à la fuite de données des consommateurs, elle est obligée de les prévenir que quelqu'un a eu accès à leurs données. Je pense que la même logique devrait s'appliquer aux victimes d'un agent d'IA", avec une "obligation légale" d'informer les clients.
Enfin, le président du groupe américain appelle aussi à renforcer les essais et les évaluations des modèles d'IA pour s'assurer qu'ils soient sûrs avant leur mise sur le marché.
Face à la vitesse à laquelle le secteur évolue, "nous devons agir d'urgence", a-t-il insisté.
La multiplication ces derniers mois d'incidents de sécurité impliquant des services d'intelligence artificielle ayant échappé à leur contrôle humain a nourri des appels à les réguler, voire à ralentir le développement des modèles à plus hauts risques.
Plusieurs autres grands patrons du secteur ont aussi récemment souligné la vigilance accrue que nécessite cette technologie, Dario Amodei, le dirigeant d'Anthropic, s'engageant même à ralentir unilatéralement son développement.
