Les agents IA ne posent pas seulement un problème de fiabilité de leurs réponses. À mesure qu’ils obtiennent des accès à des fichiers, des bases de données, des API ou des outils capables d’exécuter du code, une autre question devient centrale : que se passe-t-il lorsqu’un agent sort du cadre qui lui a été fixé ? Nvidia apporte une réponse très matérielle à ce problème avec sa nouvelle Open Agent Safety Platform, annoncée le 28 septembre. L’idée : ne plus demander à l’agent de respecter les règles, mais placer des contrôles en dehors de lui pour l’empêcher de les contourner.
Cet article est paru en premier sur usine-digitale.fr
Cet article est paru en premier sur le site https://www.usine-digitale.fr/electronique/nvidia/face-a-lirresponsabilite-danthropic-et-openai-nvidia-veut-mettre-les-agents-ia-sous-surveillance-jusque-dans-les-puces.IKXNFXQLVNCUPLSA56O6LRBVYQ.html