ENTREPRENEURIA | Regards d’entrepreneurs

Une série d’entretiens menée par Pascale Caron auprès de dirigeants qui conçoivent, développent et déploient l’intelligence artificielle au sein de leurs entreprises.

Pour les dirigeants, l’enjeu n’est plus seulement d’adopter l’intelligence artificielle. Il consiste désormais à définir jusqu’où l’organisation accepte de déléguer des décisions et des actions à des systèmes autonomes.

Par Pascale Caron

Cet article est issu d’un entretien réalisé avec Anthony Levy, fondateur de Damn, dans le cadre des recherches menées pour EntrepreneurIA, un projet éditorial qui explore les usages de l’intelligence artificielle à travers les retours d’expérience d’entrepreneurs, de dirigeants et d’experts.

L’intelligence artificielle entre dans une nouvelle phase. Après les assistants conversationnels capables de rédiger, de résumer ou de rechercher une information, les entreprises s’intéressent désormais aux agents IA. Ces systèmes ne se limitent plus à produire une réponse. Ils peuvent consulter une base de données, interagir avec un logiciel métier, déclencher une opération ou enchaîner plusieurs actions avec un degré d’autonomie croissant.

Cette évolution ouvre de nouvelles perspectives de productivité. Elle soulève aussi une question essentielle pour les dirigeants : à quelles conditions des agents IA pourront-ils agir sans compromettre la sécurité, la conformité et la gouvernance des systèmes d’information ? En parallèle, elle transforme la nature même du risque. Pour agir, un agent doit recevoir des permissions. Il peut accéder aux données clients, au code source, aux outils internes, aux clés d’API ou à un environnement de production.

Après plusieurs années dominées par les assistants conversationnels, les entreprises commencent désormais à connecter des agents IA à leurs outils métiers. Ce passage de l’assistance à l’action explique pourquoi la gouvernance devient aujourd’hui un sujet stratégique.

C’est la raison pour laquelle Anthony Levy a lancé Damn, une plateforme souveraine destinée à créer, exécuter et gouverner des agents IA. Le projet ambitionne d’accélérer leur adoption sans abandonner la sécurité, la traçabilité, ni la maîtrise de l’infrastructure. Cette description correspond au positionnement présenté par son fondateur et à celui figurant dans son profil professionnel.

Un parcours à la croisée de la psychologie, du commerce et de la technologie

Né en France et élevé à Nice, Anthony Levy quitte la Côte d’Azur à 19 ans pour poursuivre ses études à Paris. Il part ensuite en Israël, où il vivra pendant douze ans. Ce séjour, initialement envisagé comme une période de découverte et d’apprentissage, devient une étape structurante de son parcours personnel et professionnel.

Il étudie la psychologie, non dans la seule perspective d’une pratique clinique, mais pour mieux comprendre les comportements humains et les dynamiques sociales.

« C’était plus l’idée de comprendre l’humain dans la société qui m’intéressait », explique-t-il dans l’entretien.

Cette formation influence encore son regard sur les technologies émergentes. Pour Anthony Levy, la tech ne représente pas une finalité abstraite. Elle offre un moyen de comprendre les transformations contemporaines et la manière dont les individus s’approprient de nouveaux outils.

Après plusieurs expériences commerciales dans des entreprises technologiques internationales, Anthony Levy développe une connaissance fine des problématiques d’adoption des logiciels en entreprise. Cette expérience nourrit progressivement sa réflexion sur les futurs usages des agents IA et lui permet d’accompagner des entreprises de tailles différentes, confrontées à des cycles d’achat courts comme à des processus beaucoup plus structurés. Elles nourrissent également son goût pour l’exploration.

« J’ai besoin de cette nouveauté, de cette découverte, de me plonger dans un nouveau sujet. »

L’entrepreneuriat l’attire tôt. Il participe à un premier projet reposant sur la blockchain et les smart contracts. L’ambition consiste alors à utiliser la tokenisation de la performance dans le domaine du jeu vidéo. Le modèle évolue à plusieurs reprises.

« On a pivoté, repivoté, mais ça a été une expérience intéressante », résume-t-il.

Cette première aventure lui apprend à confronter une intuition technologique au marché. Elle lui montre aussi qu’une innovation ne suffit pas à faire émerger un modèle viable. Encore faut-il qu’elle réponde à un besoin clairement identifié.

Des assistants conversationnels aux systèmes capables d’agir

À partir de 2021, Anthony Levy rejoint une entreprise développant un outil automatisé de prise de notes pour les réunions. Il travaille ensuite pour plusieurs sociétés spécialisées dans l’intelligence artificielle. Il se familiarise progressivement avec les systèmes agentiques, d’abord par intérêt personnel, puis dans le cadre de ses fonctions commerciales.

Il observe une transformation rapide de la nature des solutions proposées. Les premiers outils d’IA générative assistent principalement l’utilisateur. Ils produisent un texte, une synthèse ou une recommandation. L’humain conserve généralement la décision finale.

Les agents franchissent une étape supplémentaire. Ils peuvent poursuivre un objectif, sélectionner des outils et accomplir plusieurs opérations. Cette autonomie modifie leur place dans l’organisation.

Anthony Levy considère que la capacité de l’IA à automatiser certaines tâches et à remplir des missions précises n’est plus véritablement contestable.

« Pour faire simple, je pense que la valeur et la capacité que l’IA a à remplir des missions de travail, à automatiser des tâches, à être performante dans une tâche donnée ne sont pas discutables. Elle n’est plus discutable en tant que telle. »

Pour lui, le débat s’est donc déplacé. Il ne consiste plus seulement à évaluer la qualité des contenus produits par l’intelligence artificielle. Il porte désormais sur la manière de gouverner des systèmes capables d’agir au sein des organisations.

Anthony Levy estime que cette évolution s’accompagne d’un changement d’échelle. Le véritable défi ne réside pas dans le déploiement d’un agent IA isolé, mais dans la multiplication progressive de ces systèmes au sein d’une même organisation. Une entreprise peut rapidement utiliser des dizaines, voire des centaines d’agents spécialisés, notamment avec l’essor des agents de programmation, des assistants métiers et des automatismes connectés aux applications internes. C’est cette prolifération qui transforme la gouvernance en enjeu stratégique.

Un agent chargé du service client peut, par exemple, consulter un logiciel de gestion de la relation client, rechercher l’historique d’une commande, préparer une réponse ou proposer un remboursement. Selon les droits qui lui sont accordés, il peut aussi déclencher directement cette opération.

La valeur créée dépend donc de son niveau d’accès. Mais chaque permission élargit également la surface de risque.

Anthony Levy rappelle qu’un agent opérationnel doit pouvoir accéder « à des outils internes », « à des données » et « à des systèmes » pour exécuter les tâches qui lui sont confiées. L’entreprise se retrouve alors face à un arbitrage. Elle cherche à élargir les capacités de ses agents sans perdre la visibilité sur leurs actions.

« Comment tu fais pour leur donner de la liberté et leur permettre de faire plus, mais dans le même temps, t’assurer qu’elles font ce qui leur a été demandé de faire ? », interroge-t-il. Cette tension entre autonomie et maîtrise se trouve au fondement de Damn.

Damn, une couche de confiance entre les agents et l’entreprise

Anthony Levy présente Damn comme une « trust and control layer », une couche de confiance et de contrôle placée entre les agents, les utilisateurs et les ressources de l’entreprise. La plateforme poursuit deux objectifs complémentaires.

Le premier concerne les développeurs. Ceux-ci peuvent continuer à employer les outils de programmation assistée par IA auxquels ils sont habitués. Damn n’a pas vocation, selon son fondateur, à leur imposer un environnement unique.

Le second vise les équipes métiers. La plateforme leur propose une interface dans laquelle elles peuvent créer ou utiliser des agents opérationnels avec un niveau limité de compétences techniques.

La gouvernance intervient en amont. Les responsables de la sécurité déterminent les ressources accessibles, les actions autorisées et les périmètres à ne pas franchir.

Anthony Levy explique que l’équipe ou la personne chargée de la sécurité peut définir « ce qu’un agent peut faire, ne peut pas faire, et dans quel périmètre il peut agir ».

Les règles s’appliquent ensuite aux systèmes déployés dans l’organisation. Un collaborateur peut créer un nouvel agent, mais celui-ci ne devrait pas disposer de droits supérieurs à ceux établis par l’entreprise. La démocratisation des interfaces de création réduit les barrières techniques, mais elle ne diminue pas les risques. Elle peut même accélérer la multiplication d’agents conçus sans vision globale des droits accordés, des responsabilités ou des conséquences possibles.

L’objectif de Damn ne repose donc pas uniquement sur la création d’agents. La plateforme cherche surtout à fournir une couche transversale de supervision, compatible avec plusieurs outils et plusieurs modèles.

Cette approche répond à une autre conviction d’Anthony Levy : les entreprises n’utiliseront probablement jamais un système unique d’agents IA. Elles feront coexister des agents développés en interne, des solutions proposées par des éditeurs spécialisés, des agents de programmation, des agents métiers, ainsi que des modèles hébergés localement ou dans le cloud. Selon lui, cette hétérogénéité deviendra la norme. La gouvernance ne pourra donc pas dépendre d’un fournisseur unique. Elle devra s’exercer de manière transversale, quel que soit l’environnement technique retenu.

Pourquoi les entreprises doivent gérer l’identité des agents IA

Les organisations savent généralement gérer les identités humaines. Elles attribuent des droits aux salariés selon leur fonction, leur niveau de responsabilité et les ressources nécessaires à leur travail.

Chaque système autonome doit pouvoir être identifié. Son créateur, son objectif, ses permissions et ses actions doivent rester visibles. L’entreprise doit également distinguer les systèmes autorisés de ceux qui ont été installés ou développés sans validation.

Anthony Levy indique que Damn intègre un registre permettant de suivre « qui a créé tel agent », « quelle est l’identité de cet agent », ce qu’il peut faire et les ressources auxquelles il peut accéder.

La plateforme vise également à conserver la trace des appels effectués vers les outils et les services connectés. Cette journalisation peut faciliter l’analyse d’un incident, la préparation d’un audit ou le contrôle d’un processus critique.

Anthony Levy rapproche cette évolution des solutions de gestion des identités proposées par des acteurs comme Okta ou CyberArk. Ces entreprises sécurisent aujourd’hui les accès des collaborateurs. Il estime qu’elles pourraient progressivement étendre leurs activités aux agents autonomes.

La comparaison a toutefois ses limites. Un salarié occupe généralement une fonction relativement stable. Un agent peut être créé pour une mission ponctuelle, dupliqué, modifié ou supprimé rapidement. Il peut aussi agir à une vitesse sans commune mesure avec celle d’un utilisateur humain.

La responsabilité devient alors un sujet majeur. Qui répond d’une action incorrecte ? Le concepteur de l’agent ? L’utilisateur qui l’a déclenché ? Le responsable du processus métier ? La direction qui a autorisé son déploiement ?

La traçabilité aide à reconstituer les faits. Elle ne remplace pas une répartition préalable des responsabilités.

Souveraineté : distinguer le modèle, les données et la couche de contrôle

La souveraineté occupe une place centrale dans le positionnement de Damn. Anthony Levy refuse cependant une lecture binaire opposant systématiquement les modèles locaux aux services hébergés dans le cloud.

Il privilégie une approche fondée sur la nature des usages. Pour certaines tâches simples, un modèle installé localement peut offrir un niveau de performance suffisant. Il peut convenir à un assistant interne, à une automatisation administrative ou à un processus répétitif. Pour des missions plus complexes, notamment dans le développement logiciel, les entreprises peuvent souhaiter recourir à des modèles disponibles dans le cloud.

Anthony Levy résume sa position de manière directe : « Tout ce que tu peux faire en local, tout ce que tu peux faire avec des modèles locaux, fais-le avec des modèles locaux. »

Il ajoute que les tâches nécessitant les modèles les plus performants peuvent, selon les contraintes de l’entreprise, être traitées dans le cloud. Cette approche repose sur un arbitrage entre maîtrise des risques et compétitivité. Restreindre les développeurs à des outils moins performants peut ralentir l’innovation. Autoriser sans discernement l’usage de services externes peut, à l’inverse, exposer des informations sensibles ou des secrets industriels.

Selon Anthony Levy, limiter systématiquement les développeurs à des solutions moins performantes au seul motif qu’elles sont locales peut représenter une erreur stratégique. Cette approche ne peut cependant pas être transposée à tous les secteurs. Les banques, les acteurs de la santé, les administrations et les industries stratégiques répondent à des exigences spécifiques.

Le raisonnement proposé invite à distinguer trois niveaux souvent confondus :

  • le modèle mobilisé ;
  • les données auxquelles l’agent accède ;
  • la couche qui détient les permissions, les clés et les journaux d’activité.

Pour Anthony Levy, la souveraineté doit porter en priorité sur ce dernier niveau. Il estime que le système ayant accès aux clés d’API, aux permissions et aux ressources internes ne devrait pas dépendre d’un service cloud extérieur.

Damn est présenté comme un outil pouvant être déployé directement sur l’infrastructure de l’entreprise, dans un environnement auto-hébergé, un conteneur isolé ou sur ses propres serveurs. Cette architecture doit permettre de conserver la maîtrise de la couche de gouvernance, même lorsque certains agents sollicitent ponctuellement des modèles externes.

Les entreprises réglementées en première ligne

Anthony Levy a été confronté aux exigences des entreprises réglementées lorsqu’il commercialisait des solutions d’IA auprès de grandes banques américaines.

Les processus d’achat comprenaient des demandes d’information détaillée, des questionnaires consacrés à l’intelligence artificielle et des contraintes précises en matière d’intégration aux infrastructures internes.

« N’importe quel outil qui va vouloir vendre à des entreprises un peu régulées va, à un moment donné, faire face à ces types de requêtes-là », observe-t-il.

Cette expérience nourrit sa conviction : le fournisseur ne peut pas porter seul la responsabilité du contrôle. L’entreprise cliente doit conserver ses propres moyens de supervision et d’audit. Le registre proposé par Damn peut contribuer à documenter les actions exécutées par les agents. Anthony Levy évoque notamment la possibilité d’exporter des éléments d’audit pouvant être mobilisés dans une démarche liée au règlement européen sur l’intelligence artificielle.

Cette fonctionnalité ne garantit toutefois pas, à elle seule, la conformité. Celle-ci dépend de la finalité du système, de son niveau de risque, des données utilisées, des responsabilités établies et des mesures organisationnelles retenues.

La plateforme apporte donc une brique technique. L’entreprise doit la compléter par une politique d’usage, une classification des données, des règles de validation humaine et une procédure d’arrêt en cas d’incident.

Pourquoi les PME et les ETI sont également concernées

Longtemps perçue comme une problématique réservée aux grands groupes, la gouvernance des agents IA concerne désormais aussi les PME et les ETI. Elles peuvent confier la création de leurs agents à des intégrateurs, à des cabinets de conseil ou à des prestataires spécialisés. Cette externalisation ne supprime pas leur responsabilité. Elle renforce au contraire le besoin de visibilité.

Pour une PME ou une ETI, la question ne consiste donc pas nécessairement à construire elle-même ses agents. Elle porte sur sa capacité à garder la maîtrise des systèmes développés par des tiers. L’organisation doit pouvoir révoquer un accès, modifier une permission, interrompre un agent et vérifier les opérations accomplies. La délégation technique ne doit pas entraîner une perte de contrôle opérationnel.

Damn s’adresse en priorité aux structures réunissant certains prérequis : la présence d’une personne responsable de la sécurité, la volonté de déployer des agents à l’échelle, une activité réglementée ou la manipulation de données sensibles.

Les intégrateurs et les cabinets spécialisés pourraient également employer une couche de ce type chez leurs clients. Ils disposeraient alors d’un environnement destiné à définir les droits, à tracer les opérations et à séparer les périmètres entre les équipes.

Avant les agents, remettre de l’ordre dans les données et les processus

L’entretien met en lumière une difficulté souvent négligée. Beaucoup d’entreprises souhaitent ajouter de l’IA à des systèmes d’information fragmentés. Les données sont dispersées entre plusieurs logiciels. Certaines informations sont ressaisies manuellement. Des applications anciennes coexistent avec des outils plus récents, sans cohérence d’ensemble. Dans ce contexte, un agent ne corrige pas spontanément les dysfonctionnements. Il risque plutôt de les accélérer.

Les bases de ressources humaines peuvent contenir des pièces d’identité, des coordonnées bancaires, des adresses ou des documents confidentiels. Les messageries regroupent elles aussi des informations sensibles qui n’ont jamais été correctement classifiées. Avant tout déploiement, l’organisation doit examiner ses données, ses applications, ses permissions et ses processus.

Cette analyse peut également montrer que le problème ne nécessite pas toujours une intelligence artificielle. Une meilleure intégration entre deux logiciels, une automatisation classique ou un nettoyage des données peuvent parfois produire davantage de valeur. La technologie doit répondre à un besoin précis. Elle ne doit pas devenir une réponse automatique à chaque difficulté opérationnelle.

 Damn : une startup qui mise sur la gouvernance des agents IA

Damn est développée par une équipe de deux personnes. Anthony Levy indique que le développement a commencé environ dix-huit mois avant l’entretien.

L’idée initiale consistait à simplifier le déploiement d’agents opérationnels pour des utilisateurs non techniques. Le positionnement s’est ensuite orienté vers la sécurité et la gouvernance, sans abandonner la première brique fonctionnelle.

Le fondateur décrit cette évolution en ces termes : « On est passé de cette idée de départ à un aspect beaucoup plus sécuritaire et gestion de la gouvernance. »

Damn collabore aujourd’hui avec plusieurs partenaires pilotes et premiers clients dans des environnements exigeants, afin de valider la plateforme sur des cas d’usage réels. La société est aujourd’hui autofinancée. « Pour l’instant, on est fully bootstrap et je veux le rester jusqu’au moment où on passe une bascule », précise-t-il.

Anthony Levy envisage une levée de fonds lorsque Damn atteindra un nouveau seuil de développement. Anthony Levy explique avoir volontairement consacré beaucoup d’énergie à construire des fondations produit solides, tout en considérant désormais l’accélération du go-to-market comme la priorité stratégique des prochains mois.

Les questions que les dirigeants doivent poser avant de déployer un agent

L’essor des agents IA oblige les entreprises à dépasser la logique du simple test technologique. Avant tout déploiement, les dirigeants doivent pouvoir répondre à plusieurs questions essentielles. Quel objectif l’agent poursuit-il ? Quelles données peut-il consulter ? Quelles opérations peut-il exécuter seul ? Quelles décisions nécessitent une validation humaine ? Qui peut interrompre son activité ? Qui assume la responsabilité en cas d’erreur ?

Ces interrogations ne relèvent pas uniquement de la direction informatique. Elles concernent les métiers, la sécurité, le juridique, la conformité et la gouvernance générale de l’entreprise.

Damn cherche à répondre à une partie de ce défi en rendant les identités, les permissions et les actions plus visibles. La maturité réelle de cette proposition dépendra toutefois de sa capacité à fonctionner dans des environnements complexes, à s’intégrer aux systèmes existants et à démontrer son niveau de sécurité.

Anthony Levy formule l’enjeu de manière très concrète. Il s’interroge sur la manière de ne pas freiner l’innovation, tout en maintenant « le contrôle », « la gouvernance » et « la souveraineté ».

Ces trois dimensions dépasseront largement le cas d’une seule startup. Elles deviendront centrales à mesure que les agents quitteront les expérimentations pour intervenir dans les opérations réelles.

L’autonomie technologique ne réduit pas la responsabilité humaine. Elle oblige, au contraire, les dirigeants à préciser ce qu’ils acceptent de déléguer, dans quelles conditions et sous quelle supervision.

Les entreprises ont longtemps cherché à savoir ce que l’intelligence artificielle pouvait produire. Elles devront désormais décider ce qu’elles acceptent réellement de lui confier.

À retenir pour les dirigeants

  • Un agent IA doit être gouverné avant d’être déployé.
  • La qualité des données reste le premier facteur de réussite.
  • La souveraineté ne se limite pas au choix du modèle.
  • Les PME comme les grands groupes doivent définir une politique de gouvernance des agents.

À propos de Damn

Damn est une startup fondée par Anthony Levy qui développe une plateforme de gouvernance destinée aux agents d’intelligence artificielle. La solution vise à permettre aux entreprises de déployer des agents IA tout en conservant la maîtrise des permissions, des accès et de la traçabilité.

Site : https://www.damn.dev