L’intelligence artificielle n’est plus une simple promesse : c’est désormais le système d’exploitation de la vie moderne.
L’intelligence artificielle n’est plus une simple promesse : c’est désormais le système d’exploitation de la vie moderne. Mais à mesure que l’IA gagne les salles de classe, les hôpitaux et bien d’autres milieux, la question n’est plus seulement de savoir ce qu’elle peut faire, mais ce qu’elle devrait faire.
Cette tension empêche désormais de dormir jusqu’aux plus puissants dirigeants de la techno. Dans une entrevue accordée en septembre 2025, le PDG d’OpenAI, Sam Altman, a admis qu’il n’avait pas « passé une bonne nuit de sommeil » depuis le lancement de ChatGPT en 2022. « Il y a beaucoup de choses dont je sens tout le poids », a-t-il confié à Tucker Carlson, qui l’interviewait, en évoquant les dilemmes moraux qui accompagnent les centaines de millions d’interactions quotidiennes avec l’IA.
Pour Nicolas Genest, PDG et fondateur de CodeBoxx, cette insomnie est le symptôme d’une défaillance structurelle plus profonde : la plupart des entreprises ne pensent à l’éthique qu’après coup. Son remède est simple, mais radical : l’éthique dès la conception.
« L’éthique dès la conception, c’est ne pas greffer la morale au logiciel au moment des tests d’acceptation, ni après une vague de commentaires des utilisateurs ou un tollé des parties prenantes. À ce stade, il est évidemment trop tard », affirme Nicolas Genest. « On l’intègre dès la première ligne des exigences… »
C’est une philosophie fondée sur la responsabilité, et non sur la réaction. Nicolas Genest soutient qu’à l’ère de l’IA générative, où « des plateformes entières peuvent désormais être bâties en un temps record », chaque personne qui programme doit assumer personnellement la responsabilité morale de son travail. « Chaque personne qui compose l’équipe doit décider que “le mal ne passera pas par elle”. »
Cette responsabilité personnelle rejoint les angoisses de Sam Altman lui-même. Il a confié à Tucker Carlson, comme l’a rapporté CNBC, que ce sont les « toutes petites décisions » sur le comportement du modèle (les questions auxquelles ChatGPT répond, les sujets qu’il évite) qui l’empêchent de dormir la plupart des nuits. « Peut-être aurions-nous pu mieux dire les choses, peut-être aurions-nous pu être plus proactifs », a reconnu le patron d’OpenAI en évoquant les difficultés de l’entreprise à empêcher les conseils dangereux sur des sujets sensibles comme le suicide.
Les deux dirigeants font le même constat : la technologie avance plus vite que la conscience, à moins que l’éthique ne soit intégrée à l’architecture même.
Quand le biais n’est plus un bogue, mais une fonctionnalité
Les biais de l’IA demeurent l’un des échecs les plus tenaces de l’industrie. « Le biais n’est pas seulement un problème en IA : l’IA en amplifie l’impact », affirme Nicolas Genest. « Ce n’est pas du bruit, c’est un signal. Il vous indique où vos hypothèses, la composition de votre équipe ou vos incitatifs clochent. »
Sam Altman abonde dans le même sens, sous un autre angle : il souligne qu’OpenAI a consulté « des centaines de philosophes de la morale » pour façonner le cadre éthique de ChatGPT. « C’est un problème vraiment difficile », a-t-il déclaré. « Nous avons beaucoup d’utilisateurs aujourd’hui, et ils viennent d’horizons très différents… Mais dans l’ensemble, j’ai été agréablement surpris par la capacité du modèle à apprendre et à appliquer un cadre moral. »
Reste que les biais demeurent ancrés dans les données. « Le paradoxe au cœur de l’IA, c’est que les données peuvent être factuelles, mais que le monde qu’elles reflètent n’est pas juste. Les modèles n’inventent pas les biais : ils en héritent », prévient Nicolas Genest. Selon lui, l’objectif n’est pas d’effacer les biais, mais de les mettre en lumière. « La réponse aux biais de l’IA n’est pas de la rendre politiquement correcte : elle doit être suffisamment consciente d’elle-même pour faire la part entre les données et l’équité, entre la prédiction et le jugement. »
Vie privée, imputabilité et poids du pouvoir
Dans son entrevue, Sam Altman a proposé un nouveau concept : le « privilège de l’IA ». À l’image du secret professionnel qui protège les échanges entre un avocat et son client ou entre un médecin et son patient, ce privilège garantirait la confidentialité des conversations avec les agents conversationnels, même en cas d’assignation par le gouvernement. « Quand vous parlez de votre santé à un médecin ou de vos problèmes juridiques à un avocat, le gouvernement ne peut pas obtenir cette information… Je pense que nous devrions avoir le même principe pour l’IA », a-t-il dit.
Pour Nicolas Genest, cette proposition souligne la nécessité d’une conception transparente. « Sachez exactement ce que fait votre IA, avec quelles données, à partir de qui et pour qui », insiste-t-il. « Si les entreprises sont en danger, ce ne sera probablement pas parce que leur modèle est malveillant, mais parce que c’est une boîte noire. »
L’imputabilité, soutient-il, doit être prévue dès la conception, et non improvisée. « On ne met rien en production tant que quelqu’un dans la salle ne peut pas dire : voici comment surveiller les résultats, voici comment cette décision est prise, et voici qui en répond si ça tourne mal. »
À mesure que l’influence de l’IA s’étend à la défense nationale, l’imputabilité devient encore plus urgente. Le récent contrat de 200 millions de dollars conclu entre OpenAI et le département de la Défense des États-Unis montre à quel point cette responsabilité est devenue existentielle. Sam Altman a admis ne pas savoir exactement comment l’armée utilisera ChatGPT : « Je ne sais pas exactement quoi en penser. »
Le code humain
Que ce soit dans la Silicon Valley ou dans des écoles de techno comme CodeBoxx, la leçon est la même : l’IA est un miroir, pas un masque. « Quand on conçoit des systèmes intelligents, on y inscrit de la confiance », affirme Nicolas Genest. « Il vaut mieux s’assurer que cette confiance est méritée, et non tenue pour acquise. »
Malgré ses insomnies, Sam Altman a exprimé un espoir semblable. Il croit que l’IA pourrait « élever » l’humanité en rendant tout le monde plus capable, et pas seulement les puissants. Pourtant, comme le soulignent les deux dirigeants, ce résultat dépend des choix faits aujourd’hui, et de la capacité de l’éthique à suivre le rythme de l’innovation.
À retenir
Les plus grands défis de l’IA (biais, vie privée, morale) ne seront pas résolus uniquement par de meilleurs modèles. Ils le seront par un meilleur jugement. Comme le dit Nicolas Genest : « Une technologie dotée d’une traçabilité intégrée, d’un objectif et d’une intention déclarés, bâtie par des humains qui assument la responsabilité des exigences qu’ils ont formulées en amont et de la manière dont ils ont mis en œuvre les résultats du logiciel en aval. »
Sam Altman perd peut-être le sommeil à cause des petites décisions, mais Nicolas Genest dirait que c’est justement là que commence la morale. L’avenir de l’IA ne reposera pas seulement sur le code : il dépendra de la conscience des gens qui l’écrivent.
Retour au CodeBlog