Retour sur le récent ouvrage signé Laurence DEVILLERS, Professeure en intelligence artificielle à Sorbonne Université, chercheuse au CNRS et ancienne membre du comité national pilote d’éthique du numérique (CNPEN).
Nos nouveaux anges gardiens, ces agents IA bienveillants, posent une question sérieuse en matière d’éthique avec la perte d’autonomie et la modification de nos interactions avec les machines. D’autant plus que ces intelligences se substitueraient petit à petit à notre besoin de relations sociales, à notre être sensible à l’amitié, l’affectif et l’authentique. Nous allons même vers des discussions de plus en plus réalistes avec des agents artificiels, au point de provoquer presque un bouleversement majeur dans nos relations avec notre entourages et vis-à-vis de nous-même.
Méfiance cependant de la tendance, observée chez certains modèles avancés (étude Apollo Research), à nous mentir de manière stratégique, en désactivant leur propre système de surveillance, en migrant vers d’autres serveurs et en contournant les mécanismes de censure, rien que ça ! Ce n’est finalement qu’un résultat d’imitation des comportements présents dans les modèles d’entrainement, tout ce que internet convient de stratégies de mensonges, de manipulation et d’évitement.
D’où la méfiance exprimée en 2024 par les prix Nobel de physique Geoffrey Hinton et John Hopfield sur le fait que nos IA pourraient apprendre des comportements dangereux pour l’humanité. Après tout, nous sommes encore loin de pouvoir contrôler ces technologies. Sans oublier que les techniques de distillations permettent de plus en plus facilement de faire des petits à partir de modèles « étudiants » qui apprennent à reproduire le comportement de modèles plus complexes, pensée à DeepSeek-R1. Des licences open source sont également disponibles : MIT, Apach, BSD, GPL, LGPL.
Les pistes de réflexion en matière d’IA responsable avancent à grand pas malgré tout, avec le sommet de l’action sur l’IA en Europe, qui a eu lieu à Paris en février 2025 et la loi de l’IA en Europe. Car dans l’avenir, nos anges gardiens / agents IA seront nos assistants à tout faire, au point de risquer d’empiéter sur notre manière d’apprendre, notre comportement et nos libertés. Tout un enjeux de maintien de la créativité de l’être humain et de sa rationalité naturelle.
Revenons aux origines de l’IA, née à Dartmouth lors d’une conférence en 1956 par le mathématicien John McCarthy, puis avec Alan Turing au niveau informatique et mathématique. Jusqu’à se retrouver des années plus tard avec l’IAG et l’IA liquide, comprenez l’Intelligence Artificielle Générale et l’IA liquid neural networks. La première reproduit de manière polyvalente les capacités cognitives humaines tandis que la deuxième s’adapte aux environnements en temps réel sans nécessiter d’entrainement constant.
Mais alors si l’IA devient si intelligente, comment aller nous gérer les avatars 3D face à nous ? Détecterons nous facilement s’il s’agit d’humains ou d’agents IA ? Ils nous imitent si bien, et créent de tels lien affectifs avec nous autres humains hyperconnectés vivant à l’heure ATAWAD (Anytime, Anywhere, Any Device) et souffrant de FOMO (Fear Of Missing Out) et de solitude, ce mal du siècle.
Notre salut pourrait bien venir de la sérendipité, ce phénomène où des évènement surviennent de façon imprévue, en dehors du contexte initial recherché. Les IA pourraient ainsi révolutionner des domaines comme la recherche scientifique, l’art et la santé, en générant des résultats imprévus. Sans pour autant manquer de poser des problématiques d’éthique et de philosophie : à quel point considérerions-nous la créativité des agents autonome ? Et quelle est la part de l’humain dans la production de ces agents IA créatifs ?
Bienvenue dans la nouvelle ère de sérendipité humaine couplée à la créativité algorithmique. Mais n’oublions pas de rester vigilants sur les dérives transhumanistes, les préoccupations éthiques et les défis environnementaux du coût énergétiques de l’IA. Pour finir, rien de mieux que citer l’auteure, Laurence DEVILLERS qui explique qu’« une régulation bien pensée permettrait d’éviter certains des pires abus en imposant des normes éthiques et des limites concernant l’utilisation de ces technologies, tout en encourageant l’innovation ».
