III.F. Agents logiciels intelligents : Un cas particulier du rôle d’esclave
Les agents logiciels intelligents, en général, sont des programmes informatiques qui peuvent être lancés dans un système informatique ou dans un réseau pour exécuter des processus en arrière-plan, souvent pendant que l’ordinateur effectue d’autres travaux au premier plan. Ces « agents » exécutent des tâches électroniques pour leurs maîtres et peuvent également apprendre en observant les activités de ces derniers. Les agents ont une mission et agissent de manière autonome pour accomplir une ou plusieurs tâches. De nombreux agents sont, en fait, également des agents « secrets » car l’utilisateur ignore souvent qu’ils sont à l’œuvre. Le World Wide Web et d’autres systèmes en ligne ou interconnectés ont donné naissance à de nombreux agents de ce type. Certains sont locaux, ne fonctionnant que sur l’ordinateur dans lequel ils sont logés ; d’autres sont mobiles, atteignant ou se déplaçant vers une variété d’autres ordinateurs. La plupart s’appuient sur une forme de programmation d’IA pour accomplir leurs tâches. Les agents sont désignés par différents noms en fonction des fonctions qu’ils remplissent. Dans le nouveau vocabulaire de l’IA sur Internet, le terme bot (abréviation de robot) est souvent utilisé à la place d’agent. De nombreux types de bots ont évolué.
Les chatterbots sont utilisés pour engager une conversation sur Internet. Les Shoppingbots sont des agents qui font des achats et localisent les meilleurs prix pour les utilisateurs. Les Docbots et les Jobbots sont utilisés pour localiser des médecins et des emplois, respectivement. Les Musicbots recherchent un morceau de musique, un CD ou un fichier audio. Les « spiders » ou robots d’araignée explorent la structure du Web et agissent sur les pages qu’ils y trouvent en effectuant des activités telles que le comptage, l’identification ou l’indexation. Les moteurs de recherche s’appuient sur les araignées. Les « Knowbots » ou maîtres d’hôtel numériques – pour reprendre le terme de Nicholas Negroponte – exécutent diverses tâches qui leur sont confiées par leur utilisateur. Les cookies sont de petites chaînes de symboles qui communiquent entre un navigateur Web et un serveur connecté. Ils résident sur le disque dur de l’utilisateur. À la demande d’un serveur connecté, un cookie recueille des informations sur ce qui a été stocké ou récupéré par le navigateur de l’utilisateur. De nombreux systèmes de profilage de la clientèle reposent sur les cookies. Les virus sont de petits programmes écrits pour causer intentionnellement des dommages ou des perturbations à un ordinateur et sont transmis par des disques ou des connexions en ligne infectés. Tous ces agents intelligents ou bots et bien d’autres sont basés sur des principes découverts à l’origine par des chercheurs en IA.
Ces agents intelligents sont également des agents moraux car leurs activités peuvent soit nuire, soit aider les gens, soit les deux simultanément. Tout comme au cours des 18e et 19e siècles, les marchands européens envoyaient des parties appelées agents en Amérique et dans d’autres pays lointains pour effectuer des travaux pour eux, les utilisateurs envoient des agents logiciels dans le cyberespace pour effectuer des travaux pour eux. Les agents reçoivent des instructions de leurs « principes » ou propriétaires et agissent ensuite de manière autonome. En particulier, une fois envoyés en mission, les agents intelligents fonctionnent, pour la plupart, sans l’intervention directe d’humains ou d’autres personnes. Ils entreprennent de nombreuses activités telles que l’interaction avec d’autres agents, y compris des humains, et la perception de l’environnement dans lequel ils opèrent afin de pouvoir réagir en conséquence. Ils sont fréquemment proactifs, sont diligents dans le sens où ils continuent à travailler à tout moment, et pourtant ils sont capables d’effectuer de nombreuses tâches complexes. Par conséquent, les principes des agents en tant que propriétaires portent une grande partie de la responsabilité des actions d’un agent tant que celui-ci suit les instructions.
Pour la plupart, le travail des agents intelligents est considéré comme bénéfique. Par exemple, les agents logiciels intelligents promettent d’aider à gérer la surcharge d’informations, notamment sur Internet. Parmi les tâches banales ou fastidieuses que les agents peuvent accomplir, on peut citer : la gestion du courrier électronique, l’exploration de bases de données, l’organisation d’interfaces informatiques, le balayage d’articles, la personnalisation de l’acquisition de données, comme la recherche dans les sources d’information et les rapports pour fournir les informations souhaitées par les utilisateurs, l’organisation et la planification de réunions, la gestion de réseaux et l’aide à la cartographie des quelque 1 milliard de pages d’information actuellement sur Internet. Pourtant, dans le processus de réalisation de ces avantages et le secret même dans lequel ils opèrent généralement, les agents intelligents soulèvent d’importantes questions morales.
Les bots de recherche et de connaissance, par exemple, peuvent être utilisés à des fins d’exploration de données – extraire des éléments d’information enfouis ou inconnus jusqu’alors dans de grandes bases de données. Appliqués aux informations personnelles, ils peuvent être utilisés pour profiler les individus et, par conséquent, les placer dans une certaine catégorie de consommateurs ou un groupe à risque dont ils ne sont pas conscients et, plus important encore, qui peut avoir des implications sociales associées qui leur nuisent ou les stigmatisent. Par exemple, une personne ayant un excellent dossier de crédit pourrait se voir refuser un prêt parce qu’un robot l’a classée dans un groupe à risque particulier à la suite de son travail d’exploration de données. Ainsi, lorsqu’ils sont appliqués à des informations personnelles, les bots peuvent être utilisés pour envahir ou compromettre la vie privée des gens. Les droits de propriété intellectuelle peuvent également être menacés par les bots. Comme le révèlent les procès en cours contre la société d’échange de musique en ligne peer-to-peer Napster (vers septembre 2000), les bots musicaux peuvent être perçus comme des voleurs par les détenteurs de droits d’auteur musicaux.
Les bots d’achat créent d’autres problèmes moraux. Par exemple, un professeur du Media Lab du MIT, Pattie Maes, a développé un bot appelé « Firefly » qui l’a rendu célèbre et est en train de la rendre riche. (Microsoft l’a acheté.) Firefly fait correspondre les intérêts des gens pour des objets tels que les films, la musique, etc. Parmi les applications similaires de la technologie des agents, citons Jango (qui appartient maintenant à Excite) et « RoboShopper » d’Anderson Consulting. Les expériences menées avec ces robots d’achat ont toutefois soulevé des questions éthiques cruciales : Qui est responsable des achats d’un agent ? Le contrat d’un agent est-il valable ? Qu’en est-il des autres actions qu’un agent pourrait entreprendre dans le cadre de sa mission ? En effet, peut-on faire confiance à un agent ? Comment un propriétaire humain ou un principe peut-il tenir un agent au courant de l’évolution de ses intérêts et de ses transactions hors ligne ? Qui est responsable de cette communication ? De manière significative, la possibilité d’une défaillance, d’une mauvaise utilisation ou d’une cooptation de l’agent est toujours présente. Les agents peuvent arracher le contrôle à l’utilisateur et le transmettre à leur propriétaire et, de ce fait, ils peuvent être à l’origine de nombreux dommages. En fait, il peut être nécessaire d’employer d’autres techniques d’IA pour contrer les activités fâcheuses d’un agent. Les « serveurs de réputation » qui peuvent vérifier la crédibilité d’un agent et contribuer à instaurer la confiance sont une possibilité. À un niveau systémique plus large, des expériences préliminaires menées par IBM et d’autres instituts de recherche indiquent que l’utilisation généralisée de bots dans le commerce électronique peut affecter de manière significative le fonctionnement des marchés économiques. Cela soulève bien sûr des questions sur la justice et l’équité des marchés et sur la meilleure façon de gérer éthiquement la transition d’un marché physique à des marchés orientés vers les agents dans le cyberespace.