III.F. Intelligent Software Agents: A Special Case of the Slave Role
Intelligente software agents, in het algemeen, zijn computerprogramma’s die in een computersysteem of in een netwerk kunnen worden gelanceerd om processen op de achtergrond uit te voeren, vaak terwijl de computer ander werk op de voorgrond uitvoert. Deze “agents” voeren elektronische taken uit voor hun meesters en kunnen ook leren door de activiteiten van hun meester te observeren. Agents hebben een missie en handelen autonoom om een of meer taken te volbrengen. Veel agents zijn in feite ook “geheime” agents, omdat de gebruiker vaak niet weet dat ze aan het werk zijn. Het World Wide Web en andere on-line of onderling verbonden systemen hebben veel van dit soort agenten voortgebracht. Sommige zijn lokaal en werken alleen op de computer waarop zij zijn geïnstalleerd; andere zijn mobiel en bereiken of zwerven uit naar een verscheidenheid van andere computers. De meeste zijn afhankelijk van een of andere vorm van AI-programmering om hun taken uit te voeren. Agenten worden onder verschillende namen aangeduid, afhankelijk van de functies die zij vervullen. In de nieuwe woordenschat van AI op het internet wordt vaak de term bot (kort voor robot) gebruikt in plaats van agent. Er zijn veel verschillende soorten bots ontstaan.
Chatterbots worden gebruikt om een gesprek aan te knopen op het Internet. Shoppingbots zijn agenten die winkelen en de beste prijzen voor de gebruikers opsporen. Docbots en Jobots worden gebruikt om respectievelijk artsen en banen te lokaliseren. Musicbots zoeken naar een muziekstuk of een CD of een audiobestand. “Spiders” of spiderbots verkennen de structuur van het Web en reageren op de pagina’s die zij daar vinden, waarbij zij activiteiten verrichten als tellen, identificeren of indexeren. Zoekmachines vertrouwen op spiders. Knowbots of digitale butlers – om de term van Nicholas Negroponte te gebruiken – voeren een verscheidenheid van taken uit die hun door de gebruiker worden opgedragen. Cookies zijn kleine reeksen symbolen die communiceren tussen een webbrowser en een verbonden server. Zij bevinden zich op de harde schijf van de gebruiker. Op verzoek van een verbonden server verzamelt een cookie informatie over wat is opgeslagen of opgehaald door de browser van een gebruiker. Veel systemen voor klantenprofilering maken gebruik van cookies. Virussen zijn kleine programma’s die zijn geschreven om opzettelijk schade toe te brengen aan of storingen te veroorzaken in een computer en die worden overgebracht door besmette schijven of onlineverbindingen. Al deze intelligente agenten of bots en vele andere zijn gebaseerd op beginselen die oorspronkelijk door AI-onderzoekers zijn ontdekt.
Deze intelligente agenten zijn ook morele agenten omdat hun activiteiten mensen kunnen schaden of helpen of beide tegelijk. Net zoals in de 18e en 19e eeuw Europese kooplieden partijen, agenten genaamd, naar Amerika en andere verre landen stuurden om werk voor hen te verrichten, sturen gebruikers software-agenten de cyberspace in om werk voor hen te verrichten. Agenten krijgen instructies van hun “opdrachtgevers” of eigenaars en handelen daar vervolgens autonoom naar. Met name wanneer zij eenmaal op missie zijn gestuurd, werken intelligente agenten voor het grootste deel zonder de directe tussenkomst van mensen of anderen. Zij ondernemen tal van activiteiten, zoals interactie met andere agenten, waaronder mensen, en het waarnemen van de omgeving waarin zij opereren, zodat zij dienovereenkomstig kunnen reageren. Zij zijn vaak pro-actief, ijverig in die zin dat zij te allen tijde doorwerken, en toch zijn zij in staat vele complexe taken uit te voeren. Bijgevolg dragen de beginselen van de agenten als eigenaars een groot deel van de verantwoordelijkheid voor de daden van een agent, zolang de agent instructies opvolgt.
Voor het grootste deel wordt het werk van intelligente agenten als heilzaam beschouwd. Zo beloven intelligente softwareagenten een oplossing te bieden voor de overvloed aan informatie, vooral op het Internet. Onder de alledaagse of vervelende taken die agenten kunnen verrichten, zijn de volgende: e-mail beheren, databases ontginnen, computerinterfaces organiseren, artikelen scannen, gegevensverwerving personaliseren, zoals het doorzoeken van nieuwsbronnen en rapporten om de gebruikers de gewenste informatie te verschaffen, vergaderingen regelen en plannen, netwerken beheren en helpen bij het in kaart brengen van de ongeveer 1 miljard pagina’s aan informatie die momenteel op het Internet staan. Toch roepen intelligente agenten bij het bereiken van deze voordelen en de geheimhouding waarin zij over het algemeen opereren, belangrijke morele vragen op.
Zoek- en kennisbots kunnen bijvoorbeeld worden gebruikt voor datamining – het extraheren van verborgen of voorheen onbekende informatie uit grote databanken. Toegepast op persoonlijke informatie kunnen zij worden gebruikt om individuen te profileren en als gevolg daarvan in een of andere consumentencategorie of risicogroep te plaatsen waarvan zij zich niet bewust zijn en, wat nog belangrijker is, waaraan sociale implicaties verbonden kunnen zijn die hen schaden of stigmatiseren. Zo zou iemand met een uitstekende kredietwaardigheid een lening kunnen worden geweigerd omdat een bot haar op grond van zijn dataminingactiviteiten in een bepaalde risicogroep heeft ingedeeld. Bijgevolg kunnen bots, wanneer zij worden toegepast op persoonlijke informatie, worden gebruikt om de privacy van mensen te schenden of in gevaar te brengen. Ook intellectuele-eigendomsrechten kunnen door bots worden bedreigd. Zoals blijkt uit de hangende rechtszaken tegen het online peer-to-peer muziekuitwisselingsbedrijf Napster (rond september 2000), kunnen muziekbots door houders van auteursrechten op muziek als dieven worden beschouwd.
Winkelbots veroorzaken nog andere morele problemen. Een professor van het MIT Media Lab, Pattie Maes, heeft bijvoorbeeld een bot ontwikkeld die “Firefly” heet en die haar beroemd en rijk heeft gemaakt. (Firefly stemt de interesses van mensen af op zaken als films, muziek en dergelijke. Vergelijkbare toepassingen van agenttechnologie zijn onder meer Jango (nu eigendom van Excite) en “RoboShopper” van Anderson Consulting. Experimenten met deze shopping bots hebben echter een aantal cruciale ethische vragen opgeroepen: Wie is verantwoordelijk voor de aankopen van een agent? Is het contract van een agent geldig? Hoe zit het met andere dingen die een agent zou kunnen doen bij het nastreven van zijn missie? Inderdaad, kan een agent worden vertrouwd? Hoe houdt een menselijke eigenaar of opdrachtgever een agent op de hoogte van haar veranderende belangen en offline transacties? Wie is verantwoordelijk voor deze communicatie? Belangrijker is dat de mogelijkheid van falen, misbruik of coöptatie van een agent altijd aanwezig is. Agenten kunnen de gebruiker de controle ontnemen en deze doorgeven aan hun eigenaar, en daardoor kunnen zij de bron zijn van veel schade. In feite kan het nodig zijn andere AI-technieken te gebruiken om de ongepaste activiteiten van een agent tegen te gaan. “Reputatieservers” die de geloofwaardigheid van een agent kunnen verifiëren en vertrouwen kunnen helpen opbouwen, zijn een mogelijkheid. Op een breder systemisch niveau wijzen voorlopige experimenten bij IBM en andere onderzoeksinstellingen erop dat een wijdverbreid gebruik van bots in de elektronische handel de werking van de economische markten wezenlijk kan beïnvloeden. Dit werpt natuurlijk vragen op over rechtvaardigheid en eerlijkheid op markten en hoe de overgang van een fysieke marktplaats naar agent-georiënteerde markten in cyberspace ethisch het best kan worden geregeld.