III.F. Intelligenta programvaruagenter: Ett specialfall av slavrollen
Intelligenta mjukvaruagenter är i allmänhet datorprogram som kan startas i ett datorsystem eller i ett nätverk för att utföra processer i bakgrunden, ofta medan datorn utför annat arbete i förgrunden. Dessa ”agenter” utför elektroniska uppgifter åt sina herrar och kan också lära sig genom att observera sina herrars aktiviteter. Agenterna har ett uppdrag och agerar självständigt för att utföra en eller flera uppgifter. Många agenter är i själva verket också ”hemliga” agenter eftersom användaren ofta är omedveten om att de arbetar. World Wide Web och andra online- eller sammankopplade system har gett upphov till många agenter av denna typ. Vissa är lokala och arbetar bara på den dator där de är placerade, medan andra är mobila och når ut till en mängd andra datorer. De flesta är beroende av någon form av AI-programmering för att utföra sina uppgifter. Agenterna har olika namn beroende på vilka funktioner de utför. I den nya vokabulären för AI på Internet används ofta termen bot (förkortning för robot) i stället för agent. Många olika typer av robotar har utvecklats.
Chatterbots används för att föra en konversation på Internet. Shoppingbots är agenter som handlar och hittar de bästa priserna för användarna. Docbots och Jobbots används för att hitta läkare respektive jobb. Musicbots söker upp ett musikstycke, en CD eller en ljudfil. ”Spindlar” eller spindelrobotar utforskar webbens struktur och agerar på de sidor de hittar där genom att utföra sådana aktiviteter som att räkna, identifiera eller indexera dem. Sökmotorer är beroende av spindlar. Knowbots eller digitala butlers – för att använda Nicholas Negropontes term – utför en rad olika uppgifter som användaren tilldelar dem. Kakor är små symbolsträngar som kommunicerar mellan en webbläsare och en ansluten server. De finns på användarens hårddisk. På begäran av en ansluten server samlar en cookie in information om vad som har lagrats eller hämtats av en användares webbläsare. Många system för kundprofilering bygger på cookies. Virus är små program som är skrivna för att avsiktligt skada eller störa en dator och som överförs via infekterade diskar eller online-anslutningar. Alla dessa intelligenta agenter eller robotar och många andra bygger på principer som ursprungligen upptäcktes av AI-forskare.
Dessa intelligenta agenter är också moraliska agenter eftersom deras verksamhet antingen kan skada eller hjälpa människor eller båda samtidigt. På samma sätt som europeiska köpmän under 1700- och 1800-talet skickade grupper som kallades agenter till Amerika och andra avlägsna länder för att utföra arbete åt dem, skickar användarna mjukvaruagenter ut i cyberrymden för att utföra jobb åt dem. Agenterna får instruktioner av sina ”principer” eller ägare och agerar sedan självständigt utifrån dem. När intelligenta agenter väl har skickats ut på sitt uppdrag arbetar de för det mesta utan direkt ingripande av människor eller andra. De utför många aktiviteter, t.ex. att interagera med andra agenter, inklusive människor, och att uppfatta den miljö där de verkar så att de kan reagera i enlighet med detta. De är ofta proaktiva, är flitiga i den meningen att de fortsätter att arbeta hela tiden och kan ändå utföra många komplexa uppgifter. Följaktligen bär agenternas principer qua ägare en stor del av ansvaret för en agents handlingar så länge agenten följer instruktioner.
För det mesta anses arbetet med intelligenta agenter vara fördelaktigt. Intelligenta mjukvaruagenter lovar till exempel att hjälpa till att hantera informationsöverflödet, särskilt på Internet. Bland de vardagliga eller tråkiga uppgifter som agenterna kan utföra finns följande: hantera e-post, utforska databaser, organisera datorgränssnitt, skanna artiklar, personalisera datainsamling, t.ex. genom att söka igenom nyhetskällor och rapporter för att tillhandahålla information som användarna vill ha, arrangera och planera möten, hantera nätverk och hjälpa till med att kartlägga de cirka 1 miljard informationssidor som för närvarande finns på Internet. Men i processen för att uppnå dessa fördelar och just det hemlighetsmakeri i vilket de i allmänhet arbetar väcker intelligenta agenter viktiga moraliska frågor.
Sök- och kunskapsrobotar kan till exempel användas för datautvinning, dvs. för att utvinna begravd eller tidigare okänd information ur stora databaser. Tillämpade på personlig information kan de användas för att profilera individer och som en följd av detta placera dem i någon konsumentkategori eller riskgrupp som de inte är medvetna om och, ännu viktigare, som kan ha sociala implikationer förknippade med dem som skadar eller stigmatiserar dem. Till exempel kan en person som har ett utmärkt kreditbetyg nekas ett lån eftersom en bot placerar henne i en viss riskgrupp till följd av sitt arbete med datautvinning. När robotar tillämpas på personlig information kan de alltså användas för att inkräkta på eller äventyra människors privatliv. Även immateriella rättigheter kan hotas av robotar. Som pågående rättegångar mot det online-baserade peer-to-peer-musikutbytesföretaget Napster (cirka september 2000) avslöjar kan musikrobotar uppfattas som tjuvar av innehavare av upphovsrätt till musik.
Shoppingrobotar skapar andra moraliska problem. En professor vid MIT Media Lab, Pattie Maes, har till exempel utvecklat en bot kallad ”Firefly” som har gjort henne berömd och gör henne rik. (Microsoft köpte den.) Firefly matchar människors intressen för objekt som filmer, musik och liknande. Liknande tillämpningar av agentteknik inkluderar Jango (som nu ägs av Excite) och Anderson Consultings ”RoboShopper”. Experimenten med dessa shoppingrobotar har dock gett upphov till några avgörande etiska frågor: Vem är ansvarig för agentens inköp? Är agentens kontrakt giltigt? Hur är det med andra saker som en agent kan göra för att fullfölja sitt uppdrag? Kan man lita på en agent? Hur kan en mänsklig ägare eller princip hålla en agent informerad om hennes förändrade intressen och offline-transaktioner? Vem är ansvarig för denna kommunikation? Det är viktigt att notera att möjligheten att agenten misslyckas, missbrukas eller samarbetar är ständigt närvarande. Agenterna kan ta kontrollen från användaren och överföra den till ägaren, och därmed kan de vara en källa till stor skada. Det kan faktiskt bli nödvändigt att använda andra AI-tekniker för att motverka en agents oönskade aktiviteter. En möjlighet är ”ryktesservrar” som kan verifiera en agents trovärdighet och hjälpa till att bygga upp förtroendet. På en bredare systemnivå visar preliminära experiment vid IBM och andra forskningsinstitut att en utbredd användning av robotar inom e-handeln kan påverka de ekonomiska marknadernas funktion väsentligt. Detta väcker naturligtvis frågor om rättvisa på marknaderna och hur man etiskt bäst hanterar övergången från en fysisk marknadsplats till agentorienterade marknader i cyberrymden.