III.F. Agenti software intelligenti: Un caso speciale del ruolo di schiavo
Gli agenti software intelligenti, in generale, sono programmi per computer che possono essere lanciati in un sistema informatico o in una rete per eseguire processi in background, spesso mentre il computer sta svolgendo altro lavoro in primo piano. Questi “agenti” eseguono compiti elettronici per i loro padroni e possono anche imparare osservando le attività del loro padrone. Gli agenti hanno una missione e agiscono autonomamente per completare uno o più compiti. Molti agenti sono, in effetti, anche agenti “segreti” perché l’utente è spesso all’oscuro che sono al lavoro. Il World Wide Web e altri sistemi online o interconnessi hanno generato molti agenti di questo tipo. Alcuni sono locali, operando solo sul computer in cui sono alloggiati; altri sono mobili, raggiungendo o vagando verso una varietà di altri computer. La maggior parte si basa su qualche forma di programmazione AI per svolgere i propri compiti. Gli agenti sono chiamati con vari nomi a seconda delle funzioni che svolgono. Nel nuovo vocabolario dell’IA su Internet il termine bot (abbreviazione di robot) è spesso usato al posto di agente. Molti diversi tipi di bot si sono evoluti.
Chatterbots sono usati per impegnarsi in conversazioni su Internet. Gli Shoppingbot sono agenti che fanno acquisti e individuano i prezzi migliori per gli utenti. I Docbots e i Jobots sono usati per localizzare i medici e il lavoro, rispettivamente. I Musicbots cercano un pezzo di musica o un CD o un file audio. Gli “spider” o spiderbot esplorano la struttura del Web e agiscono sulle pagine che vi trovano svolgendo attività come il conteggio, l’identificazione o l’indicizzazione. I motori di ricerca si basano sugli spider. I Knowbots o maggiordomi digitali – per usare il termine di Nicholas Negroponte – eseguono una varietà di compiti assegnati loro dall’utente. I cookie sono piccole stringhe di simboli che comunicano tra un browser web e un server collegato. Sono residenti sul disco rigido dell’utente. Su richiesta di un server collegato, un cookie raccoglie informazioni su ciò che è stato memorizzato o recuperato dal browser di un utente. Molti sistemi di profilazione dei clienti si basano sui cookie. I virus sono piccoli programmi scritti per causare intenzionalmente danni o interruzioni a un computer e sono trasmessi da dischi infetti o connessioni online. Tutti questi agenti intelligenti o bot e molti altri sono basati su principi originariamente scoperti dai ricercatori di IA.
Questi agenti intelligenti sono anche agenti morali perché le loro attività possono danneggiare o aiutare le persone o entrambi contemporaneamente. Proprio come durante il 18° e il 19° secolo i mercanti europei inviavano gruppi chiamati agenti in America e in altre terre lontane per eseguire lavori per loro, gli utenti inviano agenti software nel cyberspazio per fare lavori per loro. Gli agenti ricevono istruzioni dai loro “principi” o proprietari e poi agiscono autonomamente. In particolare, una volta mandati in missione, gli agenti intelligenti operano, per la maggior parte, senza l’intervento diretto di umani o altri. Essi intraprendono molte attività come l’interazione con altri agenti, compresi gli esseri umani, e la percezione dell’ambiente in cui operano in modo da poter rispondere di conseguenza. Sono spesso proattivi, sono diligenti nel senso che continuano a lavorare in ogni momento, e tuttavia sono capaci di eseguire molti compiti complessi. Di conseguenza, i principi degli agenti in quanto proprietari si assumono gran parte della responsabilità per le azioni di un agente finché l’agente segue le istruzioni.
Per la maggior parte, il lavoro degli agenti intelligenti è considerato benefico. Per esempio, gli agenti software intelligenti promettono di aiutare a gestire il sovraccarico di informazioni, specialmente su Internet. Tra i compiti banali o noiosi che gli agenti possono svolgere ci sono i seguenti: gestire la posta elettronica, estrarre banche dati, organizzare interfacce di computer, scansionare articoli, personalizzare l’acquisizione di dati come la ricerca attraverso fonti di notizie e rapporti per fornire le informazioni desiderate dagli utenti, organizzare e programmare riunioni, gestire reti e aiutare a mappare il miliardo di pagine di informazioni attualmente su Internet. Eppure, nel processo di raggiungimento di questi benefici e la segretezza stessa in cui generalmente operano gli agenti intelligenti sollevano importanti questioni morali.
I bot di ricerca e conoscenza, per esempio, possono essere utilizzati per scopi di data mining-estrarre pezzi di informazioni sepolte o precedentemente sconosciute da grandi database. Applicati alle informazioni personali possono essere usati per profilare gli individui e di conseguenza inserirli in qualche categoria di consumo o gruppo a rischio di cui non sono consapevoli e, cosa più importante, che può avere implicazioni sociali associate che li danneggiano o li stigmatizzano. Per esempio, un individuo con un eccellente record di credito potrebbe essere negato un prestito perché un bot l’ha assegnato a un particolare gruppo di rischio come risultato del suo lavoro di data mining. Così, quando applicato alle informazioni personali i bot possono essere usati per invadere o compromettere la privacy delle persone. Anche i diritti di proprietà intellettuale possono essere minacciati dai bot. Come rivelano le cause in corso contro la società di scambio di musica online peer-to-peer Napster (circa settembre 2000), i bot musicali possono essere percepiti come ladri dai detentori del copyright musicale.
I bot per lo shopping creano altre questioni morali. Per esempio, una professoressa del MIT Media Lab, Pattie Maes, ha sviluppato un bot chiamato “Firefly” che l’ha resa famosa e la sta rendendo ricca. (Firefly abbina gli interessi delle persone in oggetti come film, musica e simili. Applicazioni simili della tecnologia degli agenti includono Jango (ora di proprietà di Excite) e “RoboShopper” di Anderson Consulting. Gli esperimenti con questi bot per lo shopping, tuttavia, hanno suggerito alcune questioni etiche cruciali: Chi è responsabile degli acquisti di un agente? Il contratto di un agente è valido? Che dire di altre cose che un agente potrebbe fare nel perseguire la sua missione? Infatti, ci si può fidare di un agente? Come fa un proprietario o principio umano a tenere un agente al corrente dei suoi mutevoli interessi e delle sue transazioni offline? Chi è responsabile di questa comunicazione? Significativamente, la possibilità di fallimento, abuso o cooptazione dell’agente è sempre presente. Gli agenti possono strappare il controllo all’utente e passarlo al loro proprietario e, quindi, possono essere la fonte di molti danni. Infatti, può essere necessario impiegare altre tecniche di IA per contrastare le attività spiacevoli di un agente. I “server di reputazione” che possono verificare la credibilità di un agente e aiutare a costruire la fiducia presentano una possibilità. Ad un livello sistemico più ampio, gli esperimenti preliminari dell’IBM e di altri istituti di ricerca indicano che l’uso diffuso di bot nel commercio elettronico può influenzare materialmente il funzionamento dei mercati economici. Questo naturalmente solleva domande sulla giustizia e l’equità nei mercati e su come gestire al meglio, dal punto di vista etico, la transizione da un mercato fisico a mercati orientati agli agenti nel cyberspazio.