Ètica: el gran repte de la intel·ligència artificial

Hi ha molt poques coses que facin volar més la nostra imaginació que els robots. Quan hi pensem, somiem amb un futur en què les màquines faran tota la feina i els humans podrem dedicar-nos a viure la vida. Tanmateix, els robots no són una cosa del futur. Ja són aquí, entre nosaltres. Els cotxes ja condueixen sols i fins i tot tenim assistents virtuals que responen a gairebé totes les nostres preguntes. La intel·ligència artificial (IA) està en plena ebullició i hi ha una qüestió que cada cop preocupa més experts d’arreu del món: la seva ètica.

Pensem per un moment en un cotxe autònom. Els seus algoritmes han estat dissenyats per salvaguardar les vides humanes. Tanmateix, en una situació en què estiguin en risc diverses vides i que no pugui salvar-les totes, quin triarà? I en què es basarà per prendre aquesta decisió?

Prestem ara atenció als assistents virtuals, cada cop més habituals a les nostres llars. Més enllà d’enregistrar i de processar converses privades que poden contenir material sensible, fins i tot són capaços de detectar el nostre estat d’ànim o de salut simplement amb sentir-nos parlar. Quines conseqüències podria tenir per als sistemes democràtics que un seguit d’empreses acumuli tota aquesta quantitat d’informació?

Aquestes qüestions i altres són les que es plantegen en l’era de la intel·ligència artificial. Per aquest motiu, la Càtedra CaixaBank RSC de l’IESE ha editat un quadern sobre Ètica i intel·ligència artificial. Un camp que, com tants altres, sembla anar per darrere del vertiginós desenvolupament tecnològic.

Abans de tractar temes tan abstractes com el de l’ètica, convé saber a què ens estem referint quan parlem d’intel·ligència artificial. El terme, que ha anat evolucionant al llarg dels anys, va aparèixer l’estiu de 1956 com a camp d’investigació. Llavors, John McCarthy, format a les universitats de Princeton i de Stanford, va decidir reunir a la Universitat de Dartmouth els principals investigadors estatunidencs dels camps de la informàtica i de la psicologia cognitiva. L’objectiu era treballar durant els mesos d’estiu en allò que McCarthy va batejar com a artificial intelligence.

La premissa fonamental d’aquest seminari era la creença que «qualsevol aspecte de l’aprenentatge i qualsevol altre aspecte de la intel·ligència, en principi, pot descriure’s amb tanta precisió que es pot crear una màquina per simular-lo» (McCarthy et al., 1955). És a dir, es tractava de crear màquines capaces de replicar la capacitat humana d’usar el llenguatge, d’aprendre i de raonar creativament.

Aquest va ser l’origen de dècades d’optimisme al voltant d’allò que podria arribar a aconseguir la intel·ligència artificial. De fet, algun dels assistents a la conferència de Dartmouth, que se celebrava periòdicament, va arribar a afirmar el 1965 que «en vint anys les màquines seran capaces de fer qualsevol feina que pugui fer un home», amb un evident excés d’entusiasme.

Encara que el vaticini no es va complir, als anys 80, el desenvolupament de la intel·ligència artificial va suposar l’aparició de sistemes capaços de fer que les empreses s’estalviessin un gran nombre de diners. A partir dels anys 90 i de principis del segle xxi, les seves aplicacions es van ampliar a altres camps com ara la medicina i la logística. La seva trajectòria era prometedora.

Des d’una visió més realista de la seva evolució, i tenint en compte com és de difícil definir un terme tan ampli com el d’«intel·ligència», en els darrers anys es tendeix a definir la IA com un complement de la intel·ligència humana. Això vol dir que, més que no pas substituir-nos, els sistemes d’IA han d’enfocar-se per tal de complementar les nostres deficiències i centrar-se en allò que una màquina pugui fer millor que una persona.

El desenvolupament de sistemes d’intel·ligència artificial planteja tot un seguit de reptes com ara el dilema del cotxe autònom o la gestió de la privacitat dels assistents virtuals esmentats al principi. Fins i tot els prejudicis poden arribar a ser un desafiament per a les màquines: hi ha estudis que mostren com l’assignació d’una hipoteca mitjançant programes informàtics intel·ligents pot variar-ne el preu segons la raça o el color de pell del client.

La majoria d’aquests problemes prové del mateix disseny de la tecnologia i del conjunt de dades analitzades pels algoritmes. Per això, l’ús i la implementació de la intel·ligència artificial s’ha de fer sota certes consideracions ètiques.

La qüestió és com introduir els principis ètics necessaris dins d’una màquina perquè sigui capaç de respondre a aquests reptes. El primer que cal tenir clar és quan s’ha de fer. En aquest cas, el quadern de la Càtedra CaixaBank RSC apunta dos moments crucials: les fases de disseny i de desenvolupament del sistema.

Durant el procés de disseny, cal concretar de la manera més exhaustiva possible quins són els possibles usos i riscos que pot desenvolupar una nova aplicació proveïda d’intel·ligència artificial.

Com que es tracta de sistemes molt complexos, correm el risc de perdre el fil en intentar determinar per què han pres una decisió o una altra. Poden esdevenir impredictibles. Per això, cal delimitar aquesta impredictibilitat: determinar quines tasques fan, quina informació processen i quin tipus de resultats hem d’esperar d’elles. De la mateixa manera que una empresa no contractaria un directiu incapaç d’explicar per què ha pres una decisió, tampoc no hauria d’incorporar sistemes autònoms que actuïn de manera incomprensible.

En la fase de desenvolupament, es tracta d’aportar mitjans concrets que permetin als enginyers, programadors, directius i reguladors incorporar principis i normes al funcionament de les noves aplicacions. Això es pot fer de diverses maneres. Per exemple, posar a la màquina a observar humans per replicar-ne els patrons ètics, introduir tota una sèrie de principis ètics universals en el sistema o bé fer que, en certes situacions, prevalguin els principis de caràcter universal, mentre que en unes altres ho facin altres criteris segons les circumstàncies específiques.

Com que sembla difícil que la programació i el disseny informàtics puguin incorporar exactament tots els principis i les normes necessàries perquè un sistema intel·ligent operi sempre de manera adequada i segura, fan falta normes que ajudin a establir un entorn d’actuació clar i definit.

Així, la Comissió Europea ja ha emès un document elaborat per un grup independent d’experts sobre intel·ligència artificial. Presenta set requisits indispensables per assolir una intel·ligència artificial fiable:

1. Intervenció i supervisió humana: la IA ha de fomentar sempre l’autonomia humana i els drets fonamentals de les persones.

2. Robustesa i seguretat: la fiabilitat de la intel·ligència artificial exigeix que els algoritmes siguin prou segurs, fiables i sòlids per resoldre errors o incoherències durant totes les fases del cicle de vida útil dels sistemes d’IA.

3. Privacitat i gestió de dades: els ciutadans han de tenir el control total sobre les seves pròpies dades, alhora que aquestes dades no s’han d’utilitzar per perjudicar-los o discriminar-los.

4. Transparència: s’ha de garantir la traçabilitat dels sistemes d’intel·ligència artificial.

5. Diversitat, no discriminació i equitat: els sistemes d’intel·ligència artificial han de tenir en compte el conjunt de capacitats, competències i necessitats humanes, i garantir l’accessibilitat.

6. Benestar social i mediambiental: els sistemes d’intel·ligència artificial s’han d’utilitzar per millorar el canvi social positiu i augmentar la sostenibilitat i la responsabilitat ecològiques.

7. Rendició de comptes: s’han d’implantar mecanismes que garanteixin la responsabilitat i la rendició de comptes dels sistemes d’intel·ligència artificial i dels seus resultats.

Es tracta de pilars fonamentals que poden ser capaços de fer que la intel·ligència artificial esdevingui el gran suport per a la humanitat que tots esperem que sigui.