Una anàlisi crítica sobre els desafiaments ètics de la intel·ligència artificial i la robòtica.
L'ètica algorítmica, un llibre de Francesc Torralba
Francesc
Torralba Roselló és
doctor en Pedagogia, Filosofia, Història i Teologia. En l’actualitat és
catedràtic acreditat a la Universitat Ramon Llull. Alterna la seva activitat
docent amb l’ofici d’escriure i divulgar el seu pensament. El seu treball
s’orienta cap a l’antropologia filosòfica i l’ètica emmarcat dins del
personalisme contemporani. És un autor prolífic, amb més de 1.800 articles i
100 llibres publicats dels quals destaca: “Vivir en lo esencial” (Plataforma
Editorial S.L., 2020), “Lideratge ètic” (Angle Editorial, 2016), “Córrer per
pensar i sentir” (Angle Editorial, 2015) o “El valor de tenir valors” (Ara
llibres, 2012).
Per Jordi Viladrosa i Clua
“L’ètica algorítmica”. El món tecnològic actual
està canviant radicalment la manera de viure, de relacionar-se, de pensar, de
crear, de voler, de treballar, i planteja grans qüestions respecte a la
pròpia identitat i la societat. L’autor, amb un domini exemplar de la qüestió
i dels referents filosòfics, proposa endinsar-se en aquest món, marcat per
les xarxes socials, la virtualitat, la robòtica i la maquinització i el poder
de les dades i la informació, des del punt de vista ètic.
L’acceleració tecnològica del nostre temps ens porta a reenfocar la manera com vivim, treballem o ens relacionem i, alhora, també qüestiona profundament els valors sobre els quals s’edifiquen les nostres societats. L’avenç de la intel·ligència artificial, la robòtica i l’ús massiu de dades planteja interrogants que no poden ser resolts des d’un punt de vista estrictament tècnic. Francesc Torralba, a L'ètica algorítmica, obre una finestra a un debat imprescindible: com podem integrar la tecnologia en les nostres vides sense perdre la nostra essència com a éssers humans? Aquest assaig ens proposa una mirada interdisciplinària que situa l’ètica al centre del progrés tecnològic, convidant-nos a explorar els límits i les possibilitats d’un futur on les màquines i els ginys esdevenen protagonistes.
La tecnologia com a úter social
En el primer capítol, Torralba reflexiona sobre com
conceptualitzar una tecnologia que sigui, alhora, humanista i inclusiva. L’autor
planteja que l'espiral accelerada d'innovació, desenvolupament i consum
planteja un desafiament clau: garantir que la tecnologia serveixi al bé comú,
afavorint el benestar social i la prosperitat econòmica.
El debat sobre la robòtica, segons Torralba, es polaritza
entre el tecnooptimisme, que entreveu un futur millorat gràcies a l'avenç
tecnològic, i el tecnopessimisme, que tem un impacte negatiu en les relacions
socials i el coneixement humà. Si bé l'autor reconeix la importància de
mantenir una actitud esperançadora davant de la innovació tecnològica,
subratlla la necessitat d'abordar els interrogants que aquesta planteja.
En aquest context, Torralba emfatitza la importància que la societat, en conjunt, prengui consciència dels desafiaments i oportunitats que planteja la tecnologia. Només així podrem assegurar que aquesta serveixi als nostres interessos i no al revés.
Ètica algorítmica
Al segon capítol, Torralba aprofundeix en l'ètica
algorítmica, presentant-la com una subdisciplina de l'ètica aplicada a la
tecnologia, estretament relacionada amb l'ètica de la robòtica. L'autor destaca
que la programació implica decisions que tenen implicacions morals, i que
l'autonomia dels sistemes, tot i desitjable, planteja interrogants sobre la
capacitat dels algorismes per prendre decisions veritablement autònomes.
Una
de les principals preocupacions ètiques és la manca de transparència en els
algoritmes. L'opacitat algorítmica, producte d'estratègies
comercials, la complexitat del codi i la dificultat de traduir els models
matemàtics a llenguatge humà, dificulta l'avaluació dels valors i els biaixos
subjacents.
Torralba planteja la necessitat de comitès d'ètica
interdisciplinaris per garantir que el desenvolupament d'algoritmes es faci de
manera responsable. Així mateix, alerta sobre els riscos associats a la
recopilació massiva de dades, la generació de deep fakes i l'impacte
ambiental de la intel·ligència artificial.
L'autor conclou destacant que l'omnipresència dels algorismes a la nostra vida quotidiana planteja interrogants fonamentals sobre la nostra privadesa i les nostres llibertats fonamentals.
La robotització de l’àmbit quotidià
L'imaginari col·lectiu associa els robots a màquines capaces
d'imitar les funcions humanes, tal com es presenta a la ciència-ficció. Tot i
això, la robòtica actual, que integra disciplines com l'enginyeria, la biologia
i les nanociències, ha donat lloc a robots cognitius amb capacitats cada vegada
més sofisticades. Aquests robots, caracteritzats per la seva autonomia,
mobilitat, comunicació i interactivitat, plantegen desafiaments ètics, jurídics
i socials sense precedents.
La intel·ligència artificial ha estat el motor d'aquest
desenvolupament, cosa que permet als robots fer tasques complexes en entorns
dinàmics. No obstant això, la presència creixent de robots a la nostra vida
quotidiana ha suscitat interrogants sobre el seu impacte en l'ocupació i en les
relacions socials, donant origen a una nova disciplina: la roboètica.
La roboètica cerca establir principis ètics per al disseny i desenvolupament de robots, garantint que el seu ús sigui beneficiós per a la societat. Un dels reptes més importants és determinar com programar robots amb un sentit de l’ètica. És possible crear agents ètics artificials? Amb quins valors i principis han de ser programats? Aquestes preguntes obren un ventall ampli d'especulacions sobre el futur de la relació entre humans i màquines.
Màquines ètiques
Francesc Torralba ens submergeix en un debat fonamental
sobre la creixent presència de la intel·ligència artificial a la nostra
societat i les seves implicacions ètiques. L'autor planteja interrogants
crucials: És possible dotar les màquines d'una moral autònoma? Quins principis
ètics haurien de guiar-ne el desenvolupament? I potser el més important, com podem garantir que la IA no
perpetuï les desigualtats socials existents?
Torralba explora diverses aplicacions de la IA, des de la
cirurgia robòtica fins a l'educació, i en destaca els desafiaments ètics
inherents a cadascuna. Per exemple, en l’àmbit educatiu, planteja interrogants
sobre el paper del docent en un futur on els robots podrien assumir moltes de
les seves funcions. Alerta, també, sobre els riscos d'un desenvolupament
tecnològic descontrolat, especialment en el context de la guerra i el mercat
laboral.
Una de les principals contribucions del llibre és la seva crida a un “humanisme tecnològic”, que prioritzi els valors humans sobre els interessos purament tècnics. Torralba ens convida a reflexionar sobre les conseqüències socials i culturals de la IA, i a exigir un marc regulador que en garanteixi el desenvolupament responsable.
El poder de les dades
"El poder de les dades" aprofundeix com l'anàlisi
massiva d'informació ha transformat la manera com les empreses entenen i
interactuen amb els consumidors. En revelar patrons de comportament,
preferències i fins i tot vulnerabilitats, el big data planteja
importants interrogants ètics. Tot i això, les seves aplicacions en diversos
camps, des de la ciència fins a l'ecologia, són innegables. La personalització de la
informació facilitada per l'anàlisi de grans volums de dades ha revolucionat la
presa de decisions. No obstant això, la simplificació i
jerarquització de dades tan complexes requereixen una avaluació rigorosa que
garanteixi la privadesa i protecció de la informació personal. Torralba
assenyala que aquest nou panorama exigeix un equilibri entre les necessitats
de les empreses i els drets dels individus, i subratlla la importància del
consentiment informat i la transparència en el maneig de dades confidencials.
Podem parlar de resurrecció digital?
Torralba aborda, en aquest darrer bloc, el controvertit
concepte de “resurrecció digital”, que implica la preservació i eventual
reactivació d'una identitat digital després de la mort física. Aquesta idea,
atractiva per al transhumanisme, planteja interrogants sobre la naturalesa de
la mort i la nostra relació amb la tecnologia. L’autor qüestiona si la
immortalitat digital representa una evasió de la mort o una nova forma de dol.
La creixent interacció entre el món real i el virtual desafia el marc jurídic actual,
que haurà d'abordar qüestions com la gestió de la identitat digital post
mortem i la protecció de la privadesa. Tot i que la tecnologia permeti
crear representacions digitals molt realistes de persones mortes, aquestes no
poden capturar la totalitat del seu ésser. La resurrecció digital, per tant, planteja dilemes ètics
i filosòfics profunds.
Com a conclusió, Torralba ens convida a reflexionar sobre el
paper de la tecnologia a les nostres vides i a exigir un desenvolupament
tecnològic responsable. L'autor explora els desafiaments ètics de la
intel·ligència artificial, la robòtica i l'ús de dades, i subratlla la
necessitat d'un enfocament humanista que prioritzi el benestar de les persones.
Aquest llibre és una crida a l'acció perquè la societat i els tecnòlegs
treballin junts en la construcció d'un futur tecnològic més just i equitatiu.
Publicat inicialment a: https://impulseducacio.org/desafiaments-etics-de-la-intelligencia-artificial-i-la-robotica/