Inteligencia artificial ¿para qué?

Las promesas de la inteligencia artificial son muchas y muy variadas, y van desde lo razonable hasta lo descabellado: va a generar más eficiencia en el comercio, va a hacer los trabajos pesados por nosotros, y de paso va a salvar al mundo del cambio climático y de cualquier catástrofe que se nos ponga enfrente. A menudo se oye más sobre las propuestas disparatadas que sobre las modestas.

Como escribe el informático Michael Wooldridge, “lo que la inteligencia artificial necesita ahora, más que cualquier otra cosa, es una inyección de humildad”. Esta pandemia ha dejado más claro que nunca que la inteligencia artificial no es una varita mágica capaz de resolver nuestros problemas de un plumazo. De los cientos de algoritmos que se diseñaron para diagnosticar y tratar la covid, ninguno fue exitoso y es probable que algunos hayan causado incluso daños.

Dado que la inteligencia artificial no va a resolver nunca nuestros problemas sociales y políticos, y muchas veces ni siquiera asuntos más técnicos como los médicos, ¿por qué hay tantas esperanzas puestas en esta tecnología? Hay ciertas razones psicológicas: a los seres humanos nos gusta ser optimistas, en particular sobre los artefactos que creamos. No nos cabe en la cabeza que tanto esfuerzo pueda ser en vano (o, peor, perjudicial). Pero, sobre todo, no hay que perder de vista que detrás de tanta inteligencia (y estupidez) artificial, hay poderosos intereses económicos.

Por supuesto que las empresas que diseñan algoritmos van a decir que la inteligencia artificial va a mejorar nuestra vida, igual que las empresas que producen detergentes van a asegurarnos que sus productos quitarán cualquier mancha. Las empresas tecnológicas dependen de que confiemos en las promesas de la inteligencia artificial para que su negocio vaya bien. Pero, ¿la inteligencia artificial realmente mejorará nuestra vida notablemente? Está por verse, y si sí, no va a ser por coincidencia, sino por diseño.

Hoy por hoy, ¿para qué creamos inteligencia artificial? Hay algunos investigadores que trabajan en estos algoritmos por curiosidad científica. Algunos otros intentan resolver un problema real e importante, como por ejemplo encontrar nuevos fármacos que puedan luchar contra las superbacterias. Pero una verdad incómoda y rara vez mencionada es que la mayoría de los algoritmos se diseñan e implementan con el objetivo fundamental de ganar dinero.

No es solo que las empresas que crean algoritmos están sacando un género como cualquier otro y al venderlo ganan dinero sin más. Es que este es un artículo diseñado para que las instituciones se ahorren dinero. La empresa que hace detergentes vende un producto que quita manchas (que quite cualquier mancha es más dudoso). La empresa de algoritmos vende algo que ahorra dinero, pero que se promociona para el público como que va a salvar el mundo. Si le preguntas a un alto ejecutivo de un banco por qué quiere implementar más algoritmos en su empresa, la respuesta no tiene nada que ver con mejorar la vida de las personas: es para ahorrarse dinero.

Ganar más o ahorrarse dinero no tiene nada de malo por sí mismo. El problema es cuando se diseña una tecnología muy potente, con efectos potencialmente sistémicos, con el objetivo principal de ganar dinero, pero bajo la apariencia de querer mejorar el mundo y sin tomar en consideración los intereses y derechos de las personas. Por eso terminamos con algoritmos en redes sociales que promueven las noticias falsas y la polarización (el algoritmo está diseñado para maximizar el tiempo en la red social porque eso produce más dinero). O con algoritmos que generan agendas de trabajo insufribles para los trabajadores, con horarios variables que destrozan los ritmos vitales de las personas. O con algoritmos imprecisos, injustos y discriminatorios. El objetivo principal de estos algoritmos no era mejorar nuestras vidas, y por ello no ha de sorprendernos que la empeoren.

Uno no produce tecnología ética simplemente por no tener malas intenciones. La tecnología ética es el resultado de pensar cuidadosamente sobre los intereses de todas las personas que serán afectadas por la tecnología, diseñar meticulosamente todos los elementos de la tecnología para que sirvan a un buen fin, y estar dispuestos a poner a la gente por delante de los intereses económicos. Ganar dinero está muy bien, pero no a costa del bienestar de la población o de la salud de la democracia. Las tecnologías poderosas pueden crear más problemas de los que resuelven si no se diseñan éticamente. Desarrollar la ética de la inteligencia artificial es urgente porque la alternativa es inteligencia artificial poco ética. La ética no se produce por casualidad, sino por diseño. Para que la inteligencia artificial mejore la vida de las personas, habrá que diseñarla para ello.