Sobre el Uso de la IA

Introducción

Este artículo proporciona una descripción de lo que creo que es el uso correcto de la IA no solo desde un punto técnico sino más bien desde una perspectiva más psicológica, ética y humana. Este artículo está altamente influenciado por la encíclica del Papa León XIV “Magnifica Humanitas” cuya lectura recomiendo encarecidamente.

Entendiendo la IA para personas no técnicas

Lo primero que quiero hacer con este artículo es desmitificar como funciona la IA realmente y que veamos que no es ningún tipo de magia negra. Si eres una persona técnica, puedes saltar esta parte sin problemas pues voy a explicarlo en los términos más simples para que todo el mundo pueda entenderlo.

Una IA es como una máquina gigante que contiene muchísima información dentro. Cuando interactúas con ella, te responde con lo que es más estadísticamente posible.

Podemos simplificar “más estadísticamente posible” por “lo que tiene más sentido basado en la información disponible”. Por ejemplo, cuando le dices “Hola” a ChatGPT te responderá con otro saludo porque en la información que él tiene es lo más común. Pero, no dejes que eso te engañe, no hay ningún pensamiento ni inteligencia detrás de eso.

Lo mismo ocurre cuando le pides generar una imagen, te generará la imagen usando los patrones más comunes en base a los datos que tenga. De hecho, si solo tuviera pinturas de Da Vinci en sus datos, todas las imágenes tendrían el estilo de Da Vinci pues es todo lo que conoce.

Si miramos un poco más a fondo, podemos decir que es una fórmula matemática gigante que se genera en base a los datos que se le proveen. Un dato crucial es que nadie entiende la fórmula detrás de estas IAs como bien dice el Santo padre estas tecnologías “están más cultivadas que construidas” ¹. A lo que se refiere es que la fórmula y específicamente los valores que esa fórmula usa no tienen sentido para ningún humano pues esos valores han sido generados a base de procesar todos esos datos.

Es decir, que una IA no es más que una máquina a la que le damos todos los datos que podamos, sin exagerar, esto puede ser toda la totalidad del internet (millones de libros, webs, etc…) y en base a esos datos y a través de la estadística se genera una IA (es decir los valores de la fórmula matemática) capaz de responder a nuestras preguntas.

Saber esto es crucial pues nos deja llegar a dos conclusiones importantes. Primero, la IA no te dice la verdad, te dice lo que tiene más sentido en base a los datos que tiene incluso si está mal o es mentira. Segundo, fijaos como he escrito “en base a los datos que tiene” lo que significa que la IA es fácil de manipular si le das los datos que tú quieras para tu propio interés.

Utiliza una herramienta con un propósito

Este consejo es genérico y sirve para cualquier herramienta y es una idea útil para tener siempre en mente. Está claro que nadie utilizaría un martillo para atornillar un tornillo, este ejemplo es sencillo porque todos entendemos el propósito de un martillo.

Sin embargo, con las nuevas tecnologías como la IA y los smartphones este no es el caso pues nos prometen resolvernos muchos problemas. Primero de todo, la tecnología no es el camino hacia la salvación (aunque hablaremos de ello más tarde). Segundo, esto crea un entorno donde siempre buscamos las soluciones dentro de estas herramientas incluso cuando no pueden ayudarnos. O incluso, muchas veces empezamos una tarea concreta con estas herramientas y luego nos encontramos distraídos haciendo algo completamente distinto.

El objetivo para evitar esto es tener un objetivo claro en mente de lo que quieres hacer y una vez eso esté hecho dejar de usar la herramienta. Los informáticos deberíamos ser buenos en esto pues es algo así como escribir requisitos de ingeniería de software o escribir una prompt clara, aquí hay algunos ejemplos:

Voy a utilizar la IA para solucionar este error (Un error concreto y bien definido)
Voy a usar la IA para aprender sobre operadores booleanos
Voy a usar mi teléfono para llamar a X amigo

Si definimos una tarea clara y una vez finalizada dejamos de usar la herramientas hasta la próxima vez que la necesitamos conseguimos evitar distracciones y pérdidas de tiempo. Incluso aunque suene fácil os animo a probarlo pues estamos en un mundo donde la atención es una de las principales monedas de cambio y el objetivo es hacerte perder la atención de tus objetivos.

Incluso, si sientes que no es suficiente y que aún con tareas claramente definidas pierdes la atención, mi recomendación última es que hagas tu objetivo no distraerte. Es decir, en vez de poner un objetivo claro que sea producir algo pones como tu objetivo un tiempo sin distracciones. Por ejemplo en vez de decir “Voy a solucionar este error” dices “Voy a estar una hora sin distracciones solucionando este error” pero poniendo el foco en el tiempo sin distracción, sin forzarte a cumplir esa tarea en ese tiempo pero sí a solo dedicarte a esa tarea. Personalmente me ha ayudado mucho durante mis trabajos en remoto donde me distraigo con facilidad.

Si la usas para algo, olvidarás ese algo

Otro ejemplo simple para explicar este punto es el siguiente: Si estás acostumbrado a atornillar tornillos con las manos y ahora empiezas a usar un destornillador, poco a poco empezarás a perder la fuerza en los dedos que te permitía atornillar con las manos. Por supuesto, las situaciones en las que tengas que usar tus manos para atornillar son raras y lo normal es siempre tener un destornillador pero, esto también ocurre con otras habilidades.

Tampoco creo que a nadie le moleste el no saber entrenar palomas mensajeras ahora que podemos mandar mensajes pero una automatización o avance no tiene por qué siempre ser bueno especialmente si lo llevamos al extremo como está ocurriendo ahora.

Esto es algo en lo que cada uno ha de pensar sobre todo, en el momento actual con la ayuda de la IA, algunos ejemplos concretos son: ¿Quieres olvidarte de cómo programar?, ¿Quieres perder la habilidad de redactar por tu propia cuenta?, ¿Quieres olvidarte de cómo resolver problemas?. Quizás podemos olvidarnos de como programar y delegarlo todo en la IA y que no suponga un problema pero, si lo llevamos demasiado lejos estamos perdiendo la habilidad de pensar por nosotros mismos lo que incluye distinguir el bien del mal y otras capacidades que son esenciales y nos hacen verdaderamente humanos.

Además, delegar en la IA crea una falsa sensación de objetividad pues, la IA siempre responderá con total confianza ya que como hemos comentado antes se basa en sus propios datos que pueden ser incorrectos o haber sido manipulados a propósito.

Dejar que la IA decida

“Un ordenador nunca puede ser responsable, por tanto un ordenador nunca debe hacer una decisión de gestión”. Es una frase de una presentación de IBM en el año 1979, muy adelantada a su tiempo. Para mi esto significa varias cosas a diferentes niveles.

A nivel de trabajo significa que aunque la IA haga parte del trabajo, yo debo ser siempre quien toma las decisiones de cómo el sistema se va a comportar y qué diseño va a tener. También, implica tener una trazabilidad clara de quien hizo que ya que no podemos echarle la culpa a la IA sino más bien al usuario o al creador de la herramienta.

No es suficiente con lo que técnicamente se llama “alineación” que significa hacer que la IA entienda los valores humanos (por eso algunas empresas tecnológicas contratan filósofos). Como no hay un consenso sobre cuáles son esos valores humanos lo que se consigue es simplemente imponer los valores morales y sesgados de la compañía a cargo. Por eso no podemos considerar a la IA moralmente neutral ni debemos darle voz en las decisiones.

Además, muchas personas usan IA en su día a día para que les ayude en sus decisiones lo cual no está mal del todo pero, si cada vez que tienes un mínimo problema recurres a la IA, ¿Estás realmente decidiendo por ti mismo o ejecutando lo que te dice la IA? En este caso la IA estaría “dominando” al humano. Creo que es una buena idea primero pensar por nosotros mismos, diseñar una solución y luego si es necesario (porque quieres estar seguro o porque es un tema crítico) preguntarle a la IA si ve algún error en tu idea. Esto puede ser útil para tareas técnicas como cocinar un plato complicado o hacer algo de mantenimiento del automóvil por tu cuenta.

Incluso en el caso en el que tu plan sea un desastre porque no tienes experiencia en ese campo, has ejercitado tu razonamiento y la IA te puede ayudar a posteriormente ver tus errores. Aún así recordemos que una de las maneras principales y eficaces del aprendizaje es la prueba y el error, no deberíamos tampoco buscar no cometer errores nunca.

Por supuesto, mucho mejor que preguntarle a la IA es preguntarle a otro humano y mucho más en temas relacionados con las relaciones sociales o consejos de vida, lo que nos conduce a la siguiente sección.

La IA no es humana por tanto, no es tu amiga

Esto puede sonar obvio pero tenemos que tener cuidado. Como hemos comentado antes, la IA simula el comportamiento basado en sus datos, y esos datos son datos humanos por tanto, la IA actúa como un humano (además de que esto es reforzado con el alineamiento). Esto hace que tener una conversación con una IA sea similar a tener una conversación con un humano pero no es lo mismo.

Es una práctica peligrosa tratar a la IA como a un amigo porque a largo plazo puede llegar a crear un falso vínculo que lentamente nos puede separar de la sociedad real. Esto es especialmente peligroso para las personas con una vida social y afectiva pobre pues pueden volverse adictos a este tipo de simulaciones y perder las ganas de buscar una conexión humana real. Creo que debemos de ser especialmente cuidadosos con esto cuando estamos con niños puesto que ellos ya han nacido en este entorno y con esta tecnología y les puede costar diferenciar entre una IA y un humano al estar expuestos desde una edad tan temprana.

En general, creo que todos podemos estar de acuerdo en que necesitamos conexiones humanas reales para ser felices pero, creo que la idea de tener amigos o incluso parejas IA se va a volver más y más socialmente aceptada pues vivimos en una época donde a pesar de las redes sociales nos sentimos más solos que nunca. Esto es muy alarmante y algo contra lo que debemos luchar.

Desafortunadamente, ya hay webs y negocios que se aprovechan de esto anunciando amigos o parejas IA que puedes configurar a tu gusto explotando así a las personas socialmente vulnerables. No es difícil encontrar historias de personas que han padecido grandes sufrimientos por esto ² ³.

Por último, si que me gustaría matizar que el hecho de que la IA no sea humana no nos da el derecho a tratarla con desprecio. Es cierto desde una perspectiva antropológica al no ser humano y ni siquiera un ser vivo no tiene una dignidad intrínseca. Por tanto tratarla mal, insultarla o ser mal educado con ella no debería de significar un problema pero prefiero no hacerlo. Incluso si estás interactuando con una máquina, las faltas de educación son un reflejo de tu comportamiento y se debería en todo momento evitar ese tipo de comportamiento y buscar ser amable, incluso con una máquina.

Bienvenido a la tecnocracia

El mundo está rápidamente evolucionando a una tecnocracia, esto significa que el poder está altamente relacionado con la tecnología y por tanto, aquellos que tienen el control y el conocimiento sobre la tecnología son los más poderosos. En la mayoría de los casos la gente al mando de las últimas tecnologías no son los gobiernos o personas que busquen el bien común (se supone que eso hacen los gobiernos) sino empresas privadas con sus propios intereses que en la mayoría de los casos son los beneficios económicos o ganar sobre la competencia.

Con esto último no pretendo dar a entender que las empresas o las personas a cargo son inherentemente malvadas, en la mayoría de los casos, son personas que persiguen sus sueños y fallan en considerar como sus acciones y aspiraciones impactan en el resto de la sociedad (algo que hacemos todos en cierta medida) porque están cegados por su obsesión o quizás incluso sí son conscientes pero consideran válido un sacrificio para poder cumplir sus sueños.

Como son los actores privados los que controlan la IA, ellos deciden qué es bueno y qué es malo y por tanto con un determinado modelo de IA razona y se comporta. En un ejemplo extremo, si hubiera una empresa de IA antisemita, podría perfectamente crear un modelo de IA que se alineara con esas ideas, si luego millones de personas usan ese modelo se verían influenciadas por él y podrían llegar a creer lo que dice. No olvidemos la regla número una de la propaganda “una mentira dicha un millón de veces se convierte en verdad”

Esto realmente ya ocurre, aunque sea por accidente. Cuando usas ChatGPT, Claude, Gemini… tienen una serie de sesgos dependiendo de los datos que tengan, en este caso es mayoritariamente cultura occidental. Tristemente, es muy difícil saber qué sesgos tienen estos modelos pues se requiere de ingeniería inversa puesto que otro problema derivado de la tecnocracia es que la gran mayoría de información y avances son privados para poder así ganar sobre la competencia. Como hemos dicho antes, esto funciona porque el objetivo no es el bien común pues creo que para un buen desarrollo científico todo el progreso debería de ser compartido.

Los Avances Tecnológicos No Son Iguales Al Progreso

En el contexto de una tecnocracia parece que cualquier avance tecnológico significa que estamos progresando. Incluso nosotros, cuando pensamos en la palabra progreso podemos pensar en robots, coches voladores y otra tecnología futurista. Sin embargo la verdad es que los avances tecnológicos no tiene por qué significar un progreso real.

Creo que todos podemos estar de acuerdo que a un alto nivel de abstracción el fin último de nuestra vida es ser felices. Por supuesto, eso es muy genérico pero nos da una buena definición de progreso. Estamos progresando si al final somos más felices.

Esto no significa que siempre tengamos que sentirnos bien, a veces necesitamos sufrir o pasar por momentos duros para progresar pero al final acabamos felices (desarrollaremos esto en el siguiente punto). Ahora bien, no solo miremos nuestro propio bien y busquemos también la felicidad de manera global donde todo el mundo en general es más feliz.

Esto significa que podemos traducir el progreso a cosas como:

Mejorar la dignidad humana
Reducir la pobreza y las desigualdades
Mejorar la distribución de la riqueza

Porque, como humanos, somos criaturas sociales y por tanto necesitamos avanzar juntos. Esto está comprobado por el hecho de que si solo un grupo especifico avanza por su propia cuenta la historia nos cuenta lo que acaba sucediendo (corrupción, esclavitud, abusos sobre los más débiles…)

Por tanto, se puede ver que los avances tecnológicos no siempre equivalen a progreso. Por ejemplo, los crecientes problemas de salud mental causados en gran parte por nuestras nuevas maneras de vivir y las nuevas tecnologías. En consecuencia, tenemos que ver como las nuevas tecnologías contribuyen al progreso pero también a las desigualdades y no pararlas en seco pero sí que ser cuidadosos con ellas y regularlas en algún sentido.

Para finalizar este punto, me gustaría que pensaras en los momentos más felices de tu vida. Estoy seguro de que hay algo en común en todos ellos, no estabas solo. Aquí podemos ver claro que cualquier avance o tecnología que nos aleja de esa conexión humana que nos hace realmente felices no puede ser llamada progreso. Desafortunadamente la IA y las nuevas tecnologías nos pueden llevar por ese camino deshumanizador.

Posthumanismo

Muy relacionado con lo que venimos viendo son las corrientes de pensamiento como el posthumanismo, que creen que los humanos están en algún sentido “rotos” y que tenemos que arreglar sus fallos. Pero, como hemos mencionado en el punto anterior, a veces el progreso requiere de dolor y ese dolor puede estar causado por uno de estos “fallos” pero es que es gracias a estos fallos que aprendemos y acabamos siendo más felices.

En general, está corriente de pensamiento está muy mezclada con la tecnocracia lo que acaba dando una visión del humano como un recurso que puede ser explotado y que sirve un propósito de producción. Esto hace que el valor de una persona se mida por como de eficiente o útil es.

Pero, es gracias a conocer nuestras debilidades, nuestras heridas internas y nuestras limitaciones como aprendemos a ser más misericordiosos o compasivos y eso nos hacen en gran parte humanos.

Aquí va un ejemplo simple: Estar enamorado. Cuando te enamoras de alguien eres de manera objetiva mentalmente más débil, eres más fácil de manipular y te cuesta más pensar de manera racional. No obstante, estar enamorado también te permite experimentar una de las sensaciones más bonitas en esta vida, te da ese impulso para amar a esa persona con un corazón abierto y de manera desinteresada, a darte a los demás.

Pero, eso no seria posible sin ese estado de debilidad, es esa debilidad la que te permite amar de esa manera. Hay muchos ejemplos y muchas otras situaciones donde lo que pensamos que es una debilidad se vuelve nuestra fortaleza. Recordemos las palabras de San Pablo “Mi gracia te basta, pues mi fuerza se realiza en la debilidad.” (2 Cor 12:9)

Por lo que, si empezamos a considerar cualquier falta o problema que nos hace más débiles como algo que arreglar acabaremos deshaciéndonos de lo que nos hace verdaderamente humanos. Me encanta como el Santo Padre lo resume “Para un algoritmo, el error es algo que hay que corregir; para una persona, puede ser el inicio de un cambio profundo. El futuro de una persona no es calculable, sino que está confiado a su libertad” ⁴.

Anthropic y el Vaticano

Antes de concluir, me gustaría dar un repaso a la relación actual entre Anthropic (Una de las empresas de IA más grandes) y su relación con la Santa Sede.

Cuando se publicó la carta encíclica, el Santo Padre entre otras personalidades dieron un discurso sobre el tema. Uno de los que más llamó la atención fue Chris Olah, multimillonario, cofundador de Anthropic y líder del equipo de interpretabilidad. Chris es ateo con un trasfondo de cristiano evangélico ⁵.

Aún así, en su discurso ⁶ muestra un gran respeto a la Santa Sede y pide su ayuda para discernir el futuro camino de la IA. Es al menos un buen signo de que estamos abiertos al diálogo incluso si no estamos de acuerdo. Me ha gustado especialmente la sinceridad de Chris, citando sus palabras:

“Cada laboratorio puntero de IA, incluyendo Anthropic, opera sobre unos incentivos y limitaciones que muchas veces pueden entrar en conflicto con hacer lo correcto. La presión para mantenerse en el mercado y en la frontera de la investigación. Presiones geopolíticas. Y las viejas y más planas presiones del orgullo y la ambición. Sin importar como de sinceramente pretendamos hacer lo correcto (Y creo que muchos de nosotros queremos hacerlo) siempre estaremos influenciados por esos incentivos”

Una prueba de esto es como el Santo Padre hace una llamada para centros de datos más sostenibles mientras Anthropic ya ha prometido invertir 50 mil millones de dólares en nueva infraestructura. Por otro lado, Anthropic y el Santo Padre están de acuerdo en ser extremadamente cautelosos con el uso de la IA en la guerra. Esto se verifica por el hecho de que Anthropic rechazó colaborar con el gobierno de los Estados Unidos para crear armas autónomas. Aún así, aunque Anthropic no colabore, algún otro lo hará, lo que es un problema real.

Sobre las relaciones de Anthropic con la Santa Sede, estoy de acuerdo con Paolo Carozza, profesor de derecho en la universidad de Notre Dame ⁷. Él es aún escéptico pues el gran distintivo de Anthropic es que están “a favor de la seguridad” pero esto puede ser simplemente una estrategia de marketing para presentarse de esa manera.

Otro punto interesante es el Llamamiento de Roma a favor de la ética en la IA (Rome Call for AI Ethics) que empezó en 2020 bajo el pontificado del Papa Francisco y cuyo objetivo es conseguir que la IA cumpla una serie de principios. Empresas como Microsoft, IBM o Qualcomm firmaron dicho acuerdo pero Anthropic no lo ha hecho ⁸. Aún así esto no tiene ningún efecto legal o regulatorio vinculante.

Conclusión

En este artículo hemos destacado algunos de los peligros y cuestiones que nos brindan las nuevas tecnologías. Nuestro principal objetivo como humanos es seguir siendo humanos, no perder habilidades importantes como el pensamiento crítico o incluso algunas más mundanas. Debemos buscar un mundo donde la dignidad y la igualdad son el objetivo principal no un mundo donde miramos a los demás como simples medios de producción o herramientas basando su valor en base a lo que proveen.

Por tanto, estamos llamados a ser cuidadosos con la tecnología que usamos y especialmente entender cómo nos puede llevar a hacer el mal o a manipularnos. Esto, no significa convertirse en un ludita sino ser crítico y algo conocedor de las herramientas que usamos. Otro de nuestros grandes objetivos como humanos siempre ha sido y será la búsqueda de la verdad (que requiere de pensamiento crítico).

A parte de mirar a la tecnología desde un nivel general, que es un buen ejercicio para acercarnos a la verdad, cada uno debe de cuestionar calmadamente si estamos usando estas herramientas de manera correcta y cómo deberíamos de cambiar. Estadísticamente hablando, debemos cambiar, solo hace falta ver la media de cuántas horas usamos el teléfono al día en la población general. Intenta ser honesto contigo mismo y busca donde te estás equivocando. Piensa si realmente la IA te está ayudando o simplemente estás dejando de pensar

Una vez hayas mirado dentro, es el momento de cambiar, cambiar no es fácil y es un tema que da para otro artículo entero pero déjame darte una idea final. Si queremos hacer un mundo mejor debemos de empezar por nosotros mismos, cambiando nuestras costumbres porque las costumbres son lo que silenciosamente mueve al mundo. Solo piensa en como las costumbres han ido cambiando poco a poco a lo largo de los años. Cambia tus costumbres y lentamente verás como la gente a tu alrededor también cambia, tus hijos, tu esposa incluso tus amigos, esta es nuestra pequeña manera de cambiar el mundo.

Extra: Una nota sobre el término IA

El término IA es un término muy amplio. La IA es anterior a ChatGPT y tiene un significado mucho mayor. En general aquí hemos hablado de las IAs llamadas LLMs (Large Language Models) como sí que es ChatGPT dejando de lado el resto.

La IA también es el algoritmo que te calcula la ruta de un punto A a un punto B (Google Maps), un ordenador que juega al ajedrez, un clasificador de imágenes, etc. Merece la pena hacer esta distinción para ser precisos y no causar confusiones. Sin embargo, es cierto que la mayoría de medios usan el término IA sin tener esto en cuenta y por eso yo también lo he usado de manera genérica en este artículo.

Aviso: No se ha usado IA para escribir los contenidos de esta publicación, es totalmente original y mi opinión personal