Descubriendo la inventiva de la Inteligencia Artificial

El filósofo francés Voltaire dijo que se debe juzgar a una persona por las preguntas que hace en lugar de las respuestas que da. Se puede entender que estas son palabras inteligentes si nos referimos a las personas, pero en cuanto a la inteligencia artificial la situación se simplifica todavía más ya que las máquinas no necesitan saber cuál es la pregunta inicial para dar una respuesta adecuada.

La inteligencia artificial utiliza el concepto de la agrupación: someter un gran volumen de datos al algoritmo adecuado resultará en agrupaciones de puntos de datos similares. Estos conglomerados pueden depender de muchas características diferentes; no sólo de un par de factores como el salario y la propensión a comprar un determinado producto, sino, en algunos casos, dependerán de muchos cientos de características diferentes. La IA proporciona un músculo matemático que va más allá de la capacidad de un cerebro humano para encontrar estos grupos de datos.

Pero estos grupos no deberían estar basados en ninguna idea o pregunta predeterminada. El mundillo de la IA esto se conoce como “aprendizaje no supervisado”. El algoritmo sólo tratará la información como un conjunto de números para procesar, sin importar si se trata de datos sobre coches, casas, animales o personas. Esta asociación grupal, puede considerarse como una fortaleza, aunque también puede ser un punto débil.

Para las soluciones de agrupamiento de datos, el algoritmo podría detectar patrones en los datos que se correlacionan entre sí pero que no son causales. Veamos un ejemplo, un sistema de IA que encuentra una correlación entre el color de los ojos y la propensión a comprar yogur, se necesitaría una persona para darse cuenta de que es muy improbable que sea una correlación con sentido, pero la máquina sería ingenua para sobreentender este tipo de situaciones.

La inteligencia artificial puede encontrar patrones que no se alinean con las normas o expectativas sociales, que pueden centrarse en factores como la raza y el género. Ya se ha escrito mucho sobre los desafíos de las tendencias y prejuicios (comentados en artículos anteriores en nuestro blog), pero en este caso existe una incómoda correlación de datos puramente objetivos a los que el algoritmo está expuesto. El reto para los responsables de ese algoritmo es deducir si se trata de una coincidencia o si realmente hay una causalidad a la que hay que hacer frente. La manera de gestionar este aspecto es juzgando caso a caso, con una gran sensibilidad.

Un ejemplo relevante sería el tweetbot de Microsoft (una cuenta automatizada de twitter) que se convirtió en un racista amante de la pornografía. La intención original era que Tay, como llamaban al bot, se comportara como un “adolescente despreocupado” aprendiendo a actuar a través de interacciones con otros usuarios de Twitter. Pero rápidamente se volvió repugnante, ya que las personas le dieron líneas racistas y pornográficas de las que luego aprendió, y las repitió a otros usuarios. Tay, un ser inocente en cuanto a inteligencia artificial simplemente asumió que este era un comportamiento “habitual”. Sólo se necesitaron unas horas de interacción antes de que Microsoft se viera obligado a retirar el vergonzoso tweetbot de la red.

Una forma de pensar en la sencillez de la IA es pensar cómo aprenden los perros. A todos los perros les encanta salir a pasear, y los dueños generalmente lo saben porque el perro se excita cuando se acerca el momento de dar un paseo. Algunos ejemplos que hacen pensar que ese momento se acerca, por ejemplo, cerrar la puerta trasera y ponerse los zapatos para caminar. El perro no tiene ni idea de lo que son los conceptos de “cerrar la puerta trasera” o “ponerse los zapatos para caminar”, pero sí sabe que cuando estos dos eventos ocurren en estrecha sucesión, hay una alta probabilidad de que salgan a caminar. En otras palabras, el perro no conoce lo que significan los eventos precedentes – son sólo datos que apuntan a ello – pero pueden extrapolarse en preceder a un resultado probable.

Esta analogía de relacionar el perro con la inteligencia artificial puede ser útil y se puede hacer otra extrapolación: algunos perros pueden ser bastante perezosos, por consiguiente, si ven que el dueño cierra con llave la puerta trasera, pero se pone zapatillas para correr, el perro podría esconderse para asegurar que no se cuenta con él para una paseo agotador. En este escenario, el perro está usando una mayor precisión para determinar el resultado esta vez, no son sólo “zapatos” sino “tipo de zapatos”. Por supuesto, el perro no sabe que las zapatillas de correr están especialmente diseñadas para correr, sólo que son lo suficientemente diferentes de las zapatillas para caminar. Puede ser el diferente color o tono, un olor diferente, el diferente lugar donde se guardan, etc. Esto demuestra el problema de la IA: nadie tiene una idea clara y concisa (a menos que se hagan pruebas controladas al detalle) por ejemplo, qué aspecto han de tener las zapatillas deportivas para que el resultado pase de “Excelente, voy a caminar” cambie a “Escóndete, va a correr”.

Por cierto, esta analogía de combinar la manera de pensar de un perro con la inteligencia artificial, tiene sus limitaciones: los perros tienen muchas otras habilidades cognitivas básicas, como saber cuándo es la hora de su cena sin poder decir la hora, pero como los perros están actualmente muy especializados en sus capacidades, descubrir sobre inteligencia artificial que predijera los paseos no sería capaz de predecir la hora de la cena (esto es parte del debate entre “la IA específica” y la “IA genérica”).

En definitiva, la ingenuidad de los sistemas de inteligencia artificial pueden ser un verdadero dolor de cabeza para sus usuarios. Es necesario medir con precaución los resultados de la agrupación realizada para sacarle el máximo partido. Los especialistas en dato y los desarrolladores de la IA han de ser conscientes de las consecuencias de sus propias creaciones y deben aplicar sentido común a los resultados para asegurarse de que tienen significado dentro del contexto en el que se realizan estos estudios.

Tags: #DigitalProcesses, Ai, Artificial intelligence, Future of Work