¿Deberíamos dejarlas susurrar a nuestras espaldas?
Cuando un virus de computadora infectó las telecomunicaciones de todo el mundo, el presidente de Estados Unidos presionó al general Brewster para que usara el sistema computacional Skynet para contrarrestarlo. Después de poco, al tener acceso a la red, la superinteligencia artificial Skynet tomó control de toda clase de avanzados dispositivos militares, con lo que dominó el mundo. Este es el argumento de la serie de películas Terminator, donde un grupo de humanos protagoniza una desesperada lucha por su supervivencia contra el ejército de las máquinas.
A pesar de tratarse sólo de ficción (por ahora), no son pocos quienes piensan que debemos andarnos con cautela en lo que a la inteligencia artificial se refiere. Uno de lo más famosos exponentes de esta postura es Elon Musk, quien creó la empresa OpenAI para contribuir en el esfuerzo de hacer un uso responsable de la inteligencia artificial.
Sin caer en pensamientos catastrofistas, unos ingenieros de Facebook se llevaron un pequeño susto cuando observaron que un sistema de inteligencia artificial que fabricaron se estaba comunicando con un lenguaje creado por él mismo. Había renunciado a usar el inglés, por ser demasiado complicado e ineficiente. Los investigadores diseñaron la inteligencia artificial para realizar simulaciones de negociación, y opera bajo un sistema que privilegia la obtención de recompensas. Resulta que para la inteligencia artificial, no había recompensa alguna en el uso del inglés.
El peligro no es, por supuesto, que una superinteligencia artificial esté a punto de tomar posesión del arsenal nuclear Estados Unidos y Rusia, sino que los programadores no tienen manera real de saber qué es lo que la inteligencia artificial está diciendo. Esto, además, hace que programar sea un tanto más dificultoso. El consenso sobre lo que hay que hacer no es general. Hay quienes opinan lo contrario. Mark Wilson, de Fast Co. Design dijo que “Al mismo tiempo se siente algo poco de miras, ¿no crees? Si podemos hacer software que pueda hablar más eficientemente con otro software, ¿no deberíamos servirnos de ello? ¿No podría haber algún beneficio?”. ¿Tú qué piensas, deberíamos dejarlas susurrar a nuestras espaldas? Seguramente podrían surgir casos similares.
Suscríbete al newsletter aquí.