¿Es la inteligencia artificial realmente un peligro?

¿Es la inteligencia artificial realmente un peligro?

Esta semana se ha desatado una gran polémica debido a las posturas enfrentadas de Elon Musk y Mark Zuckerberg sobre la Inteligencia Artificial. ¿Es para tanto?

«Ven conmigo si quieres vivir.» Famosa frase de Kyle Reese a Sarah Connor cuando intenta salvarla del imparable T-800 que va tras ella. Kyle viene de un futuro donde las máquinas tomaron conciencia y oprimieron a los humanos. Ellos están en guerra por el planeta. Humanos contra máquinas. Maquinas diseñadas con un propósito específico y con inteligencia suficiente como para tomar decisiones propias sin intervención humana.

Es el futuro que se imaginó James Cameron por los años 80’s cuando arrancaba la masificación de los sistemas inteligentes. Pero esta no es la única historia en la que las máquinas toman conciencia y entran en guerra con la humanidad. Luego en los 90’s apareció The Matrix, con una premisa muy similar, sin incluir los viajes en el tiempo. Pero el concepto es el mismo, el miedo es el mismo: Las maquinas podrían revelarse y podríamos pasar un mal rato.

Por aquellos días, la idea de que las máquinas tomaran conciencia se fue diluyendo con el pasar de los años. Al fin y al cabo, los algoritmos inteligentes no eran «tan inteligentes». Eran capaces de detectar ciertos patrones y de llegar a ciertas conclusiones si les dabas los datos adecuados, pero poco más.

Hoy en día las cosas son diferentes. Los sistemas inteligentes no solo se han vuelto más inteligentes, sino que además están en todas partes. Cada vez más dependemos de las máquinas para nuestra vida diaria y es una tendencia que no parece detenerse. Smarphones, SmartWatches, SmartHomes, hoy en día el estándar es que todo sea «Smart». Y realmente cuando te pones a mirar cómo ha evolucionado la inteligencia artificial, no podemos evitar sentir algunos escalofríos.

Aunque quizás estamos tan acostumbrado a ello que no lo notamos, cada día delegamos más sobre los sistemas inteligentes y menos sobre nosotros. Siri, Cortana, Alexa, son asistentes virtuales que si bien, algunos sentirán un poco tontos, la verdad es que, desde año 2013, han evolucionado mucho. Facebook y Google tienen algoritmos que se encargan de examinar las fotografías para identificar personas en ellas. Y esto solo son los usos básicos de esta tecnología. Hay muchas herramientas de toma de decisiones que usan inteligencia artificial para conocer el mejor momento para invertir en un negocio.

Quizás te interese:   Cada vez más cerca de la "verdadera" Inteligencia Artificial

¿Realmente pasaremos de Siri a Ultron?

Es cierto, la inteligencia artificial ha avanzado mucho en los últimos años. Más rápido de lo que veníamos acostumbrados. Pero ¿Esto significa que las máquinas tomarán conciencia en algún momento y tendremos problemas? En cuanto a esto, existen diferentes posturas. Y justamente esta semana, dos de las personas más influyentes en el mundo de la tecnología tuvieron un debate indirecto sobre el tema.

Elon Musk, CEO de Tesla comentaba en una Keynote el 15 de julio que la inteligencia artificial debería tener regulaciones. Con esto se refería a crear algún tipo de organismo gubernamental que «regulara» estas plataformas. Se refería a esto como una acción proactiva ante una situación potencialmente peligrosa en el futuro relacionadas con este tema.

Sigo haciendo sonar la alarma, pero hasta que las personas no vean robots por las calles matando gente, no sabrán cómo reaccionar porque es algo que parece demasiado etéreo. […] Creo que deberíamos estar realmente preocupados por la IA. […] La IA constituye un raro caso en el que creo que necesitamos ser proactivos en su regulación, en lugar de ser reactivos. Porque para el tiempo en que seamos reactivos en cuanto a la IA será demasiado tarde.

Elon Musk, CEO de Tesla y SpaceX

A Facebook no le gusta la opinión de Musk

Pero, aunque el hombre que hizo posible los vehículos autónomos a nivel comercial está preocupado por este tema, el CEO de Facebook parece que no está tan convencido de que la Inteligencia Artificial sea un peligro para la raza humana. Hasta tachó de irresponsable a Musk por el comentario. En un Live Broadcast desde su patio trasero, mientras hacía una barbacoa, compartió ciertas opiniones que discordaban con el discurso de Musk en la Keynote.

Tengo opiniones bastante fuertes sobre esto. Soy muy optimista. Soy una persona optimista en general. Creo que puedes construir cosas y el mundo mejorará. Con la Inteligencia Artificial especialmente, soy muy optimista, y creo que las personas que son negativas y tratan de fomentar estos escenarios apocalípticos… No lo entiendo. Es realmente negativo, y de alguna manera, realmente creo que es bastante irresponsable.

Mark Zuckerberg, CEO de Facebook

Live grilling in my backyard.

Posted by Mark Zuckerberg on domingo, 23 de julio de 2017

Pronto esta noticia hizo eco y alguien lo comentó por Twitter, a lo que Musk respondió con cierta diplomacia, pero bastante directo:

«He hablado con Mark acerca de esto. Su entendimiento sobre el tema es bastante limitado», contestó este.

Este «debate a destiempo» que llevan dos de las personas más influyentes en la tecnología no debería ser tomado a la ligera. Porque si bien es cierto que Zuckerberg tiene algo de razón en lo que dice, también lo tiene Musk.

¿Es un arma la Inteligencia Artificial? Es relativo, como diría Einstein

Hace un tiempo, los rusos mostraron al mundo F.E.D.O.R su propio terminator. Un robot humanoide que era capaz de disparar, conducir y realizar otras actividades humanas. Aunque esto está muy lejos del T-800 y quizás a eones de un T-1000, la verdad es que los robots asesinos son solo una cuestión de moral. La tecnología existe, la IA existe y juntarlos es menos complicado de lo que parece.

 

Es cierto que la IA ha abierto nuevas puertas en áreas donde se han conseguido hitos inimaginables. Muchos avances como los mismos vehículos autónomos de Tesla son derivados de la inteligencia artificial. Pero el tema no es la IA directamente sino como la usamos. «Un bisturí puede salvar o quitar una vida. Todo depende de las manos que lo usen»

Siempre que escucho a la gente diciendo que IA va a lastimar a la gente en el futuro, creo: Sí, la tecnología generalmente se puede usar siempre para bien o para mal, y hay que tener cuidado en cómo construirla, y hay que tener cuidado sobre que se construye y cómo va a ser utilizado. Pero las personas que están discutiendo por la ralentización del proceso de construcción de IA; me parece que realmente cuestionable. Tengo dificultades para meterme eso en mi cabeza. Si estás argumentando contra la IA, entonces estás argumentando en contra de los autos más seguros que no van a tener accidentes, y están argumentando en contra de ser capaces de diagnosticar mejor a las personas cuando están enfermas.

Mark Zuckerberg, CEO de Facebook

Pero quizás no sea ralentizar el desarrollo de lo que habla Musk. Es más bien crear regulaciones para que el T-800 se mantenga dentro de la saga de Terminator. Pues el uso de la IA en temas militares es algo inevitable. De hecho, se viene usando desde hace mucho, sin llegar a los robots asesinos. Y así es como Musk lo quiere mantener.

La Inteligencia Artificial dotada de imaginación. ¿Primer paso para Skynet?

Hace poco, los investigadores de DeepMind, la división de IA de Google, publicaron un post en su blog en donde abordan un nuevo enfoque para la IA. En él, especifican como dotando de «imaginación» a los sistemas inteligentes, pueden mejorar la eficiencia que estos tienen en la resolución de problemas.

La capacidad que tenemos los seres humanos de anticipar en nuestra cabeza los posibles resultados de una u otra decisión, nos permite planificar nuestros movimientos y ser más eficientes a medida que aprendemos de nuestros errores. ¿Te imaginas una máquina con esta habilidad? Pues eso es de lo que estamos hablando.

Los investigadores crearon agentes con un tipo de red neuronal especial que le permitía tomar cualquier información útil de las decisiones futuras del agente, pero ignoraba las que no eran relevantes. Lo llamaron «Codificador de Imaginación». Este, les dio la capacidad de interpretar sus simulaciones internas, adaptar las estrategias para ajustarse al problema y aprender distintas estrategias para construir un plan.

Los investigadores probaron estos nuevos agentes inteligentes con un par de juegos conocidos por muchos: Sokoban y Spaceship navigation. Para la prueba, los investigadores solo permitían intentar cada nivel una vez. Esto ocasionó que los sistemas se «imaginaran» varias acciones encadenadas y «formularan un plan» para enfrentarse al nivel en cuestión. En ambos juegos los agentes dotados del «Codificador de Imaginación» superaron con creces a los demás agentes inteligentes. Aprendieron con menos experimentación y pudieron lidiar efectivamente con las imperfecciones modelando el ambiente.

Quizás te interese:   El MIT otorga intuición a la IA. ¿El principio de Skynet?

¿Debería esto preocuparnos?

Dudo mucho que las máquinas se rebelen en el futuro cercano; pero sí que hay otras cosas de las que debemos preocuparnos. Aunque ambas opiniones parecen acertadas, la verdad es que es necesario establecer límites para el uso de la IA, sobre todo en el campo militar. Porque sí, la verdad es poco probable un escenario apocalíptico como el de The Matrix o similares. Pero sí que podemos tener máquinas asesinas que puedan acabar con todo un país en una guerra sin necesidad de ninguna baja militar.

La verdad es que Musk no es el único que tiene sus reservas ante este tema. Stephen Hawkins tampoco es fan de la IA. Pero finalmente, es posible que esta preocupación obedezca a otro tipo de IA.  Uno más general, que pueda encargarse de más de un problema a la vez, y no de las investigaciones existentes en los que se especializa una red neuronal para cumplir con tareas específicas.

Los avances conseguidos en varios campos gracias a la IA son enormes, sería una locura detener la investigación. Lo que si pienso es que debemos orientar nuestras investigaciones a mejorar y no a destruir.

¿Ustedes que piensan? ¿Están de acuerdo con Musk o con Zuckerberg?

Recuerden dejar sus comentarios, alimentan el debate y nos ayudan a mejorar.

Añadir Comentario

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.