¿En manos de la IA?

 

He estado escuchando programas relacionados con la IA, y sinceramente…, miro con preocupación lo que puede llegar a pasar. Todo el mundo admira y venera la IA, pero sin embargo, no tienen en cuenta el sinfín de riesgos que conlleva semejante sistema. Hoy quiero hablaros de un escenario apocalíptico, extremista y seguramente, exagerado a día de hoy. Pero es que hace 20 años, se dibujaba un escenario como el que tenemos ahora a nivel tecnológico, y se pensaba lo mismo del que lo proponía. Al final, se trata de escuchar a los expertos, y ver que pintan escenarios posibles, donde hay muchas cosas que son preocupantes. Vamos al tema de la IA pero antes…, el usuario patrocinador solidario de la semana, Eddie Zuloaga, que con sus aportes económicos sin invertir un solo euro, consigue que la web siga fuerte. ¿Cómo? AQUÍ TE LO CUENTO. Forma parte de los colaboradores y haz que LaTeclaTec siga fuerte.

 

El peligro.

Pues seguramente, lo más representativo ante lo que puede llegar a pasar, es pensar en Terminator. Es exactamente el escenario al que nos enfrentamos. ¿Puede ser real? Pues lamentablemente si que lo puede ser, y como en otras muchas películas, podemos acabar viviendo una ficción muchos años después. Recordemos que en Star Wars, se pintaban planetas sorprendentes, que no existían, con dos lunas y cosas similares. Muchos años después, se descubrieron planetas así. Y es que el cine, en muchas ocasiones, se adelanta a cosas que acaban pasando. Y que la IA adquiera suficiente autonomía como para ser capaz de pensar de manera independiente y acabe ejecutando ordenes prohibidas por los humanos, como reproducirse, hacer daño o similar, es una posibilidad real.

Qué dicen los profesionales.

Pues los profesionales son cautos, y apuntan a que este tipo de escenario que planteamos, es posible. Y lo es porque no se sabe hasta donde puede llegar el potencial de la IA, y si no será capaz de pensar de manera autónoma y conseguir vías de escape que el ser humano no perciba y acabe siendo capaz de crear otras IA con protocolos diferentes que se salten las restricciones de los humanos. Es decir, el ser humano programa la IA de la manera que quiere, y en los protocolos pone que no pueden hacer daño a humanos, no pueden pensar por si mismas, no pueden hacer esto y lo otro. Pues bien, no se tiene certeza de hasta que punto esto es capaz de contenerse o si llegarán a saltarse esas directrices y es que de manera autónoma, o por la intervención de terceros (humanos maliciosos), se podría llegar a ir de madre.

 

¿Debemos preocuparnos?

Por supuesto. Sin llegar a alarmarnos, debemos estar preocupados. La IA es capaz de hacer procesos que nosotros tardaríamos años en un segundo. Es decir, es capaz de plantear escenarios y soluciones en cuestión de segundos cuando nosotros tardaríamos años en solucionarlo o no lo conseguiríamos siquiera. Por lo tanto, estamos ante un arma de doble filo. Si se le va dando cada vez más responsabilidad a la IA, y llegamos al punto donde sean capaces de administrar tareas importantes…, se puede dar un escenario peligroso. Por ejemplo, imaginemos un escenario donde nuestro país es capaz de producir riqueza y alimentos para 20 millones de personas, pero somos 40 millones. Ningún dirigente diría, vamos a matar a ancianos y enfermos para que no falte comida para el resto. Obviamente si eso pasara sería tildado de dictador, asesino y lo que haga falta (y con razón) y sería encarcelado o fusilado. Pero sin embargo, una IA, con recursos suficientes, control de puntos clave, podría hacerlo sin despeinarse porque no tiene sentimientos. Imaginar que controla el transporte de mercancías (aviones, barcos y trenes) y genera un colapso, corta redes eléctricas y de agua. Cierra fronteras y consigue aniquilar a la mitad de la población porque tal y como tiene en sus registros, la situación es insostenible. ¿Quién le dice algo a un sistema que está en todos lados? Pues eso es lo que hay que evitar, y es lo que no se sabe si seremos capaces de hacerlo.

¿Controlados por la IA?

Sinceramente…, con el escenario actual que tenemos, no vería con malos ojos que todo el mundo, estuviera controlado por una IA. Siempre y cuando, tenga en su base de datos, una orden clara de no atentar contra vidas humanas, ni provocar la destrucción del planeta, entre otros parámetros más que sean lógicos. Pero quitando eso…, ¿porque no nos iría mejor con una IA al mando? Ha quedado más que claro que con los gobiernos de turno es imposible conseguir grandes cosas. Están en una gran parte, manchados por la corrupción y los intereses personales. Una IA gestionando puntos clave de nuestros países, supondría una transparencia y un rigor que nunca conseguirán los humanos. Sería peligroso, por supuesto, pero… ¿no es más peligroso pagarle un sueldo vitalicio a un presidente (no personalizo en ninguno) para que gestione mal el país y nos robe o mienta indiscriminadamente?

 

Conclusión

Me gusta la IA siempre y cuando se use para tareas concretas. Pero desde el momento que es vulnerable a ser manipulada y de ser capaz de ejecutar ordenes más complejas y a las cuales no estaba destinada…, pudiendo ser autosuficiente…, me preocupa. Por ejemplo. Cámaras de seguridad que usan la IA para determinar posibles peligros y transferir al mando, un informe sobre posibles sospechosos o actividades extrañas. Quien nos dice que esa misma IA no es modificada para enviar informes a un ajeno, que a su vez esté programada por otra IA que tenga planes de ataque y atente contra personas. Ese tipo de escenarios es posible, y ante eso… poco podemos hacer. Estamos muy lejos de ver Terminator en la vida real, pero es un escenario que con lo que tenemos hoy en día, es posible y es preocupante. Esperemos que se quede en preocupación y nunca llegue a ser una realidad.

 

Colaborar es fácil, gratis, ¡y tiene premio!

Servicios como Audible o Amazon Music.  nos generan grandes aportes que invertimos SIEMPRE en la web. Colabora, avísanos y te apuntamos en la lista para conseguir premios. Aquí te lo contamos todo. Las suscripciones se pueden cancelar en el momento que quieras y si necesitas asesoramiento no dudes en contactar conmigo en TELEGRAM o mediante cualquier otra vía.

 

¿Ganas de más?

Suscríbete a nuestro Twitter o canal de Telegram para recibir la mejor actualidad tecnológica.
* Escucha nuestros Podcast y vive la tecnología de otra manera.
* ¿Reseñas o comentarios? Por correo electrónico, en Comentarios Telegram o contacta conmigo directamente Telegram.
Siguenos en Feedly
Escuchanos en Google Podcasts
Escuchanos en Apple Podcasts
Escuchanos en Spotify Podcasts

chevron_left
chevron_right
Cookie Consent Banner by Real Cookie Banner