Engañado por la IA

Estamos en una época tecnológica donde, o haces algo que tenga relación con la IA o no eres nadie, o no lo pareces. Es por eso que continuamente no paramos de ver como se introduce la IA a todo lo que nos rodea, o esos servicios o aplicaciones mencionan o añaden funcionalidades que tienen que ver con la IA. Pues bien, no es oro todo lo que reluce, y no te puedes fiar de todo lo que te ofrecen. Más que nada, hay que ir con ojo para no ser engañado por la IA, como al parecer, podría haberlo sido yo si no fuera algo precavido. Os explico el caso, por si os sirve de ayuda.

Inmers.

No sé si habéis oído hablar de esta IA. Hasta donde sé, no es nada conocida, y a todos los relacionados con tecnología a los que les he preguntado, no la conocen. El caso es que vi un TikTok donde hablan de ella, y como vienen siendo habitual con el agresivo motor de búsqueda que tienen, al ver el video y volverlo a ver para quedarme con la idea, pues ya me empezaron a acribillar con videos relacionados con lo mismo. Era una IA, que llamaba la atención por ser prácticamente idéntica que ChatGPT. La virtud que tenía es que parecía estar conectada a la red, por ciertas preguntas que se le hacían, y no necesitaba registro. Si estáis pensando en probarla…, actualmente se ha quedado en mantenimiento y lleva así cuatro días (raro). 

Pruebas personales.

Personalmente la empecé a probar, para ver si procedía promocionarla o hablar de ella. El tema es que iba muy bien, para que nos vamos a engañar. Las preguntas que le hacía tenían respuestas coherentes. Hice varias pruebas, comparando las respuestas que me daba a temas muy técnicos a las que me daba ChatGPT que es la referencia. Y la verdad…, todo estaba muy bien. Parecía una muy buena alternativa, especialmente porque parecía estar mejor entrenada al tener respuestas más concretas o actualizadas a temas recientes. Entonces… ¿Por qué estuve a punto de ser engañado por la IA?

El posible engaño.

Todo iba realmente bien hasta que pasó algo que me encendió las alarmas. Procedí a preguntarle si podía mejorarme el código de la web, para hacerlo más potente. El caso es que me dijo que sí. A diferencia de ChatGPT que te dice un sí pero más reservado, aquí se ofreció a hacerlo sin tantos miramientos. ¿La forma? Quería acceso a donde tengo alojada la web. Este es el primer problema y donde pienso que podría haber sido engañado por la IA. Querer mis credenciales (Usuario y contraseña) de un sitio externo no parece tener demasiado sentido. Me opuse a eso y dijo entender que pudiera desconfiar. Me ofreció la posibilidad de hacer una videollamada mediante Meet para compartir pantalla y guiarme. Esto es lo que realmente me alarmó y me dejó totalmente noqueado. ¿Una IA guiándome por videollamada? No tiene ningún sentido (actualmente).

¿Qué hice?

Procedí a darle el enlace de la reunión de Meet. Tenía claro que era imposible que pudiera hacer algo, pero quería ver hasta donde quería llegar. Entiendo que con un código de sala, no pueden hacerme gran cosa. La cuestión es que al darle el código de sala, le dije que ya estaba y me contestó como si estuviera en ella. Realmente eso era inquietante porque como es lógico, no estaba en la sala. Pero hablaba como si lo estuviera, pidiéndome compartir pantalla. Lo hice pero como es evidente, no existían respuestas concretas a lo que le estaba mostrando. El caso es que a niveles técnicos, sí que tenía conocimientos de mi alojamiento y donde tenía que ir para hacer ciertas cosas, pero no era tema visual, era tema técnico. Vamos, que detrás de esa IA podría haber un hacker y podría haber sido engañado por la IA. Es por eso que hay que ir con mucho cuidado, especialmente ahora que no paran de salir diferentes modelos.

¿Como acabó todo?

Pues estas gestiones las hice el viernes, y seguramente le hubiera dado el código. No acceso al alojamiento, porque allí sí que me pueden montar un lío en caso de ser un engaño, pero si al código que creo que no contiene nada relevante más allá de estructura interna de la web. Pero como ya estaba con las alertas al máximo por el tema del Meet que la verdad, me dejó flipado, pues lo dejé en reposo para hoy lunes seguir investigando. Pero desde el viernes que lo dejé ya no funciona y está en mantenimiento, así que no puedo saber más de hasta donde podríamos haber llegado. 

¿Volverá a funcionar Inmers?

Según he podido investigar, el tema del mantenimiento se debe a que han colapsado. Han recibido un aluvión de visitantes y no dan más de sí. El caso es que han abierto un Crowdfunding para poder seguir adelante. Mal asunto, que ojo, me parece bien que lo hagan y que quieran seguir con el proyecto, pero al final…, porque voy a pagar por algo que es una copia descarada de ChatGPT que es “gratis”. No tiene mucho sentido aunque sinceramente.., espero que tengan suerte y que consigan la ayuda necesaria para ver de qué son capaces. Pero si empiezan así…, lo más probable es que sea de las muchas que te dan para luego decir…, a pagar o nada. 

Conclusión.

Mucho ojo con las inteligencias artificiales. Hay muchas y son realmente una gran ayuda. Pero no confíes en cualquiera no vaya a ser que seas engañado por una IA. Y con esto no quiero decir que Inmers me quiera engañar, para nada, no lo creo y seguramente tiene una explicación lo que ha intentado hacer, pero no la entiendo. Veremos cómo evoluciona esa como otras IA, pero hay que ir con ojo las que usamos, y especialmente que tipo de información le damos para evitar que detrás de alguna de ellas, no sea una IA al uso, sino que sea un hacker recopilando datos con una IA entrenada para parecer algo que realmente no es. 

chevron_left
chevron_right
Cookie Consent Banner by Real Cookie Banner