Según informa la publicación This Week in Security, la empresa Meta ha enviado notificaciones a los usuarios afectados, pero este incidente revela vulnerabilidades más amplias en el campo de la inteligencia artificial.

Parece que las herramientas de soporte de cuentas de Meta basadas en inteligencia artificial necesitan una mejora sustancial antes de que puedan reemplazar a los empleados humanos.

Actualmente, Meta está notificando a los usuarios de Instagram afectados por una reciente vulnerabilidad en su sistema de inteligencia artificial. Como resultado del hackeo, los atacantes obtuvieron el control de muchas cuentas de Instagram engañando a la herramienta de inteligencia artificial de la empresa para que les concediera acceso.

En situaciones como esta, es importante que los usuarios presten atención a tiempo a los signos de actividad sospechosa. Puedes leer más sobre esto en el artículo: Cómo saber si están intentando hackear tu Instagram

También ha surgido información adicional sobre la magnitud de las consecuencias: la publicación This Week in Security informó que Meta envió notificaciones a 20,225 usuarios de Instagram cuyas cuentas fueron el objetivo de esta vulnerabilidad.

La magnitud en sí misma es preocupante, pero un problema aún mayor es cómo se explotó esta vulnerabilidad y lo que eso podría significar para las medidas de seguridad de Meta en el futuro.

La vulnerabilidad en sí resultó sorprendentemente simple. Los hackers pidieron al bot de soporte de Meta basado en inteligencia artificial que les concediera acceso a las cuentas de otros usuarios, solicitando que los códigos de confirmación se enviaran a las direcciones de correo electrónico de los hackers.

Si un usuario recibe inesperadamente dichos mensajes o códigos de acceso, vale la pena entender a qué se debe esto: Por qué llega un código de confirmación de cuenta de Instagram?

Como se muestra en este ejemplo publicado en X por el usuario @oracles, los hackers lograron que el chatbot enviara códigos de acceso simplemente pidiéndoselo, con el bot ofreciendo prácticamente ninguna resistencia.

Esta es una vulnerabilidad de seguridad básica, y Meta dijo que ya la ha solucionado. Sin embargo, un problema más grave es que cualquier moderador humano habría evitado esto en una etapa temprana. Meta está reduciendo actualmente su fuerza laboral en favor de los sistemas de inteligencia artificial que, según la empresa, pueden realizar estas funciones tan bien como los humanos.

Como resultado de los cambios anunciados en la primera mitad del año, Meta ya ha recortado más del 20% de su personal. Este movimiento parece confirmar las repetidas declaraciones del CEO Mark Zuckerberg de que las herramientas de inteligencia artificial de Meta eventualmente podrán reemplazar muchos puestos, incluidos la moderación de contenido y el soporte de cuentas.

Los usuarios que sospechen de acceso no autorizado a su perfil deberían verificar periódicamente la seguridad de su cuenta: Cómo comprobar quién ha accedido a tu cuenta de Instagram

Meta está invirtiendo cientos de miles de millones de dólares – quizás más de 1 billón de dólares – en el desarrollo de IA. Como resultado, la empresa está bajo una presión cada vez mayor por parte de los inversores para que demuestre el valor de estas herramientas y el posible retorno de la inversión.

Sin embargo, este caso revela un defecto grave en las herramientas de IA que va más allá de la vulnerabilidad obvia utilizada en el hackeo de Instagram. Además, el enfoque conversacional de los comandos dados por los bots de IA inevitablemente los hará vulnerables a muchos ataques similares.

Esto se debe a que el proceso de solicitud no es binario. Las herramientas de IA conversacional pueden ser instruidas para realizar una tarea de un número infinito de maneras, lo que significa que bloquear el posible abuso es un proceso igualmente infinito.

Por ejemplo, Meta podría cerrar la brecha en su sistema configurando el chatbot para que no procese solicitudes de acceso a cuentas sin la verificación de identidad necesaria. Pero los atacantes están constantemente buscando nuevas formas de eludir dichas restricciones.

Cuando surgen problemas con el acceso a la cuenta, muchos usuarios recurren al servicio de soporte de la plataforma. Estas guías pueden ser útiles: Cómo escribir al soporte de Instagram y Cómo obtener una respuesta del soporte de Instagram

Dado que hay muchas maneras de hacer una pregunta a un chatbot de IA, Meta necesita considerar todas las posibles formas de uso indebido y formulaciones. Esto es prácticamente imposible y puede significar que las herramientas de IA de Meta representan un riesgo significativo para cualquier uso que implique acceso a información confidencial.

Esto probablemente se aplica a muchos casos de uso comercial de la IA. Si Meta no puede garantizar la seguridad de sus sistemas a los socios, las perspectivas de una mayor implementación de tales soluciones se verán significativamente limitadas.

Además, los usuarios deben prestar mucha atención a las notificaciones de seguridad de la plataforma. Puedes obtener más información sobre esto aquí: Alguien está intentando iniciar sesión en tu Instagram: notificaciones y seguridad

Esto, a su vez, limitará la capacidad de Meta para recuperar alguna vez sus inversiones en IA. Además, podría descarrilar todo el programa de desarrollo de IA, al menos hasta que se produzcan mejoras significativas en esta área.

Por lo tanto, este es un ejemplo importante de la aplicación de Meta y una clara demostración del potencial (o la falta del mismo) de sus sistemas de inteligencia artificial en evolución.

Vale la pena señalar por separado que los problemas de seguridad de las cuentas se están volviendo cada vez más relevantes en medio de los cambios en las políticas de acceso y autorización de las redes sociales. Una razón para un mayor control es el deseo de las plataformas de limitar la visualización no autorizada de contenido sin iniciar sesión: Por qué Instagram no permite ver sin iniciar sesión

Si aún necesita contactar al soporte, es útil saber de antemano Cuánto tarda el soporte de Instagram en responder, ya que los tiempos de respuesta pueden variar según la complejidad del problema.