Las gafas inteligentes de Meta son una visión aterradora del futuro

Dos estudiantes universitarios han utilizado las gafas inteligentes de Meta para crear una herramienta que identifica rápidamente a cualquier desconocido y muestra información sensible, incluyendo dirección y datos de contacto, según un video publicado en Instagram. Aunque los creadores afirman que no tienen planes de liberar el código, la demostración nos ofrece un vistazo al futuro muy probable de la humanidad, un futuro que antes solo veíamos en películas distópicas de ciencia ficción.

AnhPhu Nguyen y Caine Ardayfio, estudiantes de ciencias de la computación en Harvard, suelen publicar experimentos tecnológicos en redes sociales, como imágenes impresas en 3D y lanzallamas portátiles. Sin embargo, su último experimento, detectado por 404 Media, es probablemente el que hará que muchas personas se sientan incómodas.

En el video de Instagram, Nguyen explica cómo crearon un programa que toma la información visual de las gafas inteligentes Meta Ray Ban y la introduce en herramientas de reconocimiento facial como Pimeyes, que han rastreado toda la web para identificar dónde aparece el rostro de una persona. A partir de ahí, un modelo de lenguaje grande infiere el nombre probable y otros detalles sobre esa persona. Luego, ese nombre se introduce en varios sitios web que pueden revelar dirección, número de teléfono, ocupación e incluso los nombres de familiares.

¿Cómo funcionan?

“Para usarlo, simplemente te pones las gafas, y mientras caminas, las gafas detectan el rostro de las personas en el cuadro. Esta foto se usa para analizarlos y, después de unos segundos, su información personal aparece en tu teléfono”, explica Nguyen en el video.

Nguyen y Ardayfio llaman a su proyecto I-XRAY, y es sorprendente la cantidad de información que logran obtener en tan poco tiempo. Señalan que muchas de estas herramientas solo han estado disponibles en los últimos años. Por ejemplo, las gafas inteligentes de Meta con cámara fueron lanzadas el año pasado. Y el tipo de extracción de datos con LLM que están logrando solo ha sido posible en los últimos dos años. Incluso la capacidad de buscar números parciales de la seguridad social solo ha sido posible a nivel de consumidor desde 2023.

“El sistema aprovecha la capacidad de los LLM para comprender, procesar y compilar grandes cantidades de información de diversas fuentes—inferir relaciones entre fuentes en línea, como vincular un nombre de un artículo a otro, y analizar lógicamente la identidad y detalles personales de una persona a través del texto”, dicen los creadores en un documento publicado en Google Drive. “Esta sinergia entre LLM y búsqueda inversa de rostros permite una extracción de datos automática y exhaustiva que antes no era posible con métodos tradicionales”.

La historia de la creación

Los creadores enumeran las herramientas que utilizaron, señalando que cualquiera puede solicitar que esos servicios eliminen su información. Para la búsqueda inversa de rostros, están Pimeyes y Facecheck ID. Para motores de búsqueda de información personal, están FastPeopleSearch, CheckThem, e Instant Checkmate. En cuanto a la información del número de seguridad social, no hay forma de eliminar esos datos, por lo que los estudiantes recomiendan congelar el crédito.

“Si bien originalmente comenzó como un proyecto paralelo, Caine y yo creemos que a largo plazo es positivo para la humanidad que I-XRAY haya sido lanzado”, dijo Nguyen a Gizmodo. “Preferimos que no solo unos pocos conozcan estas herramientas, como fastPeopleSearch o Pimeyes, que probablemente sean actores maliciosos que buscan estas herramientas más de lo que lo hacen las víctimas”.

Ardayfio también se mostró optimista y afirmó que es mejor que la gente esté al tanto de estas capacidades en lugar de ignorarlas. “Creo que el contenido como el video que hicimos es bueno para la humanidad”, dijo Ardayfio. “Gracias a este video, millones de personas han visto el potencial de la búsqueda inversa de imágenes y los LLM de una manera relativamente inofensiva. Pero lo más importante es que ahora saben cómo tomar el control de sus datos contra personas con malas intenciones. Los actores maliciosos siempre han podido hacer búsquedas inversas de imágenes, usar LLM, rastrear sitios web, etc., pero nosotros estamos exponiendo lo que estas personas pueden hacer y cómo protegerte”.

“Creo que tener medidas de seguridad, como permitir que las personas eliminen su información pública de grandes bases de datos, es fundamental para hacer que la nueva tecnología sea segura”, continuó Ardayfio.

Meta no respondió de inmediato a las preguntas de Gizmodo el miércoles. Actualizaremos esta publicación si recibimos respuesta. Mientras tanto, debemos prepararnos para que esta tecnología se expanda, ya que parece inevitable, especialmente si las nuevas gafas inteligentes que Mark Zuckerberg ama tanto se vuelven convencionales.

Puede que tarde en que las mayores empresas tecnológicas lo respalden, pero así como vimos a OpenAI iniciar la IA generativa orientada al consumidor, cualquier pequeña empresa emergente podría hacer que esto suceda, impulsando a otras grandes compañías a comenzar este futuro. Crucemos los dedos y esperemos lo mejor, dadas las implicaciones para la privacidad. Realmente parece que nadie tendrá anonimato en público una vez que esto comience.

Este artículo ha sido traducido de Gizmodo US por Lucas H.