La nueva inteligencia artificial sabe cómo nos llamamos viendo una foto nuestra

La tecnología tiene el poder de cambiar nuestra vida, y la inteligencia artificial (IA) nos ofrecen muchas ventajas que hace apenas unos años hubiéramos considerado imposibles.

Sin embargo, no todos sus usos son populares. Las sofisticadas técnicas de reconocimiento facial que usan IA para recopilar miles de millones de fotografías de internet se convertirán en una potente arma de vigilancia para las autoridades.

Compañías como Clearwiew AI han levantado ampollas por el uso de estos métodos, que podrían provocar problemas en un futuro.

¿En qué consiste este software?

Los sistemas de identificación con fotografía son algo que existe y se ha usado desde hace décadas. Tradicionalmente, los pasaportes u otros documentos de identidad pueden usarse para cruzar una frontera o entrar en una discoteca. También se usan en internet, como por ejemplo en los sitios web dedicados al juego que requieren una prueba de edad, como los casinos en línea. Sin embargo, estos sitios requieren datos adicionales para cotejarlos, como el nombre y el lugar y la fecha de nacimiento.

Este nuevo software no necesita tanta información. Cuando tiene la fotografía de una persona, usa unas sofisticadas técnicas de rastreo e indexación para localizar otras imágenes de la misma persona, que por lo general ya incluyen ciertos datos.

Tomemos, por ejemplo, la foto de perfil de Facebook. Junto a ella, encontraremos un nombre o alias. Además, si el perfil es público, basta con hacer clic en el apartado «Información» para ver datos personales como la fecha de nacimiento, el lugar de residencia o el estado civil. El software de rastreo puede escanear miles de millones de imágenes como esta sin necesidad de intervención humana, por lo que, si no es en redes sociales, será en cualquier otro sitio web en el que se compartan fotografías.

A pesar de su potencia, la herramienta es muy fácil de usar, ya que se presenta en forma de aplicación para las autoridades que quieran usarla. Aunque esta tecnología puede facilitar enormemente la identificación de sospechosos criminales a las fuerzas y cuerpos de seguridad del estado, conlleva también ciertas preocupaciones.

Peligros de la nueva tecnología

La preocupación principal de la tecnología de Clearwiew AI es evidente: la privacidad. Refleja un debate habitual sobre qué derechos tienen los ciudadanos en la era de los teléfonos inteligentes: ¿deberían empresas tecnológicas como Clearwiew AI tener potestad para buscar entre nuestras fotografías personales aunque sean de dominio público?

Según la Unión Estadounidense por las Libertades Civiles (ACLU), no. Esta organización presentó una demanda contra Clearview AI el año pasado en la que acusaba a la empresa de violar la privacidad personal.

Otro motivo de preocupación es la precisión de la tecnología. Está bien buscar criminales, pero ¿qué pasa si se involucra a un inocente en una investigación? Puede que los casos de confusión de identidad no sean habituales, pero cuando se producen pueden tener consecuencias muy negativas para la persona afectada. El caso reciente de un sintecho hawaiano que fue encerrado por error en un centro psiquiátrico durante tres años es un claro ejemplo, y se teme que el mal uso de esta tecnología pueda poner en peligro la seguridad en línea.

Por otro lado, la IA crece a unos niveles tan rápidos que algunas de sus funciones no se han podido desarrollar del todo. Nos referimos, por ejemplo, a las herramientas para arreglar imágenes borrosas y eliminar la mascarilla. En el primer caso, la IA es capaz de tomar una fotografía borrosa y convertirla en una imagen nítida en función de cómo considera que debería ser. En el segundo caso, es capaz de recrear el aspecto de una persona por debajo de la mascarilla. Ambas herramientas han recibido críticas porque usan sistemas de aproximación, es decir, emplean patrones estadísticos de otras imágenes para determinar cómo debería ser una imagen determinada.

Aunque el margen de error es cada vez menor, un pequeño error podría llevar a condenar a la persona equivocada.

El control de los gobiernos

Clearview AI afirma que su objetivo es que su programa sea usado únicamente por gobiernos y policías, y que no tiene intención de que acabe en manos privadas que puedan darle un uso abusivo.

Cientos de departamentos de policía de los Estados Unidos y hasta once agencias federales de inmigración y aduanas han probado ya la tecnología.

Ahora bien, que las autoridades la usen de forma responsable y eviten abusos es una cuestión que puede depender de las redes sociales. Facebook y Twitter ya han solicitado a Clearview AI que no busque imágenes en sus plataformas. Si consiguen su objetivo, al programa le resultará mucho más complicado obtener buenos resultados, ya que las redes sociales contienen una proporción de imágenes públicas muy grande.

Sin embargo, más que solicitar, algunos expertos consideran que las redes sociales lo que deberían hacer es actuar para proteger a los usuarios, ya que disponen de herramientas con IA capaces de modificar imágenes para que los algoritmos de Clearview AI no puedan detectarlas y sistemas para eliminar aquellos metadatos de las imágenes que muestran el lugar y la hora en qué se tomaron.

Esto protegería la privacidad personal y limitaría el poder de empresas como Clearview AI, por muy convincente que resulte el argumento de usar la tecnología para encontrar criminales.

El desafío de Clearview AI

A pesar de su mala prensa, la tecnología tiene sus partidarios, que afirman que ayuda a resolver y evitar delitos, tal como demuestra la búsqueda de los responsables del asalto al Capitolio y otros casos de abusos infantiles.

El desafío, como ocurre siempre con la tecnología, radicará en saber utilizar sus características para hacer el bien, sin que acabe convirtiéndose en una herramienta siniestra para inmiscuirse en la vida de personas inocentes.