Según el imaginario público, a medida que nos dirigimos hacia el futuro a velocidad de vértigo, la tecnología gestiona y «optimiza» cada vez más nuestras vidas. Ya los anuncios nos siguen en las redes sociales, los sistemas de recomendación nos ofrecen productos que podríamos querer y necesitar, los vídeos deep fake transforman el discurso político y las aplicaciones de citas facilitan el establecimiento de conexiones, sobre todo en los desesperados y solitarios momentos de encierro. Pero, ¿qué pasaría si tuviéramos a nuestra disposición una tecnología que nos permitiera «optimizar» la búsqueda y encontrar el amor verdadero sin tanto ensayo y error? La nueva serie dramática de ciencia ficción de Netflix, The One, nos presenta un futuro cercano sacudido por una nueva tecnología que promete encontrar a cada persona su pareja, pero emparejar a la gente con «el elegido» no es tan sencillo como dicen.
The One es tendencia en el Top 10 de Netflix este mes. La protagonista es Rebecca Webb (protagonizada por Hannah Ware), directora general de The One, una empresa de tecnología/genética que promete «emparejar» a las personas con su alma gemela perfecta con una simple prueba de ADN. Ella y su co-investigador diseñaron un servicio que parece funcionar exactamente como se anuncia y promete, midiendo los datos genéticos que se encuentran en los cromosomas (desafortunadamente no sabemos del todo cómo – los detalles nerds se ahorran al público en general, excepto dos menciones muy breves) para encontrar la pareja ideal de una persona. El servicio funciona tan bien que cuando las almas gemelas potenciales coinciden, les resulta difícil resistirse la una a la otra. Esto, por otro lado, da lugar a divorcios, dramas familiares y otras turbulencias. Pero lo que importa es que la tecnología funciona. The One describe la increíble determinación de las personas y un impulso un tanto inexplicable por utilizar la tecnología para mejorar sus vidas sin importar el coste. Este impulso lleva a muchos de ellos a engañar y perjudicar a otros por la promesa de un mundo mucho más sencillo (¿mejor?) gracias a la tecnología omnipresente.
Obviamente, The One no es la primera película de este tipo. De hecho, nos han bombardeado con varias producciones de Hollywood y series de televisión diciéndonos lo mismo: la tecnología acabará imponiéndose. Pensemos en las aclamadas Black Mirror, Ex Machina o Westworld. Y cuando trasladamos estas visiones a nuestra vida cotidiana, la pregunta definitiva que importa es: ¿estamos de acuerdo en conformarnos con la toma de decisiones algorítmicas en la mayoría de los ámbitos de nuestra vida?
Pero no me malinterpreten. No me cabe duda de que los sistemas algorítmicos pueden apoyar la toma de decisiones humanas en diversos ámbitos de nuestra vida. Entiendo que los diagnósticos médicos pueden realizarse, al menos en parte, de forma muy eficaz mediante robustos sistemas de procesamiento de imágenes y puedo encontrar fácilmente aplicaciones de algoritmos de aprendizaje automático, tanto supervisados como no supervisados, en la previsión meteorológica, la logística, la agricultura y muchos otros sectores. Pero como experto en IA que despliega el aprendizaje automático como método científico para resolver diversos problemas a diario, en general no estoy de acuerdo con la toma de decisiones mediante algoritmos en la mayoría de los demás ámbitos, sobre todo los sensibles.
Tomemos el ejemplo de las citas. En la actualidad hay una gran variedad de aplicaciones que facilitan las citas y los encuentros. Algunas se basan en la aleatoriedad, otras principalmente en la geolocalización y otras aplican filtros basados en la edad, el sexo, las aficiones y otras preferencias para mejorar la oportunidad de emparejamiento. La mayoría de estos servicios de citas aplican algoritmos bastante avanzados que suelen estar protegidos por la IP. Y muchos de ellos se beneficiaron enormemente de los tiempos de pandemia. Tinder se expandió con audacia introduciendo nuevas funciones, como la «comprobación de antecedentes» o el regalo de viajes en Lyft a las citas. Es más, al parecer hay múltiples sitios web de citas que dicen utilizar la genética para emparejar a las personas con posibles parejas románticas. Algunos ejemplos son DNA Romance y Gene Partner.
También existe una aplicación de citas desarrollada por el profesor de Harvard George Church que pretende evitar que los padres portadores de las mismas mutaciones genéticas transmitan enfermedades genéticas a sus hijos. SafeM8 utilizaría la secuenciación del genoma para identificar a las personas que no son genéticamente compatibles y eliminarlas de las búsquedas del otro, según BioNews.org.
«No descubrirás con quién no eres compatible. Sólo descubrirás con quién eres compatible», explicó Church. Aunque tengo muchas dudas sobre la propia idea de Church y el eslogan «tecnológico» que hay detrás («Relaciones más seguras e inteligentes»), siguen dejando margen de elección. Y por muy problemático que pueda ser su uso a veces, ninguna de ellas te dice realmente que sólo hay un pequeño grupo de personas (¿limitado a una o dos personas?) que según algunos criterios de caja negra son tus compatibles.
Los algoritmos permiten una eficiencia sin precedentes y pueden facilitar nuestro trabajo. Muchas de las tareas mundanas y rutinarias que no suelen gustarnos serán realizadas por algoritmos en el futuro. Sin embargo, creo que, siempre que sea posible, los algoritmos y su trabajo deben ser transparentes y explicables, para que entendamos lo que realmente ocurre, cómo se procesa la información y de dónde proceden los resultados que vemos. Muchos proyectos de investigación serios dirigidos por equipos pioneros en todo el mundo se centran en aumentar la explicabilidad de los algoritmos de IA. En la actualidad, la mayoría de los expertos creen que cuando no se puede alcanzar un nivel de explicabilidad satisfactorio, los humanos deben ser los que tomen una decisión y, por tanto, también son responsables de las decisiones tomadas. Cuando se trata de la transparencia, el problema no suele ser tan refinado científicamente; es sólo una cuestión de cuánto se revela al usuario. Sí creo que sería beneficioso tener más transparencia en los productos y servicios que generalmente dependen del procesamiento de datos de los usuarios.
Como argumenta Yuval Noah Harrari en Forbes, con la pandemia del Covid «los ingenieros están creando nuevas plataformas digitales que nos ayudan a funcionar confinados, y nuevas herramientas de vigilancia que nos ayudan a romper las cadenas de infección». También advierte que la vigilancia pone en peligro nuestra privacidad y posiblemente permita la aparición de un régimen totalitario sin precedentes. Ahora bien, cuando la vigilancia al estilo del Gran Hermano se combina con la falta de transparencia y capacidad de explicación, las cosas se vuelven aún más problemáticas. Y se agrava aún más cuando se alimenta al público con la historia de que sólo una tecnología de rastreo compleja y no transparente puede evitar que se enfermen o sustituirlos en la búsqueda de una persona con la que pasar su vida.
Como nota al margen, Harari también se preguntaba de quién es el trabajo de encontrar el equilibrio adecuado entre la vigilancia útil y las pesadillas distópicas: ¿de los ingenieros o de los políticos? Pues mi respuesta es: la nuestra. Todos necesitamos y merecemos herramientas que entendamos y podamos controlar. Por eso creo que deberíamos hacernos oír y resistirnos a las tecnologías que, en lugar de apoyar y colaborar con los humanos, toman el control y las decisiones en su nombre. La cultura pop nos presenta estos escenarios como inevitables. Escribamos otros diferentes en nuestras vidas reales.
Traducido por el Equipo de Somos Innovación
