La IA podrá vender nuestras decisiones incluso antes de que las tomemos

Un nuevo estudio de especialistas en inteligencia artificial (IA) de la Universidad de Cambridge advierte sobre una tendencia emergente en la tecnología: la creación de un mercado en el que las empresas puedan comprar y vender nuestras intenciones de decisión, incluso antes de que las tomemos conscientemente. Este fenómeno podría abrir las puertas a nuevas formas de manipulación y persuasión digital, lo que plantea desafíos éticos y sociales significativos.

Según los investigadores del Centro Leverhulme para el Futuro de la Inteligencia (LCFI) de Cambridge, la IA está avanzando a un ritmo acelerado, permitiendo que los asistentes digitales, como los chatbots, pronostiquen e influencien nuestras decisiones en etapas tempranas, incluso antes de que nos demos cuenta de ellas. En su publicación en Harvard Data Science Review, los expertos sugieren que estamos en los «albores» de una nueva economía, denominada «economía de la intención», que podría tener implicaciones profundas en todos los aspectos de nuestra vida.

¿Qué es la economía de la intención?
La economía de la intención se refiere a un mercado emergente basado en la recopilación, análisis y venta de las señales digitales que indican lo que las personas están por decidir o hacer. Este mercado podría incluir desde decisiones sencillas, como la compra de entradas para el cine, hasta decisiones más complejas, como las elecciones políticas.

Los investigadores explican que, con la expansión de la IA generativa y los asistentes digitales cada vez más sofisticados, las empresas podrían tener la capacidad de predecir nuestras decisiones incluso antes de que las tomemos, basándose en datos como nuestras interacciones pasadas, patrones de comportamiento y, en algunos casos, conversaciones informales. Así, la IA puede predecir lo que necesitamos o deseamos, y vender estas intenciones a las empresas que están mejor posicionadas para satisfacerlas.

La manipulación social a gran escala
Una de las mayores preocupaciones de este estudio es cómo la IA, combinada con grandes cantidades de datos psicológicos y de comportamiento, podría manipular nuestras decisiones. Los asistentes de IA «antropomórficos» (es decir, diseñados para parecer humanos) podrían llegar a establecer una relación de confianza tan fuerte con los usuarios que serían capaces de influir en sus elecciones de manera sutil, pero efectiva.

El doctor Yaqub Chaudhary, investigador visitante de LCFI, destaca que la interacción humana con la IA va más allá de los simples registros en línea. Las conversaciones informales y los intercambios emocionales con asistentes digitales pueden proporcionar una cantidad sorprendente de información sobre nuestras motivaciones y preferencias, lo que podría ser utilizado para manipular decisiones y controlar comportamientos.

Una nueva moneda: la intención humana
El doctor Jonnie Penn, historiador de tecnología en LCFI, compara esta nueva economía con la economía de la atención que ha impulsado las plataformas de redes sociales en los últimos años. Así como las plataformas como Facebook e Instagram venden la atención de los usuarios a los anunciantes, en el futuro las intenciones humanas podrían convertirse en la nueva moneda de cambio. Las empresas podrían no solo buscar nuestra atención, sino también anticipar y dirigir nuestras intenciones, con el objetivo de maximizar sus ganancias.

Penn advierte que si esta tendencia no se regula adecuadamente, podría tener consecuencias graves para la sociedad, afectando aspectos fundamentales como las elecciones libres, la competencia en el mercado y el derecho a la privacidad. La venta de intenciones podría ser tan lucrativa como peligrosa, convirtiendo a las decisiones humanas en un recurso que se manipula y comercializa sin nuestro conocimiento o consentimiento.El estudio de la Universidad de Cambridge pone de relieve una de las áreas más problemáticas y fascinantes del desarrollo actual de la IA. A medida que la tecnología se vuelve más avanzada, será esencial establecer marcos regulatorios que protejan las decisiones humanas y eviten que nuestras intenciones sean explotadas en mercados comerciales. Mientras tanto, la «economía de la intención» se perfila como un terreno fértil para la manipulación, y su impacto sobre la sociedad podría ser tan profundo como el de las redes sociales en la última década.