La primera vez que un cliente me enseñó un dashboard de «personalización predictiva» capaz de anticipar el momento exacto en que una mujer embarazada empezaría a buscar pañales, antes incluso de que ella lo supiera, pensé dos cosas casi al mismo tiempo: qué maravilla técnica y qué problema legal y moral tan gordo tenemos entre manos. Han pasado más de diez años desde el caso Target que popularizó esa historia en Estados Unidos, y seguimos discutiendo lo mismo con herramientas mucho más potentes.
La ética en la IA aplicada al marketing no es un capítulo de manual de RSC que se añade al final del briefing para quedar bien. Es una variable operativa que afecta a la reputación de marca, a la conversión y, cada vez más, a si un anunciante puede o no operar en un mercado concreto sin recibir una sanción. Quien lo trate como un accesorio decorativo va a pagarlo, tarde o temprano, en forma de multa, de crisis de reputación o de simple pérdida de confianza del cliente.
Datos personales, sí, pero ¿a cambio de qué exactamente?
Todo el debate ético gira, en el fondo, alrededor de un intercambio: el usuario cede datos y la marca ofrece algo a cambio. El problema es que ese «algo a cambio» rara vez está explicitado con la claridad que debería.
Cuando una empresa de retail recoge el historial de navegación, la geolocalización, el comportamiento en la app y el historial de compras para construir un perfil hiperdetallado, el usuario suele haber aceptado unas condiciones de treinta páginas que no ha leído nadie, ni siquiera el equipo legal que las redactó, en un ejercicio de sinceridad poco habitual. Ese consentimiento formalmente válido, pero materialmente vacío, es la grieta por donde se cuela buena parte de la mala praxis del sector.
El consentimiento informado real, no el meramente firmado, es la línea que separa la personalización legítima de la vigilancia comercial encubierta. Esta distinción debería estar en la cabecera de cualquier estrategia de datos, y sin embargo se trata como un trámite legal más, algo que resuelve el departamento jurídico sin que marketing intervenga en el diseño del consentimiento.
Un ejemplo concreto: en 2023, la CNIL francesa sancionó a Criteo con más de 40 millones de euros por fallos relacionados con el consentimiento en su plataforma de publicidad programática. No fue un caso aislado ni una anécdota de mercado pequeño; fue una señal de que los reguladores europeos han dejado de mirar hacia otro lado con el adtech.
La caja negra que decide quién ve qué anuncio
Los algoritmos de segmentación y de puja programática funcionan, en la práctica, como cajas negras incluso para quienes los operan. Un equipo de performance marketing puede saber que su modelo optimiza hacia conversión, pero rara vez puede explicar con precisión por qué decidió mostrar una oferta de crédito rápido a un perfil concreto y no a otro con características similares.
Ahí aparece un riesgo que va más allá de la privacidad: la discriminación algorítmica. Un estudio de investigadores de la Universidad Northeastern y de USC, publicado hace unos años, demostró que Facebook (ahora Meta) permitía que anuncios de vivienda y de empleo se distribuyeran de forma desigual según variables correlacionadas con raza y género, aunque esas variables no se usaran de forma explícita. El sistema aprendía patrones que replicaban sesgos históricos sin que nadie lo hubiera programado con esa intención.
Aquí conviene matizar algo que se repite poco: no siempre hay mala fe. La mayoría de estos sesgos nacen de datos de entrenamiento desequilibrados, no de una decisión deliberada de discriminar. Pero la ausencia de intención no exime de responsabilidad, y menos aún cuando la tecnología permite auditar y corregir esos patrones si se invierte tiempo y presupuesto en hacerlo. La pregunta incómoda que pocos anunciantes se hacen es si están dispuestos a perder algo de eficiencia a corto plazo para evitar sesgos que, descubiertos por un periodista o un regulador, cuestan mucho más caro.
Cuando el hiperrealismo generativo se convierte en engaño
La generación de contenido con IA ha abierto una puerta que el marketing llevaba décadas queriendo cruzar: crear imágenes, vídeos y voces sintéticas indistinguibles de las reales, a coste marginal casi nulo. El problema es que esa puerta da directamente al terreno del engaño publicitario clásico, solo que con herramientas nuevas.
Deepfakes de famosos recomendando productos que jamás han probado. Testimonios de «clientes reales» generados íntegramente por IA, sin que exista una sola persona detrás de esa opinión. Voces clonadas de directivos anunciando lanzamientos falsos para manipular cotizaciones. En mayo de 2023 circuló una imagen generada por IA que mostraba una supuesta explosión en el Pentágono; se difundió en minutos y llegó a mover brevemente los mercados financieros antes de ser desmentida. No era una campaña de marketing, pero ilustra a la perfección la velocidad y el daño que puede provocar contenido sintético verosímil sin ningún control.
En un terreno menos dramático pero mucho más cotidiano, algunas marcas de moda y cosmética ya usan modelos generados por IA en campañas sin advertirlo con claridad, presentando cuerpos y rostros que no existen como si fueran reales. Levi’s experimentó con esto en 2023 y recibió críticas suficientes como para matizar públicamente su estrategia. La lección no es que la tecnología sea mala, sino que la transparencia sobre su uso no puede ser opcional si se quiere mantener la confianza del consumidor a medio plazo.
Manipulación versus persuasión: una frontera que se ha movido
El marketing siempre ha jugado con la persuasión, y eso no tiene nada de escandaloso. Apelar a la urgencia, al deseo de pertenencia o al miedo a quedarse fuera son técnicas tan viejas como el propio oficio. Lo que cambia con la IA es la escala y la precisión con la que se puede identificar, en tiempo real, el punto exacto de vulnerabilidad de cada individuo.
Un sistema de recomendación no necesita entender de psicología para explotarla; le basta con observar que un usuario pasa más tiempo scrolleando contenido relacionado con inseguridad corporal a las once de la noche, y ajustar la pauta publicitaria de suplementos o de cirugía estética para ese momento concreto. No hace falta intención maliciosa por parte de un programador: el sistema aprende, por refuerzo, que esa combinación de hora y estado emocional genera más clics, y actúa en consecuencia sin que nadie lo haya decidido explícitamente.
Aquí me permito discrepar de una parte del discurso habitual del sector, que suele calificar toda esta práctica como manipulación pura y dura, casi como si el usuario fuera un sujeto pasivo indefenso. La realidad es más matizada: existe manipulación cuando se explotan sesgos cognitivos para inducir una decisión que el usuario no habría tomado con información completa y en un estado mental neutro, pero no toda personalización basada en emociones cae en esa categoría. Mostrar contenido relevante en el momento adecuado también puede ser, simplemente, buen marketing. La línea depende de la intención, del contexto y de si existe una alternativa igualmente visible para el usuario, no del hecho de que un algoritmo intervenga.
El coste reputacional de la opacidad, con cifras encima de la mesa
Los departamentos de marketing tienden a subestimar el impacto financiero de una crisis ética relacionada con IA hasta que les sucede a ellos. Un informe de Edelman de 2023 situaba en más del 70% el porcentaje de consumidores que afirmaban dejar de comprar a una marca tras enterarse de que había usado sus datos de forma que consideraban invasiva. Da igual que ese porcentaje sea exacto al punto decimal o no; la tendencia estructural es clara y se repite en encuestas de distintas consultoras año tras año.
El caso de Cambridge Analytica, aunque ya tenga varios años, sigue siendo el ejemplo de manual porque combinó todos los ingredientes: datos obtenidos sin consentimiento real, perfiles psicológicos construidos con fines de manipulación política, y una empresa (Facebook) que perdió una parte sustancial de la confianza de sus usuarios de forma casi instantánea. Las acciones de Meta cayeron con fuerza en los días posteriores a que estallara el escándalo en 2018, y la compañía terminó pagando una multa de 5.000 millones de dólares a la FTC estadounidense. Ese precio no lo pagó solo la empresa de análisis de datos; lo pagó, en gran medida, la plataforma que permitió el acceso.
La lección para cualquier equipo de marketing que trabaje con IA generativa o predictiva es sencilla de enunciar y difícil de aplicar: la opacidad sale barata a corto plazo y carísima a medio plazo. Sale barata porque no auditar los sesgos del algoritmo, no explicar al usuario cómo se usan sus datos o no marcar el contenido sintético ahorra tiempo y fricción en el proceso de producción. Sale carísima porque, cuando se descubre —y siempre se descubre—, el coste de reparación de marca supera con creces lo que se ahorró.
Regulación europea: no es un obstáculo, es un mapa
El Reglamento Europeo de Inteligencia Artificial, aprobado en 2024, clasifica los sistemas de IA por niveles de riesgo, y algunas prácticas de marketing quedan directamente prohibidas: la manipulación subliminal que provoque daño, la explotación de vulnerabilidades de colectivos específicos por edad o discapacidad, y ciertos sistemas de puntuación social. El marketing dirigido a menores mediante técnicas de personalización avanzada entra en una zona de vigilancia reforzada que muchos departamentos de compliance todavía no han terminado de interpretar.
Conviene señalar algo que se pasa por alto con frecuencia en los artículos generalistas sobre el tema: esta regulación no nace de la nada ni copia sin más el modelo estadounidense, mucho más laxo y basado en la autorregulación sectorial. Europa ha optado por un enfoque de riesgo escalonado que, bien aplicado, no debería frenar la innovación legítima, sino solo aquella que se construye sobre prácticas que ya eran cuestionables antes de que existiera la norma. El error de diagnóstico habitual es pensar que la ley europea es un obstáculo para competir; en realidad, para las marcas que ya trabajaban con criterios éticos razonables, es más bien un mapa que confirma que iban por el camino correcto.
Dicho esto, y aquí viene la parte incómoda para quienes defienden la regulación sin matices: la complejidad normativa también genera un coste real para pymes y startups que no tienen departamentos legales robustos, y ese coste puede terminar consolidando la posición de los grandes actores tecnológicos, que sí pueden permitirse equipos de compliance a tiempo completo. La ética regulatoria no siempre coincide con la eficacia competitiva, y fingir que ambas van siempre de la mano es simplificar en exceso un debate que merece más honestidad intelectual.
Transparencia algorítmica: el estándar que todavía no existe de forma homogénea
No existe todavía un consenso claro sobre qué significa, en la práctica, ser transparente con el uso de IA en marketing. Algunas marcas interpretan que basta con una línea genérica en el aviso de privacidad; otras han empezado a experimentar con etiquetas visibles del tipo «contenido generado con IA» o «esta recomendación se basa en tu historial de navegación», siguiendo el espíritu, aunque no siempre la letra, de normas como la de Digital Services Act europea.
La discusión de fondo es si la transparencia debe ser reactiva (explicar cuando se pregunta) o proactiva (comunicar siempre, sin que nadie tenga que preguntar). La experiencia de campo, trabajando con distintos equipos de e-commerce y de medios digitales, sugiere que el modelo proactivo genera más confianza a largo plazo, aunque a corto plazo provoque cierta resistencia interna porque «asusta» a algunos responsables de conversión, que temen que reconocer el uso de IA reduzca la eficacia de la pauta. Los datos disponibles, todavía escasos pero crecientes, apuntan más bien a lo contrario: los usuarios valoran positivamente la honestidad, incluso cuando implica reconocer el uso de tecnología automatizada.
Sesgos en los grandes modelos de lenguaje aplicados a la creatividad publicitaria
Los modelos generativos usados para redactar copys, generar imágenes o crear guiones de vídeo heredan los sesgos de sus datos de entrenamiento, que en su mayoría reflejan una sobrerrepresentación de contenido en inglés, de estética occidental y de estereotipos de género y de belleza bastante convencionales. Un equipo creativo que use estas herramientas sin supervisión crítica corre el riesgo de reproducir, a escala industrial, los mismos sesgos que el marketing llevaba años intentando corregir.
Se ha comprobado en pruebas informales, replicadas por varios estudios académicos sobre generación de imágenes con IA, que al pedir a modelos como Stable Diffusion o Midjourney que generen imágenes de «un directivo» o «una enfermera», los resultados tienden a reproducir estereotipos de género y raza de forma sistemática, sin que el usuario haya pedido explícitamente esa asociación. Aplicado al marketing, esto significa que una marca puede terminar publicando contenido discriminatorio sin haber tomado ninguna decisión consciente en esa dirección; el sesgo viene incrustado en la herramienta.
La solución no pasa por abandonar estas herramientas, que aportan una eficiencia creativa innegable, sino por incorporar una capa de revisión humana específicamente entrenada para detectar este tipo de patrones, algo que muy pocas agencias han institucionalizado todavía como proceso estándar. La mayoría sigue confiando en que «alguien se dará cuenta» durante la revisión creativa habitual, que casi nunca está diseñada para buscar sesgos algorítmicos.
Consentimiento por diseño: un cambio de enfoque más que de checklist
Existe una diferencia sustancial entre cumplir con el RGPD y diseñar productos y campañas donde el consentimiento informado sea parte estructural de la experiencia, no un añadido legal. El concepto de privacy by design, acuñado por Ann Cavoukian hace más de una década, sigue siendo más citado que aplicado de verdad.
En la práctica, esto implica cosas muy concretas: preguntar al usuario, con lenguaje comprensible y no jurídico, qué tipo de personalización quiere recibir, y no solo si acepta o rechaza «cookies» en bloque. Implica también ofrecer un valor real y verificable a cambio de los datos —descuentos genuinos, contenido exclusivo, mejor experiencia de usuario demostrable— en lugar de vender la personalización como un beneficio abstracto que en realidad solo beneficia al anunciante.
Algunas marcas de e-commerce en el norte de Europa han empezado a experimentar con paneles de control de datos donde el usuario ajusta, de forma granular, qué tipo de segmentación acepta para cada categoría de producto. Los resultados preliminares que se han compartido en foros del sector sugieren tasas de opt-in más bajas en volumen bruto, pero significativamente más altas en calidad de conversión, porque el usuario que consiente de forma activa y específica suele estar más predispuesto a comprar que el que ha aceptado sin pensar un banner genérico.
Lo que viene: agentes autónomos y la difuminación de la responsabilidad
La próxima frontera ética no está en la personalización ni en la generación de contenido, sino en los agentes de IA capaces de tomar decisiones de compra de medios, de negociación de precios o incluso de interacción directa con clientes sin supervisión humana en tiempo real. Cuando un agente autónomo decide, de forma independiente, pujar más agresivamente por la atención de un usuario identificado como vulnerable emocionalmente, ¿quién es el responsable? ¿El equipo que diseñó el objetivo de optimización, el proveedor de la tecnología, o nadie en concreto, porque «así lo decidió el algoritmo»?
Esta pregunta no tiene todavía respuesta jurídica clara en la mayoría de jurisdicciones, y probablemente será el eje central del debate ético en marketing durante los próximos cinco años, más incluso que la privacidad de datos, que al menos cuenta con un marco regulatorio relativamente maduro. La responsabilidad difusa de sistemas cada vez más autónomos es, con toda probabilidad, el problema que ningún departamento legal ha resuelto todavía de forma satisfactoria, y sospecho que la solución no vendrá de más regulación, sino de que las propias marcas empiecen a exigir trazabilidad de decisiones a sus proveedores de tecnología, del mismo modo que hoy exigen auditorías de seguridad.
¿Está tu marca preparada para explicar, con pelos y señales, por qué un algoritmo decidió mostrar exactamente ese anuncio a esa persona en ese momento? Si la respuesta es no, probablemente el problema ético ya esté ahí, esperando a que alguien lo señale primero desde fuera.