El Sesgo de Confirmación: buscamos la información que nos reasegura en nuestras decisiones descartando la evidencia en contra

lunes, 10 de diciembre de 2018

Imagínate que estás en un laboratorio durante un experimento. Te piden que examines esta serie numérica:
2, 4, 6

La serie obedece una cierta regla. ¿Cuál crees que es? Puedes elegir más secuencias de tres números, decírselas al experimentador y te confirmará si obedecen o no la regla. Puedes proponerle tantas nuevas secuencias de tres números como quieras. En cuanto estés seguro, tienes que anunciarle la regla y él te dirá si la has adivinado o no. 

Pues bien. ¿Cuál es la primera secuencia de tres números que propondrías para deducir cuál es la regla que obedece la secuencia 2, 4, 6? Antes de seguir leyendo, por favor, piénsalo bien. ¿Qué tres números usarías? 

Piénsalo un poco más..., no leas aún la respuesta...


Estoy seguro de que en cuanto has visto la secuencia del problema, 2, 4, 6, la primera regla que te ha venido a la cabeza es "números pares que crecen de dos en dos". He realizado este experimento docenas de veces con científicos de todas las disciplinas y también con profesionales de la seguridad. Hasta ahora, en el 100 % de los casos, me han planteado secuencias como 8, 10, 12. Es decir, me plantean tres números pares consecutivos con el objetivo de confirmar su hipótesis. ¿Me habrías planteado tú una secuencia similar?

Yo les digo que, efectivamente, esas secuencias como 8, 10, 12 ó 10, 12, 14 ó similares cumplen la regla. Entonces me proponen secuencias como 100, 102, 104 ó parecidas. ¿Tú también lo habrías hecho?

Y después de plantear dos o tres secuencias semejantes, quedan completamente convencidos y anuncian: "La regla es números pares que crecen de dos en dos".

Naturalmente, ¡esa no es la regla! Entonces cambian de regla y me plantean series como 11, 13, 15. Y les digo que cumple la regla. Alentados, proponen 101, 103, 105. También cumple. Y entonces anuncian: "La regla es números que crecen de dos en dos".

¡Tampoco es la regla! Hay quien entonces plantea 5, 3, 1. No la cumple. Y así, poco a poco, finalmente llegan a la verdadera regla. ¿Tú la has intuido ya? 

La regla es cualquier serie de números en orden ascendente, sin importar la diferencia entre cada uno y el siguiente, como por ejemplo 1, 100, 1000.

¿Qué está pasando aquí? ¿Por qué resulta tan difícil encontrar una regla tan fácil? Por la sencilla razón de que la gente trata de demostrar que su hipótesis es correcta: eligen ejemplos que confirman su hipótesis en lugar de elegir aquellos que la invalidan. La realidad es que ninguna hipótesis puede ser completamente demostrada. Basta un contraejemplo para tirarla por tierra. El primer cisne negro descubierto en Australia puso fin a la hipótesis sostenida durante siglos en Europa de que "todos los cisnes son blancos". En Ciencia ocurre continuamente. Nuevos descubrimientos desplazan viejas teorías echando por tierra hipótesis sostenidas en ocasiones durante siglos. 

Resumiendo: si quieres demostrar que una hipótesis es probablemente cierta, tienes que fracasar en tus intentos de demostrar que es falsa. O sea, que los experimentos que diseñes no tienen que ir orientados a probar tu hipótesis sino a invalidarla. Y aquí es donde la mayoría de la gente, incluso científicos, fracasan. Porque nos aferramos con uñas y dientes a nuestras hipótesis, nos apegamos a nuestras ideas, buscamos confirmar nuestras creencias.

Volviendo al experimente de la secuencia. Si tu hipótesis inicial es "números pares que crecen de dos en dos", ¿qué series de números tendrías que proponer? En lugar de aquellas que la confirman, como 10, 12, 14, aquellas que la contradicen, como 9, 15, 29. ¿Lo ves? Esta secuencia incluye números impares que no ascienden de dos en dos. Si cumple la regla, tu hipótesis queda completamente descartada. Así sí avanzas hacia la respuesta verdadera. De la otra manera, por muchas secuencias que propongas que confirmen tu hipótesis, sólo te enquistarás en tu error. Esta es la esencia del método científico: tratas de invalidar tus teorías, no de confirmarlas. Y esto, amigos, para un ser humano es una tarea titánica. 

Si piensas que algo es verdadero, no intentes confirmarlo, trata de refutarlo
En el siguiente vídeo de Veritasium puedes seguir a varias personas durante el experimento de los números 2-4-8:



¿Te das cuenta de cómo perseveran en su hipótesis? Por mucho que sus propuestas iniciales para la regla sean rechazadas, siguen planteando secuencias de tres números que son variantes de su hipótesis inicial. Y siempre, siempre, siempre, proponen secuencias para confirmar la hipótesis, no para invalidarla. 

Este experimento fue diseñado y sus resultados publicados inicialmente por el psicólogo Peter Wason en los años 60. De hecho, fue él quien acuñó el término "sesgo de confirmación" para referirse a nuestra tendencia a favorecer la información que confirma nuestras hipótesis, ideas y creencias personales, sin importar si son verdaderas o falsas.

Por desgracia, aunque te expliquen que estás sometido a este sesgo de confirmación, seguirás buscando la información que confirme tus hipótesis y rechazando la que la refute. Estar sobre aviso no te libera del sesgo. ¿No te lo crees? Aquí tienes otro desafío de razonamiento lógico, creado por el propio Wason: 

Encima de una mesa hay cuatro cartas, dos muestran una letra cada una y otras dos muestran un número cada una: 
 A D 3 7

Cada carta tiene un número en una cara y una letra en la otra. El desafío consiste en decidir qué cartas habría que voltear para verificar la siguiente regla:

Cualquier carta con una A en una cara tiene un 3 en la otra

En este caso, no te daré la solución. Te invito a que dejes tu respuesta en los comentarios. Solo te doy una pista: no trates de validar tu hipótesis, trata de refutarla. 

Buscamos la evidencia que confirma nuestra postura
Lo que vienen a mostrar estos experimentos es que una vez que te posicionas con respecto a un tema, es más probable que busques o des crédito a la evidencia que apoya tu postura, antes que a la evidencia que la desacredite. Y no vayas a pensar que funcionamos así solo para ejercicios de salón o para elaborar teorías científicas. Sucumbimos a este sesgo en nuestro día a día, a todas horas y en todo tipo de tareas e interacciones con otras personas. Cuanto más te aferras a una hipótesis, más difícil te resultará considerar otras contradictorias. La explicación es bien sencilla. Evaluar información es una actividad intelectualmente costosa. Nuestro cerebro es perezoso y prefiere los atajos de pensamiento. Así ahorra tiempo al tomar decisiones, especialmente bajo presión o ante una gran incertidumbre. Al final priorizamos la información que nos permite llegar rápidamente a la conclusión que favorecemos.

Esta tendencia a buscar información confirmatoria puede conducir a todo tipo de falsas creencias y a malas decisiones, ya que siempre podrás encontrar evidencia que confirme (casi) cualquier idea. ¿Fumas y quieres creer que fumar no es tan malo para la salud? Seguro que tienes un pariente que murió a los 98 años fumando un cartón al día. ¿Eres sedentario y te resistes a creer que hacer deporte sea tan sano? Seguro que tienes otro pariente que se cuidaba todo el día y se murió de un infarto a los 38. ¿Usas la misma contraseña para todos los servicios y no crees que necesites cambiarlas? Seguro que llevas años así y nunca te ha pasado nada, así que, ¿por qué habría de pasarte mañana?

Pero ya te habrás dado cuenta de que la existencia de evidencia a favor de una afirmación no basta para llegar a una conclusión firme, puesto que podría existir otra evidencia en su contra: gente que ha muerto de cáncer de pulmón como consecuencia directa del tabaco, gente que ha muerto de infarto como consecuencia de riesgo cardiovascular acumulado tras años de sedentarismo y obesidad o gente a la que le hackearon una cuenta porque obtuvieron la contraseña (idéntica) de otra. 

El mayor riesgo del sesgo de confirmación es que si buscas un único tipo de evidencia, con toda seguridad, la encontrarás. Necesitas buscar ambos tipos de evidencia: también la que refuta tu postura. 

No estás tan abierto al cambio como te gusta creer
Según el profesor Stuart Sutherland, autor de Irracionalidad: El enemigo interior, cambiar nuestras ideas e hipótesis sobre la realidad resulta sumamente difícil por varios motivos:
  1. Evitamos de forma consistente exponernos a evidencia que pueda refutar nuestras hipótesis.
  2. Si recibimos evidencia contraria a nuestras creencias, tendemos a descartarla.
  3. La existencia de una creencia previa distorsiona nuestra interpretación de nueva evidencia haciéndola consistente con dicha creencia.
  4. Recordamos antes y mejor lo que está alineado con nuestras creencias.
  5. Queremos proteger nuestra autoestima, lo que nos lleva a encerrarnos en la postura adoptada para no dar el brazo a torcer.
El sesgo de confirmación es omnipresente en la vida del profesional de la ciberseguridad. Lo podemos ver a diario:
  • Si eres un tecnólogo, creerás que la tecnología es la solución a tus problemas de seguridad. Si la tecnología falla, echarás la culpa a las personas que la gestionan o usan o a los procesos implantados. Buscarás y destacarás sus éxitos e ignorarás y subestimarás sus fracasos. Inflarás así, consciente o inconscientemente, su efectividad real.
  • En una auditoría de seguridad es muy común saltar a conclusiones nada más reunir un par de evidencias. Has encontrado algo y rápidamente te creas una explicación. Una vez formada una opinión al poco de empezar a investigar la seguridad de un sistema, pasarás más tiempo buscando evidencias que confirmen tu primera impresión que buscando las que la contradigan.
  • Si tienes que contratar un profesional de seguridad para tu organización y crees que los que poseen certificaciones tipo CISSP, CEH, CISM, etc., están mejor preparados, entonces encontrarás todo tipo de evidencias para apoyar tu creencia.
  • Si eres el responsable de la seguridad de la información de una empresa, en el caso en que el CEO crea en la importancia de invertir en seguridad, se enfocará en los logros de tu departamento; si cree que es un gasto innecesario, se centrará en tus errores y brechas, ignorando los éxitos pasados.
  • Los expertos de seguridad de la organización o los contratados externamente son eso: expertos. Y es muy humano que quieran aparecer como tales ante los demás. Esta aureola de "experto" hace que todos confíen en sus juicios iniciales, lo que viene a hacer innecesario buscar soluciones alternativas. Después de todo, si el experto ha dicho que esta es la solución, ¿para qué buscar otras? El propio experto tenderá a descartar otras propuestas si siente amenazado su papel de experto.
  • Ahondando en esta línea, no hay nada más peligroso que juntar en una sala a un grupo de expertos, porque entonces casi con total seguridad aparecerá lo que se conoce como "pensamiento grupal": cada miembro del grupo intenta conformar su opinión a la que cree que es el consenso del grupo, hasta que el grupo se pone de acuerdo en una determinada acción que cada miembro individualmente considera desaconsejable. Cuando todos piensan lo mismo, es que nadie está pensando.
  • Relacionada con la anterior está la cuestión del "falso consenso". A veces invitamos a reuniones para tomar decisiones a personas que sabemos que opinarán como nosotros y que comparten nuestras ideas.
Guía de supervivencia para el profesional de la ciberseguridad
Te guste o no, tú como yo estamos sujetos al sesgo de confirmación. Aquí tienes una guía a modo de checklist que puedes usar antes de tomar decisiones importantes. Me he apoyado en algunos consejos del libro Irracionalidad de Stuart Sutherland. 
  • He buscado activamente evidencia que refute mis creencias.
  • He buscado más de una hipótesis, de manera que he podido barajar un mínimo de dos hipótesis antagonistas.
  • He dedicado tiempo y atención a considerar con total seriedad la información que ha entrado en conflicto con mis creencias en lugar de descartarla inmediatamente.
  • No he distorsionado la nueva evidencia que he ido acumulando tras mi hipótesis inicial: he considerado cuidadosamente si puede interpretarse como refutación de mis creencias en lugar de como su confirmación.
  • No me he fiado de mi memoria: soy consciente de que recordamos con mayor facilidad lo que encaja con nuestra manera de ver las cosas. Por eso he consultado con otras personas y con datos y notas de sucesos pasados.
  • He contado con un abogado del diablo que ha cuestionado todas y cada una de mis hipótesis.
Como explicamos en un artículo previo de esta serie, los sesgos son una característica inherente del pensamiento humano. Conocerlos es el primer paso para evitarlos. En concreto, el sesgo de confirmación puede llegar a ser un problema en decisiones complejas. Usa este checklist en decisiones importantes y probablemente evitarás el sesgo de confirmación. Y recuerda que cambiar de parecer a la luz de nueva evidencia es un signo de fortaleza y no de debilidad. 

Gonzalo Álvarez Marañón
Innovación y Laboratorio en ElevenPaths

3 comentarios:

  1. Respuestas
    1. La A y 7. Con la A confirmo que tiene un 3, con el 7 confirmo que no tiene una A.
      Si la D tiene un 3 o no, nos da igual. Lo mismo si el 3 no tiene una A detrás.

      Eliminar