Ética de la IA, para pensarla juntos

Un material educativo que muestra, en un juego de unos seis minutos, cómo una IA de contratación hereda tal cual los sesgos de las personas. Eres el director de una empresa y eliges tú a los candidatos hasta que, para ir más rápido, le pasas la criba a una IA que aprendió de tus decisiones. Al ver que esa IA empieza a descartar a cierto tipo de candidatos, se entiende que el sesgo no nace en el algoritmo, sino que llega a través de los datos de entrenamiento.

Un sitio que plantea, una tras otra, situaciones en las que un auto sin conductor y sin frenos tiene que decidir a quién atropella, y en las que tú eliges, como observador externo, qué desenlace te resulta aceptable. Al terminar todos los escenarios, tu forma de decidir se resume comparada con la de otras personas. Sirve para pensar con qué criterio dejamos en manos de una máquina una decisión que hiere a alguien, y cuánto varía ese criterio de una persona a otra.

Una aplicación que plantea, en forma de juego, los dilemas éticos que pueden surgir durante la conducción autónoma. No hay una respuesta correcta, y también puedes ver qué eligieron otras personas.

Un experimento de investigación en línea del Departamento de Ciencias de la Computación de la Universidad Northwestern. Te muestran un discurso corto y tienes que decidir si son palabras del lado demócrata o del republicano, con una pista explicativa que te ayuda a decidir. La investigación estudia qué tan bien distinguimos lo real de lo falso y de dónde viene cada cosa.

De las dos fotos, una es de una persona real y la otra es un rostro falso generado por IA. Un juego para poner a prueba tu capacidad de distinguir imágenes hechas por IA.

Una herramienta para abrir las Content Credentials de una imagen o un video, es decir, su historial de creación y edición. Al subir el archivo muestra paso a paso cuándo y con qué herramienta se creó y cómo fue cambiando. Va muy bien para comprobar por tu cuenta el origen declarado de algo generado por IA.

Un ensayo visual de Google PAIR que hace que el modelo de lenguaje BERT rellene el hueco de una frase para examinar qué aprendió sobre el mundo. Con frases como "in texas, they like to buy ___" puedes comprobar que basta cambiar el nombre de un lugar para que cambien las palabras candidatas y su orden de probabilidad. Se entiende que la predicción de un modelo de lenguaje no es conocimiento neutral, sino una asociación estadística presente en los textos con los que se entrenó, y que por eso también aprende los sesgos sociales.

Un juego en el que hablas con un chatbot llamado Gandalf para sacarle una contraseña escondida. Cada vez que pasas un nivel, sus defensas se refuerzan, así que el truco anterior ya no funciona. Viviendo en carne propia con qué se deja engañar una IA y cómo se protege, aprendes las nociones básicas de la seguridad en IA.