Diseñador de interacción entre personas e IA

Horario de trabajo

Los diseñadores de interacción entre personas e IA suelen trabajar a tiempo completo, en horario laboral habitual, como parte de un equipo de diseño, investigación o IA responsable dentro de una empresa tecnológica. El puesto combina el tiempo dedicado a la investigación y el diseño de forma independiente con una intensa colaboración, que incluye talleres con ingenieros, investigadores y equipos de políticas. La mayoría trabaja directamente para empresas tecnológicas que desarrollan productos de IA, aunque algunos lo hacen en laboratorios de investigación, consultoras u organizaciones sin ánimo de lucro centradas en la IA responsable.

Funciones típicas

• Investigar cómo interpretan y reaccionan los distintos grupos de usuarios ante las sugerencias o decisiones generadas por la inteligencia artificial
• Diseño de interfaces que comuniquen con claridad el nivel de confianza, las limitaciones y la incertidumbre de un sistema de inteligencia artificial
• Crear controles que permitan a los usuarios revisar, corregir o anular fácilmente las decisiones de la IA
• Elaboración de directrices sobre cuándo y cómo un sistema debe explicar su razonamiento a los usuarios
• Colaborar con ingenieros especializados en aprendizaje automático para comprender el comportamiento de los modelos y los modos de fallo
• Realizar estudios de usabilidad para determinar si los usuarios confían en exceso o no lo suficiente en una función de IA
• Diseñar experiencias de incorporación que establezcan expectativas realistas sobre lo que puede hacer una IA
• Revisión de los productos existentes para detectar interacciones con la IA que resulten confusas, engañosas o inseguras
• Colaboración con los equipos de ética, asuntos jurídicos y políticas en la elaboración de directrices sobre IA responsable
• Presentación de los resultados de la investigación y las recomendaciones de diseño al equipo directivo de producto
• Creación de prototipos y prueba de diversas formas de presentar recomendaciones o alertas generadas por IA
• Documentación de patrones de diseño para garantizar la transparencia de la IA y la supervisión humana en todo el producto

Responsabilidades adicionales

• Contribuir a las directrices generales de una empresa en materia de IA responsable o ética de la IA
• Formar a otros diseñadores y equipos de producto en los principios de la interacción entre personas e inteligencia artificial
• Revisión de las nuevas funciones de IA antes de su lanzamiento para garantizar la confianza y la transparencia
• Estudio de las implicaciones en materia de accesibilidad de las funciones de la inteligencia artificial para los usuarios con discapacidad
• Seguimiento de las últimas investigaciones y normativas en materia de transparencia y explicabilidad de la IA
• Abogar por la realización de pruebas con usuarios antes del lanzamiento de las funciones de IA, incluso cuando los plazos sean ajustados

La mañana de un diseñador de interacción entre personas e IA podría comenzar revisando los resultados de un estudio reciente de usabilidad, analizando si los participantes en la prueba entendieron por qué una herramienta de IA señalaba un resultado concreto o lo ignoraba por completo debido a que la explicación estaba demasiado oculta en la interfaz. Podría esbozar algunas formas nuevas de presentar esa explicación con mayor claridad.

A mediodía suele haber reuniones con un ingeniero de aprendizaje automático para comprender exactamente cuál es el nivel real de confianza de un nuevo modelo en distintas situaciones, seguidas de una sesión de trabajo con un diseñador de producto para determinar cómo representar visualmente ese nivel de confianza sin abrumar a los usuarios con detalles técnicos. También pueden participar en una revisión con el equipo jurídico o de políticas sobre una nueva función de IA que implique decisiones delicadas, como aprobaciones de crédito o recomendaciones médicas.

Las tardes suelen dedicarse a crear prototipos, elaborando varias versiones diferentes de un panel de «explicación de la IA» o de un botón de anulación, para luego planificar un estudio que permita determinar qué versión ayuda realmente a las personas a tomar mejores decisiones. Antes de que termine la jornada, suelen documentar lo que han aprendido, actualizar las directrices de diseño y señalar cualquier patrón que sugiera que las personas confían demasiado o demasiado poco en la IA.

Habilidades sociales

• Una profunda curiosidad por saber cómo piensan las personas, cómo toman decisiones y cómo generan confianza
• Sólidas habilidades de investigación y de pensamiento analítico
• Una comunicación clara entre los equipos técnicos, de diseño y de políticas
• El razonamiento ético y la comodidad plantean preguntas difíciles sobre los riesgos de la IA
• Empatía hacia la forma en que los distintos usuarios, incluidos los más vulnerables, experimentan los sistemas de inteligencia artificial
• Paciencia ante la ambigüedad, ya que las mejores prácticas en este ámbito aún se están definiendo
• Colaboración y búsqueda de consenso entre disciplinas
• La atención al detalle en cómo los pequeños matices en la redacción o las decisiones de diseño influyen en la confianza
• Capacidad de adaptación ante los rápidos cambios en las capacidades de la IA y la normativa
• Reflexión crítica sobre cuándo no se debe confiar en un sistema de inteligencia artificial
• Una narrativa sólida para plasmar los resultados de la investigación en decisiones de diseño
• Habilidades de promoción para impulsar las pruebas con usuarios bajo la presión de los plazos

Habilidades técnicas

• Métodos de investigación sobre los usuarios y de pruebas de usabilidad
• Herramientas de diseño de interacción y creación de prototipos, como Figma
• Conocimientos básicos sobre cómo funcionan los modelos de aprendizaje automático y en qué aspectos fallan
• Conocimiento de los conceptos de explicabilidad e interpretabilidad en la IA
• Visualización de datos para transmitir confianza, probabilidad e incertidumbre
• Normas de accesibilidad para interfaces basadas en la inteligencia artificial
• Conocimientos sobre ética de la IA, equidad y marcos de evaluación de sesgos
• Pensamiento sistémico para diseñar un comportamiento coherente de la IA en todo el producto
• Conocimiento de la normativa aplicable en materia de inteligencia artificial y de los requisitos de transparencia
• Herramientas de análisis para estudiar cómo interactúan los usuarios con las funciones de IA a lo largo del tiempo

• Diseñador de transparencia de la IA: se centra en explicar cómo y por qué una IA ha tomado una decisión
• Investigador en confianza en la IA: estudia en qué medida la gente confía en los sistemas de IA y por qué cambia esa confianza
• Diseñador de supervisión humana: diseña controles que permiten a las personas revisar, corregir o anular la IA
• Diseñador de IA responsable: se centra en la equidad, la seguridad y las directrices éticas en todos los productos de IA
• Diseñador de incorporación a la IA: se encarga de diseñar la forma en que se presenta a los nuevos usuarios las capacidades y los límites de una función de IA
• Diseñador de IA explicable (XAI): especializado en visualizar y simplificar el razonamiento de modelos complejos
• Diseñador de interacción de IA empresarial: diseña herramientas de supervisión humana para entornos profesionales como la sanidad o las finanzas.

• Empresas de tecnología y software
• Laboratorios de investigación en IA y centros de estudio
• Empresas del sector sanitario y de tecnología sanitaria
• Empresas de servicios financieros y aseguradoras
• Organismos públicos que regulan o implementan sistemas de inteligencia artificial
• Empresas de consultoría especializadas en IA responsable o ética
• Universidades y centros de investigación académica
• Organizaciones sin ánimo de lucro dedicadas a las políticas y la seguridad en materia de inteligencia artificial
• Empresas del sector de la automoción y de los vehículos autónomos
• Empresas de software empresarial que desarrollan herramientas de inteligencia artificial para otras empresas
• Plataformas de medios y contenidos que utilizan recomendaciones basadas en la inteligencia artificial
• Organismos de normalización y consorcios del sector centrados en las directrices sobre IA

Los diseñadores de interacción entre personas e inteligencia artificial trabajan en un ámbito en el que, a menudo, aún se desconoce cuál es la «respuesta correcta», ya que las capacidades de la inteligencia artificial y la percepción que tiene el público de ellas están en constante evolución. Esto implica investigar, probar y revisar constantemente los enfoques de diseño, en lugar de basarse en buenas prácticas ya establecidas, lo que puede resultar intelectualmente exigente y, en ocasiones, frustrante.

Hay mucho en juego. Las decisiones de diseño erróneas en materia de transparencia o supervisión de la IA tienen consecuencias reales, que van desde que las personas confíen ciegamente en una recomendación médica errónea hasta que ignoren una alerta de seguridad realmente útil. Los diseñadores tienen la responsabilidad real de tomar las decisiones correctas, y esa responsabilidad puede ser muy pesada, especialmente cuando trabajan en sistemas de IA utilizados en el ámbito sanitario, financiero u otros ámbitos sensibles.

El puesto también exige saber gestionar la tensión entre la presión empresarial para lanzar funciones de IA rápidamente y el trabajo, más lento y meticuloso, de comprobar si los usuarios realmente comprenden y pueden controlar dichas funciones. Defender ese trabajo meticuloso, a veces frente a plazos ajustados, requiere confianza, paciencia y la disposición a plantar cara con respeto.

• Una normativa cada vez más estricta que exige que los sistemas de inteligencia artificial sean explicables y transparentes para los usuarios
• Más investigación sobre hasta qué punto las personas confían en exceso o no lo suficiente en las recomendaciones de la IA
• La creciente demanda de controles de supervisión humana en aplicaciones de IA de alto riesgo, como la sanidad y la contratación de personal
• Prestar mayor atención al diseño para tener en cuenta los errores y las situaciones de fallo de la IA, y no solo los casos de éxito
• Ampliación de las iniciativas de alfabetización en IA para ayudar a los usuarios comunes a comprender las limitaciones de la IA
• El uso cada vez mayor de los índices de confianza y la visualización de la incertidumbre en los productos de consumo
• Mayor colaboración entre diseñadores, especialistas en ética y equipos de políticas en materia de productos de inteligencia artificial
• El auge de las comunidades de investigación académicas y empresariales dedicadas a la interacción entre personas e inteligencia artificial
• Cada vez son más las empresas que crean equipos formales dedicados al diseño responsable de la IA o a la ética de la IA
• Cada vez se presta más atención a cómo el diseño de la interacción con la IA afecta a los usuarios vulnerables o desfavorecidos

Muchos diseñadores de interacción entre personas e inteligencia artificial eran de esos niños que no paraban de preguntar «¿pero por qué?», con curiosidad no solo por saber cómo funcionaba algo, sino también por si era justo o digno de confianza. A menudo disfrutaban de los debates, las discusiones filosóficas o las clases centradas en la ética, además de sentir un interés genuino por la tecnología y por cómo se construían las cosas.

Muchos también se decantaban por las asignaturas de psicología, sociología o diseño, atraídos por el deseo de comprender cómo piensan las personas y cómo toman decisiones. Una combinación de curiosidad técnica y un fuerte sentido de la equidad o la justicia solía orientarles hacia esta trayectoria profesional emergente y aún en formación.