Construir una IA responsable: cómo gestionar el debate ético sobre la IA

¿Qué es la IA responsable?

A medida que la IA evoluciona, tiene el potencial de aportar avances que cambien la vida. Por lo tanto, antes de que el creciente impulso de la IA cobre aún más fuerza, es crucial dar prioridad a un desarrollo responsable de la IA, que tome en cuenta todas las posibles repercusiones sociales.

La IA responsable es un enfoque para desarrollar y desplegar la inteligencia artificial desde un punto de vista tanto ético como jurídico. El objetivo es emplear la IA de forma segura, fiable y ética. El uso responsable de la IA debería aumentar la transparencia y contribuir a reducir problemas como el sesgo de la IA.

Entonces, ¿por qué tanto revuelo sobre «qué es la ética de la IA»? La ética de la inteligencia artificial es un enorme desafío para la humanidad. La innovación consciente y responsable no es un concepto fácil en sí mismo, pero es crucial comprender primero la cuestión de qué es la ética de la IA e integrarla en el núcleo del desarrollo y la aplicación de los sistemas de IA. En resumen, la IA ética se basa en valores sociales y en intentar hacer lo correcto. La IA responsable, en cambio, es más táctica. Tiene que ver con la forma en que desarrollamos y utilizamos la tecnología y las herramientas (por ejemplo, la diversidad o los prejuicios).

¿Por qué es importante la IA responsable?

A medida que la IA se vuelve más crítica para el negocio de las organizaciones, lograr una IA responsable debe tomarse en cuenta como un tema de gran relevancia. Cada vez es más necesario impulsar de forma proactiva decisiones de IA éticas, justas y responsables y cumplir las leyes y la normativa vigentes.

Comprender las preocupaciones de la IA es el punto de partida para crear un marco ético que guíe su desarrollo y uso. Cualquier organización que desee asegurarse de que su uso de la IA no resulte perjudicial debe compartir abiertamente esta decisión con un abanico tan diverso de partes interesadas como pueda razonablemente abarcar, junto con consumidores, clientes, proveedores y cualquier otra persona que pueda verse tangencialmente implicada y afectada.

Desarrollar y aplicar la IA siguiendo los principios de la ética de la IA requiere transparencia en los procesos de toma de decisiones y el desarrollo de políticas viables de ética de la IA. Con una investigación meditada, amplias consultas y un análisis del impacto ético, junto con frenos y contrapesos continuos, podemos garantizar que la tecnología de la IA se desarrolle y despliegue de forma responsable, en interés de todos, independientemente del sexo, raza, creencia religiosa, demografía, ubicación o patrimonio neto.

¿Cuáles son los principios de la IA responsable?

Afrontar las preocupaciones éticas significa implicarse en sus ramificaciones con previsión y compromiso. Es vital considerar la dimensión ética de la IA no como un obstáculo, sino como la vía hacia un progreso tecnológico duradero y sostenible. Por eso, incorporar los principios de IA responsable es esencial para su evolución en una dirección que beneficie a todos y todas.

Si bien no existe un conjunto de principios fijo y universalmente acordado para la ética de la IA, surgen varias directrices. Algunos principios clave de la ética de la IA son:

• Equidad: los conjuntos de datos utilizados para el entrenamiento del sistema de IA deben considerarse cuidadosamente para evitar la discriminación.
• Transparencia: los sistemas de IA deben diseñarse de forma que permitan a los usuarios comprender cómo funcionan los algoritmos.
• No maleficencia: los sistemas de IA deben evitar dañar a las personas, la sociedad o el medio ambiente.
• Responsabilidad: desarrolladores, organizaciones y legisladores deben garantizar que la IA se desarrolle y utilice de forma responsable.
• Privacidad: la IA debe proteger los datos personales de las personas, lo que implica desarrollar mecanismos para que las personas puedan controlar cómo se recogen y utilizan sus datos.
• Robustez: los sistemas de IA deben ser seguros, es decir, resilientes a errores, ataques de adversarios y accesos inesperados.
• Inclusión: la implicación de diversas perspectivas ayuda a identificar las posibles preocupaciones éticas de la IA y garantiza un esfuerzo colectivo para abordarlos.

INSERT VISUAL HERE

 

Fomento de prácticas de IA responsable

Estos principios deberían ayudar a orientar una toma de decisiones meditada y responsable en torno a la IA. Para pasar de la teoría a la práctica, las organizaciones deben crear políticas viables de ética de la IA. Estas políticas son cruciales para tejer consideraciones éticas en todo el ciclo de vida de la IA, garantizando la integridad desde el inicio hasta la aplicación en el mundo real.

Aunque las organizaciones pueden elegir distintas vías para integrar las prácticas de IA responsable en sus operaciones, existen algunas buenas prácticas en IA que pueden ayudar a implementar estos principios en cada etapa de desarrollo y despliegue.

A la hora de decidir cómo determinar la ética de la IA, las empresas deben:

• Fomentar la colaboración multidisciplinar, implicando a expertos en políticas, tecnología, ética y social para garantizar unas perspectivas multidimensionales
• Dar prioridad a la capacitación continua sobre las buenas prácticas en IA a todos los niveles para mantener la notoriedad y la adaptabilidad
• Implementar la ética de la IA en todo el diseño de la tecnología, incorporándola a las soluciones de IA desde el principio
• Establecer mecanismos de supervisión claros, como comités de ética o juntas de revisión, para vigilar el cumplimiento y orientar la toma de decisiones éticas
• Proteger la privacidad del usuario final y los datos sensibles mediante una sólida gobernanza de la IA y políticas de uso de datos
• Fomentar la transparencia en los procesos de IA, permitiendo la rendición de cuentas y la confianza de las partes interesadas y de la opinión pública

Buenas prácticas en IA que den la talla

Para que su sistema de IA sea confiable, es importante centrarse en tres áreas clave: alimentarla con datos buenos y diversos, garantizar que los algoritmos puedan manejar esa diversidad y probar el software resultante para detectar cualquier error de etiquetado o correlaciones deficientes.

He aquí cómo conseguirlo:

• Diseñar para los humanos utilizando un conjunto diverso de usuarios y escenarios de casos de uso e incorporando esta retroalimentación antes y durante el desarrollo del proyecto.
• Utilizar varias métricas para evaluar el entrenamiento y la supervisión, incluidas las encuestas a los usuarios, los indicadores generales de rendimiento del sistema y las tasas de falsos positivos y negativos desglosadas en diferentes subgrupos.
• Sondear los datos sin procesar en busca de errores (por ejemplo, valores que faltan, etiquetas incorrectas, muestreo), sesgos en el entrenamiento (por ejemplo, métodos de recopilación de datos o sesgos sociales inherentes) y redundancias, todo ello crucial para garantizar unos principios de IA responsable de justicia, equidad y precisión en los sistemas de IA.
• Comprender las limitaciones de su modelo para mitigar sesgos, mejorar la generalización y garantizar un desempeño confiable en escenarios del mundo real; e informar de ellas a los usuarios cuando sea posible.
• Probar continuamente su modelo según los principios de IA responsable para garantizar que toma en cuenta el desempeño del mundo real y los comentarios de los usuarios, así como las soluciones a corto y largo plazo para los problemas.

IA responsable: ejemplos de éxito

Al integrar los principios y buenas prácticas en IA responsable, podemos asegurarnos de que contamos con modelos de IA generativa que, en última instancia, enriquecen nuestras vidas al tiempo que mantienen a los humanos al mando. A medida que avanzamos hacia un uso más responsable de la IA, numerosas empresas ya han conseguido crear productos seguros basados en IA.

Veamos algunos ejemplos de IA responsable:

• La Fair Isaac Score, de la empresa de software de análisis FICO, es un sistema de puntuación del crédito que utiliza algoritmos de IA para evaluar la solvencia. FICO mantiene prácticas de IA responsable al auditar regularmente sus modelos de puntuación para detectar sesgos y disparidades basándose en las matemáticas y no en el juicio humano subjetivo.
• La empresa emergente de asistencia sanitaria PathAI desarrolla soluciones de diagnóstico basadas en IA para ayudar a los anatomopatólogos en el diagnóstico de enfermedades. Para garantizar el uso seguro y responsable de la IA en su software, la empresa valida la precisión y confiabilidad de sus algoritmos mediante rigurosos ensayos clínicos y estudios revisados por expertos.
• Con su enfoque que da prioridad a las personas, Watsonx Orchestrate de IBM está revolucionando la adquisición de talentos. Esta solución de IA para RR. HH. y selección de personal promueve la equidad y la inclusión en el proceso de contratación al generar grupos diversos de candidatos mediante criterios de evaluación justos e incitando a los directivos a incorporar perspectivas diversas en el proceso de entrevista.
• Ada Health brinda a los usuarios orientación y evaluaciones médicas personalizadas. El chatbot impulsado por IA se encarga de forma segura del diagnóstico y la detección de cuadros clínicos comunes como la retinopatía diabética y el cáncer de mama. Las buenas prácticas en IA se garantizan al informar claramente a los usuarios de que están interactuando con un chatbot de IA.
• Gracias a una constelación de satélites, Planet Labs es pionero en el uso de la IA en las imágenes por satélite, pues transforman la forma en que supervisamos el medio ambiente, analizamos los patrones climáticos y evaluamos la producción agrícola. Al colaborar con organizaciones ambientales y legisladores, la empresa se asegura de que las buenas prácticas en IA estén integradas en su modelo.

El planteamiento normalizado

A medida que avanzamos hacia una IA responsable, todos los niveles de la sociedad deben implicarse y comprometerse. ISO, en colaboración con la Comisión Electrotécnica Internacional (IEC), sigue el ritmo de esta búsqueda, elaborando Normas Internacionales que salvaguardan e impulsan la aplicación basada en principios de la tecnología de la IA.

Para dar forma a una IA ética, los gobiernos, las organizaciones y las empresas de todo el mundo deben encarnar estos valores, asegurándose de que su búsqueda de la innovación vaya acompañada de una responsabilidad ética. Las Normas Internacionales ayudarán a establecer un alto nivel de ética en la IA, guiando de forma coherente las buenas prácticas en esta industria transformadora.

El compromiso con una IA responsable no es un acto puntual, sino un esfuerzo sostenido que implica vigilancia y adaptación. Sin embargo, las organizaciones deben ser conscientes de que este compromiso no solo guía a la IA para que se alinee con el bienestar común, sino que también abre las puertas a su vasto potencial.

• ISO/IEC 42001:2023AI management systems

Cosechar los frutos

Tenemos muchos motivos para ser optimistas sobre un futuro en el que la IA responsable mejore la vida de las personas. Ya está dando pasos que cambian las reglas del juego en la sanidad, la educación y el análisis de datos. Alberga el potencial para impulsar la resiliencia y el ingenio humanos en un momento en que nosotros (y el planeta) más lo necesitamos. Arraigada en el diseño ético, puede ofrecernos una simbiosis de innovación tecnológica y principios humanos fundamentales que culmine en una comunidad global inclusiva, floreciente y sostenible.

La IA responsable representa una visión global para reflejar el tejido ético de la sociedad en la inteligencia de las máquinas. Significa un compromiso para forjar sistemas de IA que respeten los derechos humanos, la privacidad y la protección de datos. A través de esta lente, cada iniciativa de IA emprendida se convierte en un peldaño hacia un futuro en el que la tecnología no solo empodera, sino que también respeta y mejora la condición humana.