En el año 2025, en un mundo donde los algoritmos y los datos gobiernan las decisiones empresariales, surge una pregunta que resuena en los pasillos de las grandes corporaciones: ¿hasta dónde puede llegar la inteligencia artificial en la toma de decisiones? Lo que antes parecía propio de la ciencia ficción, hoy se convierte en una cuestión ética de vital importancia.
Un caso representativo es el de la empresa india Dukaan, que en 2023 despidió al 90% de su personal de atención al cliente, reemplazándolo con chatbots impulsados por IA. Este cambio mejoró significativamente la eficiencia, reduciendo el tiempo de respuesta y resolución de problemas a casi instantáneo y tres minutos, respectivamente. Sin embargo, este caso plantea interrogantes sobre el impacto en el empleo y la responsabilidad ética de tales decisiones. (Fuente: as.com)
El dilema del uso de la IA va más allá de la tecnología y nos enfrenta a una cuestión filosófica: ¿quién debe asumir la responsabilidad final de las decisiones? Aristóteles hablaba de la "phronesis" o prudencia como la virtud necesaria para juzgar correctamente en situaciones complejas. Pero, ¿puede una máquina, por más avanzada que sea, desarrollar algo similar a la prudencia humana?
En este contexto, surgen voces críticas que exigen marcos regulatorios más estrictos y una mayor supervisión humana. La Fundación SERES (parafraseando en cierta forma a Ben Parker, tío de Spiderman, durante su último aliento) destaca que, aunque la IA permite a las empresas tomar decisiones más inteligentes y rápidas, este gran poder exige una elevada responsabilidad y un riguroso compromiso ético en su uso. (Fuente: fundacionseres.org)
Porque, lógicamente, la IA alberga también infinidad de usos potenciales para hacer el bien. Un ejemplo positivo lo encontramos en el sector de la salud. El Hospital General La Mancha Centro, en España, implementó una herramienta basada en IA para mejorar el sistema de triaje en urgencias. Esta herramienta permite simular situaciones clínicas y realizar previsiones en un entorno virtual, creando una réplica digital del proceso físico y mejorando la eficiencia en la asignación de prioridades. En solo un año, este sistema transformó la gestión de emergencias, salvando vidas que antes podían haberse perdido por retrasos burocráticos. (Fuente: Administración Pública Digital)
El Ying y el Yang, una de cal y otra de arena… llámalo X. Como cualquier otra herramienta al alcance del ser humano, el resultado del uso de la IA para fines positivos o negativos no depende solo del potencial de la propia herramienta, sino de la imaginación e intencionalidad del propio ser humano u organización que la utiliza. En definitiva, la ética del individuo y de la cultura de la propia corporación son claves a la hora de definir el uso que se le da a la tecnología, sea IA generativa o cualquier otra.
Queda claro que la utilización de la IA en el ámbito empresarial ofrece oportunidades sin precedentes para mejorar la eficiencia y la toma de decisiones. Sin embargo, es imperativo que las empresas y administraciones públicas adopten un enfoque ético, estableciendo marcos de gobernanza claros, promoviendo la transparencia y asegurando que los sistemas de IA sean inclusivos y equitativos desde su diseño. Solo así podremos garantizar que la tecnología sirva al bienestar de la sociedad en su conjunto.
Merece la pena mencionar que Europa está haciendo un gran trabajo regulando los potenciales usos de esta tecnología, si bien es cierto que se está generando controversia porque un exceso de regulación puede suponer una falta de competitividad a corto plazo para las empresas europeas. Estando de acuerdo, opino que siempre deberíamos saber distinguir entre lo importante y lo urgente para ver cómo debemos regular esta balanza y poder encontrar el equilibrio adecuado.
Sin duda la regulación europea se irá adaptando para encontrar dicho equilibrio. Y más nos vale, visto el panorama geopolítico y social actual a nivel mundial, donde la defensa y el rearme militar acelerado será la nueva prioridad de los gobiernos europeos en los próximos años. Sinceramente creo que, a medio y largo plazo, no solo los europeos, sino el resto de la humanidad, agradecerán que existan estos mecanismos de control del uso de la tecnología de IA por parte de empresas y administraciones. Al menos en eso, Europa debe seguir siendo el bastión que lidere con el ejemplo frente al resto del mundo.
Los intereses políticos o económicos no pueden regirlo todo, los derechos individuales de las personas deben estar siempre por delante. En eso debería basarse una sociedad civilizada avanzada, independientemente de su nivel tecnológico, su competitividad o su capacidad económica.
La ética y los valores sociales deben recuperar un lugar preeminente en un escenario del siglo XXI regido por la Digitalización, las Redes Sociales y la Inteligencia Artificial. Utilicemos la tecnología para competir sí, pero no a cualquier precio... People First.
TOMADO DE El impacto ético de la inteligencia artificial en las decisiones corporativas - Diario Responsable