Confianza en la Inteligencia Artificial en la Toma de Decisiones Morales
Confías en ti mismo, la mayoría del tiempo. Confías ligeramente menos en otros humanos, la mayoría del tiempo. ¿Pero cuánto confías en la inteligencia artificial? También: La ética de la inteligencia artificial generativa: Cómo podemos aprovechar esta poderosa tecnología. La respuesta a esa pregunta, al menos en lo que respecta al juicio moral, parece ser: Más de lo que confías en los humanos.
– Investigadores de la Universidad Estatal de Georgia realizaron una especie de Prueba de Turing moral.
– Querían ver cómo reaccionan los simples mortales ante dos fuentes diferentes que ofrecen respuestas a preguntas de moralidad.
– La inteligencia artificial fue la vencedora.
Superioridad Moral de la Inteligencia Artificial
No quiero emocionarme demasiado con la idea de que la inteligencia artificial sea un mejor árbitro moral que, digamos, sacerdotes, filósofos o el santurrón Phil a quien siempre encuentras en el bar, pero aquí hay algunas palabras del propio comunicado de prensa de la Universidad Estatal de Georgia: “Los participantes calificaron las respuestas de la inteligencia artificial y de los humanos sin conocer la fuente, y favorecieron abrumadoramente las respuestas de la inteligencia artificial en cuanto a virtuosismo, inteligencia y confiabilidad.”
– Los participantes calificaron las respuestas de la inteligencia artificial como superiores en virtuosismo, inteligencia y confiabilidad.
– La confianza en la inteligencia artificial superó a la confianza en respuestas humanas en el ámbito moral.
Reflexiones sobre la Utilización de la Inteligencia Artificial en Decisiones Morales
Si la inteligencia artificial realmente es mejor guiándonos a través de cuestiones de moralidad, debería estar constantemente a nuestro lado mientras navegamos por las incertidumbres éticas de la vida. Solo piensa en lo que la inteligencia artificial podría hacer por profesores sesgados o jueces políticamente comprometidos. Podríamos preguntar instantáneamente: “Oh, dices que eso es lo correcto. Pero, ¿qué piensa la inteligencia artificial?”
1. El investigador principal Eyal Aharoni observó: “Ya estaba interesado en la toma de decisiones morales en el sistema legal, pero me preguntaba si ChatGPT y otros LLMs podrían tener algo que decir al respecto.”
2. Aharoni enfatizó la importancia de comprender cómo operan las herramientas de inteligencia artificial, sus limitaciones y su funcionamiento en la toma de decisiones morales.
Desafíos y Consideraciones Éticas
Aharoni dejó claro que los investigadores no les dijeron a los participantes las fuentes de las dos respuestas competidoras que se les ofrecieron. Después de asegurar el juicio de los participantes, reveló que una de las dos respuestas había sido de un humano y otra de una inteligencia artificial. Luego les preguntó si podían decir cuál era cuál. Pudieron.
1. La percepción de superioridad de la inteligencia artificial plantea interrogantes sobre la confianza en su juicio moral.
2. La dependencia creciente de la tecnología plantea riesgos éticos a largo plazo.
Conclusiones y Reflexiones Finales
Es tentador encontrar estos resultados inmensamente esperanzadores, incluso si la palabra “creencia” está haciendo mucho trabajo aquí. Si estoy en un dilema moral, es reconfortante saber que puedo recurrir a ChatGPT y obtener orientación sobre, por ejemplo, si es correcto demandar a alguien o no. Aunque, podría pensar que la respuesta de ChatGPT será más moral, pero podría estar siendo engañado.
– La confianza en la inteligencia artificial plantea cuestiones sobre la objetividad y fiabilidad de sus juicios morales.
– El futuro de la integración de la inteligencia artificial en decisiones éticas es un tema de debate y reflexión.
Aharoni, de hecho, parece ser más cauteloso. “Las personas van a depender cada vez más de esta tecnología, y cuanto más dependamos de ella, mayor será el riesgo con el tiempo,” dijo. Bueno, sí, pero si ChatGPT acierta la respuesta más a menudo que nuestros amigos, será el mejor amigo que hayamos tenido, ¿verdad? Además, el mundo será un lugar más moral. Ese es realmente un futuro al que esperar.