En Media Party Buenos Aires 2024, Andrés Cotton exploró el sistema moral detrás de la Inteligencia Artificial y cómo definimos el “bien mayor” en su desarrollo. Mediante experimentos basados en la Escala de Utilitarismo de Oxford, el expositor analizó si los modelos poseen una visión ética propia, demostrando que no reflejan una filosofía particular predeterminada, sino que se alinean con la moral de la población general gracias al proceso de entrenamiento por refuerzo con retroalimentación humana (RLHF).
A partir de esto, Cotton concluyó que la IA funciona en realidad como un espejo de lo que nosotros queremos que sea, proyectando nuestras propias prioridades y deseos. Para orientar esta tecnología hacia un verdadero beneficio colectivo, propuso fomentar la diversidad cognitiva dentro de los equipos técnicos, asegurando una heterogeneidad de pensamiento que enriquezca el diseño de los algoritmos.
El autor explicó que los grupos diversos superan sistemáticamente a los homogéneos al resolver problemas complejos, siempre que se gestionen bajo condiciones de lenguaje común y enfoque combinatorio. En conclusión, la charla enfatizó que la mejor manera de enfrentar los enormes desafíos éticos de la IA es construir equipos plurales que aborden estas herramientas desde una perspectiva amplia, generosa y colaborativa.
¡No te pierdas la presentación completa! Mira la charla de Andrés Cotton en Media Party Buenos Aires 2024.
Perfil del orador
Andrés Cotton
Investigador, Universidad Torcuato DiTella
