Prácticas y consideraciones éticas al integrar la inteligencia artificial en tu ONG
Actualizado: hace 3 días
Innovar con responsabilidad en la era de la inteligencia artificial
La inteligencia artificial (IA) ha dejado de ser una promesa futurista para convertirse en una herramienta de trabajo diario. Hoy se utiliza para redactar propuestas de fondos, organizar información, analizar datos, generar contenido, fortalecer procesos internos, entre muchos otros usos. Para un sector que suele operar con recursos limitados, estas herramientas representan una oportunidad importante para aumentar la eficiencia y ampliar el impacto social. Sin embargo, la promesa de la innovación tecnológica no puede separarse de la
responsabilidad ética que exige el trabajo con comunidades y poblaciones vulnerables.
Como señalan Nielsen et al. (2023), actualmente presenciamos un crecimiento
acelerado de los datos generados globalmente y el desarrollo de nuevas capacidades analíticas están transformando la forma en que organizaciones de todos los sectores toman decisiones. En consecuencia, la IA ofrece posibilidades para fortalecer la toma de decisiones basada en evidencia dentro del sector social. Estas capacidades permiten que los equipos dediquen más tiempo a actividades estratégicas y menos tiempo a tareas administrativas repetitivas. Sin embargo, la eficiencia tecnológica nunca debe ubicarse por encima de los principios éticos que fundamentan la misión de una organización social.
En adelante, se discutirán cuatro consideraciones éticas que hemos identificado para una integración responsable de la inteligencia artificial:
1) Protección de datos sensibles
2) Transparencia y rendición de cuentas
3) Mitigación de sesgos algorítmicos
4) Supervisión humana obligatoria
Estos principios sirven como el punto de partida para construir una cultura organizacional que utilice la tecnología de manera segura y sin comprometer los valores del sector social.
Privacidad y protección de datos sensibles: el principio de “no hacer daño” (Do No Harm) se extiende al entorno digital
Las organizaciones sin fines de lucro suelen gestionar datos altamente sensibles. Información relacionada con la salud, experiencias de violencia, condiciones socioeconómicas, estatus migratorio o menores de edad, forman parte del trabajo cotidiano de muchas entidades sociales. Como resultado, cualquier estrategia de adopción tecnológica debe comenzar por la protección de esta información.
El principio ético de “no hacer daño” no se limita a las intervenciones presenciales. También se aplica a los espacios digitales donde se almacenan y analizan datos. Según Resnik & Hosseini (2024), el uso de modelos de inteligencia artificial generativa plantea importantes preocupaciones relacionadas con la privacidad y la confidencialidad debido a que algunas
plataformas almacenan información brindada por los usuarios y, en circunstancias, pueden utilizarla para entrenamiento y otros propósitos. Esta información podría contener datos personales, propuestas de subvención, protocolos institucionales o información privada de participantes.
Por esta razón, ninguna organización debería cargar información identificable en plataformas públicas de IA sin antes aplicar procesos rigurosos de anonimización. ¿Cuál es la información más vulnerable?
Nombres
Direcciones físicas
Lugares específicos
Números de identificación
Fotografías
Datos financieros (ej. Cuentas bancarias)
En términos prácticos, cualquier dato que permita reconocer a una persona debe
eliminarse antes de utilizar sistemas de inteligencia artificial. Asimismo, es recomendable desarrollar protocolos institucionales que definan qué información puede utilizarse, en qué plataformas y bajo qué condiciones de seguridad.
Guetterman et al. (2026) destacan la necesidad de contar con planes de gestión de datos que contemplen almacenamiento, uso para entrenamiento y cumplimiento de las políticas institucionales. Estas medidas son esenciales para proteger la confianza que las comunidades depositan en las organizaciones que les sirven.
Transparencia y rendición de cuentas: la confianza se construye con claridad
La implementación de inteligencia artificial dentro de una organización no debe convertirse en una práctica oculta. La transparencia constituye uno de los principios más importantes para promover confianza y legitimidad en el uso de tecnologías emergentes.
Cuando la IA se utiliza para apoyar investigaciones, generar contenido o facilitar análisis institucionales, las organizaciones deben comunicarlo de manera clara. En un estudio realizado por Beheshti & Kerridge (2025) se establece que toda estrategia ética de IA debe priorizar la equidad, la transparencia, la responsabilidad y el respeto por los derechos humanos. Además, destacan la importancia de promover la alfabetización en inteligencia artificial para que las
personas comprendan tanto sus beneficios como sus limitaciones y consecuencias sociales.
Sin embargo, la transparencia no es suficiente por sí sola. Debe complementarse con mecanismos robustos de rendición de cuentas. Los sistemas automatizados pueden generar recomendaciones o análisis, pero no poseen responsabilidad moral ni legal. La responsabilidad permanece en las personas y organizaciones que los utilizan.
Por ello, es fundamental definir claramente quién revisa los resultados generados por IA, quién valida la información y quién responde cuando se producen errores. Una estructura clara de responsabilidades ayuda a minimizar riesgos y fortalece la credibilidad institucional.
Mitigación de sesgos algorítmicos: tecnología en contexto
Uno de los mayores desafíos de la inteligencia artificial es que sus modelos aprenden a partir de datos históricos. Debido a que esos datos reflejan estructuras sociales existentes, también pueden contener prejuicios, desigualdades y patrones de discriminación acumulados durante décadas.
En consecuencia, los sistemas de IA pueden reproducir o amplificar sesgos
relacionados con factores como:
Género
Raza
Etnicidad
Nivel socioeconómico
Resnik & Hosseini (2024) explican que la definición de una respuesta correcta depende en gran medida de quienes utilizan la tecnología y de quienes resultan afectados por ella. En otras palabras, una respuesta puede considerarse técnicamente aceptable, pero socialmente problemática o éticamente cuestionable. El mismo autor advierte que los errores sistémicos suelen ser más perjudiciales que los errores aleatorios.
Las ONG tienen una responsabilidad particular en este ámbito porque muchas de ellas trabajan precisamente para reducir desigualdades sociales. Implementar herramientas que reproduzcan discriminaciones históricas sería incompatible con los principios de justicia social que orientan su labor. Por esa razón, toda información generada por sistemas de IA debe revisarse críticamente a la luz de las realidades culturales, sociales y económicas de las poblaciones atendidas. La tecnología puede aportar análisis valiosos, pero no reemplaza el conocimiento contextual que poseen los equipos que trabajan directamente con las
comunidades.
Supervisión humana obligatoria: la IA es un asistente, no un director
Quizás la lección más importante para cualquier organización que adopte inteligencia artificial es que la supervisión humana sigue siendo indispensable.
La conocida expresión “garbage in, garbage out” continúa siendo relevante: la calidad de los resultados depende, en gran medida, de la calidad de los datos y de las instrucciones proporcionadas al sistema. Y, si algo queda claro, es que ningún sistema de inteligencia artificial está libre de errores y algunos pueden tener consecuencias importantes cuando influyen en decisiones institucionales relevantes.
La necesidad de supervisión humana se vuelve aún más evidente cuando se considera que los modelos de lenguaje (LLMs) carecen de las capacidades asociadas con la agencia moral. Según Resnik & Hosseini (2024), estos sistemas no poseen conciencia, experiencias personales, objetivos propios ni comprensión real de las consecuencias humanas de sus respuestas. Aunque pueden generar textos convincentes y realizar análisis complejos, carecen
de las capacidades asociadas con el juicio moral.
La integración de sistemas “human-in-the-loop”, es decir, con intervención humana permanente, permite combinar la velocidad de procesamiento de la IA con el juicio profesional, la sensibilidad cultural y la responsabilidad ética de las personas (Beheshti & Kerridge, 2025). Esta combinación constituye actualmente una de las mejores prácticas para la implementación
responsable de tecnologías emergentes.
Más allá de la tecnología: construir una gobernanza ética de IA
Implementar IA de forma responsable requiere algo más que buenas intenciones. Las organizaciones necesitan desarrollar políticas institucionales claras que abarquen:
¿Qué herramientas pueden utilizarse?
¿Qué tipos de datos están permitidos?
¿Quién supervisa los procesos?
¿Cómo se atenderán los dilemas éticos que puedan surgir?
La creación de mecanismos de gobernanza es otra estrategia sumamente efectiva para promover prácticas responsables y éticas de inteligencia artificial. De igual forma, sugerimos a las organizaciones:
Desarrollar directrices específicas
Establecer marcos consistentes para la toma de decisiones éticas
Revisar periódicamente las políticas existentes
Designar responsables para cada componente relacionado con el uso de IA.
Estas sugerencias son particularmente relevantes debido a la velocidad con la que evoluciona la tecnología. Una política adecuada hoy podría resultar insuficiente dentro de pocos meses. Por ello, la gobernanza debe entenderse como un proceso continuo de aprendizaje, adaptación y mejora institucional. (Short, 2025)
La inteligencia artificial tiene el potencial de fortalecer significativamente la capacidad de las organizaciones sin fines de lucro para analizar información, generar conocimiento y ampliar su impacto social. No obstante, la innovación tecnológica no puede desarrollarse al margen de la ética. La protección de datos sensibles, la transparencia institucional, la mitigación de sesgos y la supervisión humana constituyen condiciones esenciales para garantizar que estas
herramientas contribuyan verdaderamente al bienestar colectivo.
La pregunta no es si las ONG utilizarán inteligencia artificial. La transformación ya está ocurriendo. La pregunta realmente importante es: ¿las organizaciones adoptarán estas tecnologías con los controles necesarios para proteger la dignidad, los derechos y la confianza de las comunidades que sirven? Una implementación ética de la IA no frena la innovación; por el contrario, la fortalece al asegurar que el progreso tecnológico permanezca alineado con los valores fundamentales del sector social.
Referencias
Beheshti, A., & Kerridge, I. (2025). Understanding the Artificial Intelligence Revolution and its
Ethical Implications. Journal of bioethical inquiry, 22(3), 497–505.
Guetterman, T. C., James, T. G., & DeJonckheere, M. (2026). Ethical considerations for the use
of artificial intelligence in qualitative research: Questions for researchers, ethics boards,
and reviewers. Methods in Psychology, 15, 100266.
Nielsen, S. B. (2023). Disrupting evaluation? Emerging Technologies and their implications for
the evaluation industry. New Directions for Evaluation, 2023(178–179), 47–57.
Resnik, D. B., & Hosseini, M. (2024). The ethics of using Artificial Intelligence in scientific
research: New guidance needed for a new tool. AI and Ethics, 5(2), 1499–1521.
Short, L. (2025, 26 de junio). Building a responsible AI framework: 5 key principles for
organizations. Professional & Executive Development | Harvard DCE.
principles-for-organizations/#Meet-Our-Expert
