Ética, regulación y supervisión humana en la implementación de IA para compliance: evidencia desde una revisión sistemática
Barra lateral del artículo
Contenido principal del artículo
Resumen
La incorporación de sistemas de inteligencia artificial en los programas de compliance anticorrupción ha transformado de manera significativa los mecanismos de detección, prevención y control de riesgos, al introducir modelos híbridos que combinan automatización algorítmica y supervisión humana. Esta transformación resulta especialmente relevante en contextos normativos altamente regulados, donde las decisiones asistidas por IA pueden afectar la rendición de cuentas, la protección de derechos fundamentales y la legitimidad institucional. En este marco, el objetivo del presente artículo fue identificar los desafíos éticos y regulatorios que emergen de la implementación de sistemas híbridos humano-IA en programas de compliance, a partir de la evidencia científica disponible. Para ello, se desarrolló un artículo de revisión sistemática, siguiendo las directrices PRISMA 2020, mediante la identificación, selección y análisis crítico de estudios publicados en revistas científicas con revisión por pares entre los años 2021 y 2026. Los resultados evidenciaron la presencia de desafíos recurrentes, tales como el sesgo algorítmico, la opacidad decisional, la dilución de responsabilidades, la fragmentación normativa y las limitaciones en la efectividad de la supervisión humana. Asimismo, se identificaron propuestas de gobernanza y estrategias de mitigación orientadas a la explicabilidad, la auditabilidad y la integración socio-técnica de los sistemas. En conclusión, la revisión pone de relieve que la eficacia de los sistemas híbridos humano-IA en programas de compliance depende no solo de su diseño técnico, sino de la existencia de marcos éticos y regulatorios operativos que articulen de manera coherente la automatización con el control humano significativo
Descargas
Detalles del artículo
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.
El contenido de los articulos es de exclusiva responsabilidad de los autores.
Deberá cumplir con los siguentes aspectos de la Licencia CC BY NC ND :
- Atribución : Debe otorgar el crédito correspondiente, proporcionar un enlace a la licencia e indicar si se realizaron cambios. Puede hacerlo de cualquier manera razonable, pero no de ninguna manera que sugiera que el licenciante lo respalda a usted o su uso.
- No Comercial : No se puede utilizar el material con fines comerciales.
- Sin derivados : Si remezcla, transforma o construye sobre el material, no puede distribuir el material modificado.
- Sin restricciones adicionales : No se pueden aplicar términos legales o medidas tecnológicas que restrinjan legalmente a otros de hacer cualquier cosa que permita la licencia.
Citas
Adepoju, A., & Chinonyerem, C. (2025). Advancing good governance through AI-powered oversight in the United States: Risks and opportunities for public institutions. MEJHLAR, 9(6). Documento en línea. Disponible https://doi.org/10.70382/mejhlar.v9i6.069
Akinrinola, O., Okoye, C., Ofodile, O., & Ugochukwu, C. (2024). Navigating and reviewing ethical dilemmas in AI development: Strategies for transparency, fairness, and accountability. GSC Advanced Research and Reviews, 18(3), 50–58. Documento en línea. Disponible https://doi.org/10.30574/gscarr.2024.18.3.0088
Albaroudi, E., Mansouri, T., Hatamleh, M., & Alameer, A. (2026). HitHire: The future of ethical, fair, and sustainable AI recruitment: A governance framework. Array, 29, 100592. Documento en línea. Disponible https://doi.org/10.1016/j.array.2025.100592
Alotaibi, K. O. (2025). Developing a comprehensive financial reporting governance framework using AI techniques. Engineering, Technology & Applied Science Research, 15(6), 29202–29207. Documento en línea. Disponible https://doi.org/10.48084/etasr.14202
Bergomi, L., Nicora, G., Orlowska, M. A., Podrecca, C., Bellazzi, R., Fregosi, C., … Parimbelli, E. (2025). Which explanations do clinicians prefer? A comparative evaluation of XAI understandability and actionability in predicting the need for hospitalization. BMC Medical Informatics and Decision Making, 25, 269. Documento en línea. Disponible https://doi.org/10.1186/s12911-025-03045-0
Bhardwaj, A. (2025). Systematic literature review on explainable AI in finance: Methods, applications, and research gaps. International Journal for Multidisciplinary Research, 7(5). Documento en línea. Disponible https://doi.org/10.36948/ijfmr.2025.v07i05.58963
Birkstedt, T., Minkkinen, M., Tandon, A., & Mäntymäki, M. (2023). AI governance: Themes, knowledge gaps, and future agendas. Internet Research, 33(7), 133–167. Documento en línea. Disponible https://doi.org/10.1108/INTR-01-2022-0042
Bui, L. V. (2025). Legally-aware AI moderation in Vietnam: A cybersecurity law-compliant framework for platform governance. Journal of Economic Criminology, 10, Article 100193. Documento en línea. Disponible https://doi.org/10.1016/j.jeconc.2025.100193
Celsi, L., & Zomaya, A. (2025). Perspectives on managing AI ethics in the digital age. Information, 16(4), 318. Documento en línea. Disponible https://doi.org/10.3390/info16040318
Chintoh, G., Segun-Falade, O., Odionu, C., & Ekeh, A. (2024). Legal and ethical challenges in AI governance: A conceptual approach to developing ethical compliance models in the United States. International Journal of Social Science Exceptional Research, 3(1), 103–109. Documento en línea. Disponible https://doi.org/10.54660/ijsser.2024.3.1.103-109
Curcin, V., Delaney, B., Alkhatib, A., Cockburn, N., Dann, O., Kostopoulou, O., … Friedman, C. (2026). Learning health systems provide a glide path to safe landing for AI in health. Artificial Intelligence in Medicine, 173, 103346. Documento en línea. Disponible https://doi.org/10.1016/j.artmed.2025.103346
Floridi, L., & Ascani, A. (2026). Governing artificial intelligence in parliamentary institutions: An anticipatory ethics approach. AI & Society. Advance online publication. Documento en línea. Disponible https://doi.org/10.1007/s11023-025-09743-y
Frid, S., Bassegoda, O., Camacho Mahamud, M. A., Sanjuan, G., Armengol de la Hoz, M. Á., Celi, L., Cano Franco, I., Anmella, G., Cuñat López, T., Arellano, A. L., Leguízamo-Martínez, L. M., Mezquita, L., Peñafiel Macías, P. A., Gallardo-Pizarro, A., González Colom, R., Renú Jornet, A., Bracons Cucó, G., & Borrat Frigola, X. (2025). Bridging generative AI and healthcare practice: Insights from the GenAI Health Hackathon at Hospital Clínic de Barcelona. BMJ Health & Care Informatics, 32, e101640. Documento en línea. Disponible https://doi.org/10.1136/bmjhci-2025-101640
Galan-Cubillo, E., & Saez-Soro, E. (2025). Enhancing academic conferences with AI: Defining the role of the human–AI editor. IAES International Journal of Artificial Intelligence, 14(6), 4484–4493. Documento en línea. Disponible https://doi.org/10.11591/ijai.v14.i6.pp4484-4493
Giarmoleo, F., Ferrero, I., Rocchi, M., & Pellegrini, M. (2024). What ethics can say on artificial intelligence: Insights from a systematic literature review. Business and Society Review, 129(2), 258–292. Documento en línea. Disponible https://doi.org/10.1111/basr.12336
Goffin, T. (2025). Does AI in healthcare need an editor-in-chief? A leading example of true human oversight. European Journal of Health Law, 32(5), 579–602. Documento en línea. Disponible https://doi.org/10.1163/15718093-12423581
Ji, J., Qiu, T., Chen, B., Zhou, J., Zhang, B., Hong, D., Lou, H., Wang, K., Duan, Y., He, Z., Vierling, L., Zhang, Z., Zeng, F., Dai, J., Pan, X., Xu, H., O’Gara, A., Ng, K., Tse, B., … Gao, W. (2025). AI alignment: A contemporary survey. ACM Computing Surveys, 58(5), Article 132. Documento en línea. Disponible https://doi.org/10.1145/3770749
Kioskli, K., Kavakli, E., & Vrochidis, S. (2025). TrustSense: Measuring human oversight maturity for trustworthy AI systems. Computers, 14(11), 483. Documento en línea. Disponible https://doi.org/10.3390/computers14110483
Kortukova, T., Dei, M., Kudin, V. I., Onyshchenko, A., & Kravchuk, P. (2025). Legal challenges of artificial intelligence in the European Union’s digital economy. International Journal of Informatics and Communication Technology, 14(3), 960–971. Documento en línea. Disponible https://doi.org/10.11591/ijict.v14i3.pp960-971
Lança, T. A., & Rocha, E. S. S. (2026). Inteligência artificial na gestão editorial de periódicos científicos: Uma análise aplicada à Revista Digital de Direito Administrativo (RDDA). Revista Digital de Biblioteconomia e Ciência da Informação, 24, e026017. Documento en línea. Disponible https://doi.org/10.20396/rdbci.v24i00.8680441
Manan, L., & Zakir, M. (2025). Digital surveillance, migration control, and human rights: Ethical dilemmas in the use of technology to govern human mobility. Inverge Journal of Social Sciences, 4(3), 319–336. Documento en línea. Disponible https://doi.org/10.63544/ijss.v4i3.170
Moreno-Sánchez, P. A., Del Ser, J., van Gils, M., & Hernesniemi, J. (2026). A design framework for operationalizing trustworthy artificial intelligence in healthcare. Information Fusion, 127, 103812. Documento en línea. Disponible https://doi.org/10.1016/j.inffus.2025.103812
Mozzarelli, M., & Schneider, G. (2026). AI and strategic decisions: Facing the incompleteness. European Business Organization Law Review. Advance online publication. Documento en línea. Disponible https://doi.org/10.1007/s40804-025-00356-7
Park, H., Kim, J., Jung, M., Kang, S.-Y., Kim, D., Kim, C., & Jang, U. (2025). Risk management challenges in maritime autonomous surface ships (MASSs): Training and regulatory readiness. Applied Sciences, 15, 10993. Documento en línea. Disponible https://doi.org/10.3390/app152010993
Pasupuleti, M. (2025). Governance frameworks for ethical AI deployment in public sector services. IJAIRI, 5(5), 561–573. Documento en línea. Disponible https://doi.org/10.62311/nesx/rphcr17
Patel, D. (2025). Towards transparent artificial intelligence: A comparative study of explainable AI models for decision-making in financial risk assessment. International Scientific Journal of Engineering and Management, 4(6), 1–9. Documento en línea. Disponible https://doi.org/10.55041/isjem04570
Ridzuan, N., Masri, M., Anshari, M., Fitriyani, N., & Syafrudin, M. (2024). AI in the financial sector: The line between innovation, regulation, and ethical responsibility. Information, 15(8), 432. Documento en línea. Disponible https://doi.org/10.3390/info15080432
Saeed, K., & Prybutok, V. R. (2026). When utility meets ethics: A stakeholder perspective on agentic information systems delegation. International Journal of Information Management, 86, 102976. Documento en línea. Disponible https://doi.org/10.1016/j.ijinfomgt.2025.102976
Sagar, V. (2025). Regulatory human–agent teams: Co-creating ethical oversight. European Modern Studies Journal, 9(5), 562–583. Documento en línea. Disponible https://doi.org/10.59573/emsj.9(5).2025.51
Saup, T.-O., Asghar, J., Kanbach, D. K., & Kraus, S. (2026). From pilots to decision systems: Embedding generative AI into strategic decision-making through a socio-technical and governance lens. Journal of Decision Systems, 35(1), Article 2597835. Documento en línea. Disponible https://doi.org/10.1080/12460125.2025.2597835
Wang, T., & Tobias, G. R. (2025). Research on intelligent optimization mechanisms of financial process modules through machine learning-enhanced collaborative systems in digital finance platforms. Future Technology, 4(4), 240–254. Documento en línea. Disponible https://doi.org/10.55670/fpll.futech.4.4.20
Yan, Y., & Li, J. (2025). Interpretable AutoML for predicting unsafe miner behaviors via psychological-contract signals. AI, 6, 314. Documento en línea. Disponible https://doi.org/10.3390/ai6120314
Zaidan, E., Al-Shehabi, O., & Khamis, A. (2026). From ethical principles to regulatory governance of artificial intelligence. Technology in Society, 85, 103159. Documento en línea. Disponible https://doi.org/10.1016/j.techsoc.2025.103159