El Barómetro IA del Instituto AI for Sustainability de ESSCA School of Management revela una preocupante brecha entre los riesgos que las empresas perciben en torno al uso de la inteligencia artificial y a los que realmente se enfrentan. Aunque los responsables de TI identifican como principal preocupación la gestión de datos (29 %), el estudio advierte de que muchas compañías subestiman peligros específicos derivados del uso de estas tecnologías emergentes.
Entre los riesgos infravalorados destacan los sesgos algorítmicos, las “alucinaciones” de los modelos (respuestas incorrectas generadas por los sistemas), la falta de una interacción eficiente entre humanos y máquinas, y la necesidad de supervisión humana en procesos automatizados. Todos ellos representan retos críticos que requieren atención urgente en las estrategias de adopción de IA.
De hecho, el informe recoge que el 18 % de las empresas ha tenido que ajustar o incluso cancelar proyectos de IA por motivos éticos, una cifra que subraya la necesidad de integrar principios de gobernanza tecnológica desde el inicio de cada iniciativa. La falta de preparación para enfrentar estos riesgos podría derivar en consecuencias económicas, legales y reputacionales.
El Instituto AI for Sustainability insiste en que la adopción de inteligencia artificial no puede reducirse a una cuestión técnica o de eficiencia operativa. La ética, la transparencia y el control humano deben ser elementos centrales en cualquier despliegue tecnológico, especialmente en un momento en que la IA está ganando terreno en procesos empresariales clave.
