La inteligencia artificial está automatizando cada vez más tareas rutinarias en las empresas, pero también está generando un nuevo desafío: comprobar que los resultados que ofrece son correctos. Esta es una de las principales conclusiones de un análisis publicado por Shilpi Handa, Associate Research Director de IDC, que advierte de que la supervisión de la inteligencia artificial se perfila como una capacidad cada vez más importante para las organizaciones.
Según la analista, el debate sobre el impacto de la inteligencia artificial suele centrarse en los empleos y tareas que desaparecerán con la automatización. Sin embargo, sostiene que está surgiendo una nueva necesidad: contar con profesionales capaces de validar las decisiones y recomendaciones generadas por estos sistemas. A medida que la inteligencia artificial asume más funciones, las personas dejan de realizar determinadas tareas de forma habitual y pueden perder la experiencia necesaria para detectar errores cuando estos se producen.
IDC señala que este fenómeno ya se está observando en sectores como el desarrollo de software, la abogacía o la ciberseguridad, donde los profesionales recurren cada vez más a asistentes basados en inteligencia artificial para elaborar código, realizar investigaciones o analizar incidentes. El riesgo, según Handa, es que una dependencia excesiva de estas herramientas reduzca la capacidad de los equipos para cuestionar o corregir sus resultados.
En el ámbito de la ciberseguridad, la analista considera que este reto es especialmente relevante. Muchas plataformas ya incorporan agentes de inteligencia artificial capaces de clasificar alertas o ejecutar determinadas acciones de forma autónoma, mientras que las herramientas de pentesting automatizado generan un volumen creciente de hallazgos que posteriormente deben ser revisados por especialistas. En este contexto, el cuello de botella deja de estar en detectar amenazas y pasa a situarse en su validación.
Para responder a este escenario, Handa plantea la aparición de nuevos servicios especializados en la verificación de decisiones tomadas por sistemas de inteligencia artificial, así como la necesidad de desarrollar entre los profesionales la capacidad para evaluar cuándo confiar en la tecnología y cuándo revisar sus resultados. A su juicio, esta función cobrará aún más importancia con la evolución del marco regulatorio europeo sobre inteligencia artificial, que exigirá mecanismos efectivos de supervisión humana en determinados sistemas de alto riesgo.
El análisis concluye que, a medida que la inteligencia artificial gane autonomía dentro de las organizaciones, disponer de procesos y personas capaces de supervisar su funcionamiento será tan importante como la propia implantación de la tecnología, una cuestión que afectará tanto a grandes compañías como a las pymes que incorporen herramientas de inteligencia artificial en sus operaciones.
