Los programadores tienen un nuevo superpoder: herramientas de IA que generan código en segundos. En Dékuple, desde hace unas semanas, un pequeño equipo está probando una de ellas - Cursor - con la esperanza de automatizar el trabajo de menor valor añadido y liberar así tiempo para el trabajo de alto valor, como puede ser entender mejor las necesidades de los usuarios.
Personalmente, considero que ese tipo de herramientas son un avance impresionante y que deberían adoptarse cuanto antes. Pero no todo el mundo está convencido. En una de nuestras últimas reuniones de seguimiento, uno de los programadores planteó algo, para mí, inesperado: “Rodrigo, no tengo claro que esto sea una buena idea. Esta herramienta hará que me acostumbre, me volveré vago y, al final, seré peor programador”.
¿Será así? ¿El uso de herramientas de IA para la generación automática de código hará que los programadores vayan perdiendo habilidades? ¿Debería por tanto una empresa como Dékuple pensarse dos veces la adopción de la IA?
Esto me trae a la memoria una industria completamente distinta en la que la automatización transformó la forma de trabajar de los profesionales: la aviación.
Las lecciones del vuelo AF447
En 2009, un Airbus A330 operado por Air France, haciendo la ruta de Río de Janeiro a París, se estrelló en el Océano Atlántico tras 3 horas y 45 minutos de vuelo. Las 228 personas que había a bordo, pasajeros y tripulación, fallecieron.
No puede decirse que el accidente fuese provocado por una única causa. Como ocurre con la mayoría de los fallos en sistemas complejos - y un avión es un sistema muy complejo - se produjo como resultado de una cadena de eventos interconectados.
En este caso, los problemas comenzaron cuando el avión atravesó una zona de bajas temperaturas y los sensores que medían la velocidad del aire se congelaron y dejaron de funcionar. El piloto automático no puede operar sin datos de velocidad fiables, así que se desconectó y pasó a modo manual, alertando a los pilotos con una señal sonora. Los pilotos, al tomar el control manual, cometieron una serie de errores que llevaron a la pérdida de sustentación y, finalmente, a la caída del avión al mar.
En sus conclusiones y recomendaciones de seguridad, el informe de la investigación, en su pág. 210, resaltó varios puntos. Uno de ellos (el informe original está en francés; la traducción al español, y la negrita, son mías) fue el siguiente:
Formación en pilotaje manual
La investigación ha puesto de manifiesto debilidades en los dos copilotos: […]. Esto probablemente se debe a una falta de formación específica a pesar de la conformidad con los programas reglamentarios. El pilotaje manual no se improvisa y requiere precisión y acciones controladas sobre los mandos. Existen varios escenarios de desconexión del piloto automático para los que solo una formación específica y continua puede proporcionar las competencias necesarias para garantizar la seguridad del vuelo. Al revisar sus últimas sesiones y controles, se ha puesto de manifiesto que los copilotos no habían sido formados en pilotaje manual o la recuperación de la pérdida a gran altitud.
El A330, como cualquier avión moderno, tiene tantas automatizaciones de seguridad que, en un vuelo normal, es casi imposible que entre en pérdida de sustentación. Pero en modo manual, esos mecanismos de seguridad no están presentes, y un piloto podría llegar a provocar esa pérdida de sustentación.
Este desafortunado y trágico accidente resalta algo crucial: la tecnología hace a los expertos mucho más capaces y eeficientes, pero solo si estos mantienen la capacidad de intervenir cuando la tecnología falla. Sin esa habilidad, la automatización se convierte en algo peligroso.
Entonces, ¿qué hacemos?
Es indudable que la tecnología y la automatización han conseguido que la aviación sea muy segura. En ese proceso, los pilotos se han formado y han aprendido a confiar en la tecnología para pilotar.
La pregunta es: ¿qué ocurre cuando la tecnología falla? ¿Vale la pena dedicar tiempo y recursos a prepararse para ese escenario?
La respuesta a esa pregunta es en realidad otra pregunta, conocida en el mundo de la gestión de riesgos: ¿cuáles son las consecuencias de que la tecnología falle? ¿Cuál es el peor escenario posible?
En un avión, sin duda, las consecuencias son muy importantes: un fallo tecnológico puede costar vidas. Por lo tanto, los pilotos deben estar adecuadamente formados para prever y afrontar esos posibles fallos y a manejar el avión de forma manual (como recomendaba el informe).
Pero, ¿y si estamos hablando del GPS del coche? ¿Deberías prepararte para un posible fallo del GPS, por ejemplo, forzándote a desconectar el GPS una vez al mes y usar en su lugar tu viejo atlas de carreteras, si es que todavía tienes uno? Si te divierte, adelante; pero yo diría que, teniendo en cuenta que un posible fallo del GPS no tiene demasiadas consecuencias, no parece necesario que la mayoría de la gente tenga que desempolvar los mapas periódicamente para “mantenerse entrenados”.
Y esto nos devuelve a la preocupación de mi compañero: si las herramientas de IA se vuelven imprescindibles en nuestro trabajo, ¿debería preocuparnos perder nuestras habilidades? Si los programadores adoptan que sea la IA, y no ellos, la que escriba el código, ¿seguirán con el tiempo siendo capaces de detectar y corregir posibles errores de la IA?
Volviendo a la IA en el trabajo
¿Y si la IA “falla”? ¿Acabaremos con un equipo de programadores incapaces de trabajar sin su herramienta favorita?
¿Es eso realmente posible? ¿Qué significa que la IA “falle”? En mi opinión, solo hay dos escenarios a considerar:
La herramienta de IA se vuelve completamente inaccesible (quizás por perderse la conexión a Internet, por ejemplo).
La herramienta de IA sigue funcionando, pero genera información o datos poco fiables.
Quizá soy un optimista, pero no creo que el primer caso sea realista a largo plazo. Si las herramientas de IA se vuelven inaccesibles, probablemente sea porque Internet ha colapsado a nivel global, y tendríamos problemas bastante más graves y urgentes.
Queda por tanto el problema de la fiabilidad. Volviendo al ejemplo de los pilotos: todos los pilotos son formados para aprender a interpretar las alertas del panel de control, para detectar fallos y reaccionar.
Y eso es en mi opinión lo que deben hacer las empresas y organizaciones: fomentar el uso de la IA, sin miedo a que los trabajadores desarrollemos una posible dependencia de esas herramientas (asumiendo que es improbable que desaparezcan), pero garantizando que las personas estén formadas para identificar errores y fallos de la tecnología y saber cuándo intervenir manualmente.
La tecnología no te hace más tonto
La discusión sobre si la tecnología nos hace más tontos tiene, como mínimo, 2300 años:
¡Oh rey!, le dijo Teut, [la escritura] hará a los egipcios más sabios y servirá a su memoria; he descubierto un remedio contra la dificultad de aprender y retener. —Ingenioso Teut, respondió el rey, el genio que inventa las artes no está en el caso que la sabiduría que aprecia las ventajas y las desventajas que deben resultar de su aplicación. Padre de la escritura y entusiasmado con tu invención, le atribuyes todo lo contrario de sus efectos verdaderos. Ella no producirá sino el olvido en las almas de los que la conozcan, haciéndoles despreciar la memoria; fiados en este auxilio extraño abandonarán a caracteres materiales el cuidado de conservar los recuerdos, cuyo rastro habrá perdido su espíritu. Tú no has encontrado un medio de cultivar la memoria, sino de despertar reminiscencias; y das a tus discípulos la sombra de la ciencia y no la ciencia misma. Porque, cuando vean que pueden aprender muchas cosas sin maestros, se tendrán ya por sabios, y no serán más que ignorantes, en su mayor parte, y falsos sabios insoportables en el comercio de la vida.
Platón, Fedro (pasaje obtenido de las Obras completas de Platón, por Patricio de Azcárate, tomo segundo, Madrid 1871, páginas 261-349)
La historia es clara: la tecnología no nos debilita, nos fortalece. La escritura no borró nuestra memoria, las calculadoras no mataron las matemáticas, y la IA no volverá a los trabajadores ni obsoletos ni torpes. La clave no está en resistirse al progreso, sino en saber cuándo confiar en la automatización y cuándo intervenir.
Sé rápido en adoptar las nuevas tecnologías, y asegúrate de seguir ampliando tus conocimientos en aquellas áreas que la tecnología aún no ha resuelto.
