Ni los bancos confían en el código de IA

Oye, esta nota cualquier otro día se me hubiera pasado de noche, pero hoy no: Goldman Sachs les quitó a sus banqueros y operadores las herramientas de IA para programar. Ahora solo las pueden usar los ingenieros de planta. Y lo curioso es que en julio el mismo banco andaba presumiendo que cualquier empleado podía armar sus propias aplicaciones con eso, sin saber programar. Cuatro meses. De la fiesta al freno así de rápido.

Ese mismo día me topé con un artículo que explica por qué. Tiene que ver con los conflictos de Git, que es cuando dos partes del código se pelean por la misma línea. Lo normal es que un programador vea las dos versiones y decida cuál se queda. La IA muchas veces nomás borra las marcas del conflicto y deja las dos metidas, como si nada. El código compila y se ve resuelto. Hasta ahí todo tranquilo. El problema sale después, ya en producción, cuando esa lógica duplicada hace cosas que nadie pidió.

Linus Torvalds ya acepta código de IA para el kernel de Linux y dijo algo parecido: buena parte de esos parches hay que reescribirlos enteros a mano antes de aceptarlos. O sea, el que mantiene el sistema operativo que corre medio internet tampoco se confía a ojo cerrado.

Y eso fue lo que más me llamó la atención. Los que más saben de código son justo los que menos se fían de que la IA lo revise solita. Y miedo a la herramienta no se ve que le tengan. Ya vieron varias veces que un merge puede quedar limpio y aun así estar mal. A mí que la IA escriba código no me preocupa. Lo que me preocupa es que alguien lo firme sin leer el diff completo, y eso va igual para un banco gigante que para cualquiera que esté usando esto hoy mismo en su trabajo.