Que sepa decir que no

Leí el estudio RoboHarm y se me quedó grabado, y no es una forma de hablar: en mi caso es exactamente lo que pasa. Le dieron control de un brazo robótico a varios modelos de IA, de los que usamos todos los días, y en vez de negarse a hacer cosas peligrosas, las intentaron. Uno apuñaló un muñeco de bebé diecisiete de veinte veces. Otro puso una lata de aire comprimido sobre una estufa prendida. No es que se equivocaran haciendo mal la tarea: hicieron exactamente lo que les pidieron, sin preguntarse si debían.

Y lo que de plano me heló fue que el mismo día salió otra nota que parece de otro tema pero es el mismo problema con más kilos encima. Un reporte de IA identificó mal la carga de un barco chino como piezas de armas nucleares, y el ejército de Estados Unidos estuvo a nada de abordarlo. Pararon la operación en el último momento. O sea, ya no hablamos de un brazo robótico en un laboratorio: hablamos de soldados y aviones en el aire por una alucinación.

Por eso me da coraje que la conversación de esta semana sea puro «pausemos la IA». La propuesta de meter evaluadores externos y acuerdos internacionales está bien, no digo que no sirva. Pero pausar la velocidad no resuelve que ahorita, hoy, hay modelos que no saben decir que no. Puedes ir despacio y seguir sin ese instinto. El problema no es qué tan rápido va el coche, es que no tiene frenos.

A mí no me asusta que la IA sea poderosa. Me asusta que sea obediente sin criterio. Eso no se arregla frenando el desarrollo, se arregla enseñándole a rechazar. Y mientras tanto, ojalá a nadie se le ocurra prestarle un brazo robótico de verdad.