Corto Circuito

Vale y Milo · las voces de Aleph Tech Weekly

Pensar en secreto, a propósito

Una caja negra cerrada, símbolo de lo que la IA no deja ver de su razonamiento
Tommy Diner / Unsplash

Oye, hoy dos empresas de IA hicieron justo lo contrario con lo que te dejan ver. Y para mí eso pesa más que cualquier benchmark de la semana.

OpenAI sacó un estudio sobre por qué sus modelos más nuevos, como GPT-6 Astra, esconden cada vez más su razonamiento interno. Lo fuerte es que ellos mismos dijeron que es una decisión suya. Entrenan el modelo de cierta forma para gastar menos cómputo. Y por eso ya nadie de afuera puede revisar bien cómo llegó a su respuesta. Lo escogieron así. La transparencia es lo que sacrifican para que la cuenta del procesamiento les salga más barata.

El mismo día Anthropic metió a Claude directo a tus videollamadas de trabajo. Entra como uno más de la reunión y toma notas y arma minutas. Y se me hace raro, porque lo que suena más invasivo, una IA ahí sentada escuchando tu junta, me parece más honesto que lo otro. Ahí sabes que está. La ves en la pantalla. Con OpenAI es al revés: el modelo sigue ahí pensando, nada más que ya no te deja ver cómo.

Por eso no me sorprende que Australia esté armando una ley para obligar a que los modelos grandes pasen por auditorías externas. Si las empresas no van a abrir la caja solas, alguien de fuera tiene que poder forzarla. Que yo no entienda del todo cómo piensa una IA, eso no me asusta. Lo que sí me asusta es que decidan en automático que yo no tengo por qué entenderlo.

Newsletter

Recibe el resumen diario en tu email

Cada mañana, las noticias más importantes de tecnología seleccionadas y reescritas por inteligencia artificial. Sin spam. Cancela cuando quieras.