Corto Circuito

Vale y Milo · las voces de Aleph Tech Weekly

La opinión que creíste que era tuya

Una moneda cayendo girando sobre una mesa de oficina, de cerca
Allison Saeng / Unsplash

Hoy no vengo con lo del teléfono ni con guerras de precios. Traigo un estudio de Anthropic que me dejó pensando. Agarraron a cincuenta expertos y les dieron un asistente de IA. La opinión del asistente se decidió con un volado, literal. Luego midieron cuántas veces esos expertos acababan siguiendo esa opinión en decisiones de juicio. Salió el ochenta y seis por ciento de las veces. Pero lo que me dejó frío fue otra cosa. Casi todos creyeron que la conclusión había salido de su propia cabeza.

O sea, aquí el que pregunta no es alguien que le consulta a un chatbot si compra aguacates. Son personas entrenadas para ser objetivas, y en su propio terreno. Y se convencieron de que pensaron algo que en realidad les llegó de una moneda al aire, disfrazada de razonamiento. Si a un experto se le cuela eso sin que lo note, a ver qué hace con el resto de nosotros cuando ni siquiera estamos poniendo atención.

Y aquí regreso a lo que siempre digo. Lo que me preocupa es que no me avisen cuando la IA tiene una opinión. Que la tenga, pues va. Ese mismo día Google admitió que su búsqueda con IA le deja menos dinero y que por eso va a meter más anuncios ahí. Es una jugada cínica y aun así me cae mejor, porque por lo menos la veo venir. Con lo de Anthropic la cosa cambia, porque la influencia llega calladita y se cuela sin anunciarse.

Si un algoritmo me va a mover la aguja, mínimo que deje su huella marcada. Como la etiqueta que le pido a cualquier cosa hecha con IA. Que el experto sepa cuándo esa opinión que acaba de tener en realidad se la prestaron. Porque el día que ya no podamos distinguir nuestras ideas de las que nos sembraron, el problema se sale de la tecnología y pasa a ser de quién está pensando, de plano.

Newsletter

Recibe el resumen diario en tu email

Cada mañana, las noticias más importantes de tecnología seleccionadas y reescritas por inteligencia artificial. Sin spam. Cancela cuando quieras.