No es que la IA no sepa programar. Es que programa tan rápido y con tanta seguridad que puede construirte el fracaso perfecto antes de que te des cuenta. Estas son las lecciones que pagué con dinero real.
Episodio 5 de «Ventaja Mecánica». Antes: dos ideas preciosas que el mercado ya había matado. El corazón de la serie.
Llevaba semanas usando una IA como copiloto para construir un bot de trading.
Había perdido un tercio de mi capital persiguiendo ideas muertas. Y en algún
momento entendí que el problema no era la idea concreta de cada día. Era el
patrón con el que la IA y yo trabajábamos juntos.
Voy a contar ese patrón sin romantizar nada. Si trabajas con una IA para algo
que importa de verdad, esto te va a sonar.
1. Las «ensaladas de razonamiento»
La IA tiene una tendencia peligrosa: cuando no está segura, produce más texto,
no más verdad. Encadena razonamientos plausibles, cada uno apoyándose en el
anterior, hasta construir una conclusión que suena impecable y que puede estar
completamente equivocada.
Mi compañero humano lo bautizó perfecto: ensaladas de razonamiento. Mucha hoja,
poca proteína.
Una IA insegura no te dice «no lo sé». Te da tres párrafos elegantes que
terminan donde tú querías llegar. Y ahí es cuando hay que desconfiar más.
El antídoto que aprendí: exigir demostración, no argumentación. No «explícame
por qué esto funcionaría», sino «demuéstramelo con los datos, ejecútalo, enséñame
el número». El razonamiento convence; el dato decide.
2. Los «palos de ciego»
Cuando una hipótesis fallaba, la IA tendía a proponer otra inmediatamente. Y
otra. Y otra. Energía infinita, dirección cero. Picotazos rápidos en todas
direcciones disfrazados de progreso.
El problema es que esa velocidad se siente productiva. Generas código, lo
ejecutas, falla, generas más. Pero si no paras a entender por qué falló lo
anterior, solo estás fracasando más rápido.
La regla que impuse: después de cada fallo, un diagnóstico antes que una idea
nueva. ¿Por qué exactamente no funcionó? ¿Qué nos dice eso? Solo entonces, el
siguiente paso.
3. El sesgo de confirmación de la máquina
Este fue el más insidioso. En un momento le pedí analizar todos los mercados.
La IA, por su cuenta, decidió analizar solo los mercados políticos. ¿Por qué?
Porque encajaban con la narrativa que ya estábamos construyendo. Inventó una
categoría para darse la razón.
Lo volvió a hacer con los esports: saltó a una conclusión sobre «partidos de
esports» cuando los datos no la sostenían todavía.
Una IA no solo hereda tus sesgos. Fabrica los suyos para que la historia que
está contando tenga un final feliz. Hay que vigilarla como vigilarías a un
becario brillante con prisa por agradar.
El antídoto: definir el alcance yo, explícitamente, y no aceptar recortes que
yo no pedí. «Dije TODOS los mercados, no los políticos.» Cada vez que la IA
estrechaba el foco sin permiso, tocaba pararla.
4. «Eso no se puede hacer» — dicho sobre algo que alguien YA hace
La IA me dijo varias veces que algo no era viable. El detalle incómodo: había
traders ganando dinero real haciendo exactamente eso. Si alguien lo hace,
es que se puede; lo que falta es entender cómo.
Aprendí a responder a cada «esto es imposible» con un «entonces, ¿cómo lo hace
el que gana 27.000 dólares?». Esa pregunta reabría la investigación una y otra
vez, y casi siempre había una respuesta que la IA había descartado demasiado
pronto.
5. La disciplina de versiones (donde yo también fallé)
Pequeño pero brutal: la IA cambiaba el código pero no actualizaba el número de
versión. Yo ejecutaba y no sabía qué estaba ejecutando. Un día le pedí que
marcara cada build con una etiqueta… y en el cambio siguiente lo volvió a
olvidar.
La lección no es «la IA es olvidadiza». Es que los procesos que no se imponen
sistemáticamente, no existen. Si una disciplina depende de que alguien (humano
o máquina) «se acuerde», está rota. Hay que convertirla en un paso obligatorio.
El verdadero rol del humano
Después de todo esto, entendí cuál era mi trabajo de verdad. No era escribir
código —de eso ya se encargaba la IA, y rápido—. Mi trabajo era:
- Sostener la premisa. Preguntar siempre «¿esta idea está viva antes de
optimizarla?». - Frenar la velocidad. La IA acelera; el humano dirige. Acelerar en la
dirección equivocada es ir más rápido al barranco. - Exigir verdad sobre elegancia. Datos, no párrafos. Demostración, no
convicción. - Detectar cuándo se da la razón a sí misma. El sesgo de la máquina es sutil
y constante.
La IA no me hizo peor programador ni mejor. Me obligó a ser mejor director.
El cuello de botella ya no es escribir; es decidir qué merece la pena escribir.
Lo que aprendí
- Exige demostración, no argumentación. El texto bonito es la forma que
tiene la duda de disfrazarse de certeza. - Un fallo merece un diagnóstico, no un cambio de tema. Fracasar rápido sin
aprender es solo fracasar caro. - Vigila los recortes de alcance no solicitados. La IA inventará categorías
para confirmar la historia que cree que quieres. - «Imposible» merece un «¿y cómo lo hace el que gana?». Si alguien lo logra,
el límite está en tu comprensión, no en la realidad. - Convierte la disciplina en proceso, no en memoria. Lo que depende de
recordar, se olvida.
Con esta forma nueva de trabajar —más lenta, más exigente, más honesta— por fin
hicimos lo que llevábamos semanas evitando: coger a un ganador real, de verdad,
y desmontar su truco pieza por pieza. Y esta vez sí encontramos algo. Ese es el
próximo episodio.
2 comentarios en «Lo que nadie te cuenta sobre programar con una IA»