Fluidez en IA, fundamentos e historia
C0 · Vía C
Objetivos
- Situar la historia de la IA: de las reglas a los datos
- Entender redes neuronales y transformers sin matemáticas avanzadas
- Distinguir modelo, asistente y agente
- Reconocer los errores típicos y aplicar el marco de las 4D
- Proteger los datos, declarar el uso y supervisar
Una advertencia
Los modelos cambian cada pocos meses.
Lo que hoy falla, mañana puede acertar.
Lo que no caduca son los hábitos de comprobación.
Breve historia
| Año | Hito |
|---|---|
| 1950 | Turing: ¿pueden pensar las máquinas? (Turing 1950) |
| 1955 | Propuesta de Dartmouth: «inteligencia artificial» (McCarthy et al. 2006) |
| 1958 | Perceptrón (Rosenblatt 1958) |
| 1966 | ELIZA: conversar sin entender (Weizenbaum 1966) |
Dos maneras de hacer IA
| Simbólica | Aprendizaje automático | |
|---|---|---|
| Idea | Reglas escritas | Ajuste a ejemplos |
| Fortaleza | Explicable | Capta patrones |
| Debilidad | Frágil | Depende de los datos |
Ajustar parámetros modales a una FRF (M7) también es aprender de datos.
Redes neuronales
\[y=\varphi\Big(\sum_i w_i x_i+b\Big)\]
- Entrenar = ajustar pesos para reducir el error
- Retropropagación: regla de la cadena + gradiente (Rumelhart et al. 1986)
- Aprendizaje profundo: muchas capas, datos y cómputo (2012) (Krizhevsky et al. 2012)
El transformer
- 2017: atención en lugar de recurrencia (Vaswani et al. 2017)
- Cada fragmento «mira» a todos los demás
- Se entrena en paralelo y escala
- Claude es un transformer
Qué es un LLM
Un programa entrenado con mucho texto para predecir cómo continúa un texto.
- Tokens: trozos de texto
- Contexto: solo ve lo que cabe en su ventana
- Predicción con azar: elige entre probabilidades
Un texto fluido no es un texto verdadero.
La temperatura
\[p_i=\frac{e^{s_i/T}}{\sum_j e^{s_j/T}}\]
- \(T\) baja: casi siempre lo más probable
- \(T\) alta: aparecen opciones raras
- Ninguna \(T\) hace que el modelo sepa la respuesta
Modelo, asistente, agente
| Qué hace | Quién actúa | |
|---|---|---|
| LLM | Texto → texto | Nadie |
| Asistente | Responde, redacta | Tú |
| Agente | Reúne contexto, actúa, verifica | El agente, con permisos |
Más autonomía ⇒ más verificación.
Tres errores típicos
| Error | Cómo detectarlo |
|---|---|
| Dato o fórmula incorrectos | Recalcular con un caso sencillo |
| Paquete o función inexistente | Buscarlo en el registro oficial |
| Referencia inventada | Localizarla por título o DOI |
No instales nada sin comprobar que existe y qué hace (Spracklen et al. 2025).
El marco de las 4D
Dakan y Feller con Anthropic (Dakan y Feller 2025)
| Delegar | ¿Qué entra en la tarea y qué no? |
| Describir | ¿Lo entendería alguien sin contexto? |
| Discernir | ¿Cómo sé que es verdad? |
| Diligencia | ¿Puedo defender el resultado? |
Qué dato es este
Integridad y declaración
- Autoría: lo entiendo y lo defiendo
- Transparencia: herramienta, uso y comprobación
- Verificación: también las referencias
- Normas: cada asignatura decide
Supervisión humana
- Política escrita · supervisión según el riesgo
- Mínimo privilegio · trazabilidad · una persona firma
- Reglamento europeo de IA: supervisión humana (art. 14) y alfabetización (art. 4) (Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial 2024)
- Cuidado con el sesgo de automatización
Lo que la IA no puede hacer por ti
- Responder de una decisión de seguridad
- Medir
- Conocer tu caso
- Saber cuándo se equivoca
- Aprender por ti
En las noticias
- 2023: seis sentencias inexistentes en un escrito judicial: multa de 5 000 dólares
- 2024: Air Canada responde de lo que dijo su chatbot
- Lección: delegar no te quita la responsabilidad
Práctica: caza de errores
Seis afirmaciones de una IA ficticia sobre una FFT de 10 s a 100 Hz.
¿Correcta, incorrecta o no comprobable? ¿Cómo lo compruebas?
Para llevarte
- Fluido no es verdadero
- Más autonomía, más verificación
- Comprueba paquetes, números y referencias
- Cuida los datos, declara el uso y firma tú
Referencias
Dakan, Rick, y Joseph Feller. 2025. The AI Fluency Framework. Anthropic. Licencia CC BY-NC-SA 4.0. https://www-cdn.anthropic.com/334975cdec18f744b4fa511dc8518bd8d119d29d.pdf.
Krizhevsky, Alex, Ilya Sutskever, y Geoffrey E. Hinton. 2012. «ImageNet Classification with Deep Convolutional Neural Networks». Advances in Neural Information Processing Systems 25 (NIPS 2012). https://papers.nips.cc/paper_files/paper/2012/hash/c399862d3b9d6b76c8436e924a68c45b-Abstract.html.
McCarthy, John, Marvin L. Minsky, Nathaniel Rochester, y Claude E. Shannon. 2006. «A Proposal for the Dartmouth Summer Research Project on Artificial Intelligence, August 31, 1955». AI Magazine 27 (4). https://doi.org/10.1609/aimag.v27i4.1904.
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. 2024. Diario Oficial de la Unión Europea, L, 12 de julio de 2024.
Rosenblatt, F. 1958. «The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain». Psychological Review 65 (6): 386-408. https://doi.org/10.1037/h0042519.
Rumelhart, David E., Geoffrey E. Hinton, y Ronald J. Williams. 1986. «Learning Representations by Back-Propagating Errors». Nature 323 (6088): 533-36. https://doi.org/10.1038/323533a0.
Spracklen, Joseph, Raveen Wijewickrama, A H M Nazmus Sakib, Anindya Maiti, y Bimal Viswanath. 2025. «We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs». 34th USENIX Security Symposium (USENIX Security 25), 3687-706. https://www.usenix.org/conference/usenixsecurity25/presentation/spracklen.
Turing, A. M. 1950. «Computing Machinery and Intelligence». Mind LIX (236): 433-60. https://doi.org/10.1093/mind/LIX.236.433.
Vaswani, Ashish, Noam Shazeer, Niki Parmar, et al. 2017. Attention Is All You Need. https://arxiv.org/abs/1706.03762.
Weizenbaum, Joseph. 1966. «ELIZA—A Computer Program for the Study of Natural Language Communication between Man and Machine». Communications of the ACM 9 (1): 36-45. https://doi.org/10.1145/365153.365168.