#59 ¿Hacia dónde evoluciona el software en la era de la inteligencia artificial? Ponencia de Andrej Karpathy (doblado al español)

Contenido exclusivo para miembros del Club de Innovación de Despachos Profesionales.
No está autorizado su difusión, reproducción o distribución.

Autor: José Pedro Martín Escolar
La ponencia de Andrej Karpathy detalla cómo el software ha evolucionado a tres versiones fundamentales: Software 1.0 (código escrito por humanos), Software 2.0 (redes neuronales entrenadas con datos) y Software 3.0 (Grandes Modelos de Lenguaje o LLMs programados con prompts en lenguaje natural).

¿Quién es Andrej Karpathy? Fue uno de los miembros fundadores y científicos investigadores de OpenAI. De junio de 2017 a julio de 2022, Karpathy ocupó el cargo de Director Senior de IA en Tesla.
Esta progresión democratiza la programación, haciendo que "todo el mundo sea un programador" al interactuar con LLMs
Write your awesome label here.
La parte más importante es que los LLMs no son perfectos. Son como personas con superpoderes pero también con algunas debilidades. Es decir, tienen cuatro grandes problemas:

  • Una Inteligencia irregular ("jagged intelligence"). Pueden ser sobrehumanos en algunas áreas de resolución de problemas y cometer errores básicos que ningún humano cometería en otras
  • Alucinaciones: Inventan información
  • Amnesia anterógrada: No aprenden ni desarrollan experiencia de forma nativa a lo largo del tiempo; su "ventana de contexto" funciona como una memoria de trabajo que se borra constantemente, requiriendo ser programada directamente
  • Ingenuidad y riesgos de seguridad: Son susceptibles a la inyección de prompts y pueden filtrar datos


Entonces, ¿cómo trabajamos con ellos? La clave es construir "Aplicaciones de autonomía parcial". Estas aplicaciones permiten a los humanos aprovechar las capacidades de los LLM mientras mantienen el control y supervisan su trabajo. Para ello es importante que el bucle de generación de contenidos y verificación entre la IA y el humano sea lo más rápido posible y lo conseguimos mediante:

  • Prompts concretos: Ser muy específico en los prompts aumenta la probabilidad de una verificación exitosa, evitando que la IA se "pierda en el bosque"
  • Entregables auditables: Crear artefactos intermedios auditables, como un curso creado por una IA, asegura que la IA se adhiera a un plan de estudios o progresión específica

¿Quieres ver todas las publicaciones?
Blog personal de José Pedro Martín

Últimas publicaciones