Inteligencia Artificial General (IAG o AGI): qué es, cómo funcionaría y cuándo podría llegar

¿IAG y AGI significan lo mismo?

Sí.

IAG

Significa:

Inteligencia Artificial General.

AGI

Proviene del inglés:

Artificial General Intelligence.

Ambos términos describen el mismo concepto

Inteligencia Artificial General

=

Artificial General Intelligence

=

IAG / AGI

¿Cuál deberías utilizar?

En español puedes utilizar IAG.

Sin embargo, AGI es extremadamente frecuente en investigación, empresas tecnológicas, publicaciones científicas y medios especializados.

¿Cómo se define la AGI?

Existen distintas formas de entender la Inteligencia Artificial General.

Stanford HAI

Stanford describe AGI como la idea de una inteligencia artificial con capacidades generales, aproximadamente a nivel humano o superior, para aprender, razonar y aplicar conocimiento a una amplia variedad de tareas y dominios.

Además, señala que el concepto es controvertido porque tampoco existe una prueba universalmente aceptada para verificarlo.

OpenAI

OpenAI utiliza una definición centrada principalmente en capacidad económica.

En sus principios define AGI como sistemas altamente autónomos capaces de superar a las personas en la mayoría de los trabajos de valor económico.

Google DeepMind

Investigadores de DeepMind proponen evaluar la AGI mediante dos variables principales:

• Amplitud o generalidad de las capacidades.
• Profundidad o nivel de rendimiento.

¿Cuál es la definición correcta?

Actualmente no existe una única respuesta aceptada por toda la comunidad.

¿Puede realizar
la mayoría de trabajos?

¿Puede aprender
nuevas tareas?

¿Rinde como un humano
en muchos dominios?

¿Puede resolver
problemas desconocidos?

¿Puede transferir
conocimiento?

¿Tiene suficiente
autonomía?

¿Cómo funcionaría una Inteligencia Artificial General?

No conocemos todavía una arquitectura única capaz de producir AGI.

Una IAG podría surgir mediante una combinación de tecnologías que actualmente se desarrollan por separado o conjuntamente.

Modelos fundacionales

Permiten aprender representaciones amplias a partir de grandes cantidades de información.

Razonamiento

El sistema necesitaría resolver problemas que exigen varios pasos y adaptar su estrategia cuando una solución falla.

Memoria

Una inteligencia general probablemente necesitaría conservar información relevante a diferentes escalas temporales.

Aprendizaje continuo

En lugar de depender exclusivamente del entrenamiento inicial, podría incorporar nuevas habilidades y conocimientos.

Planificación

Tendría que transformar objetivos complejos en secuencias de acciones.

Uso de herramientas

Podría interactuar con:

• Software.
• APIs.
• Bases de datos.
• Navegadores.
• Entornos informáticos.
• Robots cuando corresponda.

Evaluación de resultados

Además, debería detectar errores y modificar sus acciones cuando sea necesario.

Objetivo
↓
Comprensión
↓
Memoria
↓
Razonamiento
↓
Planificación
↓
Herramientas
↓
Acción
↓
Resultado
↓
Evaluación
↓
Aprendizaje / corrección

¿Qué capacidades debería tener una IAG?

La respuesta depende de la definición utilizada.

Sin embargo, aparecen varias capacidades recurrentes en las discusiones sobre inteligencia general.

Generalización

Aplicar conocimientos aprendidos en una situación a problemas diferentes.

Aprender nuevas habilidades

No limitarse únicamente a las tareas vistas durante el entrenamiento.

Razonamiento

Resolver problemas mediante relaciones, inferencias y secuencias de pasos.

Planificación

Organizar acciones orientadas a objetivos de corto y largo plazo.

Adaptación

Cambiar el comportamiento cuando aparece nueva información.

Transferencia de conocimiento

Utilizar lo aprendido en un dominio para acelerar el aprendizaje en otro.

Comprensión contextual

Interpretar información considerando objetivos, restricciones y contexto.

Metacognición

En determinadas concepciones, también sería importante estimar la propia incertidumbre, reconocer limitaciones y revisar estrategias.

Problema nuevo
↓
No existe una solución memorizada
↓
Analiza
↓
Relaciona conocimientos anteriores
↓
Aprende reglas nuevas
↓
Prueba
↓
Evalúa
↓
Corrige
↓
Resuelve

IA estrecha vs. Inteligencia Artificial General

La mayor parte de la historia de la inteligencia artificial se ha basado en sistemas especializados.

IA estrecha o especializada

Está diseñada o entrenada para destacar en un conjunto limitado de tareas.

Ejemplos

• Reconocimiento facial.
• Recomendación de productos.
• Detección de fraude.
• Predicción meteorológica.
• Ajedrez.
• Clasificación de imágenes.

AGI

Buscaría combinar amplitud y rendimiento en numerosos dominios.

Tarea A

Excelente

Tarea B

No puede realizarla

Tarea A
↓
Aprende

Tarea B
↓
Aprende

Tarea C desconocida
↓
Se adapta

Nuevo dominio
↓
Transfiere conocimientos

Ser superhumano en una tarea no demuestra AGI

Un sistema puede superar a todos los humanos en ajedrez y seguir siendo estrecho porque su capacidad excepcional permanece concentrada en ese dominio.

¿IA generativa e IAG son lo mismo?

No.

IA generativa

Describe sistemas capaces de generar nuevo contenido, como:

• Texto.
• Imágenes.
• Audio.
• Video.
• Código.

AGI

Se refiere a la amplitud y generalidad de las capacidades intelectuales del sistema.

Por tanto

Generar texto
≠
ser AGI


Generar imágenes
≠
ser AGI


Programar
≠
ser AGI

Un modelo generativo puede ser muy general

Los modelos actuales son capaces de realizar una variedad cada vez mayor de tareas.

Sin embargo, esa amplitud por sí sola no resuelve el debate sobre si alcanzan los criterios necesarios para considerarse AGI.

IA de propósito general (GPAI) no es lo mismo que AGI

Esta diferencia se ha vuelto especialmente importante con la regulación de inteligencia artificial.

GPAI

Significa General-Purpose Artificial Intelligence o IA de propósito general.

En la Unión Europea

La Ley de IA utiliza una definición específica para modelos que presentan una generalidad significativa, pueden desempeñar una amplia variedad de tareas y pueden integrarse en numerosos sistemas posteriores.

Eso incluye modelos actuales

Por tanto, un modelo puede ser legalmente considerado de propósito general sin que nadie esté afirmando que posee inteligencia equivalente a la humana en todos los ámbitos.

AGI es una idea más exigente

Normalmente implica algún criterio relacionado con inteligencia general comparable o superior a capacidades humanas amplias.

GPAI

Modelo capaz de realizar
muchas tareas diferentes

↓

Categoría técnica / regulatoria


AGI

Inteligencia general
comparable o superior
a humanos según
una definición determinada

↓

Concepto de capacidades

¿Los agentes de IA son Inteligencia Artificial General?

No necesariamente.

Un agente puede

• Recibir un objetivo.
• Planificar tareas.
• Utilizar herramientas.
• Ejecutar acciones.
• Revisar resultados.

Eso incrementa su autonomía

Sin embargo, autonomía y generalidad son dimensiones distintas.

Agente especializado

Alta autonomía
+
Poca generalidad

=

No necesariamente AGI

Google DeepMind también separa ambos conceptos

Su marco de niveles de AGI trata la autonomía como una dimensión relacionada con el despliegue y el riesgo, pero no como equivalente automático de inteligencia general.

Una futura AGI podría utilizar agentes

También podría actuar mediante sistemas capaces de ejecutar tareas durante periodos prolongados.

Sin embargo, tener herramientas y autonomía no demuestra por sí mismo que exista inteligencia general.

Inteligencia Artificial General vs. Superinteligencia

Los términos tampoco son equivalentes.

AGI

Generalmente describe inteligencia artificial capaz de rendir ampliamente a niveles comparables con humanos, aunque la definición exacta varía.

ASI

Significa Artificial Superintelligence o Superinteligencia Artificial.

Describe hipotéticamente un sistema general que supera ampliamente a los humanos en capacidades intelectuales.

IA estrecha
↓
Capacidades más generales
↓
AGI / IAG
↓
AGI superior
↓
Superinteligencia artificial

La transición no está garantizada

Incluso si se desarrollara una AGI, desconocemos si evolucionaría rápidamente hacia una superinteligencia, cuánto tardaría o si ocurriría.

Los niveles de AGI: una forma de medir el progreso

En lugar de tratar AGI como un único punto final, investigadores de Google DeepMind propusieron un marco basado en niveles.

Dos dimensiones principales

• Generalidad: amplitud de las tareas.
• Rendimiento: nivel alcanzado en esas tareas.

Nivel 0: sin IA

No existe capacidad de inteligencia artificial relevante.

Nivel 1: emergente

Rendimiento similar o algo superior al de una persona sin especialización en determinadas tareas.

Nivel 2: competente

Aproximadamente comparable al nivel de un adulto cualificado medio en una amplia variedad de tareas.

Nivel 3: experto

Rendimiento comparable al de especialistas de alto nivel.

Nivel 4: virtuoso

Rendimiento situado entre los humanos excepcionalmente capaces.

Nivel 5: superhumano

Rendimiento superior al de todos los humanos en el conjunto de capacidades considerado.

Emergente
↓
Competente
↓
Experto
↓
Virtuoso
↓
Superhumano

¿Ya existe la Inteligencia Artificial General?

Actualmente no existe consenso científico ni industrial para afirmar que un sistema determinado haya alcanzado de manera definitiva la AGI.

Las capacidades han avanzado rápidamente

Los modelos de frontera pueden actualmente realizar tareas relacionadas con:

• Lenguaje.
• Programación.
• Imágenes.
• Razonamiento.
• Matemáticas.
• Investigación.
• Uso de herramientas.
• Interacción multimodal.

Los benchmarks también muestran grandes avances

El AI Index de Stanford documenta mejoras rápidas en evaluaciones diseñadas para medir capacidades avanzadas.

Sin embargo, superar benchmarks no resuelve automáticamente la pregunta

Los sistemas actuales pueden presentar perfiles irregulares.

Por ejemplo, pueden obtener resultados extraordinarios en determinadas evaluaciones y fallar en problemas aparentemente sencillos o en tareas que requieren consistencia prolongada.

Además, los propios benchmarks tienen limitaciones

Stanford ha advertido que algunas pruebas se saturan rápidamente y otras contienen problemas de calidad o pueden dejar de medir adecuadamente el estado de la frontera.

¿ChatGPT, Gemini, Claude u otros modelos son AGI?

No existe una respuesta universal porque depende de la definición utilizada.

Los sistemas actuales son muy generales

Pueden realizar numerosas tareas mediante una misma interfaz y trabajar con múltiples tipos de información.

Eso constituye un avance importante

Sin embargo, “hacer muchas tareas” y “haber alcanzado AGI” no son expresiones equivalentes.

Un sistema actual puede destacar en

• Programación.
• Redacción.
• Análisis.
• Matemáticas.
• Visión.

Y todavía presentar limitaciones en

• Consistencia.
• Memoria persistente.
• Aprendizaje continuo.
• Robustez ante situaciones nuevas.
• Planificación prolongada.
• Confiabilidad.

Modelo realiza
100 tipos de tareas

≠

Prueba definitiva
de inteligencia general

Por eso necesitamos criterios verificables

Sin una definición operacional, distintas organizaciones pueden utilizar la palabra AGI para describir estados tecnológicos diferentes.

¿Cómo sabremos si una IA alcanzó la AGI?

Este continúa siendo uno de los mayores problemas conceptuales.

No existe un benchmark universal

Una única prueba difícilmente puede representar toda la inteligencia humana.

Una evaluación tendría que medir múltiples dimensiones

Por ejemplo:

• Razonamiento.
• Memoria.
• Aprendizaje.
• Generalización.
• Planificación.
• Transferencia.
• Adaptación.
• Conocimientos.
• Uso de herramientas.

Además debería utilizar tareas nuevas

Si una evaluación forma parte de los datos de entrenamiento o se vuelve extremadamente conocida, resulta más difícil determinar si está midiendo generalización genuina.

También necesitamos medir consistencia

Resolver correctamente una tarea una vez no demuestra necesariamente una capacidad robusta.

La autonomía debería evaluarse por separado

Un sistema podría tener grandes capacidades cognitivas y estar deliberadamente limitado a trabajar bajo supervisión humana.

Generalidad
+
Rendimiento
+
Aprendizaje
+
Robustez
+
Transferencia
+
Consistencia

↓

Perfil de capacidades

¿Pasar el Test de Turing demostraría AGI?

No necesariamente.

El Test de Turing evalúa interacción conversacional

Históricamente ha sido una idea extremadamente influyente para pensar sobre inteligencia artificial.

Sin embargo, una conversación convincente no mide todas las capacidades

Por ejemplo, no prueba por sí sola:

• Generalización.
• Aprendizaje continuo.
• Planificación.
• Memoria de largo plazo.
• Capacidad científica.
• Robustez.

Las evaluaciones modernas son multidimensionales

Actualmente resulta más útil estudiar perfiles completos de capacidades que buscar una única prueba definitiva.

¿Una IAG tendría que ser consciente?

No existe consenso y, además, inteligencia y conciencia no representan necesariamente el mismo problema.

Muchas definiciones de AGI son funcionales

Se concentran en lo que un sistema puede hacer:

• Aprender.
• Razonar.
• Resolver problemas.
• Generalizar.

No necesariamente preguntan qué experimenta el sistema

Por tanto, una definición basada en capacidades podría clasificar un sistema como AGI sin resolver la cuestión de la conciencia.

Actualmente tampoco disponemos de una prueba científica universal para conciencia artificial

Por eso conviene evitar afirmaciones categóricas sobre si los modelos actuales poseen experiencias subjetivas.

¿Una AGI necesita tener un cuerpo o robot?

No existe consenso sobre que un cuerpo físico sea obligatorio.

Una AGI podría funcionar únicamente mediante software

Por ejemplo, podría interactuar con:

• Ordenadores.
• APIs.
• Internet.
• Sistemas empresariales.
• Simulaciones.

También podría controlar robots

En ese caso combinaría inteligencia general con percepción y acción física.

Son problemas relacionados, pero diferentes

AGI

→ capacidades generales


Robótica

→ interacción física


AGI + robótica

→ sistema general
con capacidad física

DeepMind propone concentrar la definición en tareas cognitivas y metacognitivas

Esto evita exigir habilidades físicas simplemente para clasificar inteligencia general.

¿Qué beneficios podría traer una Inteligencia Artificial General?

Los beneficios son hipotéticos porque todavía no sabemos cómo sería un sistema de este tipo.

Investigación científica

Podría ayudar a analizar literatura científica, proponer hipótesis y diseñar experimentos.

Medicina

Podría apoyar investigación biomédica, análisis y descubrimiento de tratamientos.

Educación

Sistemas capaces de adaptar explicaciones y planes de aprendizaje podrían ampliar el acceso a tutorías personalizadas.

Programación

Podría desarrollar, probar y mantener sistemas de software más complejos.

Automatización

Una inteligencia general podría gestionar procesos que actualmente requieren numerosos sistemas especializados.

Ingeniería

También podría explorar diseños y optimizaciones en múltiples disciplinas.

Accesibilidad

Interfaces inteligentes podrían reducir barreras para numerosas personas.

¿Cuáles son los riesgos de una futura AGI?

A medida que aumentan capacidad y autonomía, también cambia el tipo de riesgos que deben evaluarse.

Uso malicioso

Sistemas muy capaces podrían reducir barreras para actividades perjudiciales.

Ciberseguridad

Una IA avanzada podría aumentar tanto capacidades defensivas como ofensivas.

Información engañosa

La producción automatizada de contenido podría utilizarse para manipulación o fraude.

Impacto laboral

Si los sistemas realizan una variedad creciente de tareas cognitivas, algunos trabajos podrían transformarse significativamente.

Concentración de poder

La infraestructura necesaria para desarrollar sistemas avanzados podría concentrar capacidad económica y tecnológica.

Errores a gran escala

Un sistema conectado a herramientas puede causar consecuencias mayores que un modelo que únicamente responde preguntas.

Problemas de control

En sistemas altamente autónomos, resulta especialmente importante asegurar que objetivos, restricciones y comportamiento permanezcan alineados con las intenciones humanas.

Riesgos sistémicos

La regulación europea ya contempla obligaciones adicionales para determinados modelos de propósito general considerados de riesgo sistémico.

Capacidad
×
Autonomía
×
Acceso a herramientas
×
Escala
×
Contexto

↓

Impacto potencial

¿Cómo podría desarrollarse una AGI de forma segura?

No existe una solución única.

Evaluaciones antes del despliegue

Permiten estudiar capacidades y comportamientos potencialmente peligrosos.

Pruebas adversariales

Equipos independientes pueden intentar descubrir fallos antes de una implementación amplia.

Control de herramientas

El acceso a sistemas externos debería corresponder al nivel de confianza y riesgo.

Supervisión humana

Las decisiones de alto impacto pueden requerir revisión o autorización.

Monitoreo

El comportamiento después del despliegue también necesita ser observado.

Gobernanza

Normas, responsabilidades y mecanismos de rendición de cuentas complementan las salvaguardas técnicas.

Gestión continua de riesgos

NIST propone precisamente tratar el riesgo de IA como un proceso que abarca diseño, desarrollo, uso, evaluación y operación.

¿La AGI reemplazará todos los trabajos?

No podemos afirmar que vaya a ocurrir.

Depende de las capacidades reales

Además, una profesión está compuesta por numerosas tareas diferentes.

Ejemplo

Profesión

↓

Tarea A
automatizable

Tarea B
parcialmente automatizable

Tarea C
requiere interacción humana

Tarea D
requiere responsabilidad legal

Tarea E
cambia con nueva tecnología

La tecnología también puede complementar trabajo humano

Algunas actividades pueden acelerarse sin eliminar completamente una profesión.

También podrían aparecer nuevos trabajos

Históricamente, nuevas tecnologías eliminan determinadas tareas y crean otras.

El impacto de una AGI podría ser considerablemente mayor

Si realmente alcanza desempeño general en muchas actividades económicamente valiosas, sus efectos laborales podrían superar los de sistemas especializados.

¿Una AGI podría aprender por sí sola?

Probablemente necesitaría una capacidad importante para adquirir nuevas habilidades, aunque “aprender sola” puede significar cosas diferentes.

Aprender de información

Incorporar conocimiento a partir de documentos, observaciones o interacciones.

Aprender de experiencia

Modificar estrategias después de comprobar qué acciones funcionan.

Aprender nuevas tareas

Resolver problemas sin necesidad de entrenamiento específico para cada uno.

Aprendizaje continuo

Actualizar capacidades después del despliegue es técnicamente más complejo porque también introduce riesgos de estabilidad, seguridad y pérdida de conocimientos anteriores.

¿Cuándo llegará la Inteligencia Artificial General?

No lo sabemos.

No existe una fecha científica consensuada

Las predicciones sobre AGI varían ampliamente entre investigadores, empresas y analistas.

Incluso la definición complica las predicciones

Si dos personas utilizan criterios diferentes para definir AGI, pueden asignar fechas completamente distintas al mismo nivel tecnológico.

Además, el progreso no necesariamente será lineal

Pueden aparecer:

• Avances rápidos.
• Mesetas.
• Nuevas arquitecturas.
• Limitaciones de datos.
• Limitaciones de energía.
• Avances de hardware.
• Nuevos métodos de entrenamiento.

OpenAI también describe el calendario como incierto

Sus principios reconocen explícitamente que no existe certeza sobre cuándo llegará la AGI.

¿Qué señales podrían indicar que nos acercamos a la AGI?

En lugar de buscar una única fecha, podemos observar tendencias de capacidades.

Mayor generalización

Resolver problemas realmente nuevos con menos ejemplos.

Aprendizaje más eficiente

Adquirir habilidades nuevas sin enormes procesos de reentrenamiento.

Memoria más robusta

Mantener y utilizar conocimientos durante periodos prolongados.

Agentes más confiables

Completar tareas complejas de varios pasos con menos intervención humana.

Transferencia entre dominios

Aplicar conocimiento de un área para aprender otra.

Menos fallos impredecibles

Un sistema verdaderamente general necesitaría un nivel elevado de consistencia.

Nuevas evaluaciones

Los benchmarks también deberán evolucionar porque muchas evaluaciones actuales se vuelven demasiado fáciles para los modelos de frontera.

Más generalidad
+
Más rendimiento
+
Más aprendizaje
+
Más robustez
+
Mayor autonomía controlada

↓

Mayor proximidad
a determinadas
definiciones de AGI

12 errores frecuentes al hablar de Inteligencia Artificial General

1. Decir que existe una definición universal

Todavía existen criterios diferentes.

2. Confundir IAG con IA generativa

Generar contenido no demuestra inteligencia general.

3. Confundir GPAI con AGI

IA de propósito general es una categoría distinta.

4. Confundir agentes con AGI

Autonomía y generalidad no son equivalentes.

5. Confundir AGI con superinteligencia

Una AGI no tendría que superar ampliamente a todos los humanos.

6. Pensar que necesita un robot

Algunas definiciones se concentran exclusivamente en capacidades cognitivas.

7. Asumir que necesita conciencia

Numerosas definiciones funcionales no exigen resolver esa cuestión.

8. Utilizar un benchmark como prueba definitiva

Una sola evaluación no mide toda la inteligencia.

9. Creer que pasar el Test de Turing demuestra AGI

La conversación es solo una dimensión.

10. Dar una fecha exacta

Actualmente no existe certeza sobre cuándo podría alcanzarse.

11. Asumir que una AGI sería automáticamente autónoma

Las capacidades y el nivel de autonomía pueden configurarse por separado.

12. Presentar beneficios o riesgos como certezas

Gran parte de la discusión todavía consiste en analizar escenarios futuros.

Cómo evaluar una afirmación sobre AGI

• ✓ ¿Qué definición de AGI utiliza?
• ✓ ¿Evalúa muchas tareas o solo una?
• ✓ ¿Mide generalización?
• ✓ ¿Incluye tareas realmente nuevas?
• ✓ ¿Compara rendimiento con humanos?
• ✓ ¿Mide consistencia?
• ✓ ¿Diferencia autonomía de inteligencia?
• ✓ ¿Diferencia GPAI de AGI?
• ✓ ¿Diferencia AGI de superinteligencia?
• ✓ ¿Utiliza más de un benchmark?
• ✓ ¿Explica las limitaciones del sistema?
• ✓ ¿La afirmación proviene de evidencia o de una predicción?