Skip navigation
Una visión escéptica de la revolución de la IA
Podcast

Una visión escéptica de la revolución de la IA

El experto en IA Gary Marcus pregunta: ¿Y si ChatGPT no es tan inteligente como parece?



Clasificación editorial

8

Cualidades

  • Revelador
  • Importante
  • Por expertos

Reseña

En este revelador episodio de The Ezra Klein Show, el neurocientífico y destacado experto en IA Gary Marcus ofrece su visión, muy informada, de las importantes limitaciones de ChatGPT y de otros modelos lingüísticos similares de gran tamaño, y explica por qué no se superarán con más datos. Marcus también advierte de las graves amenazas sociales de ChatGPT, incluida la perpetuación de la desinformación a escala. Sin embargo, también esboza la forma en que los sistemas de inteligencia general artificial más sofisticados podrían desempeñar valiosos papeles en la ciencia, la medicina, el trabajo y la vida en las próximas décadas.

Resumen

ChatGPT y sistemas similares están produciendo contenidos alejados de la verdad.

Los grandes modelos lingüísticos (LLM, por sus siglas en inglés) como ChatGPT se destacan en la producción de textos que suenan convincentes, pero estos sistemas no entienden qué hacen y dicen. Su producción consiste en "charlatanería" en el sentido clásico definido por el filósofo Harry Frankfurt: contenido que parece plausible, pero que no guarda ninguna relación con la verdad.

Los LLM esencialmente cortan y pegan texto para crear pastiches, es decir, contenidos que imitan un estilo. Los humanos hacen algo parecido cuando piensan, promedian cosas que han escuchado y leído, pero con una diferencia crítica: los humanos tienen modelos mentales. Como las computadoras no tienen esas representaciones internas, son incapaces de decir la verdad o de mentir.

Los sistemas de IA como ChatGPT suponen una amenaza importante para la sociedad porque facilitan la desinformación y la propaganda.

Los LLM amenazan con crear una situación en la que la desinformación se...

Acerca del pódcast

Gary Marcus es profesor emérito de psicología y ciencia neuronal en la Universidad de Nueva York y fundador de las empresas de aprendizaje automático Geometric Intelligence y Robust.AI. Es autor de cinco libros, entre ellos Rebooting AI: Building Artificial Intelligence We Can Trust. Ezra Klein es periodista, analista político y presentador del pódcast The Ezra Klein Show para The New York Times.


Comentarios sobre este resumen o Start Discussion