Podcast

Una visión escéptica de la revolución de la IA

El experto en IA Gary Marcus pregunta: ¿Y si ChatGPT no es tan inteligente como parece?

Ezra Klein y Gary Marcus

The New York Times, 2023

Obtenga el pódcast

Lea sin conexión

1×

Войдите, чтобы прослушать аудиоверсию краткого изложения.

Clasificación editorial

Мы составляем краткие изложения книг*, помогающих читателям разбираться в законах современного мира и менять его к лучшему. Материалы, которые мы отбираем для нашей библиотеки, должны отвечать по крайней мере одному из наших двух основных критериев:

Информативно. – Вы получите такую информацию, которая позволит вам более взвешенно и эффективно принимать решения.

Полезно. – Вы получите такие практические советы, которые помогут вам лучше делать то, чем вы занимаетесь.

Каждому материалу мы присваиваем рейтинг от 1 до 10 на основе этих двух критериев. Наш рейтинг поможет вам распределить книги в вашем списке для чтения по шкале от добротных (5) до выдающихся (10). По книгам, которые мы оцениваем ниже 5, краткие изложения не составляются. Вот что означают цифры рейтинга:

10 – Великолепно. Полезная и/или информативная книга, которая, помимо соблюдения высочайших стандартов во всех отношениях, выделяется даже среди лучших книг. Как правило, это книга, сразу ставшая классикой, которую должен прочитать каждый.
9 – Отлично. Полезная и/или информативная книга, очень хорошо организованная и написанная, имеющая множество достоинств и не имеющая недостатков, которые заслуживали бы упоминания.
8 – Очень хорошо. Полезная и/или информативная книга, которая имеет много важных достоинств, но при этом не может быть названа выдающейся: например, освещает последние открытия в своей области и написана известным специалистом, но в отношении стиля оставляет желать лучшего.
7 – Хорошо. Полезная и/или информативная книга, имеющая два и более важных достоинства: например, очень увлекательно рассказывающая о новых идеях в какой-то предметной области.
6 – Достойно внимания. Полезная и/или информативная книга, которая обращает на себя внимание по крайней мере каким-то одним аспектом, например четкой организацией материала.
5 – Добротно. Полезная и/или информативная книга, несмотря на очевидные недостатки. Например, в одной области автор может давать разумные советы, а в других или содержится много повторов, или нет ничего особенно ценного.

*getAbstract работает не только с книгами. Мы составляем краткие изложения всех видов контента, которые могут быть полезны нашей аудитории: помимо книг это статьи, отчеты, видео и подкасты. То, что мы говорим здесь о книгах, относится ко всем видам материалов, которые мы пересказываем.

Cualidades

Revelador
Importante
Por expertos

Рейтинг помогает вам понять, какова ценность книги в соответствии с двумя нашими основными критериями. Но он ничего не сообщает о ее конкретных особенностях. Поэтому мы используем набор из 20 характеристик, которые призваны прояснить, в чем именно состоят достоинства книги.

Практические советы – вы получите рекомендации, которые практически осуществимы на вашем рабочем месте или в повседневных ситуациях.
Аналитический подход – вы поймете внутренние взаимосвязи и закономерности в рассматриваемой проблеме.
История вопроса – вы узнаете об истории и контексте проблемы, что позволит вам правильно провести анализ или совершить хорошо взвешенный шаг.
Особое мнение – вы познакомитесь с аргументами, которые расходятся с преобладающей в настоящий момент точкой зрения.
Подробное освещение – вы увидите все аспекты предмета, описанные исчерпывающим образом.
Конкретные примеры – вам предложат практические советы, которые иллюстрируются рассказами об их применении на практике.
Выразительный язык – вы получите удовольствие от мастерски написанного текста или речи, являющейся образцом ораторского искусства.
Увлекательно – вам будет трудно оторваться от текста или аудио.
Неизвестные факты – вы узнаете об удивительных фактах или умозаключениях.
Начальный уровень – информация будет для вас полезной, если вы новичок, у которого нет знаний по данной теме или опыта.
Продвинутый уровень – информация или рекомендации будут полезны вам как специалисту.
Острая проблема – вы окажетесь в гуще спора по поводу одного из насущных вопросов современности.
Новаторская концепция – вы узнаете о свежих идеях, концепциях, новых продуктах или тенденциях.
Рассказ инсайдера – вы познакомитесь с мнением человека, который имеет особый доступ к сведениям по обсуждаемой теме.
Источник вдохновения – вам захочется сразу же опробовать на практике то, о чем вы прочитали.
Обзор – вы получите общее описание предмета с упоминанием всех основных моментов.
Научные данные – вы узнаете о цифрах и фактах, подкрепленных научными исследованиями.
Взгляд в будущее – вы познакомитесь с авторской картиной будущего и тем, как оно может на вас повлиять.
Четкая структура – хорошая организация материала значительно облегчит вам восприятие концепции или применение рекомендаций на практике.
Спорно – вы познакомитесь с любопытными, но неоднозначными выводами.

Reseña

En este revelador episodio de The Ezra Klein Show, el neurocientífico y destacado experto en IA Gary Marcus ofrece su visión, muy informada, de las importantes limitaciones de ChatGPT y de otros modelos lingüísticos similares de gran tamaño, y explica por qué no se superarán con más datos. Marcus también advierte de las graves amenazas sociales de ChatGPT, incluida la perpetuación de la desinformación a escala. Sin embargo, también esboza la forma en que los sistemas de inteligencia general artificial más sofisticados podrían desempeñar valiosos papeles en la ciencia, la medicina, el trabajo y la vida en las próximas décadas.

Resumen

ChatGPT y sistemas similares están produciendo contenidos alejados de la verdad.

Los grandes modelos lingüísticos (LLM, por sus siglas en inglés) como ChatGPT se destacan en la producción de textos que suenan convincentes, pero estos sistemas no entienden qué hacen y dicen. Su producción consiste en "charlatanería" en el sentido clásico definido por el filósofo Harry Frankfurt: contenido que parece plausible, pero que no guarda ninguna relación con la verdad.

Los LLM esencialmente cortan y pegan texto para crear pastiches, es decir, contenidos que imitan un estilo. Los humanos hacen algo parecido cuando piensan, promedian cosas que han escuchado y leído, pero con una diferencia crítica: los humanos tienen modelos mentales. Como las computadoras no tienen esas representaciones internas, son incapaces de decir la verdad o de mentir.

Los sistemas de IA como ChatGPT suponen una amenaza importante para la sociedad porque facilitan la desinformación y la propaganda.

Los LLM amenazan con crear una situación en la que la desinformación se...

Acerca del pódcast

Gary Marcus es profesor emérito de psicología y ciencia neuronal en la Universidad de Nueva York y fundador de las empresas de aprendizaje automático Geometric Intelligence y Robust.AI. Es autor de cinco libros, entre ellos Rebooting AI: Building Artificial Intelligence We Can Trust. Ezra Klein es periodista, analista político y presentador del pódcast The Ezra Klein Show para The New York Times.