Acesse a sua conta getAbstract para obter o resumo!

Ezra Klein and Gary Marcus

A Skeptical Take on the AI Revolution

The AI expert Gary Marcus asks: What if ChatGPT isn’t as intelligent as it seems?

The New York Times, 2023

5 min. de leitura

5 Ideias Fundamentais

Áudio & Texto

Sobre o que é?

Learn why current large language models aren’t as intelligent as some people think – and how AI could get smarter with time.

1×

Faça o Login para ouvir o resumo em áudio.

Editorial Rating

Na getAbstract, resumimos os livros* que ajudam as pessoas a entenderem o mundo, tornando-o um lugar melhor. Tudo o que selecionamos para a nossa biblioteca deve se destacar em uma das duas qualidades principais a seguir:

Esclarecedor – Você vai aprender conteúdos que vão ajudar você a tomar decisões melhores.

Útil – Você vai seguir conselhos práticos que vão ajudar você a se aprimorar no que faz.

Classificamos cada conteúdo em uma escala de 1 a 10 em relação a estas duas qualidades principais. As nossas avaliações ajudam você a escolher os títulos para a sua lista de leitura, indo de robusto (5) a brilhante (10). Os livros que classificamos abaixo de 5 não são resumidos. A seguir, confira o significado de cada nível da avaliação:

10 – Brilhante. Um livro útil e/ou esclarecedor que, além de atender aos mais elevados padrões em todos os aspectos pertinentes, destaca-se até mesmo entre os melhores. Ele se torna muitas vezes um clássico instantâneo e uma leitura obrigatória para qualquer pessoa.
9 – Superior. Um livro útil e/ou esclarecedor que é extremamente completo, tem muitos pontos fortes e nenhuma deficiência a ser mencionada.
8 – Muito bom. Um livro útil e/ou esclarecedor que tem um número substancial de qualidades notáveis sem se sobressair em todas as áreas. Apresenta as últimas descobertas em um tópico e é escrito por um especialista renomado, mas carece de um pouco de estilo.
7 – Bom. Um livro útil e/ou esclarecedor que combina dois ou mais pontos fortes notáveis; por exemplo, contém ideias incomumente novas e as apresenta de uma maneira envolvente.
6 – Notável. Um livro útil e/ou esclarecedor que se destaca por pelo menos um aspecto; por exemplo, é particularmente bem estruturado.
5 – Robusto. Um livro útil e/ou esclarecedor, apesar das suas deficiências óbvias. Por exemplo, pode oferecer conselhos decentes em algumas áreas, ao mesmo tempo que é repetitivo ou normal demais em outras.

*A getAbstract resume muito mais do que apenas livros. Analisamos todo tipo de conteúdo que possa interessar ao nosso público: além de livros, resumimos também artigos, relatórios, video talks e podcasts. O que apresentamos aqui sobre os livros se aplica a todos os formatos cobertos.

Qualities

Eye Opening
Hot Topic
Insider's Take

Embora a classificação indique a qualidade de um livro de acordo com nossos dois critérios principais, ela não diz muito sobre suas características definidoras específicas. Portanto, utilizamos um conjunto de 20 qualidades para caracterizar cada livro de acordo com os seus pontos fortes:

Aplicável – Você vai receber conselhos que podem ser aplicados diretamente no local de trabalho ou em situações cotidianas.
Analítico – Você vai entender o funcionamento interno do assunto.
Conhecimento Contextualizado – Você vai obter conhecimentos contextuais como um modelo para ação ou análise consciente.
Controverso – Você vai ser confrontado com opiniões capazes de gerar debates fervorosos.
Audaz – Você vai encontrar argumentos que podem romper com perspectivas predominantes.
Abrangente – No resumo vão ser abordados todos os aspectos do assunto.
Exemplos Práticos – Você vai receber conselhos práticos ilustrados com exemplos práticos ou histórias do mundo real.
Eloquente – Você vai desfrutar de um texto extremamente bem escrito ou apresentado.
Cativante – Você vai querer ler ou assistir o conteúdo até o final.
Revelador – Você vai ter acesso a ideias altamente surpreendentes.
Para Iniciantes – Você vai encontrar uma boa cartilha caso seja um aprendiz com pouca ou nenhuma experiência/conhecimento prévio.
Para Especialistas – Você vai obter os conhecimentos ou instruções de alto nível que necessita como especialista.
Hot Topic – Você vai estar no meio de uma questão altamente debatida.
Inovativo – Você vai receber ideias e insights mais recentes sobre novos produtos ou tendências.
Conhecimento de Causa – Você vai ter o privilégio de aprender com alguém que conhece profundamente o assunto.
Inspirador – Você vai querer colocar em prática imediatamente o que acabou de ler.
Panorama Geral – Você vai receber uma abordagem ampla do assunto, na qual todos os seus principais aspectos são mencionados.
Baseado na Ciência – Você vai obter fatos e números baseados em pesquisas científicas.
Visionário – Você vai ter uma ideia do futuro e do que isso pode significar para a sua vida.
Bem-estruturado – Você vai receber um conteúdo particularmente bem organizado para facilitar o seu entendimento ou aplicação.

Recommendation

In this eye-opening episode of The Ezra Klein Show, neuroscientist and leading AI expert Gary Marcus offers his highly informed insights into the significant limitations of ChatGPT and similar large language models – and explains why more data won’t overcome them. Marcus also warns of ChatGPT’s serious social threats, including perpetuating misinformation at scale. However, he also outlines a way that more sophisticated artificial general intelligence systems could play valuable roles in science, medicine, work and everyday life in the decades to come.

Summary

ChatGPT and similar systems are producing content divorced from truth.

Large language models (LLMs) like ChatGPT excel at producing convincing-sounding text, but these systems don’t understand what they’re doing and saying. Their output consists of “bullsh*t” in the classic sense defined by philosopher Harry Frankfurt: content that seems plausible but has no relationship to truth.

LLMs essentially cut and paste text to create pastiches – content that imitates a style. Humans do something similar when they think – they average things they’ve heard and read – but with a critical difference: Humans have mental models. Because computers have no such internal representations, they’re incapable of either telling the truth or lying.

AI systems like ChatGPT pose significant threats to society because they facilitate misinformation and propaganda.

LLMs threaten to create a situation where misinformation...

About the Podcast

Gary Marcus is considered a leading authority on AI, widely known for his research in human language development and cognitive neuroscience. He is professor emeritus of psychology and neural science at New York University and the founder of the machine learning companies Geometric Intelligence and Robust.AI. Marcus is the author of five books, including Rebooting AI: Building Artificial Intelligence We Can Trust. Ezra Klein is a journalist, political analyst and host of The Ezra Klein Show podcast for The New York Times.

Comment on this summary

Sign in to share your opinion
J. T. 1 year ago

One man's Misinformation is another man's normal. And vice versa. It's a big problem to be blinded by your own filter bubble and assume misinformation only happens to Other people, but not also Your people. Indeed there is already heavy political bias baked into these Large Language Models. The problem is, the engineers in California and the journalists in New York happen to agree with those biases, so they overlook them: https://www.nationalreview.com/news/grammarly-wants-to-make-you-an-ally-whether-you-like-it-or-not/