Sobre las oportunidades y los riesgos de los modelos fundacionales

Stanford University, 2022

15 minutes de lecture

6 points à retenir

Audio et texte

Aperçu

El sistema de inteligencia artificial de vanguardia actual es la “base” de los modelos futuros.

1×

Connectez-vous pour écouter un résumé audio.

Clasificación editorial

getAbstract synthétise des ouvrages* qui permettent aux utilisateurs de mieux comprendre le monde pour le rendre meilleur. Quel que soit le livre que nous sélectionnons pour notre bibliothèque, il doit se distinguer par l'un ou l'autre des deux critères suivants :

Enrichissant – Les enseignements que vous en tirerez orienteront et amélioreront vos décisions.

Utile – Les conseils pratiques qui sont dispensés vous aideront à améliorer la prise de décision.

Nous évaluons chaque contenu sur une échelle de 1 à 10 en fonction de ces deux qualités essentielles . La note attribuée vous permet de classer les titres de votre liste de lecture de Plaisant (5) à Excellent (10). Les livres qui obtiennent moins de 5 ne font pas l'objet d'une publication. Voici ce que signifie chaque note :

10 – Excellent. Un livre utile et/ou instructif qui, outre ses nombreuses qualités, fait office de classique du genre. Une référence.
9 – Superbe. Un livre utile et/ou instructif extrêmement bien écrit et structuré, qui présente de multiples caractéristiques positives et aucune lacune notable.
8 – Très bien. Un livre utile et/ou instructif qui présente de multiples caractéristiques positives mais quelques points faibles. L'ouvrage peut par exemple présenter les dernières découvertes dans un domaine spécialisé et être rédigé par un expert, mais pécher par son style d'écriture.
7 – Bien. Un livre utile et/ou instructif, qui combine deux ou plusieurs caractéristiques positives. Il peut par exemple contenir des idées novatrices, présentées de manière engageante.
6 – Appréciable. Un livre utile et/ou instructif, qui présente au moins un aspect engageant. Il peut, par exemple, être particulièrement bien structuré.
5 – Plaisant. Un livre utile et/ou instructif, même si le contenu pourrait être amélioré. Ce livre peut par exemple prodiguer des conseils utiles dans certains domaines, mais être répétitif et sans relief particulier.

*getAbstract synthétise bien plus que des livres. Nous recherchons tous types de contenus pouvant intéresser nos lecteurs : des livres, mais également des articles, des rapports, des vidéos et des podcasts. Nos classifications sont valables pour les livres, mais également pour les autres formats que nous proposons.

Cualidades

Analítico
Científico
Revelador

Si la notation vous indique le niveau qualitatif du livre en fonction de nos deux critères principaux, elle n'explique aucune caractéristique particulière. Nous nous appuyons donc sur 20 qualités qui définissent les traits essentiels de l'ouvrage :

Pratique – Vous obtiendrez des conseils que vous pourrez aisément mettre en pratique sur votre lieu de travail ou dans des situations quotidiennes.
Analytique – Vous comprendrez les mécanismes internes du sujet abordé.
Connaissance du contexte – Vous aurez accès à des connaissances contextuelles pouvant servir de base à l'action ou à l'analyse.
Audacieux – Vous découvrirez des arguments susceptibles de rompre avec les points de vue dominants.
Complet – Vous trouverez une étude exhaustive du sujet.
Exemples concrets – Vous obtiendrez des conseils pratiques illustrés par des récits d'applications concrètes ainsi que des anecdotes authentiques.
Polémique – Vous serez confronté à des idées faisant l'objet d'un débat animé.
Éloquent –Vous prendrez plaisir à découvrir un ouvrage rédigé ou composé de main de maître.
Captivant – Vous serez captivé par cet ouvrage du début à la fin.
Révélateur – Vous découvrirez des informations très surprenantes.
Niveau débutant – Cet ouvrage constitue un bon point de départ si vous avez peu ou aucune expérience/connaissance du domaine traité.
Niveau Expert – Vous obtiendrez des informations/recommandations spécialisées utiles dans votre domaine de spécialité.
Sujet d'actualité – Plongez au cœur d'un thème qui fait l'objet d'un vif débat.
Innovant – Découvrez des idées et des concepts innovants sur des tendances et des produits inédits.
Vu de l'intérieur – Vous aurez le privilège d'être initié par un spécialiste du domaine.
Stimulant – Vous aurez envie de mettre immédiatement en pratique les conseils prodigués.
Aperçu – Vous acquerrez une appréciation globale du sujet et de ses aspects principaux.
Approche scientifique – Vous aurez accès à des faits et des chiffres fondés sur la recherche scientifique.
Visionnaire – Vous aurez un aperçu de l'avenir et ce qu'il vous réserve.
Bien structuré – Vous trouverez ce contenu particulièrement bien structuré, ce qui facilite l'adhésion à ses idées ou leur mise en œuvre.

Reseña

Los modelos fundacionales de inteligencia artificial se entrenan con datos diversos. Con el uso de redes neuronales profundas y aprendizaje autosupervisado, pueden manejar una gran variedad de áreas temáticas y tareas. Según un amplio equipo de investigación de la Universidad de Stanford, los expertos pueden desplegar modelos fundacionales a una escala alucinante con miles de millones de parámetros. Estos modelos, que pueden entrenarse para realizar muchas tareas, también parecen desarrollar la capacidad de realizar tareas más allá de su entrenamiento. Estos modelos de inteligencia artificial son nuevos y es posible que algunos usuarios no comprendan sus debilidades ni su potencial. Dado que los modelos fundacionales pronto serán de uso generalizado, los investigadores deben dar prioridad al estudio de las cuestiones sociales y éticas que suscitan.

Resumen

La emergencia y la homogeneización caracterizan los modelos fundacionales de la inteligencia artificial (IA).

Los modelos fundacionales de la IA se entrenan con datos diversos y se manejan mediante redes neuronales. Se basan en el aprendizaje autosupervisado y pueden realizar una gran variedad de tareas concretas. Los modelos fundacionales recientes son de gran envergadura. Por ejemplo, el Transformador Generativo Preentrenado (GPT-3) despliega la asombrosa cifra de 175.000 millones de parámetros y puede realizar una gran variedad de tareas que nadie le enseñó específicamente a realizar.

La emergencia ocurre cuando este tipo de sistema de aprendizaje automático aprende a realizar una tarea fuera de su entrenamiento formal al recurrir a ejemplos de esa tarea en los datos suministrados por los desarrolladores. Cuando el enfoque del aprendizaje automático para una variedad de aplicaciones o tareas deriva de una única metodología, se dice que el modelo fundacional está homogeneizado. Los modelos fundacionales muy homogeneizados transmiten cualquier defecto que tengan a las aplicaciones individuales que los utilizan.

Los modelos fundacionales...

Sobre los autores

Rishi Bommasani es estudiante de doctorado en informática en la Universidad de Stanford, donde Percy Liang es profesor asociado de informática. Más de 100 investigadores firmantes han contribuido a este trabajo.