DeepMind Ontol: el líder mundial en inteligencia artificial

imagen




Los científicos de DeepMind han compilado una lista de recursos curativos de materiales educativos para aquellos que buscan conectar sus vidas con la inteligencia artificial y el aprendizaje automático. Llamo a esta colección "ontol", una lista de lo que forma la imagen del mundo en un tema determinado, clasificada por importancia y compilada por una persona viva, un especialista que es reputacionalmente responsable de esta lista (para que no haya mercadotecnia ni mentiras sesgadas en ella).



Según lo planeado, si las diez principales empresas en el campo de la IA solicitan a sus principales especialistas (cada uno) que hagan una selección de los mejores materiales que los formaron como especialistas, obtendremos una variedad de colecciones (lista de los mejores recursos 10/100 + nombre del compilador) y en función de esto, puede sacará conclusiones interesantes (a) sobre la calidad de los materiales, que deben enseñarse en primer lugar b) sobre la calidad de los especialistas que pueden resaltar lo principal c) algo más). Así que "marcamos" todos los textos / videos abiertos en el campo de la IA. Luego abordaremos otros temas: comida, confianza, trabajo de la vida, familia, cooperación, distorsiones cognitivas, etc., lo que forma la imagen del mundo.



Pruebe el prototipo beta.ontol.org y suscríbase al canal @Ontol



Tabla de contenido





Safety



Neuroscience

Natural Language Processing

Machine Learning

Deep Learning

Reinforcement Learning

Unsupervised Learning and Generative Models







21 Definiciones de equidad y su política (video): Arvind Narayanan analiza las diversas definiciones de justicia y sus compromisos que representan para la sociedad.



Libro de equidad y aprendizaje automático (libro, video): una descripción general de la equidad en los temas de aprendizaje automático.



Curso de Justicia de la Universidad de Harvard (video): conferencias profundas y atractivas sobre justicia y filosofía moral ( Traducción ).



Tutorial NeurIPS 2017 sobre equidad en el aprendizaje automático (video) - Solon Barokaz y Moritz Hardt discuten en detalle los elementos sociales y técnicos de la justicia en el aprendizaje automático.



El problema con el sesgo - NeurIPS 2017 (video) - Kate Crawford discute las consecuencias étnicas del sesgo en los sistemas de inteligencia artificial.



La seguridad



Revisión de la literatura de seguridad de AGI (publicación): una excelente revisión de la literatura general de seguridad de la IA antes de 2018 con cientos de referencias para estudios posteriores.



Boletín AI Alignment de Rohin Shah (Boletín): un boletín semanal que resume el último trabajo en el campo de la seguridad de la inteligencia artificial.



Canal de seguridad de AI de YouTube por Robert MIles (video): videos educativos y de entretenimiento que presentan al público los conceptos clave de la seguridad general de la inteligencia artificial .



Problemas concretos en la seguridad de la IA (publicación): una descripción general útil sobre la seguridad de la IA , un artículo original y clásico en el campo de la seguridad de la IA.



Compatible con humanos: inteligencia artificial y el problema del control por Stuart Russell (libro) - Un libro de lectura obligatoria sobre la seguridad de la inteligencia artificial por autoría de la IA original.



Teoría y conceptos fundamentales.



3Blue1Brown Youtube channel (video) - Excelente serie de tutoriales. El video desde cero en álgebra lineal y redes neuronales es especialmente útil.



Una visión 2020 del álgebra lineal (Gilbert Strang, MIT) (video) - Resuma brevemente todo el curso de álgebra lineal desde un nuevo ángulo con detalles técnicos: cómo se aplica el álgebra lineal en la vida real, especialmente en el campo del aprendizaje automático.



Andrew Ng's Machine Learning course ( curso en línea): el primer curso de aprendizaje automático muy práctico y extenso. Dado que el curso se encuentra en la plataforma Coursera, sus tareas pueden evaluarse y los asistentes y otros estudiantes pueden ayudarlo con el material del curso.



Inferencia causal en estadística: una cartilla(preprint en línea) - Gran introducción a la inferencia causal. Esta es una preimpresión de la versión completa del último libro.



Inferencia causal: ¿Qué pasaría si? (Libro en línea) - Un nuevo libro sobre conclusión causal.



David MacKay, videos del curso de teoría de la información (video): cubre una amplia gama de áreas en las conferencias de estilo corporativo de McKay.



Curso de David MacKay sobre teoría de la información, reconocimiento de patrones y redes neuronales (video): curso legendario de David McKay sobre teoría de la información, descubrimiento de patrones y redes neuronales



Fundamentos teóricos de decisión para la causalidad estadística (artículo en línea): una forma alternativa de formular operaciones de inferencia causal.



Deep Bayes clases de verano y materiales de laboratorio.(video) - Conferencias y ejercicios prácticos sobre modelado probabilístico y aprendizaje bayesiano.



Elementos de inferencia causal: fundamentos y algoritmos de aprendizaje (libro en línea): este libro introduce al lector a una conclusión causal de una manera simple y asequible.



Esencia de álgebra lineal (3blue1brown) (video): proporciona una muy buena comprensión de las ideas clave en álgebra lineal sin entrar en detalles técnicos. Acompaña un libro de texto de álgebra lineal tradicional o un curso universitario.



Blog de Francis Bach (blog): consejos y trucos útiles, análisis en profundidad de varios conceptos de aprendizaje automático.



Curso de empresa de inteligencia humana (materiales del curso ) - Historia de la inteligencia humana.



¿La matemática abstracta de la topología es aplicable al mundo real? (video) - La introducción es una excelente descripción de los conceptos básicos de la topología. El taller describe convincentemente aplicaciones específicas.



Cursos de KhanAcademy (video): una excelente introducción para principiantes en estadística, teoría de la probabilidad, matemáticas, necesaria para comprender el aprendizaje automático.



Curso Learning from Data - Caltech (video) - Una buena introducción al aprendizaje automático. Una explicación muy clara de los temas.



Lecture Notes on Monte Carlo - Una breve explicación del método de Monte Carlo.



Matemáticas para el aprendizaje automático (libro): un gran libro que cubre los conceptos matemáticos básicos necesarios para el aprendizaje automático.



Curso MIT Machine Learning ( curso en línea): excelente curso de 2006 sobre los conceptos básicos (y ahora la historia) del aprendizaje automático antes del aprendizaje profundo y muchos niveles de abstracción se convirtieron en la corriente principal.



Curso de Nando de Freitas sobre aprendizaje automático (video): un curso útil y una presentación sobre aprendizaje automático.



Princeton Companion to Mathematics (libro) - Probablemente la fuente matemática más sorprendente que existe. El libro ofrece una descripción detallada de los conceptos más importantes de las matemáticas modernas, sin antecedentes en el autoproclamado formato de cuento antes de dormir: divertido, fácil de entender e intuitivo.



Proyecto euler(Comunidad de resolución de problemas): una serie de desafiantes problemas matemáticos y de informática para energizar el cerebro. Son muy interesantes de resolver, y los conocimientos adquiridos lo ayudarán en su carrera en el campo del aprendizaje profundo.



Curso de teoría del aprendizaje estadístico (en línea): un curso gratuito sobre los fundamentos del aprendizaje automático para personas con educación matemática impartido por los profesores Hasti y Tibshirani.



Extraiga todas las ideas clave del álgebra lineal en 1 lección (video) - Lacónico, integral.



The Book of Why (capítulos del libro): una introducción fácil a la inferencia causal y una digresión histórica en su desarrollo.



Neurociencia



Podcast inspirado en el cerebro : un podcast que combina la neurociencia y la inteligencia artificial.



Conferencias de la Escuela de Verano del Centro para Cerebros Mentes + Máquinas (video) - Conferencias de la famosa Escuela de Verano Woods Hole sobre Neurobiología Computacional * Cognitiva * (más sobre cognición de alto nivel, comportamiento y enlaces al aprendizaje automático).



Modelización cognitiva computacional @ NYU (diapositivas y textos): una revisión de los enfoques computacionales para modelar la cognición humana, estrechamente relacionada con la inteligencia artificial y el aprendizaje automático.



Modelos computacionales de la neocorteza (Apuntes de clase) - Interdisciplinarios y avanzados.



Conferencias de Métodos en Neurociencia Computacional Woods Hole Summer School(video) - Conferencias de la famosa Escuela de verano Woods Hole sobre el * sistema * computacional de neurobiología (más sobre los ciclos y las propiedades sistémicas del cerebro)



Niveles de análisis de Marr (Visión, 1982, Capítulo 1) (capítulo del libro) - Explica perfectamente con ejemplos mediante ejemplos Algoritmos útiles como EM. Sirve como una gran adición al libro de Bishop.



Curso de verano de cerebros, mentes y máquinas del MIT (video): un curso de posgrado en la intersección de la ciencia cognitiva, la neurociencia y la inteligencia artificial.



Modelos probabilísticos de cognición (tutorial interactivo): un tutorial interactivo que describe el uso de un modelo probabilístico para crear y modelar comportamientos similares a los humanos.



El desafío de comprender el cerebro: dónde estamos parados en 2015(publicación) - Una buena visión general de la neurociencia desde la perspectiva de la biología.



Neurociencia teórica (libro en línea): una introducción popular a la neurociencia teórica.



Procesamiento natural del lenguaje



Introducción al procesamiento del lenguaje natural (video): una introducción al procesamiento del lenguaje natural para personas con antecedentes técnicos.



Una introducción a los modelos de redes neuronales para el procesamiento del lenguaje natural (publicación): una descripción clara de cómo se utilizan las redes neuronales en el procesamiento del lenguaje natural.



CS224n: Procesamiento del lenguaje natural con aprendizaje profundo (video) - Curso de Stanford sobre procesamiento moderno del lenguaje natural .



Progreso de PNL (lista de conjuntos de datos y resultados): un sitio web impulsado por la comunidad que enumera una gran cantidad de tareas, conjuntos de datos y resultados modernos de procesamiento de lenguaje natural.



Curso Oxford / DM PNL 2017(curso de lectura) - Un curso de lectura avanzado sobre procesamiento del lenguaje natural, leído en Oxford por DeepMinder.



Procesamiento del habla y el lenguaje (libro): una referencia autorizada al procesamiento del lenguaje natural, ahora en la versión 3D y disponible en línea.



The Annotated Transformer (publicación de blog) - Gran introducción al modelo dominante de procesamiento del lenguaje natural.



Aprendizaje automático



Coursera Machine Learning de Amii: Algoritmos en la especialización del mundo real (curso en línea): una excelente visión general sobre la formación e identificación de problemas de aprendizaje automático y sus soluciones.



Razonamiento bayesiano y aprendizaje automático (libro en línea) - Fundamentos del razonamiento y modelado probabilístico.



David MacKay, Gaussian Process Basics (video): la introducción más accesible e intuitiva al proceso gaussiano.



El libro de David MacKay "Teoría de la información, inferencia y algoritmos de aprendizaje" (libro) - David MacKay presenta una perspectiva única sobre la relación entre la teoría de la información, la inferencia y el aprendizaje. Su estilo de escritura es único, como lo es el humor en el libro.



Entrar en el aprendizaje automático (blog): un blog para aquellos que buscan entrar en el aprendizaje automático.



Apuntes sobre el aprendizaje automático - Herbert Yager apuntes sobre el aprendizaje automático. Describe muchos fundamentos y estándares de los temas de aprendizaje automático. Muy bien escrito (casi como un libro).



Machine Learning en UBC 2012 (video) - Curso de aprendizaje automático 2012 de la Universidad de Columbia Británica.



Aprendizaje automático, probabilidad y modelos gráficos (Sam Roweis) (video) - Gran explicación de los modelos gráficos del legendario Sam Roweis.



Clasificación de cursos en línea de ML (lista de recursos): una descripción bastante completa de los mejores cursos de aprendizaje automático en línea.



Curso de aprendizaje automático de Stanford (video): una introducción al curso de aprendizaje automático.



Domingos clásicos(lista de recursos) - Una colección de clásicos sobre todos los temas de aprendizaje automático, ciencias cognitivas, estadística, teoría de la información, neurociencia, inteligencia artificial, procesamiento de señales, investigación de operaciones, econometría, etc.



WEKA: un banco de trabajo para el aprendizaje automático (recursos en línea) - Un gran conjunto de herramientas de software gratuitas para familiarizarse con los datos, la visualización de datos, la clasificación, la regresión, la selección de características y la base de ciencia de datos. Utilizo constantemente estos recursos para enseñar a otros a ver patrones en los datos y apreciar cuánto puede ver el sistema y usar estos y otros patrones más complejos.



David MacKay, todas las videolecturas (video) - El nombre de David McKay es bien conocido en el campo, especialmente en estadística y aprendizaje automático probabilístico.



Aprendizaje profundo



Andrej Karpathy blog / hacker guide (publicación de blog): una introducción muy accesible a las redes neuronales. También en su blog, puede encontrar consejos prácticos que son aplicables a la vida.



Una visión general de los algoritmos de optimización de gradiente descendente (Entrada de blog) - Un post integral mirando las principales opciones para la optimización de descenso de gradiente utilizado para optimizar las redes neuronales



blog de Chris Olah (blog) - Chris Olah 's enfoque puede ser llamado muy educativo para el aprendizaje de conceptos clave (como los conceptos de comprensión y elementos) en el aprendizaje automático a un nivel profundo. Chris es un apasionado de la educación y excelente escritura.



Crash Course AI (video): una serie introductoria útil y bien preparada. Es probable que sea lo mejor para estudiantes y principiantes.



CS231: Redes neuronales convolucionales para el reconocimiento visual (Stanford) (video) - Grandes notas en el enlace: cs231n.github.io Una buena continuación del curso de Andrew Eun, que nos sumerge mucho más en redes neuronales convolucionales (esto se mencionó brevemente al final del curso anterior) e introduce conceptos más avanzados como modelos generativos, refuerzo profundo.



CS231n: Redes neuronales convolucionales para el reconocimiento visual (legendarias conferencias CNN de Stanford) (video): una excelente descripción de los trabajos clásicos y primitivos de redes neuronales convolucionales, que forman la base de la mayor parte del trabajo con datos visuales de



Deep Learning en Oxford 2005 (video ) - El curso Oxford Deep Learning 2015.



Libro de aprendizaje profundo (libro): una amplia introducción a los fundamentos del aprendizaje profundo por parte de algunos descubridores en este campo.



Aprendizaje profundo Indaba Practicals (Colabs): hay tutoriales que se han desarrollado y probado en humanos a lo largo de los años para enseñar el aprendizaje profundo desde los fundamentos hasta los temas avanzados, como la construcción de un marco de diferenciación automática o el aprendizaje de una red de confrontación generativa.



Sumérgete en Deep Learning (libro): un formato excelente que convierte el estudio de los conceptos clave del aprendizaje automático en una lección divertida e interactiva.



Curso DL + RL con UCL(video) - Este curso cubrió muchos temas relacionados con el aprendizaje profundo y el aprendizaje de refuerzo. Consistía en dos caminos, en su mayoría separados, uno en aprendizaje profundo y otro en aprendizaje de refuerzo, que podían estudiarse por separado.



EEML ( primera / segunda edición ) Materiales de laboratorio (Colabs) - Conferencias y talleres sobre modelado probabilístico y aprendizaje bayesiano.



Diapositivas EEML de las conferencias (diapositivas): diapositivas de las conferencias EEML del año pasado (desafortunadamente, no hay entradas). Cubren una gran cantidad de material desde la introducción hasta presentaciones más complejas.



Aprendizaje profundo de pila completa(curso en línea) - Los modelos de aprendizaje profundo no existen en el vacío. Este curso cubre los aspectos prácticos del aprendizaje profundo, como el modelo de implementación, la infraestructura, la depuración e incluso la preparación para entrevistas de aprendizaje profundo.



Introducción a la charla de aprendizaje automático en el taller de Lviv ( uno , dos ) (conferencias) - Introducción al aprendizaje automático. Introduce una teoría sobre la base de la cual se puede construir un mecanismo de aprendizaje profundo.



Videos y prácticas de Khipu + github (video + diapositivas) - Materiales de Khipu - videos y ejercicios prácticos para que los estudiantes completen.



Blog de Lilian Weng(blog) - El blog de Lilian contiene publicaciones sobre diversos temas, comenzando con la enseñanza de un plan de estudios, el aprendizaje basado en el autocontrol, el meta-entrenamiento, etc. Las publicaciones en sí no son demasiado detalladas, a veces profundizan demasiado en la especialización, pero a menudo se actualizan con nueva información que apareció después del lanzamiento de la publicación original.



MIT 6.S191 Introducción al aprendizaje profundo (videos y tutoriales): un curso introductorio del MIT sobre aprendizaje profundo y sistemas de información.



Revista en línea : una revista en línea revisada por pares que le permite crear visualizaciones y códigos informativos, incluso para facilitar la comprensión de los trabajos de investigación y aumentar la transparencia y la reproducibilidad.



Procesamiento distribuido en paralelo(libro en línea): un clásico para cualquiera que quiera comprender las raíces del aprendizaje profundo cuando era "conexionismo".



Aprendizaje profundo práctico para codificadores (curso en línea): recomendado por amigos de otras especialidades técnicas (como física y matemáticas) como una gran introducción al aprendizaje profundo.



Curso de PNL con aprendizaje profundo de Stanford (curso en línea): útil para cualquiera que quiera comenzar a aprender el procesamiento del lenguaje natural.



Sutton and Barto's Reinforcement Learning (libro de texto): este es el libro de texto de todos los libros de texto de aprendizaje reforzado. Está alineado desde cosas muy básicas hasta temas avanzados. Acompaña conferencias de David Silver.



Aprendizaje reforzado



Alberta RL 4-course Specialization (curso en línea): cuatro cursos de aprendizaje de refuerzo secuenciales que van desde Bandidos hasta Aproximación de funciones (NN), Método de gradiente y Recompensa promedio.



CS330: Metalearning y Multitarea (video): proporciona una descripción general del trabajo reciente en el campo de la metaentrenamiento y la multitarea. Un video inspirador y muy útil para mantenerse al día con las ideas modernas en el campo.



David Silver, Introducción al aprendizaje por refuerzo (video) - Bueno para recoger ideas del libro de texto de Sutton & Barto: ¿Por qué debemos pensar en estos temas? ¿Cómo se relacionan las ideas que ya hemos discutido? etc.



Curso RL de David Silver de la UCL(video): útil para cualquier persona que quiera aprender sobre el entrenamiento de refuerzo.



Curso de Emma Brunskill RL (Video) - Conferencias de video sobre aprendizaje por refuerzo del Curso de Stanford de Emma Brunskill.



Blog OpenAI : presentaciones disponibles de algoritmos de aprendizaje de refuerzo básicos y avanzados.



Aprendizaje por refuerzo: una introducción (edición 2018) (libro): este es el mismo libro introductorio sobre el aprendizaje por refuerzo. Rich es excelente para explicar los conceptos fundamentales del aprendizaje por refuerzo, y también guía al lector hasta los problemas avanzados de investigación abierta.



UofA / Amii Coursera RL Specilization by White and White(curso en línea) - Proyecto de la Universidad de Alberta - Centro para el estudio del aprendizaje por refuerzo. Adam White está asociado con Deep Mind; Una serie de cursos holísticos y bien diseñados que proporcionan los fundamentos más importantes para el aprendizaje por refuerzo.



Spinning Up in Deep RL (código): un recurso educativo creado por OpenAI que facilita el aprendizaje de refuerzo profundo.



Aprendizaje no supervisado y modelos generativos



Curso de modelos gráficos de Ermon en Stanford (sinopsis) - Cubre una amplia variedad de métodos probabilísticos.



Cómo usar t-SNE de manera efectiva (tutorial interactivo): proporciona un viaje interactivo y en profundidad a todos los obstáculos del uso de tSNE y se ha convertido en uno de los archivos adjuntos de datos de bajo tamaño más utilizados.



Videos de YouTube de Mathematicalmonk (video): explicación impresionante con ejemplos de algoritmos útiles como EM. Una gran adición al libro de Bishop.



Estimación de gradiente de Monte Carlo en el aprendizaje automático (publicación): útil para quienes realizan aprendizaje de refuerzo o modelado generativo.



Reproducción de espacios de kernel Hilbert en Machine Learning(materiales para el curso): adecuado para aquellos que estén interesados ​​en el modelado generativo y no solo.



Inferencia variacional una vista para estadísticos de David Blei (publicación) - La mejor explicación de los métodos variacionales en el contexto del modelado generativo.



Otro





Meta- entrenamiento del Chelsea Finn multi-tarea y Curso Meta-Learning (vídeo) - Video Conferencias sobre la multitarea y meta-entrenamiento.



La filosofía de

Goodman (1955). El nuevo acertijo de inducción. (capítulo del libro) Las premisas filosóficas del sesgo inductivo y por qué es difícil sacar conclusiones y una introducción.



Science

Podcast AI de Lex Fridman (video) - Conversaciones con oradores invitados diversos e impresionantes.



Serie de conferencias de Stanford Physics de Leonard Susskind (video): un excelente recurso para explorar muchas áreas importantes de la física moderna, incluida la mecánica clásica, estadística y cuántica. Estas conferencias no implican un gran conocimiento de fondo; Leonard puede presentar y explicar ideas complejas de una manera accesible y fascinante.



Informática

Mike Bostock visualizaciones interactivas - Visualizaciones interactivas de Mike Bostock.



Probabilidad en altas dimensiones : un libro comprensible sobre "ideas en la intersección de la teoría de la probabilidad, el análisis y la geometría que surgen en una amplia gama de problemas contemporáneos en diversos campos". Curso de dinámica no lineal Strogatz de



robótica (video) - Curso de video sobre dinámica no lineal. Gracias a Ale Blankmer por su ayuda con la traducción. Aprenda los detalles de cómo obtener una profesión solicitada desde cero o subir de nivel en habilidades y salario completando los cursos en línea pagos de SkillFactory:









imagen















All Articles