Hay un problema de toxicidad en la comunidad de aprendizaje automático

La toxicidad está en todas partes.



Primero , el proceso de revisión por pares ha sido interrumpido. Una cuarta parte de los documentos de la conferencia NeurIPS se cargan en arXiv. DeepMind tiene investigadores que hostigan públicamente a los críticos que critican su presentación de ICLR. Además, los artículos de instituciones de renombre con arXiv son aceptados en las principales conferencias, incluso si los revisores deciden rechazar el trabajo. Por el contrario, algunos artículos con las críticas más positivas son rechazados (no quiero nombrar ninguno, solo eche un vistazo a la página de revisión abierta de ICRL de este año).



En segundo lugar , hay una crisis de reproducibilidad . Aparentemente, ajustar hiperparámetros en un conjunto de prueba se ha convertido en una práctica estándar hoy en día. Los artículos que no superan el mejor método actual tienen cero posibilidades de ser aceptados en una buena conferencia. Como resultado, los hiperparámetros se ajustan para lograr ganancias de rendimiento donde no hay ninguno disponible.



Tercero , está el problema de la adoración.... Cada artículo relacionado con Stanford o DeepMind es aclamado como un gran avance. Por ejemplo, BERT tiene siete veces más citas que ULMfit. Pertenecer a Google le da al artículo mucha credibilidad y visibilidad. En cada conferencia de ICML, una multitud de personas se para frente a cada póster de DeepMind, independientemente del contenido del trabajo. Es la misma historia con las reuniones de Zoom en la conferencia virtual ICLR 2020. Además, NeurIPS 2020 recibió el doble de solicitudes que ICML, aunque ambas conferencias son del más alto nivel. ¿Por qué? ¿Por qué se elogia tanto la palabra "neural"? A continuación, Bengio, Hinton y LeCune [ganadores del Premio Turing 2018 a la Investigación de IA - aprox. De hecho, son los pioneros del aprendizaje profundo, pero llamarlos "padrinos de la IA" es una locura. Esto ya se está convirtiendo en un culto.



Por cuartosYang LeCun ha sido bastante amable con los temas de prejuicio y equidad. Sin embargo, en respuesta, recibió toxicidad completamente inadecuada y reacción negativa. Deshacerse de LeCoon y callar a la persona no es una solución.



Quinto , el aprendizaje automático y la informática en general tienen un gran problema de desigualdad(diversidad). En nuestra facultad de CS, solo el 30% de los estudiantes y el 15% de los profesores son mujeres. Tomar licencia parental durante los estudios de posgrado o doctorado generalmente significa el final de una carrera académica. Sin embargo, esta desigualdad a menudo se usa incorrectamente como una excusa para proteger a algunas personas de cualquier forma de crítica. La reducción de todos los comentarios negativos en la discusión científica a la raza y el género crea un ambiente tóxico. Las personas tienen miedo de participar en las discusiones para no ser llamadas racistas o sexistas, lo que a su vez exacerba el problema de la desigualdad.



Sexto , la moral y la ética se establecen arbitrariamente.... En cualquier discusión, la política interna de los Estados Unidos domina. En este mismo momento, miles de uigures terminan en campos de concentración basados ​​en algoritmos de visión por computadora inventados por esta comunidad, y a nadie parece importarle en absoluto. Agregar una sección de "Impacto más amplio" al final de cada trabajo no resolverá este problema. Se levantan montones de basura cuando algún investigador no se menciona en un artículo. Mientras tanto, el continente africano, con una población de mil millones, está prácticamente excluido de cualquier discusión significativa sobre el LD (aparte de unos pocos talleres de Indaba).



Séptimo , la mentalidad está muy extendida.escriba "publicar o morir". Si no publica más de 5 artículos al año en las conferencias NeurIPS / ICML, es un fracaso. Los equipos de investigación han crecido tanto que el supervisor ni siquiera recuerda los nombres de todos los estudiantes graduados. Algunos envían más de 50 entradas a NeurIPS por año. El único propósito de este artículo era agregar otro artículo de NeurIPS al currículum. La calidad es secundaria; El objetivo principal era pasar por la etapa de vista previa.



Finalmente , las discusiones se volvieron irrespetuosas... Jürgen Schmidhuber, ganador del Premio Helmholtz de la Sociedad Internacional de Redes Neuronales, llama a la Royal Society of London Jeffrey Hinton ladrón, Timnit Gebra, etíope-estadounidense y codirector del Equipo de Inteligencia Artificial Ética en Google, llama al "padrino de la IA" Jan LeCun, director de Ian LeCun, y el Profesor I Caltech como supremacía blanca en Nvidia, Anima Anandkumar llama sexista al CEO y autor de libros de Geometric Intelligence, Gary Markus. Todos son atacados, pero nada mejora.



Albert Einstein se opuso a la mecánica cuántica . ¿Podemos dejar de demonizar a aquellos que no comparten nuestros puntos de vista exactamente? Permitamos que las personas estén en desacuerdo al no cortarse la garganta.



En el momento en que callamos a las personas por su opinión, el progreso científico y social simplemente muere.