Cómo elegimos una biblioteca de aprendizaje automático para lenguaje natural

En 2019 apareció en OTR un nuevo centro de trabajo con inteligencia artificial (CII). Inicialmente, se creó como una especie de experimento de trabajo con nuevas tecnologías. Sin embargo, muy pronto recibió la primera misión de combate para automatizar el soporte técnico para los usuarios del "Presupuesto electrónico" del GIIS. Anatoly Bezryadin, Director de la Dirección de Tecnologías y Competencias, y empleados de CII que participaron en el ambicioso proyecto, hablaron sobre las etapas de implementación de la IA.





Las llamadas al soporte técnico son solicitudes técnicas complejas con muchas variables: sección, subsistema, documentación reglamentaria, factura, etc. En algunos casos, el texto de la propuesta podría tener hasta 20 líneas de texto. A veces, incluso para una persona, es difícil comprender el contexto de una aplicación de este tipo, y para la IA puede convertirse en una tarea insoluble. 





La lista de dificultades se complementó con plazos ajustados para completar la tarea, así como restricciones en las soluciones de software utilizadas. Dado que trabajamos con clientes gubernamentales, podemos utilizar nuestros propios desarrollos o soluciones de código abierto. 





Elegir el tipo de redes neuronales

« » . , . .





. . . , .





. . . , . , . , .





. , . . . , . .





. . , . .





. .





, . . , , :





  • ;





  • ;





  • ;





  • ;





  • GPT;





  • BERT.





, . .





GPT BERT. , . BERT , , Google. .





:





  • open-source-;





  • ;





  • ;





  • ;





  • ;





  • ;





  • .





:





  • MATLAB + Deep Learning Toolbox;





  • Theano:





  • Torch;





  • PyTorch:





  • TensorFlow/Keras.





MATLAB — The MathWorks. . Deep Learning Toolbox. , . 





. , . , . 





Theano — Python. . , .





, Theano . . 





Torch — . Lua. , . 





Theano, Torch . . . 





PyTorch — . , Torch. Python. 





PyTorch , , . . 





TensorFlow — , Google. Keras, . . 





TensorFlow Keras . , , . Google.





Google TensorFlow Keras . —  , 10 . 





75% . . . . 85%.





« ». . .





, . , .








All Articles