Entre Moscú y San Petersburgo: excursión al mega centro de datos de Udomlya

En algún lugar en el medio entre Moscú y San Petersburgo está la pequeña ciudad de Udomlya. Anteriormente, era conocido por la central nuclear de Kalinin. En 2019, apareció otra atracción cercana: el mega centro de datos de Udomlya para 4 mil bastidores. 



Después de unirse al equipo de Rostelecom-DPC, los especialistas de DataLine también operarán este centro de datos. Probablemente ya hayas escuchado algo sobre "Udomlya". Hoy hemos decidido contarte en detalle cómo funciona todo allí.





Paisajes industriales: centro de datos de 32.000 m² y planta de energía nuclear en el fondo. Muestra de Udomlya de la primavera de 2019.



Más de 40 fotos de sistemas de ingeniería de centros de datos con una descripción detallada se recogieron debajo del corte. Una sorpresa agradable espera a quienes llegan hasta el final.



Sobre logistica

El centro de datos se encuentra en la región de Tver. Desde Moscú hasta Udomlya, el camino durará aproximadamente tres horas: 1 hora y 45 minutos en Sapsan hasta la estación Vyshny Volochek, y desde allí, previa solicitud, un servicio de transporte lo recibirá y lo llevará al centro de datos. De San Petersburgo a Vyshny Volochok un poco más: 2 horas y 20 minutos. 



En automóvil, puede llegar desde Moscú en 4.5 horas, desde San Petersburgo, en 5.



Sí, por el bien de un par de unidades, probablemente no querrá ir aquí. Pero si necesita un nuevo hogar para docenas de bastidores, entonces vale la pena echarle un vistazo más de cerca. Hay suficiente espacio y electricidad, incluso si desea duplicar esa cantidad en cualquier momento. En Moscú, donde, según nuestra experiencia, los centros de datos están reservados incluso en la etapa de construcción, este truco no siempre funcionará.



Además, la ubicación del centro de datos entre Moscú y San Petersburgo se puede utilizar para la redundancia geográfica. Si las capacidades principales están en Moscú o San Petersburgo, entonces el sitio de reserva encajará bien aquí.



Un equipo de manos inteligentes ayudará con todas las operaciones estándar en el sitio. Recibirán, desempacarán e instalarán equipos en bastidores, lo conectarán a la alimentación y a la red y proporcionarán acceso remoto a los equipos. En caso de mal funcionamiento, ayudarán con el diagnóstico y reemplazarán los componentes defectuosos.



La primera etapa del centro de datos consta de 4 salas de computadoras, o módulos, con 205 bastidores cada uno. En el primer piso hay 2 salas de máquinas y un centro de energía, en el segundo hay dos salas más y un centro de frío. Veamos cómo funciona todo aquí.



Seguridad física

El centro de datos ocupa un área dedicada, que no se puede ingresar sin un pase y un documento de identidad. Los que llegan en automóvil también reciben un pase de transporte y solo entonces pueden ingresar al centro de datos. Para aquellos que tienen todo en orden con un pase, el centro de datos está abierto 24x7.







El primer puesto de seguridad las 24 horas es la entrada al territorio.







Vamos más allá y llegamos al punto de control directamente en la entrada del centro de datos.







El personal de seguridad no solo se encuentra con los clientes y emite pases, sino que también monitorea la pared de video durante todo el día, donde se muestran imágenes de todas las instalaciones internas del centro de datos y los territorios adyacentes.







Fuente de alimentación

La electricidad comienza su camino hacia el centro de datos desde una planta de energía nuclear. El centro de datos se suministra con 10 kV para 6 transformadores reductores. Además, ya 0.4 kV por dos rutas independientes van al tablero de baja tensión (LVSN). Luego, a través del DIBP, se suministra energía a los equipos de TI y de ingeniería. El bastidor tiene dos entradas independientes, es decir, redundancia 2N. Le informaremos más sobre cómo funciona todo en términos de suministro de energía en un artículo separado.





La ruta de la electricidad en el centro de datos "Udomlya"





Autobuses de potencia a través de los cuales la electricidad proviene de la aparamenta de baja tensión a los paneles de alimentación DIBP Filas de la aparamenta de baja tensión









A pesar del hecho de que una planta de energía nuclear está cerca, en cualquier centro de datos confiable se considera que el suministro de energía principal está garantizado. En nuestros centros de datos, como saben, las DGU son responsables de ello, pero aquí usan UPS dinámicos (DIBP). También proporcionan una fuente de alimentación ininterrumpida. Los RIBP son N + 1 redundantes. 





Marca DIBP Euro-Diesel (Kinolt) con una capacidad de 2 MW. Rugen de tal manera que es mejor no ir allí sin tapones para los oídos.



Y así es como funciona. DIBP es una combinación de tres componentes principales: un motor diesel, una máquina eléctrica síncrona y un acumulador de energía cinética con un rotor. Todos están fijados al eje principal.



La máquina eléctrica puede funcionar en modo de motor eléctrico y generador. Cuando el DIBP se suministra normalmente desde la ciudad, la máquina eléctrica es un motor eléctrico que hace girar el rotor y almacena energía cinética en la batería.









Bloque gris en primer plano - máquina sincrónica DIBP





Motor diesel DIBP



Si falla la energía de la ciudad, la máquina eléctrica cambia al modo generador. Gracias a la energía cinética acumulada, el rotor hace girar el eje principal del DIBP, la máquina eléctrica continúa funcionando sin energía de la ciudad y el voltaje de salida no desaparece. Esto asegura una fuente de alimentación ininterrumpida en el centro de datos. Al mismo tiempo, el sistema de control DIBP da una señal para arrancar el motor diesel. La misma energía cinética del rotor arranca el diésel y lo ayuda a alcanzar la frecuencia de funcionamiento. El rotor sigue acelerando hasta un minuto, y esto es suficiente para que el motor diesel se haga cargo. Después de arrancar, el motor diesel gira el eje principal, y a través de él, y la máquina eléctrica (aquí hay un video visualcambiar DIBP de un modo a otro).



Como resultado, la potencia en los bastidores no se pierde ni por un segundo.







Cada tanque generador diesel está diseñado para 3 horas. El centro de datos también tiene su propio almacenamiento de combustible para 80 toneladas, que mantendrá toda la carga del centro de datos durante 24 horas. En caso de apagones muy hipotéticos (una planta de energía nuclear cercana no lo permitirá), hay contratos con varios contratistas que entregarán rápidamente combustible diesel al sitio en una llamada. En general, todo es como debería ser.



Cada semana, los DIBP se autoevalúan y encienden el diésel. Una vez al mes, las pruebas se llevan a cabo con una desconexión a corto plazo de la red de la ciudad.





Panel de control DIBP





Room ShGP y ShbP  





"Magistrali" y "desacoplamiento" de cables de alimentación



Salas de máquinas

Cada módulo está ubicado en un área de contención, en una caja especial. Estas paredes y techo adicionales protegen la sala de máquinas del polvo, el agua y el fuego. Al aceptar un centro de datos, el área de contención se derrama tradicionalmente con agua para verificar si hay fugas.





El techo del edificio y su propio techo de la sala de turbinas con tuberías de drenaje El





agua que ingresa al techo del área de contención pasa a través de las canaletas hacia la tubería de



drenaje.Cada sala está lista para recibir 205 bastidores con una potencia promedio de 5 kW.







La disposición de los equipos en la sala se organiza de acuerdo con el esquema de corredores fríos y calientes. 





Se instalaron sistemas de detección temprana de incendios y extinción de gases a lo largo del techo. 







Los detectores de humo también se encuentran debajo del piso elevado. Es suficiente para activar cualquiera de los dos sensores, y sonará la sirena de alarma contra incendios, pero hablaremos de esto un poco más tarde.



Inmediatamente a lo largo de las filas de aires acondicionados, hay sensores de fugas de cinta.







Cada corredor entre los mostradores es "filmado" por cámaras de video vigilancia.

Si lo desea, los bastidores se pueden colocar detrás de una cerca especial (jaula) y se pueden instalar cámaras adicionales, ACS y sensores de movimiento, sensores de volumen, etc. 







Suministro de frío

El centro de datos de Udomlya utiliza un circuito enfriador de etilenglicol. Hay aires acondicionados en las salas de máquinas, enfriadores en el techo, y en el segundo piso hay un centro de refrigeración con tuberías, un sistema de automatización y control, bombas, tanques de almacenamiento, etc.



Hay 12 aires acondicionados en cada habitación, la mitad de ellos con humidificadores de vapor. Esquema de redundancia N + 1.



El pasillo frío mantiene una temperatura de 21-25 ° C y una humedad del 40-60%.





Acondicionadores de aire de precisión Stulz CyberAir 3PRO CW 



Hay dos anillos alrededor de cada sala de computadoras: una línea "fría" que suministra etilenglicol enfriado al aire acondicionado y una línea "caliente" que elimina el glicol calentado de los acondicionadores de aire a las enfriadoras. Si abrimos el piso elevado en el pasillo, veremos gotas en las salas de máquinas desde el sistema de enfriamiento. 







La ruta del etilenglicol es la siguiente: el etilenglicol calentado del aire acondicionado primero entra en la línea de retorno alrededor de la sala de turbinas, y luego en el anillo común. Luego, el etilenglicol va a la bomba y luego al enfriador, donde se enfría a 10 ° C. Después del enfriador, el etilenglicol regresa al aire acondicionado a través de la línea de suministro de anillo común, tanques de almacenamiento y un anillo alrededor del módulo.





Esquema de





refrigeración del  centro de datos Así es como se ve un centro frío , a través del cual pasan 100 m 3 de etilenglicol .



Los tanques grises son tanques de expansión. El etilenglicol calentado pasa a través de ellos en el camino hacia el enfriador. En verano, el etilenglicol se expande y requiere espacio adicional.







Estas capacidades impresionantes son tanques de almacenamiento de 5 m 3 cada uno.cada. Proporcionan enfriamiento ininterrumpido del centro de datos en caso de falla de la enfriadora.

El etilenglicol enfriado desde los tanques se suministra al sistema, y ​​esto permite mantener la temperatura del aire en la salida del aire acondicionado a 19 ° C durante 5 minutos. Incluso si fuera de la ventana es +40 ° C.









Bombas del sistema de enfriamiento





Filtros de bolsillo de malla y tanques separadores para limpiar el etilenglicol de partículas mecánicas y aire



. Recorren todo el perímetro del centro frío.







Si alguna de las tuberías tiene fugas, el etilenglicol pasará por el sistema de drenaje y entrará en un tanque especial en la sala de tratamiento de agua. También hay dos tanques con etilenglicol "de repuesto" para alimentar el sistema de refrigeración en caso de fugas grandes.







Y sobre enfriadores. Hay 5 enfriadores en el techo con redundancia N + 1. Todos los días, la automatización determina, dependiendo del tiempo de funcionamiento, qué enfriador se debe reservar. 





Las enfriadoras de la marca Stulz CyberCool 2 con una capacidad de 1096 kW Las



enfriadoras admiten tres modos:



  • compresor - desde 12 ° C;
  • mezclado - a 0–12 ° C;
  • Enfriamiento libre: desde 0 y menos. Este modo implica enfriar el etilenglicol usando los ventiladores, no el compresor.






Seguridad contra incendios

El centro de datos tiene dos estaciones de extinción de incendios a gas. Cada uno tiene dos baterías de 11 cilindros: el primero es el principal, el segundo es la reserva.



El sistema de protección contra incendios del centro de datos está vinculado al servidor de la central nuclear de Kalinin y, si es necesario, el servicio de bomberos de la estación llegará al sitio en minutos.







La imagen es un sistema de alarma contra incendios y un botón de salida de emergencia en la sala de máquinas. Esto último es necesario si, durante una alarma de incendio, las puertas no se desbloquearon por algún motivo: interrumpe el suministro de energía de la cerradura eléctrica.







Telecom

Dos autopistas de Rostelecom llegan al centro de datos por rutas independientes. Cada uno de los sistemas DWDM tiene una capacidad de 8 Terabits.



El centro de datos tiene dos entradas de telecomunicaciones, que se encuentran a una distancia de más de 25 metros entre sí.



Los operadores Raskom, Telia Carrier Russia, Consist también están presentes en el sitio; DataLine aparecerá en un futuro próximo.  



Desde Udomlya puedes construir un canal a Moscú, San Petersburgo o cualquier parte de Rusia y el mundo. 







Supervisión

Los ingenieros de servicio están de guardia las 24 horas en el centro de monitoreo.



Aquí se recibe toda la información sobre los sistemas de ingeniería: condiciones climáticas en la sala, estado de los insumos, DIBP, etc.



Cada dos horas, los oficiales de servicio realizan una ronda de todas las instalaciones de infraestructura para inspeccionar el estado de los equipos de ingeniería y TI. 







Infraestructura de soporte

Se proporciona una zona de descarga para la entrega de equipos al centro de datos.







Área de descarga desde el interior.







Si su gimnasio está en el segundo piso, entonces este montacargas hidráulico llevará cualquier equipo allí.







Taquillas para almacenar herramientas de cliente y más.  







Un poco sobre la vida cotidiana.

Para el personal permanente, puede alquilar lugares de trabajo equipados en la parte de la oficina. Si viene de vez en cuando, puede alojarse en un hotel temporal con todas las comodidades en el territorio del centro de datos. 

El área de oficinas también cuenta con un comedor y una cocina.  







Y también hay una naturaleza increíble a su alrededor con bosques, lagos, ríos, pesca y otras actividades al aire libre. Ven a visitar mi casa.











Según lo prometido, un buen bono para aquellos que llegaron hasta el final. Durante los primeros seis meses, el alquiler de una estantería en Udomla con una potencia suministrada de 5 kW será gratuito. Pague solo por la electricidad realmente consumida. Envíe su solicitud a request@dtln.ru .



All Articles