Las librerías de cintas del fabricante Oracle en sus modelos Storagetek SL8500, SL3000 y SL500 Modular Library System pueden ser monitorizados vía SNMP.  A través de su agente SNMP está certificada su integración con la herramienta de monitorización HP OpenView y mediante checks de consultas podría integrarse en Nagios.

Para el caso de monitorización con Nagios hemos elaborado unos sencillos scripts de chequeo del estado de los componentes. Son cinco checks que realizan consultas SNMP al agente de la librería y obtienen el estado de salud:

- check_health_SL : Realiza una consulta del estado de la librería.

- check_health_SL_hand : Realiza una consulta del estado de una mano robótica.

- check_health_SL_power: Realiza una consulta del estado de un componente eléctrico.

- check_health_SL_cap: Realiza una consulta del estado de un cap.

- check_health_SL_drive: Realiza una consulta del estado de un drive.

Los checks se pueden descargar desde Nagios Exchange o desde éste enlace y se liberan mediante licencia GPL.

Los argumentos que necesitan los scripts están comentados en el inicio de cada uno y para su correcta ejecución requieren:

- La utilidad snmpwalk: Estan desarrollados para un entorno Solaris 10 por lo que si necesitas adaptarlo a otro sistema operativo tendrás que cambiar el path de ejecución de la herramienta snmpwalk en cada uno.

- Activación del agente SNMP en la librería: La activación y configuración del agente debe de realizarse según instrucciones del fabricante. Los Documentos de consulta según modelo son "SL3000 SNMP Reference Manual", "SL8500 SNMP Reference Manual","SL500 Library: Simple Network Management Protocol".

-  MIB: Este fichero se obtiene desde la interfaz de administración de la librería StreamLine Library Console.

 

Unos ejemplos de ejecución son

 # ./check_health_SL_cap.sh 10.0.0.1 "/MIB/MIB-SL3000.txt"  v2c 1

CAP "1.1.-31.2.0" is ok(0).

# ./check_health_SL_hand.sh 10.0.0.1 "/MIB/MIB-SL3000.txt" v2c 2 

Robot "1.1.0.2.0" is ok(0).

# ./check_health_SL_power.sh 10.0.0.1 "/MIB/MIB-SL3000.txt" v2c 5 

 "ECM-PS2-AC1:24" is normal(2).

 # ./check_health_SL_drive.sh 10.0.0.1 "/MIB/MIB-SL3000.txt" v2c 12 

TapeDrive "1.1.2.1.6" model "T10000b-3590" with SN "XXXXXXXXXX" is empty(2).

Se limitan al estado del hardware, otros parámetros interesantes para monitorizar, tales como la ocupación de los canales o errores en los puertos de fibra de los Drives pueden ser realizadas desde la SAN, tanto por herramientas propietarias o igualmente por consultas SNMP a los switches si se usan  tecnología BROCADE.

Los sistemas de almacenamiento enterprise no suelen facilitar la recolección de datos para medir el rendimiento de los distintos subsistemas a través de protocolos abiertos,  por ejemplo mediante consultas SNMP. Si un sistema necesita ser monitorizado para abordar un problema de rendimiento, realizar un estudio de utilización o la obtención de datos para un plan de capacidad, deberá  adquirir un producto licenciado aparte, como Tuning Manager en el caso de sistemas Hitachi.

 

-Fig1.Esquema interno de Hitachi VSP-

Para los modelos de cabinas Hitachi 9900V / USP / NSC55 / USP-V / USP-VM / VSP existe una alternativa:  Export Tool – ésta herramienta va incluida en el CD que contiene el microcódigo instalado en la cabina, de forma que cada versión de microcódigo tiene su versión específica-. Se trata de una aplicación java (multiplataforma) que se ejecuta desde la línea de comandos desde un equipo con conectividad LAN con la SVP de la cabina y que obtiene los estadísticas de rendimiento en ficheros con formato CSV. El hecho de que no disponga de una interfaz gráfica, que su configuración no sea trivial, junto con que esté casi escondida entre los CDs de soporte hace que no sea demasiado utilizada por administradores.

Todo lo que se  observa desde Perfomance Monitor – elemento de la herramienta de administración Storage Navigator incluida entre el conjunto de herramientas básicas de gestión (Hitachi Basic Operating System)-, puede ser almacenado  en ficheros csv  mediante Export Tool. Performance Monitor proporciona detalles en profundidad del rendimiento de todos los elementos del sistema, incluyendo discos, volúmenes, procesadores, cache, puertos, etc. Incluso permite monitorizar el estado de copias remotas y locales de Mainframe y Open. Es la herramienta de troubleshooting y análisis esencial para la resolución de problemas de rendimiento en sistemas Hitachi 9900V / USP / NSC55 / USP-V / USP-VM / VSP. Su uso es bajo demanda y no permite monitorizar y generar alertas en modo desatendido.

 

Usando Performance Monitor y Export Tool 

 

El primer paso es habilitar la recolección de estadísticas desde la pestaña de Performance Monitor (PM) en Storage Navigator. PM dispone dos tipos de rangos para recoger y almacenar estadísticas del sistema:

 

- short range: Permite definir un intervalo de entre cada toma de datos (entre 1 y 15 min) y guarda 1440 muestras.

- long range: Recolecta datos al intervalo fijo de 15 min entre cada adquisición y los almacena durante 3 meses.

 

La instalación de Export Tool es tan sencilla como descomprimir un paquete en un directorio. El programa java lee el archivo de configuración “command.txt”. Sobre este fichero se definen los elementos sobre los que se quiere extraer información y el subconjunto de tiempo, si no se quiere disponer de todos los valores almacenados. Además existen otros modificadores para presentar la información comprimida, decidir si se sobreescribe en el directorio de salida, etc.

 

Los tipos de valores se guardan organizados en formato csv son:

 

- Valores relativos : Tasa de utilización del recurso (en %). Obtenidos mediante un cálculo interno. Los archivos con estos datos tienen el prefijo "Phy" (PHYSICAL).

- Valores absolutos : Contienen valores medidos en el recurso durante el intervalo especificado (IO/sec, KB/sec, …)

 

Para los valores relativos existe una regla práctica (publicada en el portal de soporte de HDS) definiendo los umbrales de utilización aconsejados :

 

- Front end CHP utilization should be less than 70%.

- Back end DKP utilization should be less than 50%.

- Write Pending should average less than 30%.

- Array Group utilization should be less than 50%.

- LDEV utilization depends on the response time requirements of the application. To provide good response times, utilization should be below 50% . 

 

A partir de aquí pueden definirse alertas sobre elementos según estos umbrales y realizar una redistribución de recursos en el sistema de almacenamiento para equilibrarlos, por ejemplo para un distribución de los puertos de fibra entre los hosts con mayor actividad o distribuir volúmenes en parity groups menos utilizados.

Los valores absolutos permiten representar “los números” de nuestro sistema de almacenamiento: IO/sec, KB/sec y representar gráficamente de forma sencilla el comportamiento de sistemas y aplicaciones a lo largo de un periodo de tiempo, por ejemplo las últimas 24h o la evolución de la carga semanal.

Recoger estos valores de forma periódica permite disponer fácilmente de la evolución del uso del almacenamiento en el tiempo, comparando estadísticas entre meses, años, etc. A partir de aquí, la imaginación y la destreza de cada uno para manejar este tipo de archivos y su representación gráfica o la integración con otras herramientas (splunk, nagios, pnp4nagios, …) marcan el límite.

 

Se ha creado el proyecto QUADSTOR como solución  que proporciona almacenamiento virtualizado. Con base en FreeBSD, añade una interfaz gráfica  web para la administración sencilla de almacenamiento. Está basado en el proyecto IET portado por ellos mismos a FreeBSD, permite c

rear lunes (VDISKs) y ofrecerlas por fibra o iSCSI con características propias de almacenamiento enterprise actual: deduplicación, thin provisioning, soporte VAAI (vStorage APIs for Array Integration) para VSphere 5, además de proporcionar CIFS y NFS.

El proyecto se encuentra en la actualidad en fase beta y se puede usar en universidad y empresa libremente, pero … ni se puede distribuir, ni realizar ingeniería inversa previo a su consentimiento.

En tiempos de crisis describimos los puntos clave para  diseñar una SAN de bajo coste.

• iSCSI

iSCSI   es una alternativa a la clásica SAN de fibra óptica, siendo económica su implementación ya  que no requiere de una infraestructura y tecnología adiccional Hardware de costosas HBAs y Switches de Fibra. Con sólo un switch ethernet ( o dos que aporten redundancia de acceso) y  con un servidor con tarjetas Ethernet de Gigabit junto con unos discos ya tendrías una SAN. Los initiators y targets  iSCSI en muchos sistemas vienen con la distribución, al igual que las soluciones de multicamino (multipath).

Existen otras alternativas a iSCSI también basadas en Ethernet como AoE (ATA over Ethernet) que al eliminar una capa de encapsulación de frames (IP) da mayor rendimiento.

• DISCOS

En la actualidad se diponen discos de buen precio y alta capacidad para una solución de bajo TIER. Un ejemplo podría ser 4 discos SATA de 3Gb/s ,  capacidad 2 TB,  64 MB de Caché y 7200 rpm  con un total aproximado de 500€. Proporcionando aproximadamente unos 6 TB en RAID software con MDADM (solución de servidores Linux de RAID software) , que nos da una media de 111 euros por Tera tolerante a fallo (RAID).

Preguntadle a vuestro proveedor de SAN cuanto saldría una amplación de los TB en fibra …  

Aunque no es comparable una cabina de discos en fibra en cuanto a rendimiento debido a sus fenomenales características Hardware (tarjetas de fibra operando en modo target y procesadores dedicados, memoria caché del frontend y backend de los discos, …). Además sus discos tienen un rendimiento mayor,  15.000 rpm frente a los 7200 rpm que tienen  los discos SATA, comparativamente  pueden  duplicar las I/Os y mejoras como gestión de colas o DIF T10. Según la necesidad de las aplicaciones del uso intensivo de disco podría ser adecuada una solución de bajo TIER.

• RAID

La tecnología RAID Hardware dejó de ser hace años exclusiva de entornos enterprise y cualquier placa de PC lleva integrado una controladora de discos SATA con soporte de RAID 0,1,5.  Por otro lado los resultados del RAID por software (MDADM, ZFS, …) y los gestores de volúmenes (Logical Volumen Manager – LVM ,Solaris Volumen Manager – SVM ,Veritas Volume Manager – VxVM, ZFS, …) demuestran ser alternativa eficaz que  complementan de forma segura y hacen flexible cualquier cambio posterior en el almacenamiento.

• MULTIPATH

Una solución SAN en iSCSI necesitaría de un switch ethernet para conectar los Initiator/s con los Target/s. Un diseño en SAN de fibra típico sería redundar HBAs y Switches de fibra proporcionando multicamino (multipah) al sistema eliminando puntos de fallo, se conseguiría de esta forma prevenir de cualquier fallo Hardware la continuidad de acceso a los discos. Esta tolerancia a fallos también es posible realizarse por analogía en iSCSI, redundando tarjetas  y switches ethernet, acompañado de un software multipath propio de la distribución o usando nativamente el multipath iSCSI.

• SAN/NAS

Cualquier sistema UNIX/Linux dispone de soporte para protocolos fibra e iSCSI y combinar con  cualquier protocolo de compartición de ficheros como SMB o NFS. Ésto nos permitiría crear un servidor que centraliza el almacenamiento en el CPD redireccionándolo a ethernet sobre protocolos de bloques (iSCSI) o de ficheros (SMB,NFS).

También existen soluciones enterprise con esta funcionalidad  basadas en software abierto tales como NexentaStor,  OpenFiler o FreeNAS.

• Sistemas de Ficheros con reservas

El acceso de diferentes servidores a los mismos volúmes (típico en clústeres) necesitan tener un control de acceso y reservas de forma que haya coherencia en las modificaciones en el sistema de ficheros. Ésto se puede conseguir eligiendo un sistema de ficheros de tipo disco compartido (Share Disk File System)   como GFS (REDHAT) o VMFS (VMWARE).

• Controladoras Activo/Activo Activo/Pasivo

Soluciones software tipo  IET en servidores linux  sobre las tarjetas ethernet del servidor  como Enterprise Target iSCSI proporcionará un comportamiento  análogo al  típico de  las controladoras de cabinas de discos  en fibra.

• Soporte

El tema más delicado ya que el soporte SAN va en función de la interoperabilidad entre fabricantes destacando los elementos siguientes:

Sistema Operativo – Multipath – HBA-Drivers – Switch – Almacenamiento – Modos del multipath

Y debido a que el diseño de cada elemento en su totalidad  no se ajusta a los mismos estándares se necesita una certificación previa entre diferentes fabricantes.

Esta situación cambia bastante en un entorno iSCSI siendo un protocolo/estandar bien definido con una implementación precisa, que crea un marco de interoperatibidad mucho mayor.

Aún así, hablamos  de la infrestructura que contiene los datos de una empresa, y si algo en su CPD debe de tener soporte es este almacén de datos. Por lo que el final de este diseño propuesto puede variar bastante si no se quiere contratar soporte … incluyento por ejemplo  soluciones de backup, Alta disponibilidad (HA) con replicación síncrona entre dos cabinas de discos, … todo un tema a desarrollar y cuya implementación en producción es aconsejable que deba superar toda una fase de testeo intensivo  y planes robustos de contingencia.

Lo aconsejable es buscar soporte en alguna solución tipo Openfiler, siendo una de las soluciones más flexibles que cumple los puntos propuestod … aunque no olvidar que hay que mirar la interoperabilidad con lupa y como ejemplo  VMWARE no la certifica para sus servidores ESX.

Por otro lado si se elige una implementación  de un target iSCSI sobre un sistema operativo, ésta solución  no tiene porqué dejar de ser soportada por la distribución, ejemplo de ellos son: RHEL que incluye desde la versión 5.3 soporte para esta característica integrando SCSI Target Framework proyecto integrado en la linea principal de desarrollo del Kernel y mantenido por el creador de IET u OpenSolaris/Solaris Express 11 con el proyecto COMSTAR.

En Almacenamiento Abierto hemos diseñado cabinas de discos para entornos de producción con las siguientes características:

Ubuntu Server / SCST / LVM2 / MDADM (RAID 5) / HOT SPARE / ESX/ESXi 4/ MULTIPATH Nativo iSCSI/ SATA

Su aplicación para entornos de producción es un punto de interés fuerte por eso le hemos dedicado una serie de artículos sobre el proyecto SCST.

Si estás interesado en una implementación de targets SCST de bajo Tier certificado para VMWARE u otro entorno quizás te podamos ayudar, o si ya has implementado una o estás en en el proceso, nos gustaría conocer tu experiencia.

Entre administradores de SAN es conocido el problema que hay con la compatibilidad entre dispositivos de proveedores diferentes. Por ejemplo, cuando se añade una nueva cabina de discos  a una SAN y no funciona el software de multipath en el servidor ya que no estaban en la matriz de interoperabilidad de los fabricantes. Dejaré en este post unas notas relativas a estos problemas.

Definición de Interoperabilidad:

La Interoperabilidad es la condición mediante la cual sistemas heterogéneos pueden intercambiar procesos o datos (Wikipedia ) o la capacidad de los productos de diferentes fabricantes puedan operar conjuntamente (BNET).

En SAN la Interoperabilidad es bastante compleja, cumpliéndose que si toda una red SAN no está en la lista de compatibilidad de hardware/software de los vendedores no operará de la forma esperada. Hace algunos años, el acceder a información de interoperabilidad era un trabajo frustante debido a que no era pública por parte de la mayoría de fabricantes y por lástima en muchos casos usada de forma interesada comercialmente. En la actualidad se ha realizado un gran esfuerzo por la mayoría de ellos, creándose una tendencia cada vez más recia en comunicar esta información, al mismo tiempo que los grandes proveedores de soluciones de almacenamiento se ajustan a estándares para universalizar sus productos y flexibilizar una mayor integración en cualquier entorno heterogéneo cada vez más común.

En almacenamiento hay diferentes organismos para mejorar estos grandes problemas de incompatibilidades entre diferentes proveedores, de forma que establecen estándares y protocolos para una mejor comunicación e integración entre los dispositivos de almacenamiento. Entre todas ellas es destacable  el trabajajo que realiza SNIA (Storage Networking Industry Association) cuyo proposito es encabezar en la industria el desarrollo y promoción de estándares, tecnologías y servicios educacionales para apoderar la gestión de información. Todos los grandes fabricantes de almacenamiento son miembros de la SNIA y de forma paulatina va creciendo un marco de interoperatividad entre todos ellos. Aún así, debido al proceso lento de salida y aceptación de estos estándares se realizan de forma independiente muchas alianzas tecnológicas entre diferentes fabricantes que en su mayoría pretenden impulsar propios productos de avanzada tecnología consiguiendo en gran cantidad de casos ser pioneros y mejorar su cartera de productos y especificaciones y por consiguiente competir comercialmente. Forzando que el resto de competidores tecnológicos acepten e integren estas nuevas especificaciones aún no estandarizadas, motivada por esta necesidad de compatibilidad en entornos heterogéneos y para que no penalice su imagen comercial.

A continuación se aportará  información junto con enlaces de  los proveedores y fabricantes de almacenamiento para el conocimiento de la Interoperabilidad de sus productos con las de otros fabricantes.

Algunas Tablas de Interoperabilidad y HCL ( Listas de compatibilidad Hardware )

Fabricantes

Emulex

Emulex es unos de los líderes en interoperabilidad en SAN, su reputación “It Just Works” se basa en un compromiso con los estándares, abierto al soporte de software y hardware, y al testeo extensivo de interoperatividad.

A continuación se listan sus Tablas de Interoperabiliidad con los siguientes fabricantes :

3Leaf Networks 3PAR AdventNet Bloombase Brocade / McDATA Bull CA CipherMax Cisco Citrix Cloverleaf Commvault Compellent Crossroads DataCore Data Domain

Decru Dell DinoStor Dot Hill EMC Enhance Technology Exabyte Fabric7 FalconStor Fujitsu Fujitsu Siemens Hitachi Data Systems HP Huawei Symantec IBM Infortrend

iQstor LSI Microsoft MonoSphere MTI NEC NeoScale NetApp Nexsan Novell Oracle Overland Parallels Pillar Data Plasmon PolyServe

QLogic Quantum Red Hat Sanbolic Scalent Solid Access Spectra Logic Sun Microsystems StoreAge Symantec Texas Memory Systems Unisys Virtual Iron VMware Xyratex

Información y enlaces procedente de Emulex.

QLogic

QLogic presenta un magnífico trabajo disponible en su web de interoperabilidad al igual que de su historia altamente recomendable disponible en su web, que recopila sus productos, soluciones y servicios que proporcionan, al igual que su certificaciones con distintos proveedores de soluciones SAN. Un documento nada habitual en esta tecnología.

A continuación se listan las Tablas de Interoperabilidad con los siguientes fabricantes :

3PAR | AC&NC | Apple | ATTO Technology | BlueArc | Compellent | Dell | Dell EqualLogic | DNF | Dot Hill | EMC | Enhance Technology | Fujitsu Computer Products of America | Fujitsu Computer Systems | Hewlett-Packard | Hitachi Data Systems | Hitachi Global StorageTechnologies | HP LeftHand SAN (aka LeftHand Networks) | IBM | Infortrend | Intransa | iQstor | iStor | LSI | Matrox | NEC | NetApp | Nexsan | Overland | Pillar | Promise | Qualstar | Quantum | RELDATA | Seagra | SEPATON | Spectra Logic | StoneFly | StoreVault | Sun Microsystems | Symantec | Tandberg Data | Texas Memory Systems | Thales nCipher | Winchester Systems | Xiotech | Xyratex

Información y enlaces procedentes de QLogic.

Brocade – McData

Brocade pone a disposición un documento con la compatibilidad/interoperabilidad de sus productos en la sección de compatibilidad enlazable aquí llamado Brocade Data Center Ready.

Sun Microsystems

Proporciona un listado de soluciones de almacenamiento certificadas con Microsoft en el siguiente documento:

http://www.sun.com/software/windows/storage_cert.pdf

En su sección de almacenamiento y servidores individualmente es completada con tablas de soportabilidad/certificación/interoperatividad de cada dispositivo, y una sección genérica a la Interoperatividad de todos sus productos.

IBM

Presenta una sección de productos para SAN:

http://www-03.ibm.com/systems/uk/storage/san/index.html

Cada dispositivo va acompañado de un documento de Interoperabilidad llamado Interoperability Matrix.

EMC

Proporcionan un documento con las matrices de interoperabilidad en la sección de Interoperabilidad de su portal. Sus  clientes  pueden utilizar una herramienta de navegación para la interoperabilidad en Powerlink.

HP

Sección de almacenamiento en su portal:

http://welcome.hp.com/country/es/es/leb/storage.html

NETAPP

Sección de Interoperabilidad en su portal:

http://www.netapp.com/us/technology/interop.html

VMWARE

Dispone uns sección para consultas de compatibilidad desde su web con distintos proveedores:

http://www.vmware.com/resources/compatibility/search.php?action=base&deviceCategory=san

Proporciona un documento con las matrices de compatibilidad completa Storage/SAN Compatibility Guide.

…. 

Dedicamos una serie de artículos a conocer el proyecto  SCST como virtualizador de almacenamiento en Open Source.

Su implementación para targets de almacenamiento iSCSI está bastante difundido pero no lo es tanto en fibra óptica (FCP). Tanto Qlogic como Emulex, líderes en el mercado del chipset de comunicaciones en HBAs, han liberando su versión de drivers que conmutan de initiator a target, haciendo posible conocer el funcionamiento, protocolos de comunicación y adecuación a estándares  provocados por proyectos abiertos como SCST en Linux o COMSTAR en OpenSolaris.

Como pasó en su momento con el proyecto Xen en el campo de la virtualización, no queda mucho para ver como las distribuciones enterprise UNIX cercanas al Open Source contendrán en sus repositorios el driver dual (initiator/target) de las HBAs. De esta forma un servidor podrá convertirse en una cabina de almacenamiento, o podrá emular cualquier otro dispositivo de fibra. Esta tendencia en la actualidad es liderada por Oracle/Sun Microsystems en sus productos OpenStorage (incluye modo target de Fibra basado en COMSTAR) u OpenSolaris/Solaris Express 11 (llevan los drivers duales para emulex y qlogic). Distribuciones UNIX enterprise como Redhat , Novell/Suse y Ubuntu contendrán en su Sistema Operativo en breve soluciones equivalentes basadas en SCST, pudiendo provocar un golpe de efecto en el negocio del almacenamiento en fibra.

Hemos elaborado varios artículos sobre el software SCST con el objetivo de difundir el proyecto y mostrar diferentes implementaciones en nuestro laboratorio :

- ¿Qué es SCST?

 

- Disco de fibra emulado con SCST

 

- Pruebas de Disco sobre FC basado en SCST

 

- VTL en Almacenamiento Abierto

 

Nota: link de empresas que desarrollan software sobre SCST.

Incorporamos a nuestro laboratorio una VTL basada en el proyecto Linux Virtual Tape Library.  Desarrollaremos en diferentes artículos como se crea y configura cada elemento y escenario de nuestro entorno de pruebas. Para la sección VTL  hemos preparado los siguientes artículos :

- Virtualización de librerías de cintas. Breve introducción a las librerías de cintas virtuales.

- ¿Que es SCST? Introducción al proyecto SCST sobre el cual está basado el proyecto Linux Virtual Tape Library.

- VTL Open Source sobre iSCSI. Una guía para implementar paso a paso y de forma secilla una VTL iSCSI basada en el proyecto Linux Virtual Tape Library.

- Comprobación de VTL Open Source iSCSI operando con software de backup de Symantec. Un ejemplo que expone como un software típico de administración de backup opera con la VTL creada en el capítulo anterior.

- VTL Open Source en Ubuntu 10.04 descargable para VMWARE

- VTL Open Source sobre FC. Una guía para implementar paso a paso y de forma secilla una VTL FC basada en el proyecto Linux Virtual Tape Library.