Logo Hardware.com.br
gfcaetano
gfcaetano Membro Senior Registrado
392 Mensagens 1 Curtida

Tem limite no tamanho de particao RAID5 por software?

#1 Por gfcaetano 01/10/2008 - 14:19
Boa tarde, pessoal!

Estou com um servidor com 6 HDs de 1TB e preciso instalar o Debian usando RAID5.

O problema é que ao criar o RAID5 por hardware só consigo discos de 2047GB. Então estou tentando fazer RAID5 por software na instalação do Debian.
Só que ao configurar 5 partições (de 1TB cada) como "ativas" e 1 partição (de 1TB) como "spare" eu fico com um disco de 4TB. Não deveria ter 5TB?

Procurei por informações sobre limitação de tamanho de RAID5, mas não consegui encontrar nada, alguém sabe se tem esse limite de 4TB? Ou será que estou fazendo algo errado?

Obrigado pela ajuda, pessoal!

[ ]s!
Responder
angeloshimabuko
angeloshimab... Veterano Registrado
933 Mensagens 67 Curtidas
#2 Por angeloshimab...
01/10/2008 - 23:02
Você está usando md ou lvm? Qualquer que seja o caso, se você está marcando 5 partições para fazer RAID5, e uma para spare, então obviamente você terá um espaço útil de 4 terabytes (em RAID5, o espaço útil corresponde ao número de volumes menos um). O volume de spare somente será usado em substituição a um volume do RAID5 que tenha falhado.

Dependendo do seu processador, um sistema RAID5 por software pode ter um desempenho ruim. Caso o espaço útil possa ser diminuído, RAID10 tem um desempenho melhor. O espaço útil do RAID5 é (n-1) e do RAID10 é (n/2), onde n é o número de volumes no arranjo.

Em relação ao RAID por hardware, o problema é com o tipo de particionamento DOS (usado no MBR). Existem apenas 4 entradas (daí 4 partições primárias) de 16 bytes. Desses, 4 bytes identificam o endereço do setor de início da partição e 4 bytes determinam o tamanho (em setores). Portanto, usando MBR (<-BIOS), o tamanho máximo de uma partição é de 2 TiB (2**32 * 512 bytes) ou 2048 GiB.

Para não ter essa limitação, o firmware (BIOS) deve ser substituído pelo EFI, que usa GPT em vez de MBR. Alguns sistemas Itanium e Mac já usam essa combinação.
gfcaetano
gfcaetano Membro Senior Registrado
392 Mensagens 1 Curtida
#3 Por gfcaetano
02/10/2008 - 12:44
Boa tarde, angeloshimabuko.

Obrigado pela resposta bastante completa.

Abri mão de fazer o RAID5 por hardware por causa dessa limitação. Acho que software RAID não teria muita desvantagem em relação ao hardware RAID (na verdade não sei de nenhuma desvantagem). Por isso vou tentar por software mesmo.

Agora estou entendendo um pouco melhor o funcionamento do RAID5. Então se "perde" a área de 2 discos para utilizá-lo?

Eu selecionei os discos 1, 2, 3, 4 e 5 para o volume ativo e o disco 6 para spare.
1 dos 5 discos ativos são utilizados para qual finalidade para não fazer parte do meu espaço útil? Não consegui encontrar informações muito claras sobre o RAID5 (até mesmo o tutorial do PH não me deixou muito claro).

Na prática, teria como eu usar 5 terabytes em RAID5 tendo 6 discos de 1 terabyte?

Eu gostaria de aproveitar o máximo da capacidade desses discos com uma grande partição e também ter segurança contra falha de algum dos discos, acho que o RAID5 é o ideal para esse caso, não é? Pois com ele eu não teria disponível apenas metade da capacidade de todos os discos que tenho, como acontece quando usamos RAID10.

Estou tentando usar o assistente de particionamento da instalação do Debian (4.0r2 AMD64), etão eu acho que seja o LVM, estou certo?

Quanto ao desempenho, os processadores são 2 Xeon E5420. Nesse caso você acha pode ser notável um desempenho ruim?

Obrigado pela ajuda!

[ ]s!



EDIT: essa imagem me ajudou a compreender um pouco melhor agora o RAID5 e o porque fica n-1 no espaço final do disco:
Imagem
RAID 5 with these four disks (disk 0, 1, 2, and 3) and each group of blocks (orange, yellow, green, and blue) have a distributed parity block that is distributed across the four disks
Gustavo F. Caetano
angeloshimabuko
angeloshimab... Veterano Registrado
933 Mensagens 67 Curtidas
#4 Por angeloshimab...
03/10/2008 - 06:42
Bom dia, gfcaetano. Parece que você já entendeu o funcionamento do RAID5. Entretanto, respondo à sua questão:
gfcaetano
Na prática, teria como eu usar 5 terabytes em RAID5 tendo 6 discos de 1 terabyte?

Se você tem 6 discos, para obter o espaço de 5, deve abrir mão do spare. Este possui a vantagem de evitar a troca de discos num momento crítico, pois a reconstrução do RAID será efetuada assim que o sistema detectar que houve falha em algum disco do arranjo -- caso contrário (i.e., sem o spare), você terá que desligar o sistema para trocar o disco defeituso.

Um RAID5 pode até funcionar quando um (e somente um) dos discos falhar (modo degradado), mas o desempenho cai muito.

Uma vantagem do RAID por hardware: quando um disco falha, a controladora RAID mantém o sistema funcionando, liberando o processador (CPU); já no RAID por software, o processador irá ficar ocupado nessa tarefa. E quando o RAID for reconstruído (tarefa muito demorada -- essa uma vantagem do RAID10, a reconstrução é mais simples), o mesmo ocorre. Entretanto, se sua capacidade de processamento é muito grande (parece ser o seu caso), essas duas tarefas serão melhor executadas pelo(s) processador(es) que pela controladora RAID (acho que isso responde à sua última questão).
gfcaetano
gfcaetano Membro Senior Registrado
392 Mensagens 1 Curtida
#5 Por gfcaetano
03/10/2008 - 08:31
Excelente, angeloshimabuko
Agora ficou tudo bem claro para mim em relação ao RAID5.

Então, para concluir o tópico, meu caso não era de um limite no tamanho do RAID, e sim eu que não estava entendendo muito bem o funcionamento do RAID5.

Agora ficou claro, dos discos escolhidos como ativos, vou ficar com n-1 por causa da paridade. E ainda posso escolher 1 disco para spare para que este assuma o lugar de algum disco que eventualmente apresentar falhas.

Espero ter entendido corretamente.
Obrigado pela ajuda, angeloshimabuko!

[ ]s!
Gustavo F. Caetano
gfcaetano
gfcaetano Membro Senior Registrado
392 Mensagens 1 Curtida
#6 Por gfcaetano
03/10/2008 - 13:40
Problemas... (não sei se eu deveria criar outro tópico para isso)

Criei meu RAID5 usando 5 HDs de 1 tera e 1 HD de 1 tera para spare. Resultado: 4.0 tera disponível.
Só que ao seguir após o particionamento a seguinte mensagem aparece:

"Error informing the kernel about modifications to partition /dev/md/0p1 -- Invalid argument. This means that Linux won't know about any changes you made to /dev/md/0p1 until you reboot -- so you shouldn't mount it or use it in any way before rebooting."

E as opções que tenho são Cancel e Ignore. Já experimentei ignorar e tudo parece correr bem até o momento de instalar o GRUB, quando dá erro novamente e assim o sistema não se torna iniciável.

Experimentei também fazer o que essa mensagem sugere, que é reiniciar o computador, mas ao reiniciar a instalação o RAID criado ou as partições criadas no RAID não aparecem na lista de partições e então eu entro na configuração do RAID, tenho que apagar o RAID atual e criar novamente, mas aí eu volto a receber a mensagem de erro que citei acima.

Não estou usando LVM.

O que será que está acontecendo?

Obrigado pela ajuda!

[ ]s!

PS: só para lembrar, estou usando o instalador do Debian Stable 4.0r4a (AMD64)
Gustavo F. Caetano
jqueiroz
jqueiroz Cyber Highlander Registrado
104K Mensagens 5.7K Curtidas
#8 Por jqueiroz
07/10/2008 - 19:32
gfcaetano, você realmente precisa de todo o sistema rodando em RAID5?

Pq uma alternativa seria você reservar uma parte do espaço para a instalação do sistema, criando uma matriz RAID1, e colocar o resto em RAID5. Tipo, 2 HDs na matriz RAID1, e 4 na matriz RAID5.

Daí você faz a instalação do seu Debian na matriz RAID1, e depois monta a matriz RAID5 para seus dados.

Tudo por Hardware, que é "A Forma Como As Coisas Devem Ser Feitas" wink.png
"chmod 777 nunca ajudou ninguém" (c) 2002-2021 JQueiroz/FGdH
Conheça o Blog do Zekke
gfcaetano
gfcaetano Membro Senior Registrado
392 Mensagens 1 Curtida
#9 Por gfcaetano
07/10/2008 - 23:03
Oi, jqueiroz.

Teria alguma vantagem eu fazer esse RAID1?
Como ficariam meus dados com 2 HDs em RAID1 e 4 HDs em RAID5? Misturar os dois ficou um pouco confuso para mim.

Com 2 HDs em RAID1 para o sistema eu teria um "mirror" do sistema, certo? Mas quanto ao sistema eu não tenho a necessidade de ter um "mirror", o que eu não posso perder são os dados (queria ter o máximo de espaço disponível para dados, mas tendo a segurança de não perdê-los no caso de um HD falhar). Quanto ao sistema, ele será facilmente reconfigurado se algo der errado no HD onde ele está instalado.

Achei interessante o que o angeloshimabuko falou, sobre substituir o BIOS pelo EFI, mas nunca ouvi falar disso, vou precisar pesquisar um pouco sobre o assunto.
Parece ser a melhor solução até agora para que eu consiga ter um RAID com mais de 4 TB, já que via software também não estou conseguindo.

Estou pensando em adicionar um HD menor e instalar o sistema nele, e a partir desse sistema configurar um RAID5 com os outros 6 discos, talvez assim funcione.

Vou continuar tentando, no caso de qualquer novidade, avisarei aqui.

Obrigado pela ajuda! E se ainda houver alguma outra idéia, ela será muito bem vinda!

[ ]s!
Gustavo F. Caetano
jqueiroz
jqueiroz Cyber Highlander Registrado
104K Mensagens 5.7K Curtidas
#10 Por jqueiroz
08/10/2008 - 01:53
São dois grupos de dados com necessidades de confiabilidade diferentes. Para os dados do sistema, basta que vc consiga manter o sistema funcionando, substituindo um possível HD crashado. Aliás, se sua controladora e HDs forem hot-swap, vc pode substituir esse HD crashado sem tirar o sistema do ar.

Pq separar em duas matrizes RAID separadas, e ainda por cima por hardware? Ao fazer isso, seu sistema vai ver as matrizes como dois grandes HDs. Você vai instalar seu sistema no primeiro, e seus dados no segundo.

Já entendeu a vantagem? Independência. Reinstalar seu sistema sem se preocupar com seus dados, que estão em outro HD. Poder expandir sua área de dados, sem mexer na partição do sistema...
"chmod 777 nunca ajudou ninguém" (c) 2002-2021 JQueiroz/FGdH
Conheça o Blog do Zekke
angeloshimabuko
angeloshimab... Veterano Registrado
933 Mensagens 67 Curtidas
#11 Por angeloshimab...
10/10/2008 - 22:52
gfcaetano disse:
...
Criei meu RAID5 usando 5 HDs de 1 tera e 1 HD de 1 tera para spare. Resultado: 4.0 tera disponível.
Só que ao seguir após o particionamento a seguinte mensagem aparece:

"Error informing the kernel about modifications to partition /dev/md/0p1 -- Invalid argument. This means that Linux won't know about any changes you made to /dev/md/0p1 until you reboot -- so you shouldn't mount it or use it in any way before rebooting."

E as opções que tenho são Cancel e Ignore. Já experimentei ignorar e tudo parece correr bem até o momento de instalar o GRUB, quando dá erro novamente e assim o sistema não se torna iniciável.
...
PS: só para lembrar, estou usando o instalador do Debian Stable 4.0r4a (AMD64)


A versão do Grub usada pelo Debian Etch não suporta partições maiores que 2 TiB. O Ubuntu 8.04 e o Debian Lenny usam (opcionalmente) o Grub-EFI, que é a versão 2 do Grub (que ainda está em beta).

jqueiroz disse:
gfcaetano, você realmente precisa de todo o sistema rodando em RAID5?

Pq uma alternativa seria você reservar uma parte do espaço para a instalação do sistema, criando uma matriz RAID1, e colocar o resto em RAID5. Tipo, 2 HDs na matriz RAID1, e 4 na matriz RAID5.

Daí você faz a instalação do seu Debian na matriz RAID1, e depois monta a matriz RAID5 para seus dados.

Tudo por Hardware, que é "A Forma Como As Coisas Devem Ser Feitas" wink.png


1) Algumas controladoras (ou todas?) RAID não suportam usar parte de um disco -- usam o disco inteiro. Neste caso, o uso de um RAID1 (2 discos) e mais um RAID5 com spare irá acarretar a perda do espaço de 3 discos (50 %).

2) Uma das vantagens do RAID por software (e reconheço que por hardware existem vantagens significativas) é a flexibilidade -- p.ex., é possível particionar os discos antes da criação dos arranjos, e construir diferentes tipos de RAID com o mesmo grupo de discos.

gfcaetano disse:
Oi, jqueiroz.

Teria alguma vantagem eu fazer esse RAID1?
Como ficariam meus dados com 2 HDs em RAID1 e 4 HDs em RAID5? Misturar os dois ficou um pouco confuso para mim.

Com 2 HDs em RAID1 para o sistema eu teria um "mirror" do sistema, certo? Mas quanto ao sistema eu não tenho a necessidade de ter um "mirror", o que eu não posso perder são os dados (queria ter o máximo de espaço disponível para dados, mas tendo a segurança de não perdê-los no caso de um HD falhar). Quanto ao sistema, ele será facilmente reconfigurado se algo der errado no HD onde ele está instalado...


Veja minhas respostas acima.

gfcaetano disse:
... Achei interessante o que o angeloshimabuko falou, sobre substituir o BIOS pelo EFI, mas nunca ouvi falar disso, vou precisar pesquisar um pouco sobre o assunto.
Parece ser a melhor solução até agora para que eu consiga ter um RAID com mais de 4 TB, já que via software também não estou conseguindo...


É possível usar RAID5 por hardware usando mais de 2 TiB, sem trocar o BIOS pelo EFI (descobri essa semana). Um kernel devidamente compilado ("CONFIG_LBD=yes") irá reconhecer volumes maiores que 2 TiB independentemente do BIOS. Para particionar, use o parted, pois o fdisk não irá funcionar -- o parted cria um rótulo GPT no sistema de discos. Nesse caso, você deverá usar o Grub 2 para poder iniciar o sistema diretamente do RAID.

O instalador do Debian Etch não irá suportar essa opção. Não sei quanto ao Lenny e nem a respeito das outras distros (li na Internet que seria possível com o Ubuntu e com as versões mais novas do RHEL, Fedora e Centos).

gfcaetano disse:
... Estou pensando em adicionar um HD menor e instalar o sistema nele, e a partir desse sistema configurar um RAID5 com os outros 6 discos, talvez assim funcione.

Vou continuar tentando, no caso de qualquer novidade, avisarei aqui.

Obrigado pela ajuda! E se ainda houver alguma outra idéia, ela será muito bem vinda!

[ ]s!


Essa parece a opção mais simples. Com um disco menor para o sistema, basta usar um kernel com suporte ao GPT, usar o parted para particionar (usando um rótulo GPT) e formatar com o seu(s) sistema(s) de arquivos preferido(s).

Eu testei esta opção em um sistema com um disco SCSI de 136 GiB (onde instalei o Ubuntu-64 8.04) e 4 discos SATA de um terabyte (930 GiB) -- com esses discos SATA criei um RAID0 com 3,6 TiB (/dev/md0). Formatei o /dev/md0 usando o XFS.

Outra opção usando RAID por software é usar um pequeno espaço de cada disco (p.ex., 8 GiB em sda1, sdb1, sdc1, sdd1, sde1 e sdf1) e instalar o / em sda1, /var em sdb1, swap em sdc1 e assim por diante. O restante de cada disco (sdx2) irá fazer parte do RAID5 (c/ou sem spare).
gfcaetano
gfcaetano Membro Senior Registrado
392 Mensagens 1 Curtida
#12 Por gfcaetano
15/10/2008 - 11:31
Bom, acho que deu certo usar um HD de 80GB para o sistema e criar o RAID5 nos 6TB, deixando de espaço útil 4TB.
Criei o RAID5 nos 6 discos de 1TB na instalação do Debian, 5 discos ativos e 1 spare.
Posteriormente, após ler um pouco sobre o XFS, formatei o /dev/md0 como XFS (mkfs.xfs /dev/md0).
Aqui está como o parted me lista todos os discos (print all), vocês sabem me dizer se fiz alguma besteira só de olhar nessa saída?
Aparentemente o RAID está se comportando bem. Tem alguma maneira de fazer alguns testes pesados nele?

Disk /dev/md0: 4001GB
Sector size (logical/physical): 512B/512B
Partition Table: loop
Number Start End Size File system Flags
1 0.00kB 4001GB 4001GB xfs

Disk /dev/hda: 80.0GB
Sector size (logical/physical): 512B/512B
Partition Table: msdos
Number Start End Size Type File system Flags
1 32.3kB 55.0GB 55.0GB primary reiserfs boot
2 55.0GB 78.0GB 23.0GB primary reiserfs
3 78.0GB 80.0GB 1999MB primary linux-swap

Disk /dev/sda: 1000GB
Sector size (logical/physical): 512B/512B
Partition Table: msdos
Number Start End Size Type File system Flags
1 32.3kB 1000GB 1000GB primary raid

Disk /dev/sdb: 1000GB
Sector size (logical/physical): 512B/512B
Partition Table: msdos
Number Start End Size Type File system Flags
1 32.3kB 1000GB 1000GB primary raid

Disk /dev/sdc: 1000GB
Sector size (logical/physical): 512B/512B
Partition Table: msdos
Number Start End Size Type File system Flags
1 32.3kB 1000GB 1000GB primary raid

Disk /dev/sdd: 1000GB
Sector size (logical/physical): 512B/512B
Partition Table: msdos
Number Start End Size Type File system Flags
1 32.3kB 1000GB 1000GB primary raid

Disk /dev/sde: 1000GB
Sector size (logical/physical): 512B/512B
Partition Table: msdos
Number Start End Size Type File system Flags
1 32.3kB 1000GB 1000GB primary raid

Disk /dev/sdf: 1000GB
Sector size (logical/physical): 512B/512B
Partition Table: msdos
Number Start End Size Type File system Flags
1 32.3kB 1000GB 1000GB primary raid


Obrigado pela ajuda, gente!

[ ]s!
Gustavo F. Caetano
Responder Tópico
© 1999-2024 Hardware.com.br. Todos os direitos reservados.
Imagem do Modal