Attention, cet article a plus d'une année d'ancienneté. Il est possible que les informations présentées ne soient plus à jour, spécialement dans le cadre d'un article technique.
Bonjour à tous,
Après une demande de William sur Twitter @wgblondel je me suis enfin décidé à faire un article pour présenter le matériel que j’utilise chez moi et en dehors de chez moi.
Ça tombe bien que je le fasse maintenant, car, je viens de (presque) finir de tout changer, ça vaut donc le coup de voir ce qui tourne.
Je vais essayer de relier toute mon infra à des articles que j’ai écrits sur le blog au cas où vous souhaiteriez refaire des choses pour vous.
Mon matériel de travail
Le PC fixe
J’ai refait mon PC fixe en début d’année, car ma carte mère avait brûlé.
Le problème c’est que ce n’est pas facile de retrouver une carte mère en socket 1366 pour un i7 920 alors j’ai tout refait à neuf 🙂
- Boitier : In Win 303 Blanc
- Alimentation : Seasonic M12II Evo Modulaire – 750W
- Refroidissement additionnel : 4x Be Quiet Shadow Wings SW1 120 mm – Mid-Speed
- Water cooling CPU : Thermaltake Water 3.0 Riing RGB 360
- Carte mère : GIGABYTE GA-Z270X-ULTRA GAMING
- Processeur : INTEL Core i7-7700K
- Mémoire vive : 2x8GB CORSAIR Vengeance LPX Red 3200Mhz C16 (DDR4)
- SSD Système : Samsung 960 EVO M.2 PCIe NVMe – 250 Go
- SSD divers : Samsung 850 EVO SATA – 500 Go
- SSHD divers : Seagate SSHD – 2To
- Cartes graphiques : 2x GTX 970 (1x Galax / 1xMSI)
- Système d’exploitation : Windows 10 Enterprise 2016 LTSB (en Anglais américain)
J’ai parlé de la chauffe du processeur ici : https://www.abyssproject.net/2017/03/reduire-chauffe-intel-kaby-lake/
Le PC portable
J’ai décidé de me faire plaisir début décembre de l’année dernière en changeant de pc portable pour mes ballades, car un fournisseur m’a fait un Dell XPS 13 9350 à 600CHF, il est top quand je me balade 🙂
- Modèle : Dell XPS 13 9350
- Processeur : INTEL Core i7-6560U
- Mémoire vive : 8GB DDR3 1600MHZ
- SSD Système : Samsung PM951 M.2 PCIe NVMe – 250 Go
- Carte graphique : Intel Iris 540
- Système d’exploitation : Windows 10 Enterprise 2016 LTSB (en Anglais américain)
J’ai parlé du repaste de la bête ici : https://www.abyssproject.net/2017/01/repaste-undervolting-de-dell-xps-13-9350/
Le réseau et les serveurs en interne
Le réseau
Tout mon bordel est dans, au-dessus et en dessous d’un beau rack mural que vous pouvez voir ci-dessous :
L’onduleur est un Eaton protection station 800 relié en USB à mon MicroServer HP (Il est en dessous du rack et donc non visible sur la photo et le MicroServer est serveur NUT pour le reste).
Le switch principal est TP-Link TL-SG1024DE, un switch 24 ports configurable.
Le switch en dessous est un Netgear GS108PE avec 4 ports POE qui sert pour les caméras IP.
Le câblage de la bicoque est en catégorie 6a UTP, patch panel inclus.
Un câble d’interconnexion qui va vers les serveurs de virtualisation est en catégorie 7 F/FTP (le gros blanc, port 24 du switch).
Deux bornes WIFI dans la maison :
- La TP-Link TL-WA901N (https://www.abyssproject.net/2013/06/debuter-sur-openwrt/) que vous voyez sur la photo, qui me sert pour avoir du Wifi quand je bosse là-dedans sur ma bagnole (un jour je ferrais des articles sur les OBD)
- Une ASUS RT-AC1200 qui donne le WiFi à l’intérieur de la bicoque
Au niveau des couleurs, voici ce que ça donne :
- Le câble jaune, c’est l’arrivée internet par la 4G (on en reparle après)
- Les câbles blancs / gris, c’est les serveurs (+ l’interconnexion blindée avec le labo de virtualisation)
- Les câbles rouges, c’est les caméras IP
- Le câble vert c’est la domotique
Les serveurs de fichiers
Vous les voyez sur la photo du dessus.
- Le Synology sur la gauche c’est un DS2XX qui ne sert pas sur lequel je dois récupérer des données
- Le HP Microserver GEN 8 au milieu qui héberge mon OpenMediaVault (https://www.abyssproject.net/?s=openmediavault), mon reverse proxy et mon LibreNMS (https://www.abyssproject.net/?s=LibreNMS).
- Le Synology DS214 sur la droite qui héberge tous les backups Veeam (https://www.abyssproject.net/?s=veeam) des serveurs, des PC et du labo de virtualisation. Il gère aussi les caméras avec surveillance station.
- Le Raspberry Pi Zero qui est posé sur le switch PoE (c’est le machin qui ressemble à un bout de boit) et qui héberge mon DNSMasq, mon client OpenVPN (https://www.abyssproject.net/2015/06/se-proteger-de-la-loi-sur-le-renseignement-avec-un-raspberry-pi/) et mon Ansible (https://www.abyssproject.net/?s=ansible).
Les switchs sont passifs et tous les serveurs sont configurés pour bouffer le moins de courant possible.
En tout je consomme entre 50 et 60 Watts ici, ce qui est pas mal du tout.
L’infrastructure de virtualisation
Vous les voyez sur les photos ci-dessous (dans un beau air-rack qui se trouve être une chaise de salon) :
Comme le nom des serveurs le laisse deviner, j’ai 3 ESX en version 6.5 (c’est vSphere d’ailleurs maintenant).
Le tout piloter par un vCenter en 6.5 aussi qui est sur SRVESX01 et sauvegardé par un Veeam AS 9.5U2 sur SRVESX03.
J’ai un HP ProLiant DL 360 G6 avec deux Xeon X5550 et deux HP HP ProLiant SE316M1R2 avec deux Intel Xeon E5645.
Sinon j’ai 32Go de RAM par serveur et 8x146Go de disques en sas 10k par serveur en raid 10 avec cache.
En comptant l’HT, ça fait donc 64 cœurs, 96Go de RAM et 1,58To d’espace disque utilisable pour les labos ce qui est top 🙂
Par contre, quand tout cela est allumé ça bouffe 600 watts alors ils ne sont évidemment pas alimentés tout le temps et sont sur prise commandés pour couper le jus quand je ne m’en sers pas.
J’ai deux petits switchs pour ces serveurs. Le noir pour le trafic réseau standard, le blanc pour le trafic vmotion isolé physiquement du réseau.
L’arrivée internet
Ici, j’utilise la 4G Box de Bouygues Telecom avec antenne externe pour avoir un débit de fou au fin fond du trou du cul du monde 🙂
Voici ce que j’atteints alors que j’avais le droit à du 4/0.5 avec Orange en Adsl :
Les serveurs en externe
Le serveur du blog
Le premier serveur, celui du blog est une DEDIBOX XC DEALS 1701.2 de Online.net prise chez OneProvider.
- Modèle: SuperMicro® A1SA2-2750F
- Processeur: Intel® C2750 8 cœurs@2.4 Ghz
- RAM: 8Go DDR-3 ECC
- Disque dur: 128Go SSD
- Système d’exploitation : Debian 9 Stretch (oui déjà)
J’ai fait toute la configuration à la main, plus d’ISPConfig ce coup-ci. Il y’aura un article là-dessus, mais en attendant vous pouvez zieuter le Github : https://github.com/stylersnico/my-webserver
La seedbox / serveur de fichiers
Le deuxième serveur, c’est une Dedibox SC 2016 chez Online directement cette fois-ci. Ca sert de Seedbox et de serveur de fichiers sur l’internet pour mes sauvegardes … Veeam (par dessus SSHFS, on en fera un article aussi) 🙂
- Processeur: Intel Avoton C2350 2 cœurs @1.7Ghz
- RAM: 4Go DDR3
- Disque dur: 1 To HDD
- Système d’exploitation : Debian 8 Jessie
Mais si vous êtes tendu du torrent, j’ai déjà fait l’article pour faire une seedbox : https://www.abyssproject.net/2017/03/installer-seedbox-debian/
Voilà, si vous avez des questions n’hésitez pas 🙂
Salut,
Belle installation, pas d’onduleurs ?
Edit: mal lu
L’image arrivée internet est en doublon.
Edit: image refresh
Quid des ports et dns avec la box 4g de bouygues ?
Salut,
Pour les ports c’est comme pour une box fixe. Faut un dyndns mais sinon tu est libre sur tes nat.
hey! Very nice setup! I know it almost a year after, but I am curious on how you deployed esx 6.5 on the HP SE316M1R2. I tried and it failed. Did you use a custom image??
Hi John,
I’m afraid I don’t remember. Here is the build I used, but I don’t remember if this is a custom HPe Image: VMware ESXi 6.5.0 (build-5310538)
Hello,
Très sympa le Lab :))
pourquoi avoir plusieur NAS ? Syno + OVM ?
C’est pour des tests ou une histoire de performance ?
Hello,
Sur le Syno j’ai mes backups et mes caméras de surveillance, sur le OMV j’ai tout le reste 🙂
Bonjour,
Ça te sert à quoi tout ça chez toi?
Bonjour,
A tout ce que j’ai expliqué dans l’article 🙂
Très belle install, bravo. Petit kiff sur le air-rack 🙂 tu ventiles ça chauffe pas trop ?
ah si une question, c’est quoi ses fils volants près du compteur élec ?
Le air-rack chauffe juste en été mais il est jamais allumer plus de deux jours de suite.
Les fils volants c’est une expérimentation sur l’électricité sans fils 😀 (ou juste mes lampes extérieurs pas posées et pas raccordées)
Jolie 🙂
Petite question, tu utilise quoi comme antenne externe sur ta 4G Box ?
Hello,
J’utilise cette antenne-ci : https://www.amazon.fr/gp/product/B01N7DWGVB/ref=oh_aui_search_detailpage?ie=UTF8&psc=1
Qui a le logo tourné directement vers l’antenne 4G qui est à 500M en ligne droite sans obstacle 🙂
Pas mal du tout comme laboratoire. Une raison particulière d’utiliser vSphere 6.5 ?
Concernant le serveur du blog, la DEDIBOX XC est plus performante que les bare-metal scaleway ?
J’utilise vSphere parce que je préfère les technologies de chez VMware (surtout quand c’est combiné avec celles de chez Veeam).
Pour ce qui est du serveur du blog, oui la Dedibox XC est plus performante que les bare-metal Scaleway grâce au SSD dédié 🙂
En plus j’ai un vrai KVM pour monté l’ISO de restauration Veeam et restaurer la dernière image du serveur au cas ou tout plante.
Je comprends tout à fait, il faut reconnaître que dans un LAB, VMware est plus user friendly que Proxmox.
Par contre devoir hébergé un vCenter … en flash …
Héberger un vCenter en flash ?
Un laboratoire 100% DIY, mais dit-moi l’ensemble des serveurs ça dû te coûter bonbon non ?
Quelques roro chez des brokers oui 🙂 Le DL 360 a été donné par un ancien client mais tout le reste (disques inclus) a été acheté.
Après la construction de tout ce que tu vois ici a été étalée sur 3-4 ans.
Le plus vieux disque que j’ai acheté neuf est sur le synology qui tourne depuis plus de deux ans et demi en continu 🙂