Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

--- client:container [2021/09/15 19:03 CEST] – -bißchen verflüssigt usw. chr
+++ client:container [2021/12/27 16:35 CET] (aktuell) – bißchen Kosmetik chr
@@ Zeile 1: / Zeile 1: @@
 ====== bwLehrpool Container-Integration ======
-Mit dem Projekt [[:bwgpul|bwGPUL]] wurde ein Docker-Container-Service in bwLehrpool integriert, der das native Linux-System bwLehrpools (MaxiLinux) mit nutzerspezifischen Applikationen erweitern kann. Durch Wegfall einer Virtualisierungsschicht steht hierbei die volle Leistung der bwLehrpool-Clients zur Verfügung. Eventuell vorhandene leistungsfähige GPUs (Grafikkarten) werden ebenfalls direkt angesprochen. Der Arbeitsablauf zur Erstellung einer containerbasierten Lehrveranstaltung entspricht dem üblichen Vorgehen beim Einsatz virtueller Maschinen. Aktuell werden nur Docker-Container unterstützt.
+Mit dem Projekt [[:bwgpul|bwGPUL]] wurde ein Docker-Container-Service in bwLehrpool integriert, der das native Linux-System bwLehrpools (MaxiLinux) mit nutzerspezifischen Applikationen erweitert. Durch Wegfall der Virtualisierungsschicht steht hierbei die volle Leistung der bwLehrpool-Clients zur Verfügung. Eventuell vorhandene leistungsfähige GPUs (Grafikkarten) können direkt angesprochen werden. Der Arbeitsablauf zur Erstellung einer containerbasierten Lehrveranstaltung entspricht dem üblichen Vorgehen beim Einsatz virtueller Maschinen. Aktuell werden nur Docker-Container unterstützt.
 In dieser Anleitung wird beschrieben, wie Docker-Container im bwLehrpool-Kontext erstellt und in Veranstaltungen verlinkt werden. Eine kompletter Leitfaden zum Umgang mit Docker kann hier nicht gegeben werden; weitere Informationen zu Docker finden Sie in der [[https://docs.docker.com/reference/|Docker-Referenz]].
@@ Zeile 10: / Zeile 10: @@
 ==== Auswahl des Imagetyps ====
-[{{ :bwsuite:container:bwlp_suite_new_image.png?400|bwLehrpool-Suite: Auswahl zwischen VM und Container}}]Den Wizard zur Erstellung eines Docker-Abbildes erreichen Sie nach Auswahl per Schaltfläche „Neues Docker-Image“ (siehe Abb. rechts).
+[{{ :bwsuite:container:211118_bwlp_suite_new_image.png?320|bwLehrpool-Suite: Auswahl zwischen VM und Container}}]Den Wizard zur Erstellung eines Docker-Abbildes erreichen Sie nach Auswahl der Schaltfläche „Neues Docker-Image“ (siehe Abb. rechts).
 <note important>Bitte beachten Sie eventuelle Warnungen unter „Hinweis“. Überprüfen Sie gegebenenfalls wie [[https://www.bwlehrpool.de/wiki/doku.php/client/bwlehrpool-suite#menueleiste|hier beschrieben]], ob eine neue Version der bwLehrpool-Suite zur Verfügung steht.</note>
@@ Zeile 16: / Zeile 16: @@
 {clear}
-==== Anlegen des Container-Image ====
+==== Anlegen des Container-Images ====
-[{{ :bwsuite:container:bwlp_suite_new_image_container.png?400|bwLehrpool-Suite: Container-Image erstellen}}]
+[{{ :bwsuite:container:211118_bwlp_suite_new_image_container.png?320|bwLehrpool-Suite: Container-Image erstellen}}]
-Für die Erstellung eines Container-Images stehen Ihnen verschiedene Möglichkeiten zur Auswahl. Sie können dabei das Image aus einem Dockerfile oder einem Git-Repository bauen lassen, oder auf bestehende Abbilder aus einem Image-Repositorium, beispielsweise [[https://hub.docker.com/|Docker Hub]]), zurückgreifen.
+Zur Erstellung eines Container-Images stehen Ihnen zwei Möglichkeiten zur Auswahl. Sie können Ihr selbstgebautes Image als Docker-Archive exportieren und hochladen, oder auf bestehende Abbilder aus einem Image-Repositorium, beispielsweise [[https://hub.docker.com/|Docker Hub]]), zurückgreifen.
+<html><!-- Vielleicht gibt es später die entsprechenden Funktionen um Containr Images mit Dockerfiles zu bauen...
   - Falls ein eigenes Images gebaut werden soll: Verwenden Sie die Eingabeoptionen „Dockerfile“ oder „Git Repository“.
     * Dockerfile: Zum Erstellen eines eigenen Dockerfiles:  Anleitung [[https://docs.docker.com/engine/reference/builder/|Docker-Referenz]].
     * Git-Repository: Für komplexere Images können Sie auch entsprechend der [[https://docs.docker.com/engine/reference/commandline/build/|Docker-Build-Anleitung]] einen Link auf ein Git-Repository angeben. Hierdurch ist es beispielsweise möglich, dem endgültigen Image weitere Dateien wie Konfigurationen oder Skripte hinzuzufügen.
+--></html>
+  - Docker-Archive ist die bevorzugte Methode, um in bwLehrpool Container-Images anzulegen. Exportieren Sie Ihr erstelltes Image mit [[https://docs.docker.com/engine/reference/commandline/save/|docker save]] und fügen Sie es dem Upload hinzu.
   - Soll ein bestehendes Image von Docker Hub verwendet werden, geben Sie lediglich den Repository-Namen an (z.b. python:3.7, tensorflow/tensorflow:nightly-gpu-jupyter, etc.).
-  - Geben Sie Ihrem Container-Images einen sprechenden Namen.
+  - Geben Sie Ihrem Container-Image einen sprechenden Namen.
+<note tip>Docker-Archive profitieren aktuell von [[satellite:dnbd3_lokales_caching|lokalem Caching]].</note>
-<note important>Der Bau von Container-Images findet derzeit noch auf Clients statt. Sollte dies zu viel Zeit in Anspruch nehmen, können Sie dem Upload auch ein vorgebautes Container-Image hinzufügen ([[https://docs.docker.com/engine/reference/commandline/save/|docker save]]). Das Bauen eines Images soll in einem späteren Schritt im bwLehrpool-System erfolgen </note>
+<note important>Die Dateiendung für Docker-Archive muss für die bwLehrpool-Suite **.tar** lauten, ansonsten werden die Dateien in der Auswahl nicht angezeigt.\\ \\ Prüfen Sie nach dem Exportieren eines Containers-Images ("//docker save ...//"), ob das erstellte Docker-Archive passende Dateiberechtigungen besitzt. Eventuell besitzt die Datei Root-Rechte und kann daher nicht in der Suite ausgewählt werden.</note>
 ==== Metadaten, Container-Typ ====
-[{{ :bwsuite:container:bwlp_suite_new_image_container_meta.png?direct&400|}}] Geben Sie im letzen Schritt dem Container-Image eine Beschreibung und legen den Typ des Container-Image fest.
+[{{ :bwsuite:container:bwlp_suite_new_image_container_meta.png?direct&320|}}] Geben Sie im letzten Schritt dem Container-Image eine Beschreibung und legen den Typ des Container-Image fest.
 === Beschreibung ===
@@ Zeile 38: / Zeile 46: @@
 Vergeben Sie dem Image eine aussagekräftige Beschreibung mit Informationen wie:
   * Welches Quell-Image benutzt wird, von wo es stammt,
-  * welche Anwendung in welcher Version in dem Container enthalten sind,
+  * welche Anwendung in welcher Version in dem Container enthalten sind, …
-  * usw.
 === Container-Image-Typ ===
-Der Typ eines Container-Images legt fest, wie dieser in Veranstaltungen oder in anderen Systemen genutzt werden soll. Derzeit werden zwei Arten unterstützt:
+Der Typ eines Container-Images legt fest, wie dieser in Veranstaltungen oder in anderen Systemen genutzt wird. Derzeit werden zwei Arten unterstützt:
-  * Pool (Default): Ein einfaches Container-Image, das rein zur Verwendung auf bwLehrpool-Clientrechnern erstellt wurde.
+  * Pool (Default): Ein einfaches Container-Image, das rein zur Verwendung auf bwLehrpool-Clients erstellt wurde.
-  * Daten: Ein spezielles Container-Image, das nur Daten enthält. Beispielsweise können so ein Daten-Container mit Trainingsdaten für Machine-Learning (Mnist, ImageNet, CIFAR, ...) bereitgestellt werden.
+  * Daten: Ein spezielles Container-Image, das nur Daten enthält. Beispielsweise können so Daten-Container mit Trainingsdaten für Machine-Learning (Mnist, ImageNet, CIFAR, ...) separat bereitgestellt werden.
+  <note important>Daten für einen Daten-Container müssen derzeit unter **/data/** abgelegt werden! Verwenden Sie zur Erstellung von Daten-Containern kleine Basis-Images wie [[https://hub.docker.com/_/alpine|Alpine]] oder [[https://hub.docker.com/_/busybox|BusyBox]]</note>
-<html><!--
+<html><!-- Batch-System bezieht seine Container von eigener Container-Registry
-  * Pool/Batch: Ein modifiziertes Container-Image, das sowohl für Lehrveranstaltungen auf bwLehrpool-Clientrechnern als auch für das neue bwLehrpool-Cluster-System verwendet werden kann. (**todo:** bwlp-cluster side and link)
+  * Pool/Batch: Ein modifiziertes Container-Image, das sowohl für Lehrveranstaltungen auf bwLehrpool-Clients als auch für das neue bwLehrpool-Cluster-System verwendet werden kann. (**todo:** bwlp-cluster side and link)
 --></html>
 Nach Angabe der Beschreibung und des gewünschten Imagetyps können Sie wie gewohnt mittels „Weiter“ die Zugriffsberechtigungen Ihres Containers festlegen oder direkt per „Fertigstellen“ die Konfiguration abschließen.
 ===== Veranstaltungen mit Docker-Container =====
@@ Zeile 61: / Zeile 68: @@
 ==== Konfiguration des Containers ====
-[{{ :bwsuite:container:bwlp_suite_lecture_container_details.png?direct&400|Veranstaltungsdetails Containerkonfiguration}}]
+[{{ :bwsuite:container:bwlp_suite_lecture_container_details.png?direct&320|Veranstaltungsdetails Containerkonfiguration}}]
 Nachdem eine auf ein Container-Image verlinkende Veranstaltung angelegt wurde, muss das Startverhalten des Containers festgelegt werden. Hierzu befindet sich in der Detailansicht der neu erstellten Veranstaltung im Untermenü „Container“ eine Eingabemaske. Dort kann das Verhalten des Containers durch die Menüpunkte „Container-Startoptionen“, „Container-Startbefehl“ sowie eine Mount-Konfiguration angepasst werden.
@@ Zeile 69: / Zeile 76: @@
   * **Container-Startbefehl**: Bei der Erstellung eines Containers wird durch die im Dockerfile enthaltenen Angaben ENTRYPOINT bzw. CMD festgelegt, welche und wie die Containeranwendung gestartet wird. Durch Überschreiben dieser Angaben können Sie das Verhalten der genutzten Anwendung Ihren Wünschen entsprechend anpassen (siehe [[https://docs.docker.com/engine/reference/builder/|Dockerreferenz]]).
-  * **Bind Mount-Konfiguration**: Geben Sie hier die Verzeichnisse an, die in den Container hineingemountet werden sollen. Unter „SOURCE“ finden Sie vordefinierte Labels für eine Quelle. „USER_HOME“ stellt das Home Verzeichnis des angemeldeten Users dar, „USER_TMP“ einen Bereich in /tmp. Die Buchstaben sind als Laufwerkbuchstaben zu betrachten und referenzieren ein Netzlaufwerk, das in den Veranstaltungsdetails festgelegt werden kann. „TARGET“ stellt das Zielverzeichnis innerhalb des Containers dar, in das die Quelle gemountet wird. Weitere Informationen zur Anwendung von Bind Mounts finden Sie in der Docker-Dokumentation.
+  * **Bind Mount-Konfiguration**: Durch Anlegen von Bind Mounts wird festgelegt, welche Verzeichnisse aus dem Host-System und/oder interne Docker-Speicherbereiche (Volumes) im Container unter einem festgelegten Dateipfad eingehängt werden. Dabei sind eine Quelle (Source) und ein Ziel (Target) zwingend erforderlich, optional können zusätzliche Optionen das Verhalten im Container beeinflussen (z.b.  READ_ONLY). Weitere Informationen zu Bind Mounts finden Sie in der [[https://docs.docker.com/storage/bind-mounts/|Docker-Dokumentation]]. Derzeit können Sie nur vordefinierte Labels als Quelle auswählen, diese sind wie folgt definiert:
+    * //USER_HOME// stellt das Home Verzeichnis des angemeldeten Users dar.
+    * //USER_TMP// stellt dem User ein temporäres Verzeichnis zum Austausch unter ///tmp/docker/<USERNAME>/// bereit.
+    * //Buchstaben// referenzieren den Laufwerksbuchstaben eines Netzlaufwerks, das in den Veranstaltungsdetails festgelegt werden kann.
+    * //Daten-Container// referenziert ein zuvor hochgeladenes Container-Image, das als Type Daten-Container markiert wurde.
 ==== Zusätzliche Einstellungen ====
@@ Zeile 82: / Zeile 93: @@
 ==== Container-Veranstaltungen auf bwLehrpool-Client ====
-[{{ :bwsuite:container:bwlp_client_example_lecture.png?direct&400|Start der Containeranwendung auf einem bwLehrpool-Client}}]
+[{{ :bwsuite:container:bwlp_client_example_lecture.png?direct&320|Start der Containeranwendung auf einem bwLehrpool-Client}}]
 Nach dem Start einer Container-Veranstaltung wird der Desktop des nativen Linux gestartet und der Container mit den Veranstaltungsdetails initialisiert. Im aktuellen Entwicklungsstand öffnet sich nach Start der Desktopoberfläche ein Terminal, in dem der aktuelle Fortschritt der Initialisierung angezeigt wird.
@@ Zeile 91: / Zeile 102: @@
 ===== Beispielkonfigurationen =====
-Nachfolgend soll anhand einer Beispielkonfiguration der Einstieg in Container Lehrveranstaltungen geschaffen werden. Zudem sollen Informationen und erste Erfahrungen mit grafischen Containeranwendungen vermittelt werden.
+Nachfolgend soll anhand einer Beispielkonfiguration ein Einstieg in Container-Lehrveranstaltungen gezeigt und Informationen zu grafischen Containeranwendungen vermittelt werden.
 ==== Beispielkonfiguration - Tensorflow ====
-In diesem ersten Beispiel soll exemplarisch für den Bereich Machine Learning das Framework Tensorflow mit GPU Unterstützung und der Juptyer Notebook IDE bereit gestellte werden. Über die bwLehrpool-Suite muss hierbei zuerst das Container-Image angelegt, und dann mit einer Veranstaltung verknüpft werden. Folgende Schritte sind dabei auszuführen:
+Im ersten Beispiel soll exemplarisch für den Bereich Machine Learning das Framework Tensorflow mit GPU Unterstützung und der Juptyer Notebook-IDE bereit gestellt werden. Mit der bwLehrpool-Suite wird hierbei zuerst das Container-Image angelegt und dann mit einer Veranstaltung verknüpft. Folgende Schritte sind hierzu auszuführen:
   - Container-Image in bwLehrpool-Suite angelegen:
-    * Image Repository ''tensorflow/tensorflow:2.3.3-gpu-jupyter'' (Docker-Hub)
+    * Image Repository: ''tensorflow/tensorflow:2.3.3-gpu-jupyter'' (Docker-Hub)
-    * Container Name: ''Tensorflow 2.3 GPU Jupyter''
+    * Container-Name: ''Tensorflow 2.3 GPU Jupyter''
-  - Danach wird auf Grundlage dieses Images eine Veranstaltung angelegt.
+  - Danach wird auf Grundlage dieses Images eine Veranstaltung angelegt:
-    - Veranstaltungsname: ''Machine Learning mit Tensorflow''
+    - Veranstaltungsname: ''Machine Learning mit Tensorflow'',
-    - In den Veranstaltungsdetails im Untermenü //Container// werden die folgenden Einstellungen gesetzt:
+    - in den Veranstaltungsdetails im Untermenü //Container// folgende Einstellungen setzen:
       * Container-Startoptionen: <code>-itd --rm --name bwlp-tensorflow-gpu --gpus all -p 127.0.0.1:8888:8888</code>
       * Container-Startbefehl: <code>jupyter notebook --no-browser --ip=0.0.0.0 --allow-root --NotebookApp.token='easyPw'</code>
-      * Bind Mount Configuration:
+      * Bind Mount-Konfiguration:
         * **SOURCE** USER_HOME	**TARGET** /tf/user_home
-  - Danach ist die eigentliche Konfiguration der Veranstaltung mit dem Container abgeschlossen. Jedoch startet der Container nur eine Webanwendung, daher will man zusätzlich noch ein Browser mit der entsprechenden URL zu der Webanwendung starten.  Dies erreicht man mit dem folgenden Skript in dem Untermenü //VM-Start//
+  - Damit ist die eigentliche Konfiguration der Container-Veranstaltung abgeschlossen. Jedoch startet der Container lediglich eine Webanwendung, daher sollte zusätzlich ein Browser mit entsprechender URL zur Webanwendung gestartet werden. Dies erreicht man mit folgendem Skript im Untermenü //VM-Start//:
       * Skript:<code>#!/bin/bash
 sleep 2
@@ Zeile 113: / Zeile 124: @@
-==== Grafische Containeranwendung ====
+==== Grafische Containeranwendungen ====
-Wie in der vorherigen Abbildung angedeutet ist mit Containern auch möglich, Anwendungen mit grafischer Oberfläche in ein Container-Image auszulagern und diese in Lehrveranstaltungen zu verwenden, die auf Direktzugriff zur GPUs angewiesen sind. Hierbei wurde eine spezifische Eclipse-IDE zur CUDA-Programmierung (Nvidia Nsight) verwendet.
+Wie in der vorherigen Abbildung angedeutet, können mit Containern Anwendungen mit grafischer Oberfläche, die auf Direktzugriff zur GPUs angewiesen sind, in Container ausgelagert und in Lehrveranstaltungen verwendet werden. Als Beispiel zur Abbildung wurde eine Eclipse-IDE zur CUDA-Programmierung (Nvidia Nsight) verwendet.
-Zur Verwendung solcher Container, die grafischen Anwendungen beinhalten, existieren mehrere Lösungsmöglichkeiten. Die erste Option ist hierbei das X11-Forwarding mittels eines in den Container gemounteten X11-Sockets, über den die grafische Oberfläche direkt dargestellt werden kann. Ein zweiter Lösungsansatz besteht in der Verwendung einer rudimentären Desktopumgebung innerhalb des Containers wie beispielsweise Openbox, auf die mit VNC zugegriffen wird. Der Zugriff auf diese Umgebung erfolgt dann schließlich über den Browser, in dem die Anwendung angezeigt wird. (??)
+Zur Verwendung solcher Container, die grafischen Anwendungen beinhalten, existieren mehrere Lösungsmöglichkeiten. Die erste Option ist hierbei das X11-Forwarding mittels eines in den Container gemounteten X11-Sockets, über den die grafische Oberfläche direkt dargestellt werden kann. Ein zweiter Lösungsansatz besteht in der Verwendung einer rudimentären Desktopumgebung innerhalb des Containers wie beispielsweise Openbox, auf die mit VNC zugegriffen wird. Der Zugriff auf diese Umgebung erfolgt dann schließlich über den Browser, in dem die Anwendung angezeigt wird. (**??**)
 === X11-Forwarding ===
-Hierzu muss im Container lediglich die auszuführende Anwendung sowie deren Abhängigkeiten installiert sein. Damit die im Container befindliche Anwendung auf dem Bildschirm dargestellt wird, müssen bei Containererzeugung die folgenden Parameter angegeben werden:
+Hierzu muss im Container die auszuführende Anwendung sowie deren Abhängigkeiten installiert sein. Damit die im Container befindliche Anwendung auf dem Bildschirm dargestellt wird, müssen bei Containererzeugung folgende Parameter angegeben werden:
 <code> docker run ... -e DISPLAY=$DISPLAY -v /tmp/.X11-unix/:/tmp/.X11-unix/ ...</code>
@@ Zeile 127: / Zeile 138: @@
 Nach erfolgreichem Start des Containers sollte diese dann auf dem Desktop angezeigt werden. Vergleichen Sie hierzu auch „Running X11 applications like xeyes in Docker“, [[https://nelkinda.com/blog/xeyes-in-docker/|Quelle]].
-<note important>**Sicherheitshinweis**: Da auf diesem Wege X11 u.a. Maus- und Tastatureingaben abgefangen werden könnten, sollten Sie hierfür nur Software verwenden, der Sie vertrauen!</note>
+<note important>**Sicherheitshinweis**: Da auf diesem Wege X11 u.a. Maus- und Tastatureingaben abgefangen werden könnten, sollten Sie hierfür nur vertrauenswürdige Software verwenden!</note>
 === VNC-Ansatz ===
-Dieser Lösungsansatz erfordert einen deutlich höheren Konfigurationsaufwand, da unterschiedliche Aspekte des Desktops sowie der VNC-Verbindung konfiguriert werden müssen. Als Beispielanleitung hierfür empfiehlt sich das [[https://www.digitalocean.com/community/tutorials/how-to-remotely-access-gui-applications-using-docker-and-caddy-on-debian-9|Tutorial]] „How to remotely access GUI applications using Docker“. Für den Zugriff auf die Desktopumgebung mit der Anwendung muss darauf geachtet werden, dass der konfigurierte VNC-Port erreichbar ist.
+Dieser Lösungsansatz erfordert deutlich höheren Konfigurationsaufwand, da unterschiedliche Aspekte des Desktops sowie der VNC-Verbindung konfiguriert werden müssen. Als Beispielanleitung hierfür empfiehlt sich das [[https://www.digitalocean.com/community/tutorials/how-to-remotely-access-gui-applications-using-docker-and-caddy-on-debian-9|Tutorial]] „How to remotely access GUI applications using Docker“. Für den Zugriff auf die Desktopumgebung mit der Anwendung muss darauf geachtet werden, dass der konfigurierte VNC-Port erreichbar ist.
 <code> docker run ... -p 8080:VNC_PORT ...</code>
 <note important>Da Container in der Regel nicht die für die grafische Umgebung notwendigen Bibliotheken beinhalten, werden diese bei der Installation der eigentlichen Anwendung mitinstalliert. Daher nimmt der Bau des Container-Images mehr Zeit in Anspruch. Zudem erhöht sich hierbei die Größe des resultierenden Images. Daher sollten solche Images derzeit noch vorgebaut in bwLehrpool hochgeladen werden.</note>
 ==== Ressourcen ====

Zuletzt angesehen:

Unterschiede

Suche

Navigation

Drucken/exportieren

Werkzeuge