Add Hugo-based (https://gohugo.io ) documentation

2024-09-06 00:11:45 +03:00
292 changed files with 3268 additions and 9558 deletions
@@ -22,7 +22,7 @@ RUN apt-get update
 RUN apt-get -y install etcd qemu-system-x86 qemu-block-extra qemu-utils fio libasan5 \
    liburing1 liburing-dev libgoogle-perftools-dev devscripts libjerasure-dev cmake libibverbs-dev libisal-dev
 RUN apt-get -y build-dep fio qemu=`dpkg -s qemu-system-x86|grep ^Version:|awk '{print $2}'`
-RUN apt-get update && apt-get -y install jq lp-solve sudo nfs-common fdisk parted
+RUN apt-get -y install jq lp-solve sudo nfs-common
 RUN apt-get --download-only source fio qemu=`dpkg -s qemu-system-x86|grep ^Version:|awk '{print $2}'`
 RUN set -ex; \
@@ -288,24 +288,6 @@ jobs:
          echo ""
        done
  test_create_halfhost:
    runs-on: ubuntu-latest
    needs: build
    container: ${{env.TEST_IMAGE}}:${{github.sha}}
    steps:
    - name: Run test
      id: test
      timeout-minutes: 3
      run: /root/vitastor/tests/test_create_halfhost.sh
    - name: Print logs
      if: always() && steps.test.outcome == 'failure'
      run: |
        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
          echo "-------- $i --------"
          cat $i
          echo ""
        done
  test_failure_domain:
    runs-on: ubuntu-latest
    needs: build
@@ -414,24 +396,6 @@ jobs:
          echo ""
        done
  test_rm_degraded:
    runs-on: ubuntu-latest
    needs: build
    container: ${{env.TEST_IMAGE}}:${{github.sha}}
    steps:
    - name: Run test
      id: test
      timeout-minutes: 3
      run: /root/vitastor/tests/test_rm_degraded.sh
    - name: Print logs
      if: always() && steps.test.outcome == 'failure'
      run: |
        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
          echo "-------- $i --------"
          cat $i
          echo ""
        done
  test_snapshot_chain:
    runs-on: ubuntu-latest
    needs: build
@@ -864,60 +828,6 @@ jobs:
          echo ""
        done
  test_resize:
    runs-on: ubuntu-latest
    needs: build
    container: ${{env.TEST_IMAGE}}:${{github.sha}}
    steps:
    - name: Run test
      id: test
      timeout-minutes: 3
      run: /root/vitastor/tests/test_resize.sh
    - name: Print logs
      if: always() && steps.test.outcome == 'failure'
      run: |
        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
          echo "-------- $i --------"
          cat $i
          echo ""
        done
  test_resize_auto:
    runs-on: ubuntu-latest
    needs: build
    container: ${{env.TEST_IMAGE}}:${{github.sha}}
    steps:
    - name: Run test
      id: test
      timeout-minutes: 3
      run: /root/vitastor/tests/test_resize_auto.sh
    - name: Print logs
      if: always() && steps.test.outcome == 'failure'
      run: |
        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
          echo "-------- $i --------"
          cat $i
          echo ""
        done
  test_snapshot_pool2:
    runs-on: ubuntu-latest
    needs: build
    container: ${{env.TEST_IMAGE}}:${{github.sha}}
    steps:
    - name: Run test
      id: test
      timeout-minutes: 3
      run: /root/vitastor/tests/test_snapshot_pool2.sh
    - name: Print logs
      if: always() && steps.test.outcome == 'failure'
      run: |
        for i in /root/vitastor/testdata/*.log /root/vitastor/testdata/*.txt; do
          echo "-------- $i --------"
          cat $i
          echo ""
        done
  test_osd_tags:
    runs-on: ubuntu-latest
    needs: build
@@ -2,6 +2,6 @@ cmake_minimum_required(VERSION 2.8.12)
 project(vitastor)
-set(VITASTOR_VERSION "1.11.0")
+set(VITASTOR_VERSION "1.8.0")
 add_subdirectory(src)
@@ -1,4 +1,4 @@
-# Vitastor
+## Vitastor
 [Read English version](README.md)
@@ -22,7 +22,7 @@ TCP и RDMA и на хорошем железе может достигать з
 Vitastor поддерживает QEMU-драйвер, протоколы NBD и NFS, драйверы OpenStack, OpenNebula, Proxmox, Kubernetes.
 Другие драйверы могут также быть легко реализованы.
-Подробности смотрите в документации по ссылкам. Можете начать отсюда: [Быстрый старт](docs/intro/quickstart.ru.md).
+Подробности смотрите в документации по ссылкам ниже.
 ## Презентации и записи докладов
@@ -41,7 +41,6 @@ Vitastor поддерживает QEMU-драйвер, протоколы NBD и
  - [Автор и лицензия](docs/intro/author.ru.md)
 - Установка
  - [Пакеты](docs/installation/packages.ru.md)
  - [Docker](docs/installation/docker.ru.md)
  - [Proxmox](docs/installation/proxmox.ru.md)
  - [OpenNebula](docs/installation/opennebula.ru.md)
  - [OpenStack](docs/installation/openstack.ru.md)
@@ -52,7 +51,7 @@ Vitastor поддерживает QEMU-драйвер, протоколы NBD и
  - Параметры
    - [Общие](docs/config/common.ru.md)
    - [Сетевые](docs/config/network.ru.md)
-    - [Клиентский код](docs/config/client.ru.md)
+    - [Клиентский код](docs/config/client.en.md)
    - [Глобальные дисковые параметры](docs/config/layout-cluster.ru.md)
    - [Дисковые параметры OSD](docs/config/layout-osd.ru.md)
    - [Прочие параметры OSD](docs/config/osd.ru.md)
@@ -22,7 +22,7 @@ or internal systems of public clouds.
 Vitastor supports QEMU, NBD, NFS protocols, OpenStack, OpenNebula, Proxmox, Kubernetes drivers.
 More drivers may be created easily.
-Read more details in the documentation. You can start from here: [Quick Start](docs/intro/quickstart.en.md).
+Read more details below in the documentation.
 ## Talks and presentations
@@ -41,7 +41,6 @@ Read more details in the documentation. You can start from here: [Quick Start](d
  - [Author and license](docs/intro/author.en.md)
 - Installation
  - [Packages](docs/installation/packages.en.md)
  - [Docker](docs/installation/docker.en.md)
  - [Proxmox](docs/installation/proxmox.en.md)
  - [OpenNebula](docs/installation/opennebula.en.md)
  - [OpenStack](docs/installation/openstack.en.md)
@@ -22,8 +22,6 @@ RUN apt-get update && \
    (echo "APT::Install-Recommends false;" > /etc/apt/apt.conf) && \
    apt-get update && \
    apt-get install -y e2fsprogs xfsprogs kmod iproute2 \
        # NFS mount dependencies
        nfs-common netbase \
        # dependencies of qemu-storage-daemon
        libnuma1 liburing2 libglib2.0-0 libfuse3-3 libaio1 libzstd1 libnettle8 \
        libgmp10 libhogweed6 libp11-kit0 libidn2-0 libunistring2 libtasn1-6 libpcre2-8-0 libffi8 && \
@@ -1,4 +1,4 @@
-VITASTOR_VERSION ?= v1.11.0
+VITASTOR_VERSION ?= v1.8.0
 all: build push
@@ -49,7 +49,7 @@ spec:
            capabilities:
              add: ["SYS_ADMIN"]
            allowPrivilegeEscalation: true
-          image: vitalif/vitastor-csi:v1.11.0
+          image: vitalif/vitastor-csi:v1.8.0
          args:
            - "--node=$(NODE_ID)"
            - "--endpoint=$(CSI_ENDPOINT)"
@@ -121,7 +121,7 @@ spec:
            privileged: true
            capabilities:
              add: ["SYS_ADMIN"]
-          image: vitalif/vitastor-csi:v1.11.0
+          image: vitalif/vitastor-csi:v1.8.0
          args:
            - "--node=$(NODE_ID)"
            - "--endpoint=$(CSI_ENDPOINT)"
@@ -9,16 +9,8 @@ metadata:
 provisioner: csi.vitastor.io
 volumeBindingMode: Immediate
 parameters:
-  # CSI driver can create block-based volumes and VitastorFS-based volumes
+  etcdVolumePrefix: ""
-  # only VitastorFS-based volumes and raw block volumes (without FS) support ReadWriteMany mode
+  poolId: "1"
  # set this parameter to VitastorFS metadata volume name to use VitastorFS
  # if unset, block-based volumes will be created
  vitastorfs: ""
  # for block-based storage classes, pool ID may be either a string (name) or a number (ID)
  # for vitastorFS-based storage classes it must be a string - name of the default pool for FS data
  poolId: "testpool"
  # volume name prefix for block-based storage classes or NFS subdirectory (including /) for FS-based volumes
  volumePrefix: ""
  # you can choose other configuration file if you have it in the config map
  # different etcd URLs and prefixes should also be put in the config
  #configPath: "/etc/vitastor/vitastor.conf"
@@ -1,25 +0,0 @@
 ---
 apiVersion: storage.k8s.io/v1
 kind: StorageClass
 metadata:
  namespace: vitastor-system
  name: vitastor
  annotations:
    storageclass.kubernetes.io/is-default-class: "true"
 provisioner: csi.vitastor.io
 volumeBindingMode: Immediate
 parameters:
  # CSI driver can create block-based volumes and VitastorFS-based volumes
  # only VitastorFS-based volumes and raw block volumes (without FS) support ReadWriteMany mode
  # set this parameter to VitastorFS metadata volume name to use VitastorFS
  # if unset, block-based volumes will be created
  vitastorfs: "testfs"
  # for block-based storage classes, pool ID may be either a string (name) or a number (ID)
  # for vitastorFS-based storage classes it must be a string - name of the default pool for FS data
  poolId: "testpool"
  # volume name prefix for block-based storage classes or NFS subdirectory (including /) for FS-based volumes
  volumePrefix: "k8s/"
  # you can choose other configuration file if you have it in the config map
  # different etcd URLs and prefixes should also be put in the config
  #configPath: "/etc/vitastor/vitastor.conf"
 allowVolumeExpansion: true
@@ -3,10 +3,10 @@ module vitastor.io/csi
 go 1.15
 require (
-	github.com/container-storage-interface/spec v1.8.0
+	github.com/container-storage-interface/spec v1.4.0
 	github.com/golang/glog v0.0.0-20160126235308-23def4e6c14b
 	github.com/kubernetes-csi/csi-lib-utils v0.9.1
-	golang.org/x/net v0.7.0
+	golang.org/x/net v0.0.0-20201202161906-c7110b5ffcbb
 	golang.org/x/xerrors v0.0.0-20200804184101-5ec99f83aff1 // indirect
 	google.golang.org/grpc v1.33.1
 	google.golang.org/protobuf v1.24.0
@@ -41,8 +41,8 @@ github.com/chzyer/logex v1.1.10/go.mod h1:+Ywpsq7O8HXn0nuIou7OrIPyXbp3wmkHB+jjWR
 github.com/chzyer/readline v0.0.0-20180603132655-2972be24d48e/go.mod h1:nSuG5e5PlCu98SY8svDHJxuZscDgtXS6KTTbou5AhLI=
 github.com/chzyer/test v0.0.0-20180213035817-a1ea475d72b1/go.mod h1:Q3SI9o4m/ZMnBNeIyt5eFwwo7qiLfzFZmjNmxjkiQlU=
 github.com/container-storage-interface/spec v1.2.0/go.mod h1:6URME8mwIBbpVyZV93Ce5St17xBiQJQY67NDsuohiy4=
-github.com/container-storage-interface/spec v1.8.0 h1:D0vhF3PLIZwlwZEf2eNbpujGCNwspwTYf2idJRJx4xI=
+github.com/container-storage-interface/spec v1.4.0 h1:ozAshSKxpJnYUfmkpZCTYyF/4MYeYlhdXbAvPvfGmkg=
-github.com/container-storage-interface/spec v1.8.0/go.mod h1:ROLik+GhPslwwWRNFF1KasPzroNARibH2rfz1rkg4H0=
+github.com/container-storage-interface/spec v1.4.0/go.mod h1:6URME8mwIBbpVyZV93Ce5St17xBiQJQY67NDsuohiy4=
 github.com/davecgh/go-spew v1.1.0/go.mod h1:J7Y8YcW2NihsgmVo/mv3lAwl/skON4iLHjSsI+c5H38=
 github.com/davecgh/go-spew v1.1.1 h1:vj9j/u1bqnvCEfJOwUhtlOARqs3+rkHYY13jYWTU97c=
 github.com/davecgh/go-spew v1.1.1/go.mod h1:J7Y8YcW2NihsgmVo/mv3lAwl/skON4iLHjSsI+c5H38=
@@ -182,7 +182,6 @@ github.com/stretchr/testify v1.3.0/go.mod h1:M5WIy9Dh21IEIfnGCwXGc5bZfKNJtfHm1UV
 github.com/stretchr/testify v1.4.0/go.mod h1:j7eGeouHqKxXV5pUuKE4zz7dFj8WfuZ+81PSLYec5m4=
 github.com/stretchr/testify v1.5.1 h1:nOGnQDM7FYENwehXlg/kFVnos3rEvtKTjRvOWSzb6H4=
 github.com/stretchr/testify v1.5.1/go.mod h1:5W2xD1RspED5o8YsWQXVCued0rvSQ+mT+I5cxcmMvtA=
 github.com/yuin/goldmark v1.4.13/go.mod h1:6yULJ656Px+3vBD8DxQVa3kxgyrAnzto9xy5taEt/CY=
 go.opencensus.io v0.21.0/go.mod h1:mSImk1erAIZhrmZN+AvHh14ztQfjbGwt4TtuofqLduU=
 go.opencensus.io v0.22.0/go.mod h1:+kGneAE2xo2IficOXnaByMWTGM9T73dGwxeWcUqIpI8=
 go.opencensus.io v0.22.2/go.mod h1:yxeiOL68Rb0Xd1ddK5vPZ/oVn4vY4Ynel7k9FzqtOIw=
@@ -196,7 +195,6 @@ golang.org/x/crypto v0.0.0-20190605123033-f99c8df09eb5/go.mod h1:yigFU9vqHzYiE8U
 golang.org/x/crypto v0.0.0-20191011191535-87dc89f01550/go.mod h1:yigFU9vqHzYiE8UmvKecakEJjdnWj3jj499lnFckfCI=
 golang.org/x/crypto v0.0.0-20191206172530-e9b2fee46413/go.mod h1:LzIPMQfyMNhhGPhUkYOs5KpL4U8rLKemX1yGLhDgUto=
 golang.org/x/crypto v0.0.0-20200622213623-75b288015ac9/go.mod h1:LzIPMQfyMNhhGPhUkYOs5KpL4U8rLKemX1yGLhDgUto=
 golang.org/x/crypto v0.0.0-20210921155107-089bfa567519/go.mod h1:GvvjBRRGRdwPK5ydBHafDWAxML/pGHZbMvKqRZ5+Abc=
 golang.org/x/exp v0.0.0-20190121172915-509febef88a4/go.mod h1:CJ0aWSM057203Lf6IL+f9T1iT9GByDxfZKAQTCR3kQA=
 golang.org/x/exp v0.0.0-20190306152737-a1d7652674e8/go.mod h1:CJ0aWSM057203Lf6IL+f9T1iT9GByDxfZKAQTCR3kQA=
 golang.org/x/exp v0.0.0-20190510132918-efd6b22b2522/go.mod h1:ZjyILWgesfNpC6sMxTJOJm9Kp84zZh5NQWvqDGG3Qr8=
@@ -215,7 +213,6 @@ golang.org/x/mobile v0.0.0-20190719004257-d2bd2a29d028/go.mod h1:E/iHnbuqvinMTCc
 golang.org/x/mod v0.0.0-20190513183733-4bf6d317e70e/go.mod h1:mXi4GBBbnImb6dmsKGUJ2LatrhH/nqhxcFungHvyanc=
 golang.org/x/mod v0.1.0/go.mod h1:0QHyrYULN0/3qlju5TqG8bIK38QM8yzMo5ekMj3DlcY=
 golang.org/x/mod v0.1.1-0.20191105210325-c90efee705ee/go.mod h1:QqPTAvyqsEbceGzBzNggFXnrqF1CaUcvgkdR5Ot7KZg=
 golang.org/x/mod v0.6.0-dev.0.20220419223038-86c51ed26bb4/go.mod h1:jJ57K6gSWd91VN4djpZkiMVwK6gcyfeH4XE8wZrZaV4=
 golang.org/x/net v0.0.0-20180724234803-3673e40ba225/go.mod h1:mL1N/T3taQHkDXs73rZJwtUhF3w3ftmwwsq0BUmARs4=
 golang.org/x/net v0.0.0-20180906233101-161cd47e91fd/go.mod h1:mL1N/T3taQHkDXs73rZJwtUhF3w3ftmwwsq0BUmARs4=
 golang.org/x/net v0.0.0-20181114220301-adae6a3d119a/go.mod h1:mL1N/T3taQHkDXs73rZJwtUhF3w3ftmwwsq0BUmARs4=
@@ -231,10 +228,8 @@ golang.org/x/net v0.0.0-20190620200207-3b0461eec859/go.mod h1:z5CRVTTTmAJ677TzLL
 golang.org/x/net v0.0.0-20191209160850-c0dbc17a3553/go.mod h1:z5CRVTTTmAJ677TzLLGU+0bjPO0LkuOLi4/5GtJWs/s=
 golang.org/x/net v0.0.0-20200324143707-d3edc9973b7e/go.mod h1:qpuaurCH72eLCgpAm/N6yyVIVM9cpaDIP3A8BGJEC5A=
 golang.org/x/net v0.0.0-20200707034311-ab3426394381/go.mod h1:/O7V0waA8r7cgGh81Ro3o1hOxt32SMVPicZroKQ2sZA=
-golang.org/x/net v0.0.0-20210226172049-e18ecbb05110/go.mod h1:m0MpNAwzfU5UDzcl9v0D8zg8gWTRqZa9RBIspLL5mdg=
+golang.org/x/net v0.0.0-20201202161906-c7110b5ffcbb h1:eBmm0M9fYhWpKZLjQUUKka/LtIxf46G4fxeEz5KJr9U=
-golang.org/x/net v0.0.0-20220722155237-a158d28d115b/go.mod h1:XRhObCWvk6IyKnWLug+ECip1KBveYUHfp+8e9klMJ9c=
+golang.org/x/net v0.0.0-20201202161906-c7110b5ffcbb/go.mod h1:sp8m0HH+o8qH0wwXwYZr8TS3Oi6o0r6Gce1SSxlDquU=
 golang.org/x/net v0.7.0 h1:rJrUqqhjsgNp7KqAIc25s9pZnjU7TUcSY7HcVZjdn1g=
 golang.org/x/net v0.7.0/go.mod h1:2Tu9+aMcznHK/AK1HMvgo6xiTLG5rD5rZLDS+rp2Bjs=
 golang.org/x/oauth2 v0.0.0-20180821212333-d2e6202438be/go.mod h1:N/0e6XlmueqKjAGxoOufVs8QHGRruUQn6yWY3a++T0U=
 golang.org/x/oauth2 v0.0.0-20190226205417-e64efc72b421/go.mod h1:gOpvHmFTYa4IltrdGE7lF6nIHvwfUNPOp7c8zoXwtLw=
 golang.org/x/oauth2 v0.0.0-20190604053449-0f29369cfe45/go.mod h1:gOpvHmFTYa4IltrdGE7lF6nIHvwfUNPOp7c8zoXwtLw=
@@ -245,7 +240,6 @@ golang.org/x/sync v0.0.0-20181221193216-37e7f081c4d4/go.mod h1:RxMgew5VJxzue5/jJ
 golang.org/x/sync v0.0.0-20190227155943-e225da77a7e6/go.mod h1:RxMgew5VJxzue5/jJTE5uejpjVlOe/izrB70Jof72aM=
 golang.org/x/sync v0.0.0-20190423024810-112230192c58/go.mod h1:RxMgew5VJxzue5/jJTE5uejpjVlOe/izrB70Jof72aM=
 golang.org/x/sync v0.0.0-20190911185100-cd5d95a43a6e/go.mod h1:RxMgew5VJxzue5/jJTE5uejpjVlOe/izrB70Jof72aM=
 golang.org/x/sync v0.0.0-20220722155255-886fb9371eb4/go.mod h1:RxMgew5VJxzue5/jJTE5uejpjVlOe/izrB70Jof72aM=
 golang.org/x/sys v0.0.0-20180905080454-ebe1bf3edb33/go.mod h1:STP8DvDyc/dI5b8T5hshtkjS+E42TnysNCUPdjciGhY=
 golang.org/x/sys v0.0.0-20180909124046-d0be0721c37e/go.mod h1:STP8DvDyc/dI5b8T5hshtkjS+E42TnysNCUPdjciGhY=
 golang.org/x/sys v0.0.0-20181116152217-5ac8a444bdc5/go.mod h1:STP8DvDyc/dI5b8T5hshtkjS+E42TnysNCUPdjciGhY=
@@ -265,22 +259,13 @@ golang.org/x/sys v0.0.0-20200302150141-5c8b2ff67527/go.mod h1:h1NjWce9XRLGQEsW7w
 golang.org/x/sys v0.0.0-20200323222414-85ca7c5b95cd/go.mod h1:h1NjWce9XRLGQEsW7wpKNCjG9DtNlClVuFLEZdDNbEs=
 golang.org/x/sys v0.0.0-20200615200032-f1bc736245b1/go.mod h1:h1NjWce9XRLGQEsW7wpKNCjG9DtNlClVuFLEZdDNbEs=
 golang.org/x/sys v0.0.0-20200622214017-ed371f2e16b4/go.mod h1:h1NjWce9XRLGQEsW7wpKNCjG9DtNlClVuFLEZdDNbEs=
-golang.org/x/sys v0.0.0-20201119102817-f84b799fce68/go.mod h1:h1NjWce9XRLGQEsW7wpKNCjG9DtNlClVuFLEZdDNbEs=
+golang.org/x/sys v0.0.0-20200930185726-fdedc70b468f h1:+Nyd8tzPX9R7BWHguqsrbFdRx3WQ/1ib8I44HXV5yTA=
-golang.org/x/sys v0.0.0-20210615035016-665e8c7367d1/go.mod h1:oPkhp1MJrh7nUepCBck5+mAzfO9JrbApNNgaTdGDITg=
+golang.org/x/sys v0.0.0-20200930185726-fdedc70b468f/go.mod h1:h1NjWce9XRLGQEsW7wpKNCjG9DtNlClVuFLEZdDNbEs=
 golang.org/x/sys v0.0.0-20220520151302-bc2c85ada10a/go.mod h1:oPkhp1MJrh7nUepCBck5+mAzfO9JrbApNNgaTdGDITg=
 golang.org/x/sys v0.0.0-20220722155257-8c9f86f7a55f/go.mod h1:oPkhp1MJrh7nUepCBck5+mAzfO9JrbApNNgaTdGDITg=
 golang.org/x/sys v0.5.0 h1:MUK/U/4lj1t1oPg0HfuXDN/Z1wv31ZJ/YcPiGccS4DU=
 golang.org/x/sys v0.5.0/go.mod h1:oPkhp1MJrh7nUepCBck5+mAzfO9JrbApNNgaTdGDITg=
 golang.org/x/term v0.0.0-20201126162022-7de9c90e9dd1/go.mod h1:bj7SfCRtBDWHUb9snDiAeCFNEtKQo2Wmx5Cou7ajbmo=
 golang.org/x/term v0.0.0-20210927222741-03fcf44c2211/go.mod h1:jbD1KX2456YbFQfuXm/mYQcufACuNUgVhRMnK/tPxf8=
 golang.org/x/term v0.5.0/go.mod h1:jMB1sMXY+tzblOD4FWmEbocvup2/aLOaQEp7JmGp78k=
 golang.org/x/text v0.3.0/go.mod h1:NqM8EUOU14njkJ3fqMW+pc6Ldnwhi/IjpwHt7yyuwOQ=
 golang.org/x/text v0.3.1-0.20180807135948-17ff2d5776d2/go.mod h1:NqM8EUOU14njkJ3fqMW+pc6Ldnwhi/IjpwHt7yyuwOQ=
 golang.org/x/text v0.3.2/go.mod h1:bEr9sfX3Q8Zfm5fL9x+3itogRgK3+ptLWKqgva+5dAk=
 golang.org/x/text v0.3.3 h1:cokOdA+Jmi5PJGXLlLllQSgYigAEfHXJAERHVMaCc2k=
 golang.org/x/text v0.3.3/go.mod h1:5Zoc/QRtKVWzQhOtBMvqHzDpF6irO9z98xDceosuGiQ=
 golang.org/x/text v0.3.7/go.mod h1:u+2+/6zg+i71rQMx5EYifcz6MCKuco9NR6JIITiCfzQ=
 golang.org/x/text v0.7.0 h1:4BRB4x83lYWy72KwLD/qYDuTu7q9PjSagHvijDw7cLo=
 golang.org/x/text v0.7.0/go.mod h1:mrYo+phRRbMaCq/xk9113O4dZlRixOauAjOtrjsXDZ8=
 golang.org/x/time v0.0.0-20181108054448-85acf8d2951c/go.mod h1:tRJNPiyCQ0inRvYxbN9jk5I+vvW/OXSQhTDSoE431IQ=
 golang.org/x/time v0.0.0-20190308202827-9d24e82272b4/go.mod h1:tRJNPiyCQ0inRvYxbN9jk5I+vvW/OXSQhTDSoE431IQ=
 golang.org/x/time v0.0.0-20191024005414-555d28b269f0/go.mod h1:tRJNPiyCQ0inRvYxbN9jk5I+vvW/OXSQhTDSoE431IQ=
@@ -301,10 +286,8 @@ golang.org/x/tools v0.0.0-20190628153133-6cdbf07be9d0/go.mod h1:/rFqwRUd4F7ZHNgw
 golang.org/x/tools v0.0.0-20190816200558-6889da9d5479/go.mod h1:b+2E5dAYhXwXZwtnZ6UAqBI28+e2cm9otk0dWdXHAEo=
 golang.org/x/tools v0.0.0-20190911174233-4f2ddba30aff/go.mod h1:b+2E5dAYhXwXZwtnZ6UAqBI28+e2cm9otk0dWdXHAEo=
 golang.org/x/tools v0.0.0-20191012152004-8de300cfc20a/go.mod h1:b+2E5dAYhXwXZwtnZ6UAqBI28+e2cm9otk0dWdXHAEo=
 golang.org/x/tools v0.0.0-20191119224855-298f0cb1881e/go.mod h1:b+2E5dAYhXwXZwtnZ6UAqBI28+e2cm9otk0dWdXHAEo=
 golang.org/x/tools v0.0.0-20191125144606-a911d9008d1f/go.mod h1:b+2E5dAYhXwXZwtnZ6UAqBI28+e2cm9otk0dWdXHAEo=
 golang.org/x/tools v0.0.0-20191227053925-7b8e75db28f4/go.mod h1:TB2adYChydJhpapKDTa4BR/hXlZSLoq2Wpct/0txZ28=
 golang.org/x/tools v0.1.12/go.mod h1:hNGJHUnrk76NpqgfD5Aqm5Crs+Hm0VOH/i9J2+nxYbc=
 golang.org/x/xerrors v0.0.0-20190717185122-a985d3407aa7/go.mod h1:I/5z698sn9Ka8TeJc9MKroUUfqBBauWjQqLJ2OPfmY0=
 golang.org/x/xerrors v0.0.0-20191011141410-1b5146add898/go.mod h1:I/5z698sn9Ka8TeJc9MKroUUfqBBauWjQqLJ2OPfmY0=
 golang.org/x/xerrors v0.0.0-20191204190536-9bdfabe68543/go.mod h1:I/5z698sn9Ka8TeJc9MKroUUfqBBauWjQqLJ2OPfmY0=
@@ -5,7 +5,7 @@ package vitastor
 const (
    vitastorCSIDriverName    = "csi.vitastor.io"
-    vitastorCSIDriverVersion = "1.11.0"
+    vitastorCSIDriverVersion = "1.8.0"
 )
 // Config struct fills the parameters of request or user input
@@ -8,8 +8,11 @@ import (
    "encoding/json"
    "fmt"
    "strings"
    "bytes"
    "strconv"
    "time"
    "os"
    "os/exec"
    "io/ioutil"
    "github.com/kubernetes-csi/csi-lib-utils/protosanitizer"
@@ -67,10 +70,9 @@ func GetConnectionParams(params map[string]string) (map[string]string, error)
    {
        configPath = "/etc/vitastor/vitastor.conf"
    }
-    ctxVars["configPath"] = configPath
+    else
    if (params["vitastorfs"] != "")
    {
-        ctxVars["vitastorfs"] = params["vitastorfs"]
+        ctxVars["configPath"] = configPath
    }
    config := make(map[string]interface{})
    configFD, err := os.Open(configPath)
@@ -112,6 +114,22 @@ func GetConnectionParams(params map[string]string) (map[string]string, error)
    return ctxVars, nil
 }
 func system(program string, args ...string) ([]byte, []byte, error)
 {
    klog.Infof("Running "+program+" "+strings.Join(args, " "))
    c := exec.Command(program, args...)
    var stdout, stderr bytes.Buffer
    c.Stdout, c.Stderr = &stdout, &stderr
    err := c.Run()
    if (err != nil)
    {
        stdoutStr, stderrStr := string(stdout.Bytes()), string(stderr.Bytes())
        klog.Errorf(program+" "+strings.Join(args, " ")+" failed: %s, status %s\n", stdoutStr+stderrStr, err)
        return nil, nil, status.Error(codes.Internal, stdoutStr+stderrStr+" (status "+err.Error()+")")
    }
    return stdout.Bytes(), stderr.Bytes(), nil
 }
 func invokeCLI(ctxVars map[string]string, args []string) ([]byte, error)
 {
    if (ctxVars["configPath"] != "")
@@ -140,57 +158,27 @@ func (cs *ControllerServer) CreateVolume(ctx context.Context, req *csi.CreateVol
        return nil, status.Error(codes.InvalidArgument, "volume capabilities is a required field")
    }
-    ctxVars, err := GetConnectionParams(req.Parameters)
+    etcdVolumePrefix := req.Parameters["etcdVolumePrefix"]
-    if (err != nil)
+    poolId, _ := strconv.ParseUint(req.Parameters["poolId"], 10, 64)
-    {
+    if (poolId == 0)
        return nil, err
    }
    err = cs.checkCaps(volumeCapabilities, ctxVars["vitastorfs"] != "")
    if (err != nil)
    {
        return nil, err
    }
    pool := req.Parameters["poolId"]
    if (pool == "")
    {
        return nil, status.Error(codes.InvalidArgument, "poolId is missing in storage class configuration")
    }
-    volumePrefix := req.Parameters["volumePrefix"]
+
-    if (volumePrefix == "")
+    volName := etcdVolumePrefix + req.GetName()
    {
        // Old name
        volumePrefix = req.Parameters["etcdVolumePrefix"]
    }
    volName := volumePrefix + req.GetName()
    volSize := 1 * GB
    if capRange := req.GetCapacityRange(); capRange != nil
    {
        volSize = ((capRange.GetRequiredBytes() + MB - 1) / MB) * MB
    }
-    if (ctxVars["vitastorfs"] != "")
+    ctxVars, err := GetConnectionParams(req.Parameters)
    if (err != nil)
    {
-        // Nothing to create, subdirectories are created during mounting
+        return nil, err
        // FIXME: It would be cool to support quotas some day and set it here
        if (req.VolumeContentSource.GetSnapshot() != nil)
        {
            return nil, status.Error(codes.InvalidArgument, "VitastorFS doesn't support snapshots")
        }
        ctxVars["name"] = volName
        ctxVars["pool"] = pool
        volumeIdJson, _ := json.Marshal(ctxVars)
        return &csi.CreateVolumeResponse{
            Volume: &csi.Volume{
                // Ugly, but VolumeContext isn't passed to DeleteVolume :-(
                VolumeId: string(volumeIdJson),
                CapacityBytes: volSize,
            },
        }, nil
    }
-    args := []string{ "create", volName, "-s", fmt.Sprintf("%v", volSize), "--pool", pool }
+    args := []string{ "create", volName, "-s", fmt.Sprintf("%v", volSize), "--pool", fmt.Sprintf("%v", poolId) }
    // Support creation from snapshot
    var src *csi.VolumeContentSource
@@ -273,12 +261,6 @@ func (cs *ControllerServer) DeleteVolume(ctx context.Context, req *csi.DeleteVol
        return nil, err
    }
    if (ctxVars["vitastorfs"] != "")
    {
        // FIXME: Delete FS subdirectory
        return &csi.DeleteVolumeResponse{}, nil
    }
    _, err = invokeCLI(ctxVars, []string{ "rm", volName })
    if (err != nil)
    {
@@ -313,72 +295,19 @@ func (cs *ControllerServer) ValidateVolumeCapabilities(ctx context.Context, req
    {
        return nil, status.Error(codes.InvalidArgument, "volumeId is nil")
    }
    volVars := make(map[string]string)
    err := json.Unmarshal([]byte(volumeID), &volVars)
    if (err != nil)
    {
        return nil, status.Error(codes.Internal, "volume ID not in JSON format")
    }
    ctxVars, err := GetConnectionParams(volVars)
    if (err != nil)
    {
        return nil, err
    }
    volumeCapabilities := req.GetVolumeCapabilities()
    if (volumeCapabilities == nil)
    {
        return nil, status.Error(codes.InvalidArgument, "volumeCapabilities is nil")
    }
    err = cs.checkCaps(volumeCapabilities, ctxVars["vitastorfs"] != "")
    if (err != nil)
    {
        return nil, err
    }
    return &csi.ValidateVolumeCapabilitiesResponse{
        Confirmed: &csi.ValidateVolumeCapabilitiesResponse_Confirmed{
            VolumeCapabilities: req.VolumeCapabilities,
        },
    }, nil
 }
 func (cs *ControllerServer) checkCaps(volumeCapabilities []*csi.VolumeCapability, fs bool) error
 {
    var volumeCapabilityAccessModes []*csi.VolumeCapability_AccessMode
    for _, mode := range []csi.VolumeCapability_AccessMode_Mode{
        csi.VolumeCapability_AccessMode_SINGLE_NODE_WRITER,
-        csi.VolumeCapability_AccessMode_SINGLE_NODE_READER_ONLY,
+        csi.VolumeCapability_AccessMode_MULTI_NODE_MULTI_WRITER,
        csi.VolumeCapability_AccessMode_MULTI_NODE_READER_ONLY,
        csi.VolumeCapability_AccessMode_SINGLE_NODE_SINGLE_WRITER,
        csi.VolumeCapability_AccessMode_SINGLE_NODE_MULTI_WRITER,
    } {
        volumeCapabilityAccessModes = append(volumeCapabilityAccessModes, &csi.VolumeCapability_AccessMode{Mode: mode})
    }
    for _, capability := range volumeCapabilities
    {
        if (capability.GetBlock() != nil)
        {
            if (fs)
            {
                return status.Errorf(codes.InvalidArgument, "%v not supported with FS-based volumes", capability)
            }
            for _, mode := range []csi.VolumeCapability_AccessMode_Mode{
                csi.VolumeCapability_AccessMode_MULTI_NODE_SINGLE_WRITER,
                csi.VolumeCapability_AccessMode_MULTI_NODE_MULTI_WRITER,
            } {
                volumeCapabilityAccessModes = append(volumeCapabilityAccessModes, &csi.VolumeCapability_AccessMode{Mode: mode})
            }
            break
        }
    }
    if (fs)
    {
        // All access modes including RWX are supported with FS-based volumes
        return nil
    }
    capabilitySupport := false
    for _, capability := range volumeCapabilities
@@ -394,10 +323,14 @@ func (cs *ControllerServer) checkCaps(volumeCapabilities []*csi.VolumeCapability
    if (!capabilitySupport)
    {
-        return status.Errorf(codes.InvalidArgument, "%v not supported", volumeCapabilities)
+        return nil, status.Errorf(codes.NotFound, "%v not supported", req.GetVolumeCapabilities())
    }
-    return nil
+    return &csi.ValidateVolumeCapabilitiesResponse{
        Confirmed: &csi.ValidateVolumeCapabilitiesResponse_Confirmed{
            VolumeCapabilities: req.VolumeCapabilities,
        },
    }, nil
 }
 // ListVolumes returns a list of volumes
@@ -486,12 +419,6 @@ func (cs *ControllerServer) CreateSnapshot(ctx context.Context, req *csi.CreateS
    {
        return nil, status.Error(codes.Internal, "volume ID not in JSON format")
    }
    if (ctxVars["vitastorfs"] != "")
    {
        return nil, status.Error(codes.InvalidArgument, "VitastorFS doesn't support snapshots")
    }
    volName := ctxVars["name"]
    // Create image using vitastor-cli
@@ -550,11 +477,6 @@ func (cs *ControllerServer) DeleteSnapshot(ctx context.Context, req *csi.DeleteS
        return nil, err
    }
    if (ctxVars["vitastorfs"] != "")
    {
        return nil, status.Error(codes.InvalidArgument, "VitastorFS doesn't support snapshots")
    }
    _, err = invokeCLI(ctxVars, []string{ "rm", volName+"@"+snapName })
    if (err != nil)
    {
@@ -586,11 +508,6 @@ func (cs *ControllerServer) ListSnapshots(ctx context.Context, req *csi.ListSnap
        return nil, err
    }
    if (ctxVars["vitastorfs"] != "")
    {
        return nil, status.Error(codes.InvalidArgument, "VitastorFS doesn't support snapshots")
    }
    inodeCfg, err := invokeList(ctxVars, volName+"@*", false)
    if (err != nil)
    {
@@ -654,16 +571,6 @@ func (cs *ControllerServer) ControllerExpandVolume(ctx context.Context, req *csi
        return nil, err
    }
    if (ctxVars["vitastorfs"] != "")
    {
        // Nothing to change
        // FIXME: Support quotas and change quota here
        return &csi.ControllerExpandVolumeResponse{
            CapacityBytes: req.CapacityRange.RequiredBytes,
            NodeExpansionRequired: false,
        }, nil
    }
    inodeCfg, err := invokeList(ctxVars, volName, true)
    if (err != nil)
    {
@@ -5,15 +5,11 @@ package vitastor
 import (
    "context"
    "crypto/sha1"
    "encoding/hex"
    "encoding/json"
    "fmt"
    "os"
    "os/exec"
    "path/filepath"
    "regexp"
    "strconv"
    "strings"
    "sync"
    "syscall"
@@ -33,14 +29,13 @@ import (
 type NodeServer struct
 {
    *Driver
-    useVduse        bool
+    useVduse bool
-    stateDir        string
+    stateDir string
-    nfsStageDir     string
+    mounter mount.Interface
    mounter         mount.Interface
    restartInterval time.Duration
-    mu              sync.Mutex
+    mu sync.Mutex
-    cond            *sync.Cond
+    cond *sync.Cond
-    volumeLocks     map[string]bool
+    volumeLocks map[string]bool
 }
 type DeviceState struct
@@ -53,15 +48,6 @@ type DeviceState struct
    PidFile    string `json:"pidFile"`
 }
 type NfsState struct
 {
    ConfigPath string `json:"configPath"`
    FsName     string `json:"fsName"`
    Pool       string `json:"pool"`
    Path       string `json:"path"`
    Port       int    `json:"port"`
 }
 // NewNodeServer create new instance node
 func NewNodeServer(driver *Driver) *NodeServer
 {
@@ -74,17 +60,11 @@ func NewNodeServer(driver *Driver) *NodeServer
    {
        stateDir += "/"
    }
    nfsStageDir := os.Getenv("NFS_STAGE_DIR")
    if (nfsStageDir == "")
    {
        nfsStageDir = "/var/lib/kubelet/plugins/csi.vitastor.io/nfs"
    }
    ns := &NodeServer{
-        Driver:      driver,
+        Driver: driver,
-        useVduse:    checkVduseSupport(),
+        useVduse: checkVduseSupport(),
-        stateDir:    stateDir,
+        stateDir: stateDir,
-        nfsStageDir: nfsStageDir,
+        mounter: mount.New(""),
        mounter:     mount.New(""),
        volumeLocks: make(map[string]bool),
    }
    ns.cond = sync.NewCond(&ns.mu)
@@ -143,12 +123,12 @@ func (ns *NodeServer) restarter()
 func (ns *NodeServer) restoreVduseDaemons()
 {
    pattern := ns.stateDir+"vitastor-vduse-*.json"
-    stateFiles, err := filepath.Glob(pattern)
+    matches, err := filepath.Glob(pattern)
    if (err != nil)
    {
        klog.Errorf("failed to list %s: %v", pattern, err)
    }
-    if (len(stateFiles) == 0)
+    if (len(matches) == 0)
    {
        return
    }
@@ -166,162 +146,59 @@ func (ns *NodeServer) restoreVduseDaemons()
        klog.Errorf("/sbin/vdpa -j dev list returned bad JSON (error %v): %v", err, string(devListJSON))
        return
    }
-    for _, stateFile := range stateFiles
+    for _, stateFile := range matches
    {
-        ns.checkVduseState(stateFile, devs)
+        vdpaId := filepath.Base(stateFile)
-    }
+        vdpaId = vdpaId[0:len(vdpaId)-5]
-}
+        // Check if VDPA device is still added to the bus
        if (devs[vdpaId] == nil)
        {
            // Unused, clean it up
            unmapVduseById(ns.stateDir, vdpaId)
            continue
        }
-func (ns *NodeServer) checkVduseState(stateFile string, devs map[string]interface{})
+        stateJSON, err := os.ReadFile(stateFile)
 {
    // Check if VDPA device is still added to the bus
    vdpaId := filepath.Base(stateFile)
    vdpaId = vdpaId[0:len(vdpaId)-5]
    if (devs[vdpaId] == nil)
    {
        // Unused, clean it up
        unmapVduseById(ns.stateDir, vdpaId)
        return
    }
    // Read state file
    stateJSON, err := os.ReadFile(stateFile)
    if (err != nil)
    {
        klog.Warningf("error reading state file %v: %v", stateFile, err)
        return
    }
    var state DeviceState
    err = json.Unmarshal(stateJSON, &state)
    if (err != nil)
    {
        klog.Warningf("state file %v contains invalid JSON (error %v): %v", stateFile, err, string(stateJSON))
        return
    }
    // Lock volume
    ns.lockVolume(state.ConfigPath+":block:"+state.Image)
    defer ns.unlockVolume(state.ConfigPath+":block:"+state.Image)
    // Recheck state file after locking
    _, err = os.ReadFile(stateFile)
    if (err != nil)
    {
        klog.Warningf("state file %v disappeared, skipping volume", stateFile)
        return
    }
    // Check if the storage daemon is still active
    pidFile := ns.stateDir + vdpaId + ".pid"
    exists := false
    proc, err := findByPidFile(pidFile)
    if (err == nil)
    {
        exists = proc.Signal(syscall.Signal(0)) == nil
    }
    if (!exists)
    {
        // Restart daemon
        klog.Warningf("restarting storage daemon for volume %v (VDPA ID %v)", state.Image, vdpaId)
        err = startStorageDaemon(vdpaId, state.Image, pidFile, state.ConfigPath, state.Readonly)
        if (err != nil)
        {
-            klog.Warningf("failed to restart storage daemon for volume %v: %v", state.Image, err)
+            klog.Warningf("error reading state file %v: %v", stateFile, err)
            continue
        }
-    }
+        var state DeviceState
-}
+        err = json.Unmarshal(stateJSON, &state)
 func (ns *NodeServer) restoreNfsDaemons()
 {
    pattern := ns.stateDir+"vitastor-nfs-*.json"
    stateFiles, err := filepath.Glob(pattern)
    if (err != nil)
    {
        klog.Errorf("failed to list %s: %v", pattern, err)
    }
    if (len(stateFiles) == 0)
    {
        return
    }
    activeNFS, err := ns.listActiveNFS()
    if (err != nil)
    {
        return
    }
    // Check all state files and try to restore active mounts
    for _, stateFile := range stateFiles
    {
        ns.checkNfsState(stateFile, activeNFS)
    }
 }
 func (ns *NodeServer) readNfsState(stateFile string, allowNotExists bool) (*NfsState, error)
 {
    stateJSON, err := os.ReadFile(stateFile)
    if (err != nil)
    {
        if (allowNotExists && os.IsNotExist(err))
        {
            return nil, nil
        }
        klog.Warningf("error reading state file %v: %v", stateFile, err)
        return nil, err
    }
    var state NfsState
    err = json.Unmarshal(stateJSON, &state)
    if (err != nil)
    {
        klog.Warningf("state file %v contains invalid JSON (error %v): %v", stateFile, err, string(stateJSON))
        return nil, err
    }
    return &state, nil
 }
 func (ns *NodeServer) checkNfsState(stateFile string, activeNfs map[int][]string)
 {
    // Read state file
    state, err := ns.readNfsState(stateFile, false)
    if (err != nil)
    {
        return
    }
    // Lock FS
    ns.lockVolume(state.ConfigPath+":fs:"+state.FsName)
    defer ns.unlockVolume(state.ConfigPath+":fs:"+state.FsName)
    // Check if NFS at this port is still mounted
    pidFile := ns.stateDir + filepath.Base(stateFile)
    pidFile = pidFile[0:len(pidFile)-5] + ".pid"
    if (len(activeNfs[state.Port]) == 0)
    {
        // this is a stale state file, remove it
        klog.Warningf("state file %v contains stale mount at port %d, removing it", stateFile, state.Port)
        ns.stopNFS(stateFile, pidFile)
        return
    }
    // Check PID file
    exists := false
    proc, err := findByPidFile(pidFile)
    if (err == nil)
    {
        exists = proc.Signal(syscall.Signal(0)) == nil
    }
    if (!exists)
    {
        // Restart vitastor-nfs server
        klog.Warningf("restarting NFS server for FS %v at port %v", state.FsName, state.Port)
        _, _, err := system(
            "/usr/bin/vitastor-nfs", "start",
            "--pidfile", pidFile,
            "--bind", "127.0.0.1",
            "--port", fmt.Sprintf("%d", state.Port),
            "--fs", state.FsName,
            "--pool", state.Pool,
            "--portmap", "0",
        )
        if (err != nil)
        {
-            klog.Warningf("failed to restart NFS server for FS %v: %v", state.FsName, err)
+            klog.Warningf("state file %v contains invalid JSON (error %v): %v", stateFile, err, string(stateJSON))
            continue
        }
        ns.lockVolume(state.ConfigPath+":"+state.Image)
        // Recheck state file after locking
        _, err = os.ReadFile(stateFile)
        if (err != nil)
        {
            klog.Warningf("state file %v disappeared, skipping volume", stateFile)
            ns.unlockVolume(state.ConfigPath+":"+state.Image)
            continue
        }
        // Check if the storage daemon is still active
        pidFile := ns.stateDir + vdpaId + ".pid"
        exists := false
        proc, err := findByPidFile(pidFile)
        if (err == nil)
        {
            exists = proc.Signal(syscall.Signal(0)) == nil
        }
        if (!exists)
        {
            // Restart daemon
            klog.Warningf("restarting storage daemon for volume %v (VDPA ID %v)", state.Image, vdpaId)
            _ = startStorageDaemon(vdpaId, state.Image, pidFile, state.ConfigPath, state.Readonly)
        }
        ns.unlockVolume(state.ConfigPath+":"+state.Image)
    }
 }
@@ -343,44 +220,14 @@ func (ns *NodeServer) NodeStageVolume(ctx context.Context, req *csi.NodeStageVol
    }
    volName := ctxVars["name"]
-    if (ctxVars["vitastorfs"] != "")
+    ns.lockVolume(ctxVars["configPath"]+":"+volName)
-    {
+    defer ns.unlockVolume(ctxVars["configPath"]+":"+volName)
        return &csi.NodeStageVolumeResponse{}, nil
    }
    ns.lockVolume(ctxVars["configPath"]+":block:"+volName)
    defer ns.unlockVolume(ctxVars["configPath"]+":block:"+volName)
    targetPath := req.GetStagingTargetPath()
    isBlock := req.GetVolumeCapability().GetBlock() != nil
    // Check that it's not already mounted
-    notmnt, err := mount.IsNotMountPoint(ns.mounter, targetPath)
+    _, err = mount.IsNotMountPoint(ns.mounter, targetPath)
    if (err == nil)
    {
        if (!notmnt)
        {
            klog.Errorf("target path %s is already mounted", targetPath)
            return nil, fmt.Errorf("target path %s is already mounted", targetPath)
        }
        var finfo os.FileInfo
        finfo, err = os.Stat(targetPath)
        if (err != nil)
        {
            klog.Errorf("failed to stat %s: %v", targetPath, err)
            return nil, err
        }
        if (finfo.IsDir() != (!isBlock))
        {
            err = os.Remove(targetPath)
            if (err != nil)
            {
                klog.Errorf("failed to remove %s (to recreate it with correct type): %v", targetPath, err)
                return nil, err
            }
            err = os.ErrNotExist
        }
    }
    if (err != nil)
    {
        if (os.IsNotExist(err))
@@ -433,7 +280,6 @@ func (ns *NodeServer) NodeStageVolume(ctx context.Context, req *csi.NodeStageVol
    diskMounter := &mount.SafeFormatAndMount{Interface: ns.mounter, Exec: utilexec.New()}
    if (isBlock)
    {
        klog.Infof("bind-mounting %s to %s", devicePath, targetPath)
        err = diskMounter.Mount(devicePath, targetPath, "", []string{"bind"})
    }
    else
@@ -463,40 +309,39 @@ func (ns *NodeServer) NodeStageVolume(ctx context.Context, req *csi.NodeStageVol
        readOnly := Contains(opt, "ro")
        if (existingFormat == "" && !readOnly)
        {
            var cmdOut []byte
            switch fsType
            {
                case "ext4":
                    args := []string{"-m0", "-Enodiscard,lazy_itable_init=1,lazy_journal_init=1", devicePath}
-                    _, err = systemCombined("mkfs.ext4", args...)
+                    cmdOut, err = diskMounter.Exec.Command("mkfs.ext4", args...).CombinedOutput()
                case "xfs":
-                    _, err = systemCombined("mkfs.xfs", "-K", devicePath)
+                    cmdOut, err = diskMounter.Exec.Command("mkfs.xfs", "-K", devicePath).CombinedOutput()
            }
            if (err != nil)
            {
                klog.Errorf("failed to run mkfs error: %v, output: %v", err, string(cmdOut))
                goto unmap
            }
        }
        klog.Infof("formatting and mounting %s to %s with FS %s, options: %v", devicePath, targetPath, fsType, opt)
        err = diskMounter.FormatAndMount(devicePath, targetPath, fsType, opt)
        if (err == nil)
        {
            klog.Infof("successfully mounted %s to %s", devicePath, targetPath)
        }
        // Try to run online resize on mount.
        // FIXME: Implement online resize. It requires online resize support in vitastor-nbd.
        if (err == nil && existingFormat != "" && !readOnly)
        {
            var cmdOut []byte
            switch (fsType)
            {
                case "ext4":
-                    _, err = systemCombined("resize2fs", devicePath)
+                    cmdOut, err = diskMounter.Exec.Command("resize2fs", devicePath).CombinedOutput()
                case "xfs":
-                    _, err = systemCombined("xfs_growfs", devicePath)
+                    cmdOut, err = diskMounter.Exec.Command("xfs_growfs", devicePath).CombinedOutput()
            }
            if (err != nil)
            {
                klog.Errorf("failed to run resizefs error: %v, output: %v", err, string(cmdOut))
                goto unmap
            }
        }
@@ -536,16 +381,11 @@ func (ns *NodeServer) NodeUnstageVolume(ctx context.Context, req *csi.NodeUnstag
    }
    volName := ctxVars["name"]
-    if (ctxVars["vitastorfs"] != "")
+    ns.lockVolume(ctxVars["configPath"]+":"+volName)
-    {
+    defer ns.unlockVolume(ctxVars["configPath"]+":"+volName)
        return &csi.NodeUnstageVolumeResponse{}, nil
    }
    ns.lockVolume(ctxVars["configPath"]+":block:"+volName)
    defer ns.unlockVolume(ctxVars["configPath"]+":block:"+volName)
    targetPath := req.GetStagingTargetPath()
-    devicePath, _, err := mount.GetDeviceNameFromMount(ns.mounter, targetPath)
+    devicePath, refCount, err := mount.GetDeviceNameFromMount(ns.mounter, targetPath)
    if (err != nil)
    {
        if (os.IsNotExist(err))
@@ -562,16 +402,6 @@ func (ns *NodeServer) NodeUnstageVolume(ctx context.Context, req *csi.NodeUnstag
        return &csi.NodeUnstageVolumeResponse{}, nil
    }
    refList, err := ns.mounter.GetMountRefs(targetPath)
    if (err != nil)
    {
        return nil, err
    }
    if (len(refList) > 0)
    {
        klog.Warningf("%s is still referenced: %v", targetPath, refList)
    }
    // unmount
    err = mount.CleanupMountPoint(targetPath, ns.mounter, false)
    if (err != nil)
@@ -580,7 +410,7 @@ func (ns *NodeServer) NodeUnstageVolume(ctx context.Context, req *csi.NodeUnstag
    }
    // unmap device
-    if (len(refList) == 0)
+    if (refCount == 1)
    {
        if (!ns.useVduse)
        {
@@ -595,153 +425,6 @@ func (ns *NodeServer) NodeUnstageVolume(ctx context.Context, req *csi.NodeUnstag
    return &csi.NodeUnstageVolumeResponse{}, nil
 }
 // Mount or check if NFS is already mounted
 func (ns *NodeServer) mountNFS(ctxVars map[string]string) (string, error)
 {
    sum := sha1.Sum([]byte(ctxVars["configPath"]+":fs:"+ctxVars["vitastorfs"]))
    nfsHash := hex.EncodeToString(sum[:])
    stateFile := ns.stateDir+"vitastor-nfs-"+nfsHash+".json"
    pidFile := ns.stateDir+"vitastor-nfs-"+nfsHash+".pid"
    mountPath := ns.nfsStageDir+"/"+nfsHash
    state, err := ns.readNfsState(stateFile, true)
    if (state != nil)
    {
        return state.Path, nil
    }
    if (err != nil)
    {
        return "", err
    }
    err = os.MkdirAll(mountPath, 0777)
    if (err != nil)
    {
        return "", err
    }
    // Create a new mount
    state = &NfsState{
        ConfigPath: ctxVars["configPath"],
        FsName:     ctxVars["vitastorfs"],
        Pool:       ctxVars["pool"],
        Path:       mountPath,
    }
    klog.Infof("starting new NFS server for FS %v", state.FsName)
    stdout, _, err := system(
        "/usr/bin/vitastor-nfs", "start",
        "--pidfile", pidFile,
        "--bind", "127.0.0.1",
        "--port", "auto",
        "--fs", state.FsName,
        "--pool", state.Pool,
        "--portmap", "0",
    )
    if (err != nil)
    {
        return "", err
    }
    match := regexp.MustCompile("Port: (\\d+)").FindStringSubmatch(string(stdout))
    if (match == nil)
    {
        klog.Errorf("failed to find port in vitastor-nfs output: %v", string(stdout))
        ns.stopNFS(stateFile, pidFile)
        return "", fmt.Errorf("failed to find port in vitastor-nfs output (bad vitastor-nfs version?)")
    }
    port, _ := strconv.ParseUint(match[1], 0, 16)
    state.Port = int(port)
    // Write state file
    stateJSON, _ := json.Marshal(state)
    err = os.WriteFile(stateFile, stateJSON, 0600)
    if (err != nil)
    {
        klog.Errorf("failed to write state file %v", stateFile)
        ns.stopNFS(stateFile, pidFile)
        return "", err
    }
    // Mount NFS
    _, _, err = system(
        "mount", "-t", "nfs", "127.0.0.1:/", state.Path,
        "-o", fmt.Sprintf("port=%d,mountport=%d,nfsvers=3,soft,nolock,tcp", port, port),
    )
    if (err != nil)
    {
        ns.stopNFS(stateFile, pidFile)
        return "", err
    }
    return state.Path, nil
 }
 // Mount or check if NFS is already mounted
 func (ns *NodeServer) checkStopNFS(ctxVars map[string]string)
 {
    sum := sha1.Sum([]byte(ctxVars["configPath"]+":fs:"+ctxVars["vitastorfs"]))
    nfsHash := hex.EncodeToString(sum[:])
    stateFile := ns.stateDir+"vitastor-nfs-"+nfsHash+".json"
    pidFile := ns.stateDir+"vitastor-nfs-"+nfsHash+".pid"
    mountPath := ns.nfsStageDir+"/"+nfsHash
    state, err := ns.readNfsState(stateFile, true)
    if (state == nil)
    {
        return
    }
    activeNFS, err := ns.listActiveNFS()
    if (err != nil)
    {
        return
    }
    if (len(activeNFS[state.Port]) > 0)
    {
        return
    }
    // All volume mounts are detached, unmount the root mount and kill the server
    err = mount.CleanupMountPoint(mountPath, ns.mounter, false)
    if (err != nil)
    {
        klog.Errorf("failed to unmount %v: %v", mountPath, err)
        return
    }
    ns.stopNFS(stateFile, pidFile)
 }
 func (ns *NodeServer) stopNFS(stateFile, pidFile string)
 {
    err := killByPidFile(pidFile)
    if (err != nil)
    {
        klog.Errorf("failed to kill process with pid from %v: %v", pidFile, err)
    }
    os.Remove(pidFile)
    os.Remove(stateFile)
 }
 func (ns *NodeServer) listActiveNFS() (map[int][]string, error)
 {
    mounts, err := mount.ParseMountInfo("/proc/self/mountinfo")
    if (err != nil)
    {
        klog.Errorf("failed to list mounts: %v", err)
        return nil, err
    }
    activeNFS := make(map[int][]string)
    for _, mount := range mounts
    {
        // Volume mounts always refer to subpaths
        if (mount.FsType == "nfs" && mount.Root != "/")
        {
            for _, opt := range mount.MountOptions
            {
                if (strings.HasPrefix(opt, "port="))
                {
                    port64, err := strconv.ParseUint(opt[5:], 10, 16)
                    if (err == nil)
                    {
                        activeNFS[int(port64)] = append(activeNFS[int(port64)], mount.MountPoint)
                    }
                }
            }
        }
    }
    return activeNFS, nil
 }
 // NodePublishVolume mounts the volume mounted to the staging path to the target path
 func (ns *NodeServer) NodePublishVolume(ctx context.Context, req *csi.NodePublishVolumeRequest) (*csi.NodePublishVolumeResponse, error)
 {
@@ -760,39 +443,23 @@ func (ns *NodeServer) NodePublishVolume(ctx context.Context, req *csi.NodePublis
    }
    volName := ctxVars["name"]
-    if (ctxVars["vitastorfs"] != "")
+    ns.lockVolume(ctxVars["configPath"]+":"+volName)
-    {
+    defer ns.unlockVolume(ctxVars["configPath"]+":"+volName)
        ns.lockVolume(ctxVars["configPath"]+":fs:"+ctxVars["vitastorfs"])
        defer ns.unlockVolume(ctxVars["configPath"]+":fs:"+ctxVars["vitastorfs"])
    }
    else
    {
        ns.lockVolume(ctxVars["configPath"]+":block:"+volName)
        defer ns.unlockVolume(ctxVars["configPath"]+":block:"+volName)
    }
    stagingTargetPath := req.GetStagingTargetPath()
    targetPath := req.GetTargetPath()
    isBlock := req.GetVolumeCapability().GetBlock() != nil
-    if (ctxVars["vitastorfs"] == "")
+    // Check that stagingTargetPath is mounted
    _, err = mount.IsNotMountPoint(ns.mounter, stagingTargetPath)
    if (err != nil)
    {
-        // Check that stagingTargetPath is mounted
+        klog.Errorf("staging path %v is not mounted: %v", stagingTargetPath, err)
-        notmnt, err := mount.IsNotMountPoint(ns.mounter, stagingTargetPath)
+        return nil, fmt.Errorf("staging path %v is not mounted: %v", stagingTargetPath, err)
        if (err != nil)
        {
            klog.Errorf("staging path %v is not mounted: %w", stagingTargetPath, err)
            return nil, fmt.Errorf("staging path %v is not mounted: %w", stagingTargetPath, err)
        }
        else if (notmnt)
        {
            klog.Errorf("staging path %v is not mounted", stagingTargetPath)
            return nil, fmt.Errorf("staging path %v is not mounted", stagingTargetPath)
        }
    }
    // Check that targetPath is not already mounted
-    notmnt, err := mount.IsNotMountPoint(ns.mounter, targetPath)
+    _, err = mount.IsNotMountPoint(ns.mounter, targetPath)
    if (err != nil)
    {
        if (os.IsNotExist(err))
@@ -827,29 +494,6 @@ func (ns *NodeServer) NodePublishVolume(ctx context.Context, req *csi.NodePublis
            return nil, err
        }
    }
    else if (!notmnt)
    {
        klog.Errorf("target path %s is already mounted", targetPath)
        return nil, fmt.Errorf("target path %s is already mounted", targetPath)
    }
    if (ctxVars["vitastorfs"] != "")
    {
        nfspath, err := ns.mountNFS(ctxVars)
        if (err != nil)
        {
            ns.checkStopNFS(ctxVars)
            return nil, err
        }
        // volName should include prefix
        stagingTargetPath = nfspath+"/"+volName
        err = os.MkdirAll(stagingTargetPath, 0777)
        if (err != nil && !os.IsExist(err))
        {
            ns.checkStopNFS(ctxVars)
            return nil, err
        }
    }
    execArgs := []string{"--bind", stagingTargetPath, targetPath}
    if (req.GetReadonly())
@@ -862,10 +506,6 @@ func (ns *NodeServer) NodePublishVolume(ctx context.Context, req *csi.NodePublis
    out, err := cmd.Output()
    if (err != nil)
    {
        if (ctxVars["vitastorfs"] != "")
        {
            ns.checkStopNFS(ctxVars)
        }
        return nil, fmt.Errorf("Error running mount %v: %s", strings.Join(execArgs, " "), out)
    }
@@ -885,16 +525,8 @@ func (ns *NodeServer) NodeUnpublishVolume(ctx context.Context, req *csi.NodeUnpu
    }
    volName := ctxVars["name"]
-    if (ctxVars["vitastorfs"] != "")
+    ns.lockVolume(ctxVars["configPath"]+":"+volName)
-    {
+    defer ns.unlockVolume(ctxVars["configPath"]+":"+volName)
        ns.lockVolume(ctxVars["configPath"]+":fs:"+ctxVars["vitastorfs"])
        defer ns.unlockVolume(ctxVars["configPath"]+":fs:"+ctxVars["vitastorfs"])
    }
    else
    {
        ns.lockVolume(ctxVars["configPath"]+":block:"+volName)
        defer ns.unlockVolume(ctxVars["configPath"]+":block:"+volName)
    }
    targetPath := req.GetTargetPath()
    devicePath, _, err := mount.GetDeviceNameFromMount(ns.mounter, targetPath)
@@ -921,11 +553,6 @@ func (ns *NodeServer) NodeUnpublishVolume(ctx context.Context, req *csi.NodeUnpu
        return nil, err
    }
    if (ctxVars["vitastorfs"] != "")
    {
        ns.checkStopNFS(ctxVars)
    }
    return &csi.NodeUnpublishVolumeResponse{}, nil
 }
@@ -4,7 +4,6 @@
 package vitastor
 import (
    "bytes"
    "errors"
    "encoding/json"
    "fmt"
@@ -16,8 +15,6 @@ import (
    "syscall"
    "k8s.io/klog"
    "google.golang.org/grpc/codes"
    "google.golang.org/grpc/status"
 )
 func Contains(list []string, s string) bool
@@ -76,10 +73,6 @@ func checkVduseSupport() bool
            " For VDUSE you need at least Linux 5.15 and the following kernel modules: vdpa, virtio-vdpa, vduse.",
        )
    }
    else
    {
        klog.Infof("VDUSE support enabled successfully")
    }
    return vduse
 }
@@ -104,7 +97,6 @@ func mapNbd(volName string, ctxVars map[string]string, readonly bool) (string, e
    {
        return "", fmt.Errorf("vitastor-nbd did not return the name of NBD device. output: %s", stderr)
    }
    klog.Infof("Attached volume %s via NBD as %s", volName, dev)
    return dev, err
 }
@@ -225,7 +217,6 @@ func mapVduse(stateDir string, volName string, ctxVars map[string]string, readon
                    err = os.WriteFile(stateFile, stateJSON, 0600)
                    if (err == nil)
                    {
                        klog.Infof("Attached volume %s via VDUSE as %s (VDPA ID %s)", volName, blockdev, vdpaId)
                        return blockdev, vdpaId, nil
                    }
                }
@@ -308,35 +299,3 @@ func unmapVduseById(stateDir, vdpaId string)
        os.Remove(pidFile)
    }
 }
 func system(program string, args ...string) ([]byte, []byte, error)
 {
    klog.Infof("Running "+program+" "+strings.Join(args, " "))
    c := exec.Command(program, args...)
    var stdout, stderr bytes.Buffer
    c.Stdout, c.Stderr = &stdout, &stderr
    err := c.Run()
    if (err != nil)
    {
        stdoutStr, stderrStr := string(stdout.Bytes()), string(stderr.Bytes())
        klog.Errorf(program+" "+strings.Join(args, " ")+" failed: %s\nOutput:\n%s", err, stdoutStr+stderrStr)
        return nil, nil, status.Error(codes.Internal, stdoutStr+stderrStr+" (status "+err.Error()+")")
    }
    return stdout.Bytes(), stderr.Bytes(), nil
 }
 func systemCombined(program string, args ...string) ([]byte, error)
 {
    klog.Infof("Running "+program+" "+strings.Join(args, " "))
    c := exec.Command(program, args...)
    var out bytes.Buffer
    c.Stdout, c.Stderr = &out, &out
    err := c.Run()
    if (err != nil)
    {
        outStr := string(out.Bytes())
        klog.Errorf(program+" "+strings.Join(args, " ")+" failed: %s, status %s\n", outStr, err)
        return nil, status.Error(codes.Internal, outStr+" (status "+err.Error()+")")
    }
    return out.Bytes(), nil
 }
@@ -1,4 +1,4 @@
-vitastor (1.11.0-1) unstable; urgency=medium
+vitastor (1.8.0-1) unstable; urgency=medium
  * Bugfixes
@@ -2,10 +2,7 @@ Source: vitastor
 Section: admin
 Priority: optional
 Maintainer: Vitaliy Filippov <vitalif@yourcmc.ru>
-Build-Depends: debhelper, liburing-dev (>= 0.6), g++ (>= 8), libstdc++6 (>= 8),
+Build-Depends: debhelper, liburing-dev (>= 0.6), g++ (>= 8), libstdc++6 (>= 8), linux-libc-dev, libgoogle-perftools-dev, libjerasure-dev, libgf-complete-dev, libibverbs-dev, libisal-dev, cmake, pkg-config, libnl-3-dev, libnl-genl-3-dev
  linux-libc-dev, libgoogle-perftools-dev, libjerasure-dev, libgf-complete-dev,
  libibverbs-dev, libisal-dev, cmake, pkg-config, libnl-3-dev, libnl-genl-3-dev,
  node-bindings <!nocheck>, node-gyp, node-nan
 Standards-Version: 4.5.0
 Homepage: https://vitastor.io/
 Rules-Requires-Root: no
@@ -62,9 +59,3 @@ Architecture: amd64
 Depends: ${shlibs:Depends}, ${misc:Depends}, vitastor-client, patch, python3, jq
 Description: Vitastor OpenNebula storage plugin
 Vitastor storage plugin for OpenNebula.
 Package: node-vitastor
 Architecture: amd64
 Depends: ${shlibs:Depends}, ${misc:Depends}, node-bindings
 Description: Node.js bindings for Vitastor client
 Node.js native bindings for the Vitastor client library (vitastor-client).
@@ -1 +0,0 @@
 usr/lib/x86_64-linux-gnu/nodejs/vitastor
@@ -1,10 +1,8 @@
 # Build patched QEMU for Debian inside a container
 # cd ..; podman build --build-arg REL=bullseye -v `pwd`/packages:/root/packages -f debian/patched-qemu.Dockerfile .
 ARG DISTRO=debian
 ARG REL=
-FROM $DISTRO:$REL
+FROM debian:$REL
 ARG DISTRO=debian
 ARG REL=
 WORKDIR /root
@@ -22,8 +20,8 @@ RUN if [ "$REL" = "buster" -o "$REL" = "bullseye" -o "$REL" = "bookworm" ]; then
    echo 'APT::Install-Suggests false;' >> /etc/apt/apt.conf
 RUN apt-get update
-RUN DEBIAN_FRONTEND=noninteractive TZ=Europe/Moscow apt-get -y install fio liburing-dev libgoogle-perftools-dev devscripts
+RUN apt-get -y install fio liburing-dev libgoogle-perftools-dev devscripts
-RUN DEBIAN_FRONTEND=noninteractive TZ=Europe/Moscow apt-get -y build-dep qemu
+RUN apt-get -y build-dep qemu
 # To build a custom version
 #RUN cp /root/packages/qemu-orig/* /root
 RUN apt-get --download-only source qemu
@@ -40,9 +38,9 @@ ADD src/client/qemu_driver.c /root/qemu_driver.c
 #    apt-get install -y vitastor-client vitastor-client-dev quilt
 RUN set -e; \
-    DEBIAN_FRONTEND=noninteractive TZ=Europe/Moscow apt-get -y install /root/packages/vitastor-$REL/vitastor-client_*.deb /root/packages/vitastor-$REL/vitastor-client-dev_*.deb; \
+    dpkg -i /root/packages/vitastor-$REL/vitastor-client_*.deb /root/packages/vitastor-$REL/vitastor-client-dev_*.deb; \
    apt-get update; \
-    DEBIAN_FRONTEND=noninteractive TZ=Europe/Moscow apt-get -y install quilt; \
+    apt-get install -y quilt; \
    mkdir -p /root/packages/qemu-$REL; \
    rm -rf /root/packages/qemu-$REL/*; \
    cd /root/packages/qemu-$REL; \
@@ -4,14 +4,6 @@ export DH_VERBOSE = 1
 %:
 	dh $@
 override_dh_install:
 	perl -pe 's!prefix=/usr!prefix='`pwd`'/debian/tmp/usr!' < obj-x86_64-linux-gnu/src/client/vitastor.pc > node-binding/vitastor.pc
 	cd node-binding && PKG_CONFIG_PATH=./ PKG_CONFIG_ALLOW_SYSTEM_CFLAGS=1 npm install --unsafe-perm || exit 1
 	mkdir -p debian/tmp/usr/lib/x86_64-linux-gnu/nodejs/vitastor/build/Release
 	cp -v node-binding/package.json node-binding/index.js node-binding/addon.cc node-binding/addon.h node-binding/client.cc node-binding/client.h debian/tmp/usr/lib/x86_64-linux-gnu/nodejs/vitastor
 	cp -v node-binding/build/Release/addon.node debian/tmp/usr/lib/x86_64-linux-gnu/nodejs/vitastor/build/Release
 	dh_install
 override_dh_installdeb:
 	cat debian/fio_version >> debian/vitastor-fio.substvars
 	[ -f debian/qemu_version ] && (cat debian/qemu_version >> debian/vitastor-qemu.substvars) || true
@@ -21,11 +21,10 @@ RUN set -e -x; \
    echo 'APT::Install-Recommends false;' >> /etc/apt/apt.conf; \
    echo 'APT::Install-Suggests false;' >> /etc/apt/apt.conf
-RUN apt-get update && \
+RUN apt-get update
-    apt-get -y install fio liburing-dev libgoogle-perftools-dev devscripts libjerasure-dev cmake \
+RUN apt-get -y install fio liburing-dev libgoogle-perftools-dev devscripts libjerasure-dev cmake libibverbs-dev libisal-dev libnl-3-dev libnl-genl-3-dev curl
-        libibverbs-dev librdmacm-dev libisal-dev libnl-3-dev libnl-genl-3-dev curl nodejs npm node-nan node-bindings && \
+RUN apt-get -y build-dep fio
-    apt-get -y build-dep fio && \
+RUN apt-get --download-only source fio
    apt-get --download-only source fio
 ADD . /root/vitastor
 RUN set -e -x; \
@@ -1,11 +1,9 @@
 # Build Docker image with Vitastor packages
-FROM debian:bookworm
+FROM debian:bullseye
-ADD etc/apt /etc/apt/
+ADD vitastor.list /etc/apt/sources.list.d
-RUN apt-get update && apt-get -y install vitastor qemu-system-x86 qemu-system-common qemu-block-extra qemu-utils jq nfs-common && apt-get clean
+ADD vitastor.gpg /etc/apt/trusted.gpg.d
-ADD sleep.sh /usr/bin/
+ADD vitastor.pref /etc/apt/preferences.d
-ADD install.sh /usr/bin/
+ADD apt.conf /etc/apt/
-ADD scripts /opt/scripts/
+RUN apt-get update && apt-get -y install vitastor qemu-system-x86 qemu-system-common && apt-get clean
 ADD etc /etc/
 RUN ln -s /usr/lib/vitastor/mon/make-etcd /usr/bin/make-etcd
@@ -1,9 +0,0 @@
 VITASTOR_VERSION ?= v1.11.0
 all: build push
 build:
 	@docker build --rm -t vitalif/vitastor:$(VITASTOR_VERSION) .
 push:
 	@docker push vitalif/vitastor:$(VITASTOR_VERSION)
@@ -1 +0,0 @@
 deb http://vitastor.io/debian bookworm main
@@ -1,27 +0,0 @@
 [Unit]
 Description=Containerized etcd for Vitastor
 After=network-online.target local-fs.target time-sync.target docker.service vitastor-host.service
 Wants=network-online.target local-fs.target time-sync.target docker.service vitastor-host.service
 PartOf=vitastor.target
 [Service]
 Restart=always
 Environment=GOGC=50
 EnvironmentFile=/etc/vitastor/docker.conf
 EnvironmentFile=/etc/vitastor/etcd.conf
 SyslogIdentifier=etcd
 ExecStart=bash -c 'docker run --rm -i -v /var/lib/vitastor/etcd:/data \
    --log-driver none --network host $CONTAINER_OPTIONS --name vitastor-etcd \
    $ETCD_IMAGE /usr/local/bin/etcd --name "$ETCD_NAME" --data-dir /data \
    --snapshot-count 10000 --advertise-client-urls http://$ETCD_IP:2379 --listen-client-urls http://$ETCD_IP:2379 \
    --initial-advertise-peer-urls http://$ETCD_IP:2380 --listen-peer-urls http://$ETCD_IP:2380 \
    --initial-cluster-token vitastor-etcd-1 --initial-cluster "$ETCD_INITIAL_CLUSTER" \
    --initial-cluster-state new --max-txn-ops=100000 --max-request-bytes=104857600 \
    --auto-compaction-retention=10 --auto-compaction-mode=revision'
 ExecStop=docker stop vitastor-etcd
 Restart=always
 StartLimitInterval=0
 RestartSec=10
 [Install]
 WantedBy=multi-user.target
@@ -1,23 +0,0 @@
 [Unit]
 Description=Empty container for running Vitastor commands
 After=network-online.target local-fs.target time-sync.target docker.service
 Wants=network-online.target local-fs.target time-sync.target docker.service
 PartOf=vitastor.target
 [Service]
 Restart=always
 EnvironmentFile=/etc/vitastor/docker.conf
 ExecStart=bash -c 'docker run --rm -i -v /etc/vitastor:/etc/vitastor -v /dev:/dev \
    --privileged --log-driver none --network host --name vitastor vitastor:$VITASTOR_VERSION \
    sleep.sh'
 ExecStartPost=udevadm trigger
 ExecStop=docker stop vitastor
 WorkingDirectory=/
 PrivateTmp=false
 TasksMax=infinity
 Restart=always
 StartLimitInterval=0
 RestartSec=10
 [Install]
 WantedBy=multi-user.target
@@ -1,23 +0,0 @@
 [Unit]
 Description=Containerized Vitastor monitor
 After=network-online.target local-fs.target time-sync.target docker.service
 Wants=network-online.target local-fs.target time-sync.target docker.service
 PartOf=vitastor.target
 [Service]
 Restart=always
 EnvironmentFile=/etc/vitastor/docker.conf
 SyslogIdentifier=vitastor-mon
 ExecStart=bash -c 'docker run --rm -i -v /etc/vitastor:/etc/vitastor -v /var/lib/vitastor:/var/lib/vitastor -v /dev:/dev \
    --log-driver none --network host $CONTAINER_OPTIONS --name vitastor-mon vitastor:$VITASTOR_VERSION \
    node /usr/lib/vitastor/mon/mon-main.js'
 ExecStop=docker stop vitastor-mon
 WorkingDirectory=/
 PrivateTmp=false
 TasksMax=infinity
 Restart=always
 StartLimitInterval=0
 RestartSec=10
 [Install]
 WantedBy=multi-user.target
@@ -1,27 +0,0 @@
 [Unit]
 Description=Containerized Vitastor object storage daemon osd.%i
 After=network-online.target local-fs.target time-sync.target docker.service vitastor-host.service
 Wants=network-online.target local-fs.target time-sync.target docker.service vitastor-host.service
 PartOf=vitastor.target
 [Service]
 LimitNOFILE=1048576
 LimitNPROC=1048576
 LimitMEMLOCK=infinity
 EnvironmentFile=/etc/vitastor/docker.conf
 SyslogIdentifier=vitastor-osd%i
 ExecStart=bash -c 'docker run --rm -i -v /etc/vitastor:/etc/vitastor -v /dev:/dev \
    $(for i in $(ls /dev/vitastor/osd%i-*); do echo --device $i:$i; done) \
    --log-driver none --network host --ulimit nofile=1048576 --ulimit memlock=-1 $CONTAINER_OPTIONS --name vitastor-osd%i \
    vitastor:$VITASTOR_VERSION vitastor-disk exec-osd /dev/vitastor/osd%i-data'
 ExecStartPre=+docker exec vitastor vitastor-disk pre-exec /dev/vitastor/osd%i-data
 ExecStop=docker stop vitastor-etcd%i
 WorkingDirectory=/
 PrivateTmp=false
 TasksMax=infinity
 Restart=always
 StartLimitInterval=0
 RestartSec=10
 [Install]
 WantedBy=vitastor.target
@@ -1,4 +0,0 @@
 [Unit]
 Description=vitastor target
 [Install]
 WantedBy=multi-user.target
@@ -1,7 +0,0 @@
 SUBSYSTEM=="block", ENV{ID_PART_ENTRY_TYPE}=="e7009fac-a5a1-4d72-af72-53de13059903", \
    OWNER="vitastor", GROUP="vitastor", \
    IMPORT{program}="/usr/bin/docker exec vitastor vitastor-disk udev $devnode", \
    SYMLINK+="vitastor/$env{VITASTOR_ALIAS}"
 ENV{VITASTOR_OSD_NUM}!="", ACTION=="add", RUN{program}+="/usr/bin/systemctl enable --now --no-block vitastor-osd@$env{VITASTOR_OSD_NUM}"
 ENV{VITASTOR_OSD_NUM}!="", ACTION=="remove", RUN{program}+="/usr/bin/systemctl disable --now --no-block vitastor-osd@$env{VITASTOR_OSD_NUM}"
@@ -1,11 +0,0 @@
 #
 # Configuration file for containerized Vitastor installation
 # (non-Kubernetes, with systemd and udev-based orchestration)
 #
 # Desired Vitastor version
 VITASTOR_VERSION=1.11.0
 # Additional arguments for all containers
 # For example, you may want to specify a custom logging driver here
 CONTAINER_OPTIONS=""
@@ -1,4 +0,0 @@
 ETCD_IMAGE=quay.io/coreos/etcd:v3.5.18
 ETCD_NAME=""
 ETCD_IP=""
 ETCD_INITIAL_CLUSTER=""
@@ -1,2 +0,0 @@
 {
 }
@@ -1,9 +0,0 @@
 #!/bin/bash
 set -e
 cp -urv /etc/default /host-etc/
 cp -urv /etc/systemd /host-etc/
 cp -urv /etc/udev /host-etc/
 cp -urnv /etc/vitastor /host-etc/
 cp -urnv /opt/scripts/* /host-bin/
@@ -1,3 +0,0 @@
 #!/bin/bash
 docker exec -it vitastor vitastor-cli "$@"
@@ -1,3 +0,0 @@
 #!/bin/bash
 docker exec -it vitastor vitastor-disk "$@"
@@ -1,3 +0,0 @@
 #!/bin/bash
 docker exec -it vitastor fio "$@"
@@ -1,3 +0,0 @@
 #!/bin/bash
 docker exec -it vitastor vitastor-nbd "$@"
@@ -1,3 +0,0 @@
 #!/bin/bash
 while :; do sleep infinity; done
@@ -0,0 +1 @@
 deb http://vitastor.io/debian bullseye main
@@ -13,7 +13,7 @@ Vitastor configuration consists of:
 - [Separate OSD settings](config/pool.en.md#osd-settings)
 - [Inode configuration](config/inode.en.md) i.e. image metadata like name, size and parent reference
-Configuration parameters can be set in 4 places:
+Configuration parameters can be set in 3 places:
 - Configuration file (`/etc/vitastor/vitastor.conf` or other path)
 - etcd key `/vitastor/config/global`. Most variables can be set there, but etcd
  connection parameters should obviously be set in the configuration file.
@@ -14,7 +14,7 @@
 - [Настроек инодов](config/inode.ru.md), т.е. метаданных образов, таких, как имя, размер и ссылки на
  родительский образ
-Параметры конфигурации могут задаваться в 4 местах:
+Параметры конфигурации могут задаваться в 3 местах:
 - Файле конфигурации (`/etc/vitastor/vitastor.conf` или по другому пути)
 - Ключе в etcd `/vitastor/config/global`. Большая часть параметров может
  задаваться там, кроме, естественно, самих параметров соединения с etcd,
@@ -106,8 +106,8 @@ SSD cache or "media-cache" - for example, a lot of Seagate EXOS drives have
 it (they have internal SSD cache even though it's not stated in datasheets).
 Setting this parameter to "all" or "small" in OSD parameters requires enabling
-[disable_journal_fsync](layout-osd.en.md#disable_journal_fsync) and
+[disable_journal_fsync](layout-osd.en.yml#disable_journal_fsync) and
-[disable_meta_fsync](layout-osd.en.md#disable_meta_fsync), setting it to
+[disable_meta_fsync](layout-osd.en.yml#disable_meta_fsync), setting it to
-"all" also requires enabling [disable_data_fsync](layout-osd.en.md#disable_data_fsync).
+"all" also requires enabling [disable_data_fsync](layout-osd.en.yml#disable_data_fsync).
 vitastor-disk tried to do that by default, first checking/disabling drive cache.
 If it can't disable drive cache, OSD get initialized with "none".
@@ -112,6 +112,6 @@ HDD-дисках с внутренним SSD или "медиа" кэшем - н
 указано в спецификациях).
 Указание "all" или "small" в настройках / командной строке OSD требует
-включения [disable_journal_fsync](layout-osd.ru.md#disable_journal_fsync) и
+включения [disable_journal_fsync](layout-osd.ru.yml#disable_journal_fsync) и
-[disable_meta_fsync](layout-osd.ru.md#disable_meta_fsync), значение "all"
+[disable_meta_fsync](layout-osd.ru.yml#disable_meta_fsync), значение "all"
-также требует включения [disable_data_fsync](layout-osd.ru.md#disable_data_fsync).
+также требует включения [disable_data_fsync](layout-osd.ru.yml#disable_data_fsync).
@@ -118,13 +118,12 @@ Physical block size of the journal device. Must be a multiple of
 - Type: boolean
 - Default: false
-Do not issue fsyncs to the data device, i.e. do not force it to flush cache.
+Do not issue fsyncs to the data device, i.e. do not flush its cache.
-Safe ONLY if your data device has write-through cache or if write-back
+Safe ONLY if your data device has write-through cache. If you disable
-cache is disabled. If you disable drive cache manually with `hdparm` or
+the cache yourself using `hdparm` or `scsi_disk/cache_type` then make sure
-writing to `/sys/.../scsi_disk/cache_type` then make sure that you do it
+that the cache disable command is run every time before starting Vitastor
-every time before starting Vitastor OSD (vitastor-disk does it automatically).
+OSD, for example, in the systemd unit. See also `immediate_commit` option
-See also [immediate_commit](layout-cluster.en.md#immediate_commit)
+for the instructions to disable cache and how to benefit from it.
 for information about how to benefit from disabled cache.
 ## disable_meta_fsync
@@ -172,7 +171,8 @@ size, it actually has to write the whole 4 KB sector.
 Because of this it can actually be beneficial to use SSDs which work well
 with 512 byte sectors and use 512 byte disk_alignment, journal_block_size
-and meta_block_size. But at the moment, no such SSDs are known...
+and meta_block_size. But the only SSD that may fit into this category is
 Intel Optane (probably, not tested yet).
 Clients don't need to be aware of disk_alignment, so it's not required to
 put a modified value into etcd key /vitastor/config/global.
@@ -122,14 +122,13 @@ SSD-диске, иначе производительность пострада
 - Тип: булево (да/нет)
 - Значение по умолчанию: false
-Не отправлять fsync-и устройству данных, т.е. не заставлять его сбрасывать кэш.
+Не отправлять fsync-и устройству данных, т.е. не сбрасывать его кэш.
 Безопасно, ТОЛЬКО если ваше устройство данных имеет кэш со сквозной
-записью (write-through) или если кэш с отложенной записью (write-back) отключён.
+записью (write-through). Если вы отключаете кэш через `hdparm` или
-Если вы отключаете кэш вручную через `hdparm` или запись в `/sys/.../scsi_disk/cache_type`,
+`scsi_disk/cache_type`, то удостоверьтесь, что команда отключения кэша
-то удостоверьтесь, что вы делаете это каждый раз перед запуском Vitastor OSD
+выполняется перед каждым запуском Vitastor OSD, например, в systemd unit-е.
-(vitastor-disk делает это автоматически). Смотрите также опцию
+Смотрите также опцию `immediate_commit` для инструкций по отключению кэша
-[immediate_commit](layout-cluster.ru.md#immediate_commit) для информации о том,
+и о том, как из этого извлечь выгоду.
 как извлечь выгоду из отключённого кэша.
 ## disable_meta_fsync
@@ -180,8 +179,9 @@ SSD и HDD диски используют 4 КБ физические сект
 Поэтому, на самом деле, может быть выгодно найти SSD, хорошо работающие с
 меньшими, 512-байтными, блоками и использовать 512-байтные disk_alignment,
-journal_block_size и meta_block_size. Однако на данный момент такие SSD
+journal_block_size и meta_block_size. Однако единственные SSD, которые
-не известны...
+теоретически могут попасть в эту категорию - это Intel Optane (но и это
 пока не проверялось автором).
 Клиентам не обязательно знать про disk_alignment, так что помещать значение
 этого параметра в etcd в /vitastor/config/global не нужно.
@@ -24,7 +24,6 @@ These parameters only apply to Monitors.
 - [osd_out_time](#osd_out_time)
 - [placement_levels](#placement_levels)
 - [use_old_pg_combinator](#use_old_pg_combinator)
 - [osd_backfillfull_ratio](#osd_backfillfull_ratio)
 ## use_antietcd
@@ -176,18 +175,3 @@ present in the configuration, then it is defined with the default priority
 Use the old PG combination generator which doesn't support [level_placement](pool.en.md#level_placement)
 and [raw_placement](pool.en.md#raw_placement) for pools which don't use this features.
 ## osd_backfillfull_ratio
 - Type: number
 - Default: 0.99
 Monitors try to prevent OSDs becoming 100% full during rebalance or recovery by
 calculating how much space will be occupied on every OSD after all rebalance
 and recovery operations finish, and pausing rebalance and recovery if that
 amount of space exceeds OSD capacity multiplied by the value of this
 configuration parameter.
 Future used space is calculated by summing space used by all user data blocks
 (objects) in all PGs placed on a specific OSD, even if some of these objects
 currently reside on a different set of OSDs.
@@ -24,7 +24,6 @@
 - [osd_out_time](#osd_out_time)
 - [placement_levels](#placement_levels)
 - [use_old_pg_combinator](#use_old_pg_combinator)
 - [osd_backfillfull_ratio](#osd_backfillfull_ratio)
 ## use_antietcd
@@ -179,19 +178,3 @@ OSD перед обновлением агрегированной статис
 Использовать старый генератор комбинаций PG, не поддерживающий [level_placement](pool.ru.md#level_placement)
 и [raw_placement](pool.ru.md#raw_placement) для пулов, которые не используют данные функции.
 ## osd_backfillfull_ratio
 - Тип: число
 - Значение по умолчанию: 0.99
 Мониторы стараются предотвратить 100% заполнение OSD в процессе ребаланса
 или восстановления, рассчитывая, сколько места будет занято на каждом OSD после
 завершения всех операций ребаланса и восстановления, и приостанавливая
 ребаланс и восстановление, если рассчитанный объём превышает ёмкость OSD,
 умноженную на значение данного параметра.
 Будущее занятое место рассчитывается сложением места, занятого всеми
 пользовательскими блоками данных (объектами) во всех PG, расположенных
 на конкретном OSD, даже если часть этих объектов в данный момент находится
 на другом наборе OSD.
@@ -68,17 +68,11 @@ but they are not connected to the cluster.
 - Type: string
 RDMA device name to use for Vitastor OSD communications (for example,
-"rocep5s0f0"). If not specified, Vitastor will try to find an RoCE
+"rocep5s0f0"). Now Vitastor supports all adapters, even ones without
-device matching [osd_network](osd.en.md#osd_network), preferring RoCEv2,
+ODP support, like Mellanox ConnectX-3 and non-Mellanox cards.
 or choose the first available RDMA device if no RoCE devices are
 found or if `osd_network` is not specified. Auto-selection is also
 unsupported with old libibverbs < v32, like in Debian 10 Buster or
 CentOS 7.
-Vitastor supports all adapters, even ones without ODP support, like
+Versions up to Vitastor 1.2.0 required ODP which is only present in
-Mellanox ConnectX-3 and non-Mellanox cards. Versions up to Vitastor
+Mellanox ConnectX >= 4. See also [rdma_odp](#rdma_odp).
 1.2.0 required ODP which is only present in Mellanox ConnectX >= 4.
 See also [rdma_odp](#rdma_odp).
 Run `ibv_devinfo -v` as root to list available RDMA devices and their
 features.
@@ -101,17 +95,15 @@ your device has.
 ## rdma_gid_index
 - Type: integer
 - Default: 0
 Global address identifier index of the RDMA device to use. Different GID
 indexes may correspond to different protocols like RoCEv1, RoCEv2 and iWARP.
 Search for "GID" in `ibv_devinfo -v` output to determine which GID index
 you need.
-If not specified, Vitastor will try to auto-select a RoCEv2 IPv4 GID, then
+**IMPORTANT:** If you want to use RoCEv2 (as recommended) then the correct
-RoCEv2 IPv6 GID, then RoCEv1 IPv4 GID, then RoCEv1 IPv6 GID, then IB GID.
+rdma_gid_index is usually 1 (IPv6) or 3 (IPv4).
 GID auto-selection is unsupported with libibverbs < v32.
 A correct rdma_gid_index for RoCEv2 is usually 1 (IPv6) or 3 (IPv4).
 ## rdma_mtu
@@ -71,17 +71,12 @@ RDMA может быть нужно только если у клиентов е
 - Тип: строка
 Название RDMA-устройства для связи с Vitastor OSD (например, "rocep5s0f0").
-Если не указано, Vitastor попробует найти RoCE-устройство, соответствующее
+Сейчас Vitastor поддерживает все модели адаптеров, включая те, у которых
 [osd_network](osd.en.md#osd_network), предпочитая RoCEv2, или выбрать первое
 попавшееся RDMA-устройство, если RoCE-устройств нет или если сеть `osd_network`
 не задана. Также автовыбор не поддерживается со старыми версиями библиотеки
 libibverbs < v32, например в Debian 10 Buster или CentOS 7.
 Vitastor поддерживает все модели адаптеров, включая те, у которых
 нет поддержки ODP, то есть вы можете использовать RDMA с ConnectX-3 и
-картами производства не Mellanox. Версии Vitastor до 1.2.0 включительно
+картами производства не Mellanox.
-требовали ODP, который есть только на Mellanox ConnectX 4 и более новых.
+
-См. также [rdma_odp](#rdma_odp).
+Версии Vitastor до 1.2.0 включительно требовали ODP, который есть только
 на Mellanox ConnectX 4 и более новых. См. также [rdma_odp](#rdma_odp).
 Запустите `ibv_devinfo -v` от имени суперпользователя, чтобы посмотреть
 список доступных RDMA-устройств, их параметры и возможности.
@@ -106,18 +101,15 @@ Control) и ECN (Explicit Congestion Notification).
 ## rdma_gid_index
 - Тип: целое число
 - Значение по умолчанию: 0
 Номер глобального идентификатора адреса RDMA-устройства, который следует
 использовать. Разным gid_index могут соответствовать разные протоколы связи:
 RoCEv1, RoCEv2, iWARP. Чтобы понять, какой нужен вам - смотрите строчки со
 словом "GID" в выводе команды `ibv_devinfo -v`.
-Если не указан, Vitastor попробует автоматически выбрать сначала GID,
+**ВАЖНО:** Если вы хотите использовать RoCEv2 (как мы и рекомендуем), то
-соответствующий RoCEv2 IPv4, потом RoCEv2 IPv6, потом RoCEv1 IPv4, потом
+правильный rdma_gid_index, как правило, 1 (IPv6) или 3 (IPv4).
 RoCEv1 IPv6, потом IB. Авто-выбор GID не поддерживается со старыми версиями
 libibverbs < v32.
 Правильный rdma_gid_index для RoCEv2, как правило, 1 (IPv6) или 3 (IPv4).
 ## rdma_mtu
@@ -55,7 +55,7 @@ Examples:
 OSD placement tree is set in a separate etcd key `/vitastor/config/node_placement`
 in the following JSON format:
-```
+`
 {
  "<node name or OSD number>": {
    "level": "<level>",
@@ -63,7 +63,7 @@ in the following JSON format:
  },
  ...
 }
-```
+`
 Here, if a node name is a number then it is assumed to refer to an OSD.
 Level of the OSD is always "osd" and cannot be overriden. You may only
@@ -54,7 +54,7 @@
 Дерево размещения OSD задаётся в отдельном ключе etcd `/vitastor/config/node_placement`
 в следующем JSON-формате:
-```
+`
 {
  "<имя узла или номер OSD>": {
    "level": "<уровень>",
@@ -62,7 +62,7 @@
  },
  ...
 }
-```
+`
 Здесь, если название узла - число, считается, что это OSD. Уровень OSD
 всегда равен "osd" и не может быть переопределён. Для OSD вы можете только
@@ -61,24 +61,6 @@
  info_ru: |
    Повторять запросы записи, завершившиеся с ошибками нехватки места, т.е.
    ожидать, пока на OSD не освободится место.
 - name: client_wait_up_timeout
  type: sec
  default: 16
  online: true
  info: |
    Wait for this number of seconds until PGs are up when doing operations
    which require all PGs to be up. Currently only used by object listings
    in delete and merge-based commands ([vitastor-cli rm](../usage/cli.en.md#rm), merge and so on).
    The default value is calculated as `1 + OSD lease timeout`, which is
    `1 + etcd_report_interval + max_etcd_attempts*2*etcd_quick_timeout`.
  info_ru: |
    Время ожидания поднятия PG при операциях, требующих активности всех PG.
    В данный момент используется листингами объектов в командах, использующих
    удаление и слияние ([vitastor-cli rm](../usage/cli.ru.md#rm), merge и подобные).
    Значение по умолчанию вычисляется как `1 + время lease OSD`, равное
    `1 + etcd_report_interval + max_etcd_attempts*2*etcd_quick_timeout`.
 - name: client_max_dirty_bytes
  type: int
  default: 33554432
@@ -14,12 +14,8 @@
 {{../../installation/packages.en.md}}
 {{../../installation/docker.en.md}}
 {{../../installation/proxmox.en.md}}
 {{../../installation/opennebula.en.md}}
 {{../../installation/openstack.en.md}}
 {{../../installation/kubernetes.en.md}}
@@ -14,12 +14,8 @@
 {{../../installation/packages.ru.md}}
 {{../../installation/docker.ru.md}}
 {{../../installation/proxmox.ru.md}}
 {{../../installation/opennebula.ru.md}}
 {{../../installation/openstack.ru.md}}
 {{../../installation/kubernetes.ru.md}}
@@ -97,9 +97,9 @@
    it (they have internal SSD cache even though it's not stated in datasheets).
    Setting this parameter to "all" or "small" in OSD parameters requires enabling
-    [disable_journal_fsync](layout-osd.en.md#disable_journal_fsync) and
+    [disable_journal_fsync](layout-osd.en.yml#disable_journal_fsync) and
-    [disable_meta_fsync](layout-osd.en.md#disable_meta_fsync), setting it to
+    [disable_meta_fsync](layout-osd.en.yml#disable_meta_fsync), setting it to
-    "all" also requires enabling [disable_data_fsync](layout-osd.en.md#disable_data_fsync).
+    "all" also requires enabling [disable_data_fsync](layout-osd.en.yml#disable_data_fsync).
    vitastor-disk tried to do that by default, first checking/disabling drive cache.
    If it can't disable drive cache, OSD get initialized with "none".
  info_ru: |
@@ -156,6 +156,6 @@
    указано в спецификациях).
    Указание "all" или "small" в настройках / командной строке OSD требует
-    включения [disable_journal_fsync](layout-osd.ru.md#disable_journal_fsync) и
+    включения [disable_journal_fsync](layout-osd.ru.yml#disable_journal_fsync) и
-    [disable_meta_fsync](layout-osd.ru.md#disable_meta_fsync), значение "all"
+    [disable_meta_fsync](layout-osd.ru.yml#disable_meta_fsync), значение "all"
-    также требует включения [disable_data_fsync](layout-osd.ru.md#disable_data_fsync).
+    также требует включения [disable_data_fsync](layout-osd.ru.yml#disable_data_fsync).
@@ -110,22 +110,20 @@
  type: bool
  default: false
  info: |
-    Do not issue fsyncs to the data device, i.e. do not force it to flush cache.
+    Do not issue fsyncs to the data device, i.e. do not flush its cache.
-    Safe ONLY if your data device has write-through cache or if write-back
+    Safe ONLY if your data device has write-through cache. If you disable
-    cache is disabled. If you disable drive cache manually with `hdparm` or
+    the cache yourself using `hdparm` or `scsi_disk/cache_type` then make sure
-    writing to `/sys/.../scsi_disk/cache_type` then make sure that you do it
+    that the cache disable command is run every time before starting Vitastor
-    every time before starting Vitastor OSD (vitastor-disk does it automatically).
+    OSD, for example, in the systemd unit. See also `immediate_commit` option
-    See also [immediate_commit](layout-cluster.en.md#immediate_commit)
+    for the instructions to disable cache and how to benefit from it.
    for information about how to benefit from disabled cache.
  info_ru: |
-    Не отправлять fsync-и устройству данных, т.е. не заставлять его сбрасывать кэш.
+    Не отправлять fsync-и устройству данных, т.е. не сбрасывать его кэш.
    Безопасно, ТОЛЬКО если ваше устройство данных имеет кэш со сквозной
-    записью (write-through) или если кэш с отложенной записью (write-back) отключён.
+    записью (write-through). Если вы отключаете кэш через `hdparm` или
-    Если вы отключаете кэш вручную через `hdparm` или запись в `/sys/.../scsi_disk/cache_type`,
+    `scsi_disk/cache_type`, то удостоверьтесь, что команда отключения кэша
-    то удостоверьтесь, что вы делаете это каждый раз перед запуском Vitastor OSD
+    выполняется перед каждым запуском Vitastor OSD, например, в systemd unit-е.
-    (vitastor-disk делает это автоматически). Смотрите также опцию
+    Смотрите также опцию `immediate_commit` для инструкций по отключению кэша
-    [immediate_commit](layout-cluster.ru.md#immediate_commit) для информации о том,
+    и о том, как из этого извлечь выгоду.
    как извлечь выгоду из отключённого кэша.
 - name: disable_meta_fsync
  type: bool
  default: false
@@ -181,7 +179,8 @@
    Because of this it can actually be beneficial to use SSDs which work well
    with 512 byte sectors and use 512 byte disk_alignment, journal_block_size
-    and meta_block_size. But at the moment, no such SSDs are known...
+    and meta_block_size. But the only SSD that may fit into this category is
    Intel Optane (probably, not tested yet).
    Clients don't need to be aware of disk_alignment, so it's not required to
    put a modified value into etcd key /vitastor/config/global.
@@ -199,8 +198,9 @@
    Поэтому, на самом деле, может быть выгодно найти SSD, хорошо работающие с
    меньшими, 512-байтными, блоками и использовать 512-байтные disk_alignment,
-    journal_block_size и meta_block_size. Однако на данный момент такие SSD
+    journal_block_size и meta_block_size. Однако единственные SSD, которые
-    не известны...
+    теоретически могут попасть в эту категорию - это Intel Optane (но и это
    пока не проверялось автором).
    Клиентам не обязательно знать про disk_alignment, так что помещать значение
    этого параметра в etcd в /vitastor/config/global не нужно.
@@ -172,27 +172,3 @@
  info_ru: |
    Использовать старый генератор комбинаций PG, не поддерживающий [level_placement](pool.ru.md#level_placement)
    и [raw_placement](pool.ru.md#raw_placement) для пулов, которые не используют данные функции.
 - name: osd_backfillfull_ratio
  type: float
  default: 0.99
  info: |
    Monitors try to prevent OSDs becoming 100% full during rebalance or recovery by
    calculating how much space will be occupied on every OSD after all rebalance
    and recovery operations finish, and pausing rebalance and recovery if that
    amount of space exceeds OSD capacity multiplied by the value of this
    configuration parameter.
    Future used space is calculated by summing space used by all user data blocks
    (objects) in all PGs placed on a specific OSD, even if some of these objects
    currently reside on a different set of OSDs.
  info_ru: |
    Мониторы стараются предотвратить 100% заполнение OSD в процессе ребаланса
    или восстановления, рассчитывая, сколько места будет занято на каждом OSD после
    завершения всех операций ребаланса и восстановления, и приостанавливая
    ребаланс и восстановление, если рассчитанный объём превышает ёмкость OSD,
    умноженную на значение данного параметра.
    Будущее занятое место рассчитывается сложением места, занятого всеми
    пользовательскими блоками данных (объектами) во всех PG, расположенных
    на конкретном OSD, даже если часть этих объектов в данный момент находится
    на другом наборе OSD.
@@ -48,17 +48,11 @@
  type: string
  info: |
    RDMA device name to use for Vitastor OSD communications (for example,
-    "rocep5s0f0"). If not specified, Vitastor will try to find an RoCE
+    "rocep5s0f0"). Now Vitastor supports all adapters, even ones without
-    device matching [osd_network](osd.en.md#osd_network), preferring RoCEv2,
+    ODP support, like Mellanox ConnectX-3 and non-Mellanox cards.
    or choose the first available RDMA device if no RoCE devices are
    found or if `osd_network` is not specified. Auto-selection is also
    unsupported with old libibverbs < v32, like in Debian 10 Buster or
    CentOS 7.
-    Vitastor supports all adapters, even ones without ODP support, like
+    Versions up to Vitastor 1.2.0 required ODP which is only present in
-    Mellanox ConnectX-3 and non-Mellanox cards. Versions up to Vitastor
+    Mellanox ConnectX >= 4. See also [rdma_odp](#rdma_odp).
    1.2.0 required ODP which is only present in Mellanox ConnectX >= 4.
    See also [rdma_odp](#rdma_odp).
    Run `ibv_devinfo -v` as root to list available RDMA devices and their
    features.
@@ -70,17 +64,12 @@
    PFC (Priority Flow Control) and ECN (Explicit Congestion Notification).
  info_ru: |
    Название RDMA-устройства для связи с Vitastor OSD (например, "rocep5s0f0").
-    Если не указано, Vitastor попробует найти RoCE-устройство, соответствующее
+    Сейчас Vitastor поддерживает все модели адаптеров, включая те, у которых
    [osd_network](osd.en.md#osd_network), предпочитая RoCEv2, или выбрать первое
    попавшееся RDMA-устройство, если RoCE-устройств нет или если сеть `osd_network`
    не задана. Также автовыбор не поддерживается со старыми версиями библиотеки
    libibverbs < v32, например в Debian 10 Buster или CentOS 7.
    Vitastor поддерживает все модели адаптеров, включая те, у которых
    нет поддержки ODP, то есть вы можете использовать RDMA с ConnectX-3 и
-    картами производства не Mellanox. Версии Vitastor до 1.2.0 включительно
+    картами производства не Mellanox.
-    требовали ODP, который есть только на Mellanox ConnectX 4 и более новых.
+
-    См. также [rdma_odp](#rdma_odp).
+    Версии Vitastor до 1.2.0 включительно требовали ODP, который есть только
    на Mellanox ConnectX 4 и более новых. См. также [rdma_odp](#rdma_odp).
    Запустите `ibv_devinfo -v` от имени суперпользователя, чтобы посмотреть
    список доступных RDMA-устройств, их параметры и возможности.
@@ -105,29 +94,23 @@
    `ibv_devinfo -v`.
 - name: rdma_gid_index
  type: int
  default: 0
  info: |
    Global address identifier index of the RDMA device to use. Different GID
    indexes may correspond to different protocols like RoCEv1, RoCEv2 and iWARP.
    Search for "GID" in `ibv_devinfo -v` output to determine which GID index
    you need.
-    If not specified, Vitastor will try to auto-select a RoCEv2 IPv4 GID, then
+    **IMPORTANT:** If you want to use RoCEv2 (as recommended) then the correct
-    RoCEv2 IPv6 GID, then RoCEv1 IPv4 GID, then RoCEv1 IPv6 GID, then IB GID.
+    rdma_gid_index is usually 1 (IPv6) or 3 (IPv4).
    GID auto-selection is unsupported with libibverbs < v32.
    A correct rdma_gid_index for RoCEv2 is usually 1 (IPv6) or 3 (IPv4).
  info_ru: |
    Номер глобального идентификатора адреса RDMA-устройства, который следует
    использовать. Разным gid_index могут соответствовать разные протоколы связи:
    RoCEv1, RoCEv2, iWARP. Чтобы понять, какой нужен вам - смотрите строчки со
    словом "GID" в выводе команды `ibv_devinfo -v`.
-    Если не указан, Vitastor попробует автоматически выбрать сначала GID,
+    **ВАЖНО:** Если вы хотите использовать RoCEv2 (как мы и рекомендуем), то
-    соответствующий RoCEv2 IPv4, потом RoCEv2 IPv6, потом RoCEv1 IPv4, потом
+    правильный rdma_gid_index, как правило, 1 (IPv6) или 3 (IPv4).
    RoCEv1 IPv6, потом IB. Авто-выбор GID не поддерживается со старыми версиями
    libibverbs < v32.
    Правильный rdma_gid_index для RoCEv2, как правило, 1 (IPv6) или 3 (IPv4).
 - name: rdma_mtu
  type: int
  default: 4096
@@ -0,0 +1,55 @@
 #!/usr/bin/nodejs
 const fs = require('fs');
 const yaml = require('yaml');
 const L = {
    en: {},
    ru: {
        Type: 'Тип',
        Default: 'Значение по умолчанию',
        Minimum: 'Минимальное значение',
    },
 };
 const types = {
    en: {
        string: 'string',
        bool: 'boolean',
        int: 'integer',
        sec: 'seconds',
        ms: 'milliseconds',
        us: 'microseconds',
    },
    ru: {
        string: 'строка',
        bool: 'булево (да/нет)',
        int: 'целое число',
        sec: 'секунды',
        ms: 'миллисекунды',
        us: 'микросекунды',
    },
 };
 const params_files = fs.readdirSync(__dirname+'/params')
    .filter(f => f.substr(-4) == '.yml')
    .map(f => f.substr(0, f.length-4));
 for (const file of params_files)
 {
    const cfg = yaml.parse(fs.readFileSync(__dirname+'/params/'+file+'.yml', { encoding: 'utf-8' }));
    for (const lang in types)
    {
        let out = '\n\n{{< toc >}}';
        for (const c of cfg)
        {
            out += `\n\n## ${c.name}\n\n`;
            out += `- ${L[lang]['Type'] || 'Type'}: ${c["type_"+lang] || types[lang][c.type] || c.type}\n`;
            if (c.default !== undefined)
                out += `- ${L[lang]['Default'] || 'Default'}: ${c.default}\n`;
            if (c.min !== undefined)
                out += `- ${L[lang]['Minimum'] || 'Minimum'}: ${c.min}\n`;
            out += `\n`+(c["info_"+lang] || c["info"]).replace(/\s+$/, '');
        }
        const head = fs.readFileSync(__dirname+'/params/head/'+file+'.'+lang+'.md', { encoding: 'utf-8' });
        fs.writeFileSync(__dirname+'/hugo/content/config/'+file+'.'+lang+'.md', head.replace(/\s+$/, '')+out+"\n");
    }
 }
@@ -1,60 +0,0 @@
 [Documentation](../../README.md#documentation) → Installation → Dockerized Installation
 -----
 [Читать на русском](docker.ru.md)
 # Dockerized Installation
 Vitastor may be installed in Docker/Podman. In such setups etcd, monitors and OSD
 all run in containers, but everything else looks as close as possible to a usual
 setup with packages:
 - host network is used
 - auto-start is implemented through udev and systemd
 - logs are written to journald (not docker json log files)
 - command-line wrapper scripts are installed to the host system to call vitastor-disk,
  vitastor-cli and others through the container
 Such installations may be useful when it's impossible or inconvenient to install
 Vitastor from packages, for example, in exotic Linux distributions.
 If you don't want just a simple containerized installation, you can also take a look
 at Vitastor Kubernetes operator: https://github.com/Antilles7227/vitastor-operator
 ## Installing Containers
 The instruction is very simple.
 1. Download a Docker image of the desired version: \
   `docker pull vitastor:1.10.2`
 2. Install scripts to the host system: \
   `docker run --rm -it -v /etc:/host-etc -v /usr/bin:/host-bin vitastor:1.10.2 install.sh`
 3. Reload udev rules: \
   `udevadm control --reload-rules`
 And you can return to [Quick Start](../intro/quickstart.en.md).
 ## Upgrading Containers
 First make sure to check the topic [Upgrading Vitastor](../usage/admin.en.md#upgrading-vitastor)
 to figure out if you need any additional steps.
 Then, to upgrade a containerized installation, you just need to change the `VITASTOR_VERSION`
 option in `/etc/vitastor/docker.conf` and restart all Vitastor services:
 `systemctl restart vitastor.target`
 ## QEMU
 Vitastor Docker image also contains QEMU, qemu-img and qemu-storage-daemon built with Vitastor support.
 However, running QEMU in Docker is harder to setup and it depends on the used virtualization UI
 (OpenNebula, Proxmox and so on). Some of them also required patched Libvirt.
 That's why containerized installation of Vitastor doesn't contain a ready-made QEMU setup and it's
 recommended to install QEMU from packages or build it manually.
 ## fio
 Vitastor Docker image also contains fio and installs a wrapper called `vitastor-fio` to use it from
 the host system.
@@ -1,60 +0,0 @@
 [Документация](../../README-ru.md#документация) → Установка → Установка в Docker
 -----
 [Read in English](docker.en.md)
 # Установка в Docker
 Vitastor можно установить в Docker/Podman. При этом etcd, мониторы и OSD запускаются
 в контейнерах, но всё остальное выглядит максимально приближенно к установке из пакетов:
 - используется сеть хост-системы
 - для автозапуска используются udev и systemd
 - журналы записываются в journald (не в json-файлы журналов docker)
 - в хост-систему устанавливаются обёртки для вызова консольных инструментов vitastor-disk,
  vitastor-cli и других через контейнер
 Такая установка полезна тогда, когда установка из пакетов невозможна или неудобна,
 например, в нестандартных Linux-дистрибутивах.
 Если вам нужна не просто контейнеризованная инсталляция, вы также можете обратить внимание
 на Vitastor Kubernetes-оператор: https://github.com/Antilles7227/vitastor-operator
 ## Установка контейнеров
 Инструкция по установке максимально простая.
 1. Скачайте Docker-образ желаемой версии: \
   `docker pull vitastor:1.10.2`
 2. Установите скрипты в хост-систему командой: \
   `docker run --rm -it -v /etc:/host-etc -v /usr/bin:/host-bin vitastor:1.10.2 install.sh`
 3. Перезагрузите правила udev: \
   `udevadm control --reload-rules`
 После этого вы можете возвращаться к разделу [Быстрый старт](../intro/quickstart.ru.md).
 ## Обновление контейнеров
 Сначала обязательно проверьте раздел [Обновление Vitastor](../usage/admin.ru.md#обновление-vitastor),
 чтобы понять, не требуются ли вам какие-то дополнительные действия.
 После этого для обновления Docker-инсталляции вам нужно просто поменять опцию `VITASTOR_VERSION`
 в файле `/etc/vitastor/docker.conf` и перезапустить все сервисы Vitastor командой:
 `systemctl restart vitastor.target`
 ## QEMU
 В Docker-образ также входят QEMU, qemu-img и qemu-storage-daemon, собранные с поддержкой Vitastor.
 Однако настроить запуск QEMU в Docker сложнее и способ запуска зависит от используемого интерфейса
 виртуализации (OpenNebula, Proxmox и т.п.). Также для OpenNebula, например, требуется патченый
 Libvirt.
 Поэтому по умолчанию Docker-сборка пока что не включает в себя готового способа запуска QEMU
 и QEMU рекомендуется устанавливать из пакетов или собирать самостоятельно.
 ## fio
 fio также входит в Docker-контейнер vitastor, и в хост-систему устанавливается обёртка `vitastor-fio`
 для запуска fio в контейнер.
@@ -6,18 +6,9 @@
 # Kubernetes CSI
-Vitastor has a CSI plugin for Kubernetes which supports block-based and VitastorFS-based volumes.
+Vitastor has a CSI plugin for Kubernetes which supports RWO (and block RWX) volumes.
-Block-based volumes may be formatted and mounted with a normal FS (ext4 or xfs). Such volumes
+To deploy it, take manifests from [csi/deploy/](../../csi/deploy/) directory, put your
 only support RWO (ReadWriteOnce) mode.
 Block-based volumes may also be left without FS and attached into the container as a block
 device. Such volumes also support RWX (ReadWriteMany) mode.
 VitastorFS-based volumes use a clustered file system and support FS-based RWX (ReadWriteMany)
 mode. However, such volumes don't support quotas and snapshots.
 To deploy the CSI plugin, take manifests from [csi/deploy/](../../csi/deploy/) directory, put your
 Vitastor configuration in [001-csi-config-map.yaml](../../csi/deploy/001-csi-config-map.yaml),
 configure storage class in [009-storage-class.yaml](../../csi/deploy/009-storage-class.yaml)
 and apply all `NNN-*.yaml` manifests to your Kubernetes installation:
@@ -32,16 +23,16 @@ After that you'll be able to create PersistentVolumes.
 kernel modules enabled (vdpa, vduse, virtio-vdpa). If your distribution doesn't
 have them pre-built - build them yourself ([instructions](../usage/qemu.en.md#vduse)),
 I promise it's worth it :-). When VDUSE is unavailable, CSI driver uses [NBD](../usage/nbd.en.md)
-to map Vitastor devices. NBD is slower and, with kernels older than 5.19, unmountable
+to map Vitastor devices. NBD is slower and prone to timeout issues: if Vitastor
-if the cluster becomes unresponsible.
+cluster becomes unresponsible for more than [nbd_timeout](../config/client.en.md#nbd_timeout),
 the NBD device detaches and breaks pods using it.
 ## Features
 Vitastor CSI supports:
 - Kubernetes starting with 1.20 (or 1.17 for older vitastor-csi <= 1.1.0)
- Block-based FS-formatted RWO (ReadWriteOnce) volumes. Example: [PVC](../../csi/deploy/example-pvc.yaml), [pod](../../csi/deploy/example-test-pod.yaml)
+- Filesystem RWO (ReadWriteOnce) volumes. Example: [PVC](../../csi/deploy/example-pvc.yaml), [pod](../../csi/deploy/example-test-pod.yaml)
 - Raw block RWX (ReadWriteMany) volumes. Example: [PVC](../../csi/deploy/example-pvc-block.yaml), [pod](../../csi/deploy/example-test-pod-block.yaml)
 - VitastorFS-based volumes RWX (ReadWriteMany) volumes. Example: [storage class](../../csi/deploy/example-storage-class-fs.yaml)
 - Volume expansion
 - Volume snapshots. Example: [snapshot class](../../csi/deploy/example-snapshot-class.yaml), [snapshot](../../csi/deploy/example-snapshot.yaml), [clone](../../csi/deploy/example-snapshot-clone.yaml)
 - [VDUSE](../usage/qemu.en.md#vduse) (preferred) and [NBD](../usage/nbd.en.md) device mapping methods
@@ -6,17 +6,7 @@
 # Kubernetes CSI
-У Vitastor есть CSI-плагин для Kubernetes, поддерживающий блочные тома и тома на основе
+У Vitastor есть CSI-плагин для Kubernetes, поддерживающий RWO, а также блочные RWX, тома.
 кластерной ФС VitastorFS.
 Блочные тома могут быть отформатированы и примонтированы со стандартной ФС (ext4 или xfs).
 Такие тома поддерживают только режим RWO (ReadWriteOnce, одновременный доступ с одного узла).
 Блочные тома также могут не форматироваться и подключаться в контейнер в виде блочного устройства.
 В таком случае их можно подключать в режиме RWX (ReadWriteMany, одновременный доступ с многих узлов).
 Тома на основе VitastorFS используют кластерную ФС и поэтому также поддерживают режим RWX
 (ReadWriteMany). Однако, такие тома не поддерживают ограничение размера и снимки.
 Для установки возьмите манифесты из директории [csi/deploy/](../../csi/deploy/), поместите
 вашу конфигурацию подключения к Vitastor в [csi/deploy/001-csi-config-map.yaml](../../csi/deploy/001-csi-config-map.yaml),
@@ -43,7 +33,6 @@ CSI-плагин Vitastor поддерживает:
 - Версии Kubernetes, начиная с 1.20 (или с 1.17 для более старых vitastor-csi <= 1.1.0)
 - Файловые RWO (ReadWriteOnce) тома. Пример: [PVC](../../csi/deploy/example-pvc.yaml), [под](../../csi/deploy/example-test-pod.yaml)
 - Сырые блочные RWX (ReadWriteMany) тома. Пример: [PVC](../../csi/deploy/example-pvc-block.yaml), [под](../../csi/deploy/example-test-pod-block.yaml)
 - Основанные на VitastorFS RWX (ReadWriteMany) тома. Пример: [класс хранения](../../csi/deploy/example-storage-class-fs.yaml)
 - Расширение размера томов
 - Снимки томов. Пример: [класс снимков](../../csi/deploy/example-snapshot-class.yaml), [снимок](../../csi/deploy/example-snapshot.yaml), [клон снимка](../../csi/deploy/example-snapshot-clone.yaml)
 - Способы подключения устройств [VDUSE](../usage/qemu.ru.md#vduse) (предпочитаемый) и [NBD](../usage/nbd.ru.md)
@@ -4,8 +4,6 @@
 [Читать на русском](opennebula.ru.md)
 # OpenNebula
 ## Automatic Installation
 OpenNebula plugin is packaged as `vitastor-opennebula` Debian and RPM package since Vitastor 1.9.0. So:
@@ -4,8 +4,6 @@
 [Read in English](opennebula.en.md)
 # OpenNebula
 ## Автоматическая установка
 Плагин OpenNebula Vitastor распространяется как Debian и RPM пакет `vitastor-opennebula`, начиная с версии Vitastor 1.9.0. Так что:
@@ -14,7 +14,6 @@
  - Debian 12 (Bookworm/Sid): `deb https://vitastor.io/debian bookworm main`
  - Debian 11 (Bullseye): `deb https://vitastor.io/debian bullseye main`
  - Debian 10 (Buster): `deb https://vitastor.io/debian buster main`
  - Ubuntu 22.04 (Jammy): `deb https://vitastor.io/debian jammy main`
  - Add `-oldstable` to bookworm/bullseye/buster in this line to install the last
    stable version from 0.9.x branch instead of 1.x
 - Install packages: `apt update; apt install vitastor lp-solve etcd linux-image-amd64 qemu-system-x86`
@@ -14,7 +14,6 @@
  - Debian 12 (Bookworm/Sid): `deb https://vitastor.io/debian bookworm main`
  - Debian 11 (Bullseye): `deb https://vitastor.io/debian bullseye main`
  - Debian 10 (Buster): `deb https://vitastor.io/debian buster main`
  - Ubuntu 22.04 (Jammy): `deb https://vitastor.io/debian jammy main`
  - Добавьте `-oldstable` к слову bookworm/bullseye/buster в этой строке, чтобы
    установить последнюю стабильную версию из ветки 0.9.x вместо 1.x
 - Установите пакеты: `apt update; apt install vitastor lp-solve etcd linux-image-amd64 qemu-system-x86`
@@ -6,151 +6,19 @@
 # Architecture
 - [Server-side components](#server-side-components)
 - [Basic concepts](#basic-concepts)
 - [Client-side components](#client-side-components)
 - [Additional utilities](#additional-utilities)
 - [Overall read/write process](#overall-read-write-process)
  - [Nuances of request handling](#nuances-of-request-handling)
 - [Similarities to Ceph](#similarities-to-ceph)
 - [Differences from Ceph](#differences-from-ceph)
 - [Implementation Principles](#implementation-principles)
 ## Server-side components
 - **OSD** (Object Storage Daemon) is a process that directly works with the disk, stores data
  and serves read/write requests. One OSD serves one disk (or one partition). OSDs talk to etcd
  and to each other — they receive cluster state from etcd, and send read/write requests for
  secondary copies of data to other OSDs.
 - **etcd** — clustered key/value database, used as a reliable storage for configuration
  and high-level cluster state. Etcd is the component that prevents splitbrain in the cluster.
  Data blocks are not stored in etcd, etcd doesn't participate in data write or read path.
 - **Монитор** — a separate node.js based daemon which monitors the cluster, calculates
  required configuration changes and saves them to etcd, thus commanding OSDs to apply these
  changes. Monitor also aggregates cluster statistics. OSD don't talk to monitor, monitor
  only sends and receives data from etcd.
 ## Basic concepts
- **Pool** is a container for data that has equal redundancy scheme and disk placement rules.
+- OSD (Object Storage Daemon) is a process that stores data and serves read/write requests.
- **PG (Placement Group)** is a "shard" of the cluster, subdivision unit that has its own
+- PG (Placement Group) is a "shard" of the cluster, group of data stored on one set of replicas.
-  set of OSDs for data storage.
+- Pool is a container for data that has equal redundancy scheme and placement rules.
- **Failure Domain** is a group of OSDs, from the simultaneous failure of which you are
+- Monitor is a separate daemon that watches cluster state and handles failures.
-  protected by Vitastor. Default failure domain is "host" (server), but you choose a
+- Failure Domain is a group of OSDs that you allow to fail. It's "host" by default.
-  larger (for example, a rack of servers) or smaller (a single drive) failure domain
+- Placement Tree groups OSDs in a hierarchy to later split them into Failure Domains.
  for every pool.
 - **Placement Tree** (similar to Ceph CRUSH Tree) groups OSDs in a hierarchy to later
  split them into Failure Domains.
 ## Client-side components
 - **Client library** encapsulates client I/O logic. Client library connects to etcd and to all OSDs,
  receives cluster state from etcd, sends read and write requests directly to all OSDs. Due
  to the symmetric distributed architecture, all data blocks (each 128 KB by default) are placed
  to different OSDs, but clients always know where each data block is stored and connect directly
  to the right OSD.
 All other client-side components are based on the client library:
 - **[vitastor-cli](../usage/cli.en.md)** — command-line utility for cluster management.
  Allows to view cluster state, manage pools and images, i.e. create, modify and remove
  virtual disks, their snapshots and clones.
 - **[QEMU driver](../usage/qemu.en.md)** — pluggable QEMU module allowing QEMU/KVM virtual
  machines work with virtual Vitastor disks directly from userspace through the client library,
  without the need to attach disks as kernel block devices. However, if you want to attach
  disks, you can also do that with the same driver and [VDUSE](../usage/qemu.en.md#vduse).
 - **[vitastor-nbd](../usage/nbd.en.md)** — utility that allows to attach Vitastor disks as
  kernel block devices using NBD (Network Block Device), which works more like "BUSE"
  (Block Device In Userspace). Vitastor doesn't have Linux kernel modules for the same task
  (at least by now). NBD is an older, non-recommended way to attach disks — you should use
  VDUSE whenever you can.
 - **[CSI driver](../installation/kubernetes.en.md)** — driver for attaching Vitastor images
  and VitastorFS subdirectories as Kubernetes persistent volumes. Block-based CSI uses
  VDUSE (when available) or NBD — images are attached as kernel block devices and mounted
  into containers. FS-based CSI uses **[vitastor-nfs](../usage/nfs.en.md)**.
 - **Drivers for Proxmox, OpenStack and so on** — pluggable modules for corresponding systems,
  allowing to use Vitastor as storage in them.
 - **[vitastor-nfs](../usage/nfs.en.md)** — NFS 3.0 server allowing export of two file system variants:
  the first is a simplified pseudo-FS for file-based access to Vitastor block images (for non-QEMU
  hypervisors with NFS support), the second is **VitastorFS**, full-featured clustered POSIX FS.
  Both variants support parallel access from multiple vitastor-nfs servers. In fact, you are
  not required to setup separate NFS servers at all and use vitastor-nfs mount command on every
  client node — it starts the NFS server and mounts the FS locally.
 - **[fio driver](../usage/fio.en.md)** — pluggable module for fio disk benchmarking tool for
  running performance tests on your Vitastor cluster.
 - **vitastor-kv** — client for a key-value DB working over shared block volumes (usual
  vitastor images). VitastorFS metadata is stored in vitastor-kv.
 ## Additional utilities
 - **vitastor-disk** — a Vitastor OSD disk management tool. You can create, remove,
  resize and move OSD partitions with it.
 ## Overall read/write process
 - Vitastor stores virtual disks, also named "images" or "inodes".
 - Each image is stored in some pool. Pool specifies storage parameters such as redundancy
  scheme (replication or EC — erasure codes, i.e. error correction codes), failure domain
  and restrictions on OSD selection for image data placement. See [Pool configuration](../config/pool.en.md) for details.
 - Each image is split into objects/blocks of fixed size, equal to [block_size](../config/layout-cluster.en.md#block_size)
  (128 KB by default), multiplied by data part count for EC or 1 for replicas. That is,
  if a pool uses EC 4+2 coding scheme (4 data parts + 2 parity parts), then, with the
  default block_size, images are split into 512 KB objects.
 - Client read/write requests are split into parts at object boundaries.
 - Each object is mapped to a PG number it belongs to, by simply taking a remainder of
  division of its offset by PG count of the image's pool.
 - Client reads primary OSD for all PGs from etcd. Primary OSD for each PG is assigned
  by the monitor during cluster operation, along with the full PG OSD set.
 - If not already connected, client connects to primary OSDs of all PGs involved in a
  read/write request and sends parts of the request to them.
 - If a primary OSD is unavailable, client retries connection attempts indefinitely
  either until it becomes available or until the monitor assigns another OSD as primary
  for that PG.
 - Client also retries requests if the primary OSD replies with error code EPIPE, meaning
  that the PG is inactive at this OSD at the moment - for example, when the primary OSD
  is switched, or if the primary OSD itself loses connection to replicas during request
  handling.
 - Primary OSD determines where the parts of the object are stored. By default, all objects
  are assumed to be stored at the target OSD set of a PG, but some of them may be present
  at a different OSD set if they are degraded or moved, or if the data rebalancing process
  is active. OSDs doesn't do any network requests, if calculates locations of all objects
  during PG activation and stores it in memory.
 - Primary OSD handles the request locally when it can - for example, when it's a read
  from a replicated pool or when it's a read from a EC pool involving only one data part
  stored on the OSD's local disk.
 - When a request requires reads or writes to additional OSDs, primary OSD uses already
  established connections to secondary OSDs of the PG to execute these requests. This happens
  in parallel to local disk operations. All such connections are guaranteed to be already
  established when the PG is active, and if any of them is dropped, PG is restarted and
  all current read/write operations to it fail with EPIPE error and are retried by clients.
 - After completing all secondary read/write requests, primary OSD sends the response to
  the client.
 ### Nuances of request handling
 - If a pool uses erasure codes and some of the OSDs are unavailable, primary OSDs recover
  data from the remaining parts during read.
 - Each object has a version number. During write, primary OSD first determines the current
  version of the object. As primary OSD usually stores the object or its part itself, most
  of the time version is read from the memory of the OSD itself. However, if primary OSD
  doesn't contain parts of the object, it requests the version number from a secondary OSD
  which has that part. Such request still doesn't involve reading from the disk though,
  because object metadata, including version number, is always stored in OSD memory.
 - If a pool uses erasure codes, partial writes of an object require reading other parts of
  it from secondary OSDs or from the local disk of the primary OSD itself. This is called
  "read-modify-write" process.
 - If a pool uses erasure codes, two-phase write process is used to get rid of the Write Hole
  problem: first a new version of object parts is written to all secondary OSDs without
  removing the previous version, and then, after receiving successful write confirmations
  from all OSDs, new version is committed and the old one is allowed to be removed.
 - In a pool doesn't use immediate_commit mode, then write requests sent by clients aren't
  treated as committed to physical media instantly. Clients have to send separate type of
  requests (SYNC) to commit changes, and before it isn't sent, new versions of data are
  allowed to be lost if some OSDs die. Thus, when immediate_commit is disabled, clients
  store copies of all write requests in memory and repeat them from there when the
  connection to primary OSD is lost. This in-memory copy is removed after a successful
  SYNC, and to prevent excessive memory usage, clients also do an automatic SYNC
  every [client_dirty_limit](../config/network.en.md#client_dirty_limit) written bytes.
 ## Similarities to Ceph
@@ -219,5 +87,5 @@ All other client-side components are based on the client library:
 - Deleting images in a degraded cluster may currently lead to objects reappearing
  after dead OSDs come back, and in case of erasure-coded pools, they may even
  reappear as incomplete. Just repeat the removal request again in this case.
-  This problem will be fixed in the future, along with the metadata disk storage
+  This problem will be fixed in the nearest future, the fix is already implemented
-  format update.
+  in the "epoch-deletions" branch.
@@ -11,7 +11,6 @@
 - [Серверные компоненты](#серверные-компоненты)
 - [Базовые понятия](#базовые-понятия)
 - [Клиентские компоненты](#клиентские-компоненты)
 - [Дополнительные утилиты](#дополнительные-утилиты)
 - [Общий процесс записи и чтения](#общий-процесс-записи-и-чтения)
  - [Особенности обработки запросов](#особенности-обработки-запросов)
 - [Схожесть с Ceph](#схожесть-с-ceph)
@@ -24,8 +23,8 @@
  Один OSD управляет одним диском (или разделом). OSD общаются с etcd и друг с другом — от etcd они
  получают состояние кластера, а друг другу передают запросы записи и чтения вторичных копий данных.
 - **etcd** — кластерная key/value база данных, используется для хранения настроек и верхнеуровневого
-  состояния кластера, а также предотвращения разделения сознания (splitbrain). Блоки данных в etcd не
+  состояния кластера, а также предотвращения разделения сознания. Блоки данных в etcd не хранятся,
-  хранятся, в обработке клиентских запросов чтения и записи etcd не участвует.
+  в обработке клиентских запросов чтения и записи etcd не участвует.
 - **Монитор** — отдельный демон на node.js, рассчитывающий необходимые изменения в конфигурацию
  кластера, сохраняющий эту информацию в etcd и таким образом командующий OSD применить эти изменения.
  Также агрегирует статистику. Контактирует только с etcd, OSD с монитором не общаются.
@@ -35,56 +34,40 @@
 - **Пул (Pool)** — контейнер для данных, имеющих одну и ту же схему избыточности и правила распределения по OSD.
 - **PG (Placement Group)** — "шард", единица деления пулов в кластере, которой назначается свой набор
  OSD для хранения данных (копий или частей объектов).
- **Домен отказа (Failure Domain)** — группа OSD, от одновременного падения которых должен защищать
+- **Домен отказа (Failure Domain)** — группа OSD, одновременное падение которых рассматривается
-  Vitastor. По умолчанию домен отказа — "host" (сервер), но вы можете установить для пула как больший
+  как вероятное. По умолчанию это "host" (сервер).
  домен отказа (например, стойку серверов), так и меньший (например, отдельный диск).
 - **Дерево распределения** (Placement Tree, в Ceph CRUSH Tree) — иерархическая группировка OSD
  в узлы, которые далее можно использовать как домены отказа.
 ## Клиентские компоненты
- **Клиентская библиотека** — инкапсулирует логику на стороне клиента. Соединяется с etcd и со всеми OSD,
+- **Клиентская библиотека** — инкапсулирует логику на стороне клиента. Соединяются с etcd и со всеми OSD,
-  от etcd получает состояние кластера, команды чтения и записи отправляет на все OSD напрямую.
+  от etcd получают состояние кластера, команды чтения и записи отправляют на все OSD напрямую.
  В силу архитектуры все отдельные блоки данных (по умолчанию по 128 КБ) располагается на разных
  OSD, но клиент устроен так, что всегда точно знает, к какому OSD обращаться, и подключается
  к нему напрямую.
 На базе клиентской библиотеки реализованы все остальные клиенты:
- **[vitastor-cli](../usage/cli.ru.md)** — утилита командной строки для управления кластером.
+- **vitastor-cli** — утилита командной строки для управления кластером. В данный момент позволяет
-  Позволяет просматривать общее состояние кластера, управлять пулами и образами — то есть
+  просматривать общее состояние кластера и управлять образами — т.е. создавать, менять и удалять
-  создавать, менять и удалять виртуальные диски, их снимки и клоны.
+  виртуальные диски, их снимки и клоны.
- **[Драйвер QEMU](../usage/qemu.ru.md)** — подключаемый модуль QEMU, позволяющий QEMU/KVM
+- **Драйвер QEMU** — подключаемый модуль QEMU, позволяющий QEMU/KVM виртуальным машинам работать
-  виртуальным машинам работать с виртуальными дисками Vitastor напрямую из пространства пользователя
+  с виртуальными дисками Vitastor напрямую из пространства пользователя с помощью клиентской
-  с помощью клиентской библиотеки, без необходимости подключения дисков в виде блочных устройств
+  библиотеки, без необходимости отображения дисков в виде блочных устройств. Тот же драйвер
-  Linux. Если, однако, вы хотите подключать диски в виде блочных устройств, то вы тоже можете
+  позволяет подключать диски в систему через [VDUSE](../usage/qemu.ru.md#vduse).
-  сделать это с помощью того же самого драйвера и [VDUSE](../usage/qemu.ru.md#vduse).
+- **vitastor-nbd** — утилита, позволяющая монтировать образы Vitastor в виде блочных устройств
- **[vitastor-nbd](../usage/nbd.ru.md)** — утилита, позволяющая монтировать образы Vitastor
+  с помощью NBD (Network Block Device), на самом деле скорее работающего как "BUSE"
-  в виде блочных устройств с помощью NBD (Network Block Device), на самом деле скорее работающего
+  (Block Device In Userspace). Модуля ядра Linux для выполнения той же задачи в Vitastor нет
-  как "BUSE" (Block Device In Userspace). Модуля ядра Linux для выполнения той же задачи в
+  (по крайней мере, пока).
-  Vitastor нет (по крайней мере, пока). NBD — более старый и нерекомендуемый способ подключения
+- **CSI драйвер** — драйвер для подключения Vitastor-образов в виде персистентных томов (PV) Kubernetes.
-  дисков — вам следует использовать VDUSE всегда, когда это возможно.
+  Работает через vitastor-nbd — образы отражаются в виде блочных устройств и монтируются
- **[CSI драйвер](../installation/kubernetes.ru.md)** — драйвер для подключения Vitastor-образов
+  в контейнеры.
  и поддиректорий VitastorFS в виде персистентных томов (PV) Kubernetes. Блочный CSI работает через
  VDUSE (когда это возможно) или через NBD — образы отражаются в виде блочных устройств и монтируются
  в контейнеры. Файловый CSI использует **[vitastor-nfs](../usage/nfs.ru.md)**.
 - **Драйвера Proxmox, OpenStack и т.п.** — подключаемые модули для соответствующих систем,
  позволяющие использовать Vitastor как хранилище в оных.
- **[vitastor-nfs](../usage/nfs.ru.md)** — NFS 3.0 сервер, предоставляющий два варианта файловой системы:
+- **vitastor-nfs** — утилита, предоставляющая файловый доступ к образам в кластере Vitastor
-  первая — упрощённая для файлового доступа к блочным образам (для не-QEMU гипервизоров, поддерживающих NFS),
+  по протоколу NFS 3.0. Предназначена для гипервизоров, не основанных на QEMU и Linux, но при
-  вторая — VitastorFS, полноценная кластерная POSIX ФС. Оба варианта поддерживают параллельный
+  этом поддерживающих NFS.
  доступ с нескольких vitastor-nfs серверов. На самом деле можно вообще не выделять
  отдельные NFS-серверы, а вместо этого использовать команду vitastor-nfs mount, запускающую
  NFS-сервер прямо на клиентской машине и монтирующую ФС локально.
 - **[Драйвер fio](../usage/fio.ru.md)** — подключаемый модуль для утилиты тестирования
  производительности дисков fio, позволяющий тестировать Vitastor-кластеры.
 - **vitastor-kv** — клиент для key-value базы данных, работающей поверх разделяемого блочного
  образа (обычного блочного образа vitastor). Метаданные VitastorFS хранятся именно в vitastor-kv.
 ## Дополнительные утилиты
 - **vitastor-disk** — утилита для разметки дисков под Vitastor OSD. С её помощью можно
  создавать, удалять, менять размеры или перемещать разделы OSD.
 ## Общий процесс записи и чтения
@@ -115,22 +98,16 @@
  находиться на других OSD, если эти объекты деградированы или перемещены, или идёт процесс
  ребаланса. Запросы для проверки по сети не отправляются, информация о местоположении всех
  объектов рассчитывается первичным OSD при активации PG и хранится в памяти.
- Когда это возможно, первичный OSD обрабатывает запрос локально. Например, так происходит
+- Первичный OSD соединяется (если ещё не соединён) с вторичными OSD, на которых располагаются
-  при чтениях объектов из пулов с репликацией или при чтении из EC пула, затрагивающего
+  части объекта, и отправляет им запросы чтения/записи, а также читает/пишет из/в своё локальное
-  только часть, хранимую на диске самого первичного OSD.
+  хранилище, если сам входит в набор.
 - Когда запрос требует записи или чтения с вторичных OSD, первичный OSD использует заранее
  установленные соединения с ними для выполнения этих запросов. Это происходит параллельно
  локальным операциям чтения/записи с диска самого OSD. Так как соединения к вторичным OSD PG
  устанавливаются при её запуске, то они уже гарантированно установлены, когда PG активна,
  и если любое из этих соединений отключается, PG перезапускается, а все текущие запросы чтения
  и записи в неё завершаются с ошибкой EPIPE, после чего повторяются клиентами.
 - После завершения всех вторичных операций чтения/записи первичный OSD отправляет ответ клиенту.
 ### Особенности обработки запросов
 - Если в пуле используются коды коррекции ошибок и при этом часть OSD недоступна, первичный
  OSD при чтении восстанавливает данные из оставшихся частей.
- Каждый объект имеет номер версии. При записи объекта первичный OSD сначала получает номер
+- Каждый объект имеет номер версии. При записи объекта первичный OSD сначала читает из номер
  версии объекта. Так как первичный OSD обычно сам хранит копию или часть объекта, номер
  версии обычно читается из памяти самого OSD. Однако, если ни одна часть обновляемого объекта
  не находится на первичном OSD, для получения номера версии он обращается к одному из вторичных
@@ -138,20 +115,20 @@
  так как метаданные объектов, включая номер версии, все OSD хранят в памяти.
 - Если в пуле используются коды коррекции ошибок, перед частичной записью объекта для вычисления
  чётности зачастую требуется чтение частей объекта с вторичных OSD или с локального диска
-  самого первичного OSD. Это называется процессом "чтение-модификация-запись" (read-modify-write).
+  самого первичного OSD.
- Если в пуле используются коды коррекции ошибок, для закрытия Write Hole применяется
+- Также, если в пуле используются коды коррекции ошибок, для закрытия Write Hole применяется
  двухфазный алгоритм записи: сначала на все вторичные OSD записывается новая версия частей
  объекта, но при этом старая версия не удаляется, а потом, после получения подтверждения
  успешной записи от всех вторичных OSD, новая версия фиксируется и разрешается удаление старой.
- Если в пуле не включён режим immediate_commit, то запросы записи, отправляемые клиентами,
+- Если в кластере не включён режим immediate_commit, то запросы записи, отправляемые клиентами,
  не считаются зафиксированными на физических накопителях сразу. Для фиксации данных клиенты
  должны отдельно отправлять запросы SYNC (отдельный от чтения и записи вид запроса),
  а пока такой запрос не отправлен, считается, что записанные данные могут исчезнуть,
  если соответствующий OSD упадёт. Поэтому, когда режим immediate_commit отключён, все
  запросы записи клиенты копируют в памяти и при потере соединения и повторном соединении
-  с OSD повторяют из памяти. Скопированные в память данные удаляются при успешном SYNC,
+  с OSD повторяют из памяти. Скопированные в память данные удаляются при успешном fsync,
  а чтобы хранение этих данных не приводило к чрезмерному потреблению памяти, клиенты
-  автоматически выполняют SYNC каждые [client_dirty_limit](../config/network.ru.md#client_dirty_limit)
+  автоматически выполняют fsync каждые [client_dirty_limit](../config/network.ru.md#client_dirty_limit)
  записанных байт.
 ## Схожесть с Ceph
@@ -228,5 +205,5 @@
 - Удаление образов в деградированном кластере может в данный момент приводить к повторному
  "появлению" удалённых объектов после поднятия отключённых OSD, причём в случае EC-пулов,
  объекты могут появиться в виде "неполных". Если вы столкнётесь с такой ситуацией, просто
-  повторите запрос удаления. Данная проблема будет исправлена в будущем вместе с обновлением
+  повторите запрос удаления. Исправление этой проблемы уже реализовано в ветке "epoch-deletions"
-  дискового формата хранения метаданных.
+  и вскоре будет включено в релиз.
@@ -36,7 +36,6 @@
 - [Clustered file system](../usage/nfs.en.md#vitastorfs)
 - [Experimental internal etcd replacement - antietcd](../config/monitor.en.md#use_antietcd)
 - [Built-in Prometheus metric exporter](../config/monitor.en.md#enable_prometheus)
 - [NFS RDMA support](../usage/nfs.en.md#rdma) (probably also usable for GPUDirect)
 ## Plugins and tools
@@ -38,7 +38,6 @@
 - [Кластерная файловая система](../usage/nfs.ru.md#vitastorfs)
 - [Экспериментальная встроенная замена etcd - antietcd](../config/monitor.ru.md#use_antietcd)
 - [Встроенный Prometheus-экспортер метрик](../config/monitor.ru.md#enable_prometheus)
 - [Поддержка NFS RDMA](../usage/nfs.ru.md#rdma) (вероятно, также подходящая для GPUDirect)
 ## Драйверы и инструменты
@@ -26,13 +26,13 @@
  you also need small SSDs for journal and metadata (even 2 GB per 1 TB of HDD space is enough).
 - Get a fast network (at least 10 Gbit/s). Something like Mellanox ConnectX-4 with RoCEv2 is ideal.
 - Disable CPU powersaving: `cpupower idle-set -D 0 && cpupower frequency-set -g performance`.
- Either [install Vitastor packages](../installation/packages.en.md) or [install Vitastor in Docker](../installation/docker.en.md).
+- [Install Vitastor packages](../installation/packages.en.md).
 ## Recommended drives
 - SATA SSD: Micron 5100/5200/5300/5400, Samsung PM863/PM883/PM893, Intel D3-S4510/4520/4610/4620, Kingston DC500M
 - NVMe: Micron 9100/9200/9300/9400, Micron 7300/7450, Samsung PM983/PM9A3, Samsung PM1723/1735/1743,
-  Intel DC-P3700/P4500/P4600, Intel D5-P4320/P5530, Intel D7-P5500/P5600, Intel Optane, Kingston DC1000B/DC1500M
+  Intel DC-P3700/P4500/P4600, Intel D7-P5500/P5600, Intel Optane, Kingston DC1000B/DC1500M
 - HDD: HGST Ultrastar, Toshiba MG, Seagate EXOS
 ## Configure monitors
@@ -45,8 +45,7 @@ On the monitor hosts:
  }
  ```
 - Create systemd units for etcd by running: `/usr/lib/vitastor/mon/make-etcd`
-  Or, if you installed Vitastor in Docker, run `systemctl start vitastor-host; docker exec vitastor make-etcd`.
+- Start etcd and monitors: `systemctl enable --now etcd vitastor-mon`
 - Start etcd and monitors: `systemctl enable --now vitastor-etcd vitastor-mon`
 ## Configure OSDs
@@ -22,18 +22,18 @@
  использовать и десктопные SSD, включив режим отложенного fsync, но производительность будет хуже.
  О конденсаторах читайте [здесь](../config/layout-cluster.ru.md#immediate_commit).
 - Если хотите использовать HDD, берите современные модели с Media или SSD кэшем - HGST Ultrastar,
-  Toshiba MG, Seagate EXOS или что-то похожее. Если такого кэша у ваших дисков нет,
+  Toshiba MG08, Seagate EXOS или что-то похожее. Если такого кэша у ваших дисков нет,
  обязательно возьмите SSD под метаданные и журнал (маленькие, буквально 2 ГБ на 1 ТБ HDD-места).
 - Возьмите быструю сеть, минимум 10 гбит/с. Идеал - что-то вроде Mellanox ConnectX-4 с RoCEv2.
 - Для лучшей производительности отключите энергосбережение CPU: `cpupower idle-set -D 0 && cpupower frequency-set -g performance`.
- Либо [установите пакеты Vitastor](../installation/packages.ru.md), либо [установите Vitastor в Docker](../installation/docker.ru.md).
+- [Установите пакеты Vitastor](../installation/packages.ru.md).
 ## Рекомендуемые диски
 - SATA SSD: Micron 5100/5200/5300/5400, Samsung PM863/PM883/PM893, Intel D3-S4510/4520/4610/4620, Kingston DC500M
 - NVMe: Micron 9100/9200/9300/9400, Micron 7300/7450, Samsung PM983/PM9A3, Samsung PM1723/1735/1743,
-  Intel DC-P3700/P4500/P4600, Intel D5-P4320/P5530, Intel D7-P5500/P5600, Intel Optane, Kingston DC1000B/DC1500M
+  Intel DC-P3700/P4500/P4600, Intel D7-P5500/P5600, Intel Optane, Kingston DC1000B/DC1500M
- HDD: HGST Ultrastar, Toshiba MG, Seagate EXOS
+- HDD: HGST Ultrastar, Toshiba MG06/MG07/MG08, Seagate EXOS
 ## Настройте мониторы
@@ -44,9 +44,8 @@
    "etcd_address": ["10.200.1.10:2379","10.200.1.11:2379","10.200.1.12:2379"]
  }
  ```
- Инициализируйте сервисы etcd, запустив `/usr/lib/vitastor/mon/make-etcd`.\
+- Инициализируйте сервисы etcd, запустив `/usr/lib/vitastor/mon/make-etcd`
-  Либо, если вы установили Vitastor в Docker, запустите `systemctl start vitastor-host; docker exec vitastor make-etcd`.
+- Запустите etcd и мониторы: `systemctl enable --now etcd vitastor-mon`
 - Запустите etcd и мониторы: `systemctl enable --now vitastor-etcd vitastor-mon`
 ## Настройте OSD
@@ -0,0 +1,6 @@
 ---
 title: Common Parameters
 weight: 1
 ---
 These are the most common parameters which apply to all components of Vitastor.
@@ -0,0 +1,6 @@
 ---
 title: Общие параметры
 weight: 1
 ---
 Это наиболее общие параметры, используемые всеми компонентами Vitastor.
@@ -0,0 +1,7 @@
 ---
 title: Cluster-Wide Disk Layout Parameters
 weight: 2
 ---
 These parameters apply to clients and OSDs, are fixed at the moment of OSD drive
 initialization and can't be changed after it without losing data.
@@ -0,0 +1,7 @@
 ---
 title: Дисковые параметры уровня кластера
 weight: 2
 ---
 Данные параметры используются клиентами и OSD, задаются в момент инициализации
 диска OSD и не могут быть изменены после этого без потери данных.
@@ -0,0 +1,7 @@
 ---
 title: OSD Disk Layout Parameters
 weight: 3
 ---
 These parameters apply to OSDs, are fixed at the moment of OSD drive
 initialization and can't be changed after it without losing data.
@@ -0,0 +1,8 @@
 ---
 title: Дисковые параметры OSD
 weight: 3
 ---
 Данные параметры используются только OSD и, также как и общекластерные
 дисковые параметры, задаются в момент инициализации дисков OSD и не могут быть
 изменены после этого без потери данных.
@@ -0,0 +1,6 @@
 ---
 title: Monitor Parameters
 weight: 6
 ---
 These parameters only apply to Monitors.
@@ -0,0 +1,6 @@
 ---
 title: Параметры мониторов
 weight: 6
 ---
 Данные параметры используются только мониторами Vitastor.
@@ -0,0 +1,7 @@
 ---
 title: Network Protocol Parameters
 weight: 4
 ---
 These parameters apply to clients and OSDs and affect network connection logic
 between clients, OSDs and etcd.
@@ -0,0 +1,7 @@
 ---
 title: Параметры сетевого протокола
 weight: 4
 ---
 Данные параметры используются клиентами и OSD и влияют на логику сетевого
 взаимодействия между клиентами, OSD, а также etcd.
@@ -0,0 +1,7 @@
 ---
 title: Runtime OSD Parameters
 weight: 5
 ---
 These parameters only apply to OSDs, are not fixed at the moment of OSD drive
 initialization and can be changed with an OSD restart.
@@ -0,0 +1,8 @@
 ---
 title: Изменяемые параметры OSD
 weight: 5
 ---
 Данные параметры используются только OSD, но, в отличие от дисковых параметров,
 не фиксируются в момент инициализации дисков OSD и могут быть изменены в любой
 момент с перезапуском OSD.
@@ -58,9 +58,8 @@ and during switching primary OSD of PGs.
 **starting**, **repeering**, **stopping** states normally almost aren't visible at all.
 If you notice them for any noticeable time — chances are some operations on some OSDs hung.
-Check `vitastor-cli status` and search for "slow op" in OSD logs to find them — operations
+Search for "slow op" in OSD logs to find them — operations hung for more than
-hung for more than [slow_log_interval](../config/osd.en.md#slow_log_interval) are logged as
+[slow_log_interval](../config/osd.en.md#slow_log_interval) are logged as "slow ops".
 "slow ops" and displayed in `status`.
 State transition diagram:
@@ -170,25 +169,6 @@ Upgrading is performed without stopping clients (VMs/containers), you just need
 upgrade and restart servers one by one. However, ideally you should restart VMs too
 to make them use the new version of the client library.
 ### 1.7.x to 1.8.0
 It's recommended to upgrade from version <= 1.7.x to version >= 1.8.0 with full downtime,
 i.e. you should first stop clients and then the cluster (OSDs and monitor), because 1.8.0
 includes a fix for etcd event stream inconsistency which could lead to "incomplete" objects
 appearing in EC pools, and in rare cases, probably, even to data corruption during mass OSD
 restarts. It doesn't mean that you WILL hit this problem if you upgrade without full downtime,
 but it's better to secure yourself against it.
 Also, if you upgrade version from <= 1.7.x to version >= 1.8.0, BUT <= 1.9.0: restart all clients
 (VMs and so on), otherwise they will hang when monitor clears old PG configuration key,
 which happens 24 hours after upgrade.
 This is fixed in 1.9.1. So, after upgrading version <= 1.7.x directly to version >= 1.9.1,
 you DO NOT have to restart all old clients immediately - they will work like before until
 you decide to upgrade them too. The downside is that you'll have to remove the old PG
 configuration key (`/vitastor/config/pgs`) from etcd by hand when you make sure that all
 your clients are restarted.
 ### 1.1.x to 1.2.0
 Upgrading version <= 1.1.x to version >= 1.2.0, if you use EC n+k with k>=2, is recommended
@@ -56,9 +56,9 @@ OSD, на протяжении небольшого периода времен
 Состояния **starting**, **repeering**, **stopping** в норме практически не заметны вообще,
 PG должны очень быстро переходить из них в другие. Если эти состояния заметны
 хоть сколько-то значительное время — вероятно, какие-то операции на каких-то OSD зависли.
-Чтобы найти их, посморите `vitastor-cli status` и поищите слова "slow op" в журналах OSD —
+Чтобы найти их, ищите "slow op" в журналах OSD — операции, зависшие дольше,
-операции, зависшие дольше, чем на [slow_log_interval](../config/osd.ru.md#slow_log_interval),
+чем на [slow_log_interval](../config/osd.ru.md#slow_log_interval), записываются в
-записываются в журналы OSD как "slow op" и отображаются в `status`.
+журналы OSD как "slow op".
 Диаграмма переходов:
@@ -166,25 +166,6 @@ done
 достаточно обновлять серверы по одному. Однако, конечно, чтобы запущенные виртуальные машины
 начали использовать новую версию клиентской библиотеки, их тоже нужно перезапустить.
 ### 1.7.x -> 1.8.0
 Обновляться с версий <= 1.7.x до версий >= 1.8.0 рекомендуется с полной остановкой
 сначала клиентов, а затем кластера, так как в 1.8.0 исправлена проблема (неконсистентность
 потоков событий от etcd), способная приводить к появлению incomplete объектов в EC-пулах
 и, хоть и редко, но даже к повреждению данных при массовых перезапусках OSD. Если вы
 обновляетесь без полной остановки - это не значит, что вы обязательно столкнётесь с этой
 проблемой, но лучше подстраховаться.
 Также, если вы обновляетесь с версии <= 1.7.x до версии >= 1.8.0, НО <= 1.9.0: перезапустите всех
 клиентов (процессы виртуальных машин можно перезапустить путём миграции на другой сервер),
 иначе они зависнут, когда монитор удалит старый ключ конфигурации PG, что происходит через
 24 часа после обновления.
 Однако, это исправлено в 1.9.1. Так что, если вы обновляетесь с <= 1.7.x сразу до >= 1.9.1,
 вам НЕ нужно сразу перезапускать всех клиентов - они будут работать, как раньше. Минус,
 правда, в том, что старый ключ конфигурации PG (`/vitastor/config/pgs`) будет нужно удалить
 вам из etcd вручную - после того, как вы убедитесь, что все клиенты перезапущены.
 ### 1.1.x -> 1.2.0
 Обновляться с версий <= 1.1.x до версий >= 1.2.0, если вы используете EC n+k и k>=2,
@@ -37,7 +37,7 @@ It supports the following commands:
 Global options:
 ```
--config_path FILE   Path to Vitastor configuration file
+--config_file FILE   Path to Vitastor configuration file
 --etcd_address URL   Etcd connection address
 --iodepth N          Send N operations in parallel to each OSD when possible (default 32)
 --parallel_osds M    Work with M osds in parallel when possible (default 4)
@@ -146,7 +146,6 @@ Rename, resize image or change its readonly status. Images with children can't b
 If the new size is smaller than the old size, extra data will be purged.
 You should resize file system in the image, if present, before shrinking it.
 * `--deleted 1|0` - Set/clear 'deleted image' flag (set automatically during unfinished deletes).
 * `-f|--force` - Proceed with shrinking or setting readwrite flag even if the image has children.
 * `--down-ok` - Proceed with shrinking even if some data will be left on unavailable OSDs.
@@ -222,7 +221,6 @@ Remove inode data without changing metadata.
              Requires more memory, but allows to show correct removal progress.
 --min-offset  Purge only data starting with specified offset.
 --max-offset  Purge only data before specified offset.
 --client_wait_up_timeout 16  Timeout for waiting until PGs are up in seconds.
 ```
 ## merge-data
@@ -36,7 +36,7 @@ vitastor-cli - интерфейс командной строки для адм
 Глобальные опции:
 ```
--config_path FILE   Путь к файлу конфигурации Vitastor
+--config_file FILE   Путь к файлу конфигурации Vitastor
 --etcd_address URL   Адрес соединения с etcd
 --iodepth N          Отправлять параллельно N операций на каждый OSD (по умолчанию 32)
 --parallel_osds M    Работать параллельно с M OSD (по умолчанию 4)
@@ -149,7 +149,6 @@ vitastor-cli snap-create [-p|--pool <id|name>] <image>@<snapshot>
 Если новый размер меньше старого, "лишние" данные будут удалены, поэтому перед уменьшением
 образа сначала уменьшите файловую систему в нём.
 * `--deleted 1|0` - Установить/снять флаг "образ удалён" (устанавливается при незавершённом удалении).
 * `-f|--force` - Разрешить уменьшение или перевод в чтение-запись образа, у которого есть клоны.
 * `--down-ok` - Разрешить уменьшение, даже если часть данных останется неудалённой на недоступных OSD.
@@ -227,7 +226,6 @@ vitastor-cli dd [iimg=<image> | if=<file>] [oimg=<image> | of=<file>] [bs=1M] \
              Требует больше памяти, но позволяет правильно печатать прогресс удаления.
 --min-offset  Удалять только данные, начиная с заданного смещения.
 --max-offset  Удалять только данные до (исключительно) заданного смещения.
 --client_wait_up_timeout 16  Время ожидания поднятия PG в секундах.
 ```
 ## merge-data
@@ -13,7 +13,6 @@ It supports the following commands:
 - [prepare](#prepare)
 - [upgrade-simple](#upgrade-simple)
 - [resize](#resize)
 - [raw-resize](#raw-resize)
 - [start/stop/restart/enable/disable](#start/stop/restart/enable/disable)
 - [purge](#purge)
 - [read-sb](#read-sb)
@@ -51,16 +50,12 @@ Options (automatic mode):
 --osd_per_disk <N>
  Create <N> OSDs on each disk (default 1)
 --hybrid
-  Prepare hybrid (HDD+SSD, NVMe+SATA or etc) OSDs using provided devices. By default,
+  Prepare hybrid (HDD+SSD) OSDs using provided devices. SSDs will be used for
-  any passed SSDs will be used for journals and metadata, HDDs will be used for data,
+  journals and metadata, HDDs will be used for data. Partitions for journals and
-  but you can override this behaviour with --fast-devices option. Journal and metadata
+  metadata will be created automatically. Whether disks are SSD or HDD is decided
-  partitions will be created automatically. In the default mode, SSD and HDD disks
+  by the `/sys/block/.../queue/rotational` flag. In hybrid mode, default object
-  are distinguished by the `/sys/block/.../queue/rotational` flag. When HDDs are used
+  size is 1 MB instead of 128 KB, default journal size is 1 GB instead of 32 MB,
-  for data in hybrid mode, default block_size is 1 MB instead of 128 KB, default journal
+  and throttle_small_writes is enabled by default.
  size is 1 GB instead of 32 MB, and throttle_small_writes is enabled by default.
 --fast-devices /dev/nvmeX,/dev/nvmeY
  In --hybrid mode, use these devices for journal and metadata instead of auto-detecting
  and extracting them from the main [devices...] list.
 --disable_data_fsync auto
  Disable data device cache and fsync (1/yes/true = on, default auto)
 --disable_meta_fsync auto
@@ -132,49 +127,25 @@ Requires the `sfdisk` utility.
 ## resize
-`vitastor-disk resize <osd_num>|<osd_device> [OPTIONS]`
+`vitastor-disk resize <ALL_OSD_PARAMETERS> <NEW_LAYOUT> [--iodepth 32]`
-Resize data area and/or move journal and metadata:
+Resize data area and/or rewrite/move journal and metadata.
 | <!-- -->                  | <!-- -->                               |
 |---------------------------|----------------------------------------|
 | `--move-journal TARGET`   | move journal to `TARGET`               |
 | `--move-meta TARGET`      | move metadata to `TARGET`              |
 | `--journal-size NEW_SIZE` | resize journal to `NEW_SIZE`           |
 | `--data-size NEW_SIZE`    | resize data device to `NEW_SIZE`       |
 | `--dry-run`               | only show new layout, do not apply it  |
 `NEW_SIZE` may include k/m/g/t suffixes.
 `TARGET` may be one of:
 | <!-- -->       | <!-- -->                                                                 |
 |----------------|--------------------------------------------------------------------------|
 | `<partition>`  | move journal/metadata to an existing GPT partition                       |
 | `<raw_device>` | create a GPT partition on `<raw_device>` and move journal/metadata to it |
 | `""`           | (empty string) move journal/metadata back to the data device             |
 ## raw-resize
 `vitastor-disk raw-resize <ALL_OSD_PARAMETERS> <NEW_LAYOUT> [--iodepth 32]`
 Resize data area and/or rewrite/move journal and metadata (manual format).
 `ALL_OSD_PARAMETERS` must include all (at least all disk-related)
 parameters from OSD command line (i.e. from systemd unit or superblock).
 `NEW_LAYOUT` may include new disk layout parameters:
-| <!-- -->                    | <!-- -->                                  |
+```
-|-----------------------------|-------------------------------------------|
+--new_data_offset SIZE     resize data area so it starts at SIZE
-| `--new_data_offset SIZE`    | resize data area so it starts at `SIZE`   |
+--new_data_len SIZE        resize data area to SIZE bytes
-| `--new_data_len SIZE`       | resize data area to `SIZE` bytes          |
+--new_meta_device PATH     use PATH for new metadata
-| `--new_meta_device PATH`    | use `PATH` for new metadata               |
+--new_meta_offset SIZE     make new metadata area start at SIZE
-| `--new_meta_offset SIZE`    | make new metadata area start at `SIZE`    |
+--new_meta_len SIZE        make new metadata area SIZE bytes long
-| `--new_meta_len SIZE`       | make new metadata area `SIZE` bytes long  |
+--new_journal_device PATH  use PATH for new journal
-| `--new_journal_device PATH` | use `PATH` for new journal                |
+--new_journal_offset SIZE  make new journal area start at SIZE
-| `--new_journal_offset SIZE` | make new journal area start at `SIZE`     |
+--new_journal_len SIZE     make new journal area SIZE bytes long
-| `--new_journal_len SIZE`    | make new journal area `SIZE` bytes long   |
+```
 SIZE may include k/m/g/t suffixes. If any of the new layout parameter
 options are not specified, old values will be used.
@@ -246,14 +217,10 @@ Intended for use from startup scripts (i.e. from systemd units).
 ## dump-journal
 `vitastor-disk dump-journal [OPTIONS] <osd_device>`
 `vitastor-disk dump-journal [OPTIONS] <journal_file> <journal_block_size> <offset> <size>`
 Dump journal in human-readable or JSON (if `--json` is specified) format.
 You can specify any OSD device (data, metadata or journal), or the layout manually.
 Options:
 ```
@@ -266,35 +233,23 @@ Options:
 ## write-journal
 `vitastor-disk write-journal <osd_device>`
 `vitastor-disk write-journal <journal_file> <journal_block_size> <bitmap_size> <offset> <size>`
 Write journal from JSON taken from standard input in the same format as produced by
 `dump-journal --json --format data`.
 You can specify any OSD device (data, metadata or journal), or the layout manually.
 ## dump-meta
 `vitastor-disk dump-meta <osd_device>`
 `vitastor-disk dump-meta <meta_file> <meta_block_size> <offset> <size>`
 Dump metadata in JSON format.
 You can specify any OSD device (data, metadata or journal), or the layout manually.
 ## write-meta
 `vitastor-disk write-meta <osd_device>`
 `vitastor-disk write-meta <meta_file> <offset> <size>`
 Write metadata from JSON taken from standard input in the same format as produced by `dump-meta`.
 You can specify any OSD device (data, metadata or journal), or the layout manually.
 ## simple-offsets
 `vitastor-disk simple-offsets <device>`
@@ -13,7 +13,6 @@ vitastor-disk - инструмент командной строки для уп
 - [prepare](#prepare)
 - [upgrade-simple](#upgrade-simple)
 - [resize](#resize)
 - [raw-resize](#raw-resize)
 - [start/stop/restart/enable/disable](#start/stop/restart/enable/disable)
 - [purge](#purge)
 - [read-sb](#read-sb)
@@ -51,17 +50,12 @@ vitastor-disk - инструмент командной строки для уп
 --osd_per_disk <N>
  Создавать по несколько (<N>) OSD на каждом диске (по умолчанию 1)
 --hybrid
-  Инициализировать гибридные (HDD+SSD, NVMe+SATA и т.п.) OSD на указанных дисках.
+  Инициализировать гибридные (HDD+SSD) OSD на указанных дисках. SSD будут
-  По умолчанию, SSD будут использованы для журналов и метаданных, а HDD - для данных,
+  использованы для журналов и метаданных, а HDD - для данных. Разделы для журналов
-  но вы можете поменять это поведение опцией --fast-devices. Разделы для журналов
+  и метаданных будут созданы автоматически. Является ли диск SSD или HDD, определяется
-  и метаданных будут созданы автоматически. В режиме по умолчанию SSD и HDD-диски
+  по флагу `/sys/block/.../queue/rotational`. В гибридном режиме по умолчанию
-  различаются по флагу `/sys/block/.../queue/rotational`. Когда в гибридном режиме
+  используется размер объекта 1 МБ вместо 128 КБ, размер журнала 1 ГБ вместо 32 МБ
-  для данных используются HDD, по умолчанию размер блока устанавливается 1 МБ вместо
+  и включённый throttle_small_writes.
  128 КБ, размер журнала 1 ГБ вместо 32 МБ, и throttle_small_writes включается по
  умолчанию.
 --fast-devices /dev/nvmeX,/dev/nvmeY
  Использовать данные диски для журналов и метаданных в гибридном режиме вместо их
  автоопределения и извлечения из основного списка [devices...].
 --disable_data_fsync auto
  Отключать кэш и fsync-и для устройств данных. (1/yes/true = да, по умолчанию автоопределение)
 --disable_meta_fsync auto
@@ -135,51 +129,27 @@ throttle_target_mbs, throttle_target_parallelism, throttle_threshold_us.
 ## resize
-`vitastor-disk resize <osd_num>|<osd_device> [OPTIONS]`
+`vitastor-disk resize <ALL_OSD_PARAMETERS> <NEW_LAYOUT> [--iodepth 32]`
-Изменить размер области данных и/или переместить журнал и метаданные:
+Изменить размер области данных и/или переместить журнал и метаданные.
-| <!-- -->                      | <!-- -->                                       |
+В `ALL_OSD_PARAMETERS` нужно указать все относящиеся к диску параметры OSD
 |-------------------------------|------------------------------------------------|
 | `--move-journal ЦЕЛЬ`         | переместить журнал на `ЦЕЛЬ`                   |
 | `--move-meta ЦЕЛЬ`            | переместить метаданные на `ЦЕЛЬ`               |
 | `--journal-size НОВЫЙ_РАЗМЕР` | изменить размер журнала на `НОВЫЙ_РАЗМЕР`      |
 | `--data-size НОВЫЙ_РАЗМЕР`    | изменить размер диска данных на `НОВЫЙ_РАЗМЕР` |
 | `--dry-run`                   | показать новые параметры, но не применять их   |
 `НОВЫЙ_РАЗМЕР` может быть указан с суффиксами k/m/g/t (кило/мега/гига/терабайт).
 `ЦЕЛЬ` может быть одним из:
 | <!-- -->        | <!-- -->                                                                            |
 |-----------------|-------------------------------------------------------------------------------------|
 | `<раздел>`      | переместить журнал/метаданные на существующий GPT-раздел                            |
 | `<полный_диск>` | создать GPT-раздел на диске `<полный_диск>` и переместить журнал/метаданные на него |
 | `""`            | (пустая строка) переместить журнал/метаданные обратно на диск данных                |
 ## raw-resize
 `vitastor-disk raw-resize <ВСЕ_ПАРАМЕТРЫ_OSD> <НОВЫЕ_РАЗМЕРЫ> [--iodepth 32]`
 Изменить размер области данных и/или переместить журнал и метаданные (ручной формат).
 В `ВСЕ_ПАРАМЕТРЫ_OSD` нужно указать все относящиеся к диску параметры OSD
 из суперблока OSD или из файла сервиса systemd (в старых версиях).
-В `НОВЫЕ_РАЗМЕРЫ` нужно указать новые параметры расположения данных:
+В `NEW_LAYOUT` нужно указать новые параметры расположения данных:
-| <!-- -->                      | <!-- -->                                              |
+```
-|-------------------------------|-------------------------------------------------------|
+--new_data_offset РАЗМЕР     сдвинуть начало области данных на РАЗМЕР байт
-| `--new_data_offset РАЗМЕР`    | сдвинуть начало области данных на `РАЗМЕР` байт       |
+--new_data_len РАЗМЕР        изменить размер области данных до РАЗМЕР байт
-| `--new_data_len РАЗМЕР`       | изменить размер области данных до `РАЗМЕР` байт       |
+--new_meta_device ПУТЬ       использовать ПУТЬ как новое устройство метаданных
-| `--new_meta_device ПУТЬ`      | использовать `ПУТЬ` как новое устройство метаданных   |
+--new_meta_offset РАЗМЕР     разместить новые метаданные по смещению РАЗМЕР байт
-| `--new_meta_offset РАЗМЕР`    | разместить новые метаданные по смещению `РАЗМЕР` байт |
+--new_meta_len РАЗМЕР        сделать новые метаданные размером РАЗМЕР байт
-| `--new_meta_len РАЗМЕР`       | сделать новые метаданные размером `РАЗМЕР` байт       |
+--new_journal_device ПУТЬ    использовать ПУТЬ как новое устройство журнала
-| `--new_journal_device ПУТЬ`   | использовать `ПУТЬ` как новое устройство журнала      |
+--new_journal_offset РАЗМЕР  разместить новый журнал по смещению РАЗМЕР байт
-| `--new_journal_offset РАЗМЕР` | разместить новый журнал по смещению `РАЗМЕР` байт     |
+--new_journal_len РАЗМЕР     сделать новый журнал размером РАЗМЕР байт
-| `--new_journal_len РАЗМЕР`    | сделать новый журнал размером `РАЗМЕР` байт           |
+```
-`РАЗМЕР` может быть указан с суффиксами k/m/g/t. Если любой из новых параметров
+РАЗМЕР может быть указан с суффиксами k/m/g/t. Если любой из новых параметров
 расположения не указан, он принимается равным старому значению.
 ## start/stop/restart/enable/disable
@@ -254,15 +224,10 @@ OSD отключены fsync-и.
 ## dump-journal
 `vitastor-disk dump-journal <osd_device>`
 `vitastor-disk dump-journal [OPTIONS] <journal_file> <journal_block_size> <offset> <size>`
 Вывести журнал в человекочитаемом или в JSON (с опцией `--json`) виде.
 Вы можете указать любой раздел OSD - данных, журнала или метаданных - либо указать все
 параметры расположения вручную.
 Опции:
 ```
@@ -275,37 +240,22 @@ OSD отключены fsync-и.
 ## write-journal
 `vitastor-disk write-journal <osd_device>`
 `vitastor-disk write-journal <journal_file> <journal_block_size> <bitmap_size> <offset> <size>`
 Записать журнал из JSON со стандартного ввода в формате, аналогичном `dump-journal --json --format data`.
 Вы можете указать любой раздел OSD - данных, журнала или метаданных - либо указать все
 параметры расположения вручную.
 ## dump-meta
 `vitastor-disk dump-meta <osd_device>`
 `vitastor-disk dump-meta <meta_file> <meta_block_size> <offset> <size>`
 Вывести метаданные в формате JSON.
 Вы можете указать любой раздел OSD - данных, журнала или метаданных - либо указать все
 параметры расположения вручную.
 ## write-meta
 `vitastor-disk write-meta <osd_device>`
 `vitastor-disk write-meta <meta_file> <offset> <size>`
 Записать метаданные из JSON со стандартного ввода в формате, аналогичном `dump-meta`.
 Вы можете указать любой раздел OSD - данных, журнала или метаданных - либо указать все
 параметры расположения вручную.
 ## simple-offsets
 `vitastor-disk simple-offsets <device>`
@@ -36,7 +36,7 @@ It will output a block device name like /dev/nbd0 which you can then use as a no
 You can also use `--pool <POOL> --inode <INODE> --size <SIZE>` instead of `--image <IMAGE>` if you want.
-vitastor-nbd supports all usual Vitastor configuration options like `--config_path <path_to_config>` plus NBD-specific:
+vitastor-nbd supports all usual Vitastor configuration options like `--config_file <path_to_config>` plus NBD-specific:
 * `--nbd_timeout 0` \
  Timeout for I/O operations in seconds after exceeding which the kernel stops the device.
@@ -54,18 +54,16 @@ vitastor-nbd supports all usual Vitastor configuration options like `--config_pa
  Stay in foreground, do not daemonize.
 Note that `nbd_timeout`, `nbd_max_devices` and `nbd_max_part` options may also be specified
-in `/etc/vitastor/vitastor.conf` or in other configuration file specified with `--config_path`.
+in `/etc/vitastor/vitastor.conf` or in other configuration file specified with `--config_file`.
 ## unmap
 To unmap the device run:
 ```
-vitastor-nbd unmap [--force] /dev/nbd0
+vitastor-nbd unmap /dev/nbd0
 ```
 If `--force` is specified, `vitastor-nbd` doesn't check if the device is actually mapped.
 ## ls
 ```
@@ -98,7 +96,7 @@ Example output (JSON format):
 vitastor-nbd netlink-map [/dev/nbdN] (--image <image> | --pool <pool> --inode <inode> --size <size in bytes>)
 ```
-On recent kernel versions it's also possible to map NBD devices using netlink interface.
+On recent kernel versions it's also possinle to map NBD devices using netlink interface.
 This is an experimental feature because it doesn't solve all issues of NBD. Differences from regular ioctl-based 'map':
@@ -41,7 +41,7 @@ vitastor-nbd map [/dev/nbdN] --image testimg
 Для обращения по номеру инода, аналогично другим командам, можно использовать опции
 `--pool <POOL> --inode <INODE> --size <SIZE>` вместо `--image testimg`.
-vitastor-nbd поддерживает все обычные опции Vitastor, например, `--config_path <path_to_config>`,
+vitastor-nbd поддерживает все обычные опции Vitastor, например, `--config_file <path_to_config>`,
 плюс специфичные для NBD:
 * `--nbd_timeout 0` \
@@ -62,19 +62,16 @@ vitastor-nbd поддерживает все обычные опции Vitastor,
 Обратите внимание, что опции `nbd_timeout`, `nbd_max_devices` и `nbd_max_part` можно
 также задавать в `/etc/vitastor/vitastor.conf` или в другом файле конфигурации,
-заданном опцией `--config_path`.
+заданном опцией `--config_file`.
 ## unmap
 Для отключения устройства выполните:
 ```
-vitastor-nbd unmap [--force] /dev/nbd0
+vitastor-nbd unmap /dev/nbd0
 ```
 Если задана опция `--force`, `vitastor-nbd` не проверяет, подключено ли устройство,
 перед попыткой его отключить.
 ## ls
 ```
--- a/Show More
+++ b/Show More
`@@ -1,4 +1,4 @@`
	`VITASTOR_VERSION ?= v1.11.0`	`VITASTOR_VERSION ?= v1.8.0`

	`all: build push`	`all: build push`
`@@ -1,4 +1,4 @@`
	`vitastor (1.11.0-1) unstable; urgency=medium`	`vitastor (1.8.0-1) unstable; urgency=medium`

	`* Bugfixes`	`* Bugfixes`
		`@@ -1 +0,0 @@`
			`deb http://vitastor.io/debian bookworm main`
		`@@ -1,3 +0,0 @@`
			`#!/bin/bash`

			`docker exec -it vitastor vitastor-cli "$@"`
		`@@ -1,3 +0,0 @@`
			`#!/bin/bash`

			`docker exec -it vitastor vitastor-disk "$@"`
		`@@ -1,3 +0,0 @@`
			`#!/bin/bash`

			`docker exec -it vitastor fio "$@"`
		`@@ -1,3 +0,0 @@`
			`#!/bin/bash`

			`docker exec -it vitastor vitastor-nbd "$@"`
		`@@ -1,3 +0,0 @@`
			`#!/bin/bash`

			`while :; do sleep infinity; done`
		`@@ -0,0 +1 @@`
							`deb http://vitastor.io/debian bullseye main`