Bug 13376

Summary: glusterd does not start
Product: [ROSA-based products] ROSA Fresh Reporter: d.zaslavsky <d.zaslavsky>
Component: Packages from MainAssignee: ROSA Linux Bugs <bugs>
Status: VERIFIED FIXED QA Contact: ROSA Linux Bugs <bugs>
Severity: normal    
Priority: Normal CC: a.proklov, alexander, pastordidi, v.potapov
Version: AllFlags: v.potapov: qa_verified+
a.proklov: published+
Target Milestone: ---   
Hardware: All   
OS: Linux   
Whiteboard:
Platform: 2021.1 ROSA Vulnerability identifier:
RPM Package: ISO-related:
Bad POT generating: Upstream:
Attachments: strace log
gluster debug
gl.png
gl2.png
gl3.png
gl4.png

Description d.zaslavsky@rosalinux.ru 2023-05-19 13:30:37 MSK
Created attachment 5889 [details]
strace log

Gluster daemon could not start. Glusterd command exits with code 1. 


gluster volume list shows:

Connection failed. Please check if gluster daemon is operational.


Installed pakages:

glusterfs.x86_64                            10.3-1                    @mirror-rosa-x86_64-main   
glusterfs-api.x86_64                        10.3-1                    @mirror-rosa-x86_64-main   
glusterfs-cli.x86_64                        10.3-1                    @mirror-rosa-x86_64-main   
glusterfs-client.x86_64                     10.3-1                    @mirror-rosa-x86_64-main   
glusterfs-fuse.x86_64                       10.3-1                    @mirror-rosa-x86_64-main   
glusterfs-ganesha.x86_64                    10.3-1                    @mirror-rosa-x86_64-main   
glusterfs-geo-replication.x86_64            10.3-1                    @mirror-rosa-x86_64-main   
glusterfs-server.x86_64                     10.3-1                    @mirror-rosa-x86_64-main   
lib64glusterd0.x86_64                       10.3-1                    @mirror-rosa-x86_64-main   
lib64glusterfs0.x86_64                      10.3-1                    @mirror-rosa-x86_64-main   
nfs-ganesha-gluster.x86_64                  3.3-1                     @mirror-rosa-x86_64-main   
python3-gluster.x86_64                      10.3-1                    @mirror-rosa-x86_64-main   


Strace log attached.
Comment 1 Aleksandr Proklov 2023-05-21 09:31:56 MSK
создание /etc/glusterfs/logger.conf или /var/lib/glusterd/secure-access не помогает?

вручную стартовать glusterd пробовали?
Comment 2 Aleksandr Proklov 2023-05-21 11:10:57 MSK
Попробуйте версию 10.4 из этой сборки: 
https://abf.io/build_lists/4442499
Comment 3 d.zaslavsky@rosalinux.ru 2023-05-24 10:40:08 MSK
(In reply to Aleksandr from comment #1)
> создание /etc/glusterfs/logger.conf или /var/lib/glusterd/secure-access не
> помогает?

Не помогает

> вручную стартовать glusterd пробовали?

Пробовал, процесс завершается с ошибкой, лог приложил в описании бага.

(In reply to Aleksandr from comment #2)
> Попробуйте версию 10.4 из этой сборки: 
> https://abf.io/build_lists/4442499

Тоже не стартует
Comment 4 Alex 2023-05-24 16:29:49 MSK
Ну я попробовал сам запустить. И у меня все работает.
Как получить доступ к машине на которой все это счастье запускается?
Comment 5 Alex 2023-05-24 16:33:46 MSK
На будущее.
Чтобы отдебажить запуск сервиса, стрейс конечно штука полезная, но нужна она после того как логи от systemctl status glusterd, ldd,
и запуск бинарника руками с дебагом ничего не дали.

После этого уже стрейс, после него gdb
Comment 6 Alex 2023-05-24 16:37:50 MSK
Еще вопрос у QA и Техподдержки есть чат в телеге?
Comment 7 d.zaslavsky@rosalinux.ru 2023-05-24 17:23:36 MSK
(In reply to Alex Stefanov from comment #4)
> Ну я попробовал сам запустить. И у меня все работает.

Какие действия были совершены при установке \ настройке?


> после того как логи от systemctl status glusterd

Unit glusterd.service could not be found.
Comment 8 Alex 2023-05-24 18:16:27 MSK
>Какие действия были совершены при установке \ настройке?

Никаких я просто установил его.




> после того как логи от systemctl status glusterd

Не-не, так не пойдет.

Сначала запускайте

/usr/sbin/glusterd --debug

и вывод сюда
Comment 9 d.zaslavsky@rosalinux.ru 2023-05-24 18:20:34 MSK
Created attachment 5892 [details]
gluster debug

gluster debug log
Comment 10 Alex 2023-05-24 18:23:34 MSK
[{error=/usr/lib64/glusterfs/10.3/xlator/mgmt/glusterd.so: cannot open shared object file: No such file or directory}]


ну вот и объяснение
установите пакет с этим файлом
Comment 11 d.zaslavsky@rosalinux.ru 2023-05-24 18:42:01 MSK
(In reply to Alex Stefanov from comment #10)
> [{error=/usr/lib64/glusterfs/10.3/xlator/mgmt/glusterd.so: cannot open
> shared object file: No such file or directory}]
> 
> 
> ну вот и объяснение
> установите пакет с этим файлом

По идее, этот файл должен быть в пакете glusterfs-server или glusterfs, но 
dnf repoquery -l их там не находит. Список уже установленных пакетов прикладывал выше, в них тоже ничего не нашел.
Comment 12 Alex 2023-05-24 18:47:29 MSK
Я так понимаю проблема с нахождением библиотеки если она автоматически не подтянулась по зависимостям?

Это довольно легко выяснить запросом

dnf provides "*/glusterd.so"


glusterfs-extra-xlators-10.3-3.aarch64 : Extra Gluster filesystem Translators
Repo        : mirror-rosa-aarch64-main
Matched from:
Filename    : /usr/lib64/glusterfs/10.3/xlator/mgmt/glusterd.so



Но здесь проблема даже не в отсутствующем пакете в реквайрсах, а в том что из 2015 года притащили легайси в спек, а QA прозевало.
Comment 13 Alex 2023-05-24 19:30:52 MSK
https://abf.io/build_lists/4443804
Comment 14 Dmitry Postnikov 2023-05-25 09:26:20 MSK
Created attachment 5893 [details]
gl.png

Запустился gkusterfs из контейнера.
Comment 15 Dmitry Postnikov 2023-05-25 09:31:32 MSK
Created attachment 5894 [details]
gl2.png

При остановке сервиса ошибка в sh выдается. Но сервис стопарится.
Comment 16 Dmitry Postnikov 2023-05-25 09:35:08 MSK
Created attachment 5895 [details]
gl3.png

И старая сборка из https://bugzilla.rosalinux.ru/show_bug.cgi?id=13095 тоже запускает glusterfs.
Comment 18 Dmitry Postnikov 2023-05-25 14:50:23 MSK
Что-то не то.
Сервис glusterfsd.service запускается. Но что он запускает? /bin/true запускает.
Когда стопоришь сервис, он пишет, что glusterfsd не найден. Т.е. его никто и не запускал.
И почему-то нет glusterd.service, есть glusterfsd.service , он переименован?
Comment 19 Alex 2023-05-26 01:45:40 MSK
>И почему-то нет glusterd.service, есть glusterfsd.service , он переименован?

Что значит нет glusterd.service?
Он обязательно есть.
сервис glusterfsd нужен потому что это вызываемый child процесс у glusterd.service нужен он чтобы быть уверенным что оно запущено
Comment 20 Aleksandr Proklov 2023-05-26 03:09:57 MSK
e2k fixed build

https://abf.io/build_lists/4445160
Comment 21 Dmitry Postnikov 2023-05-26 09:27:18 MSK
Created attachment 5897 [details]
gl4.png

Ну вот как-то так. Нет сервиса glusterd.service и всё.
Comment 23 Dmitry Postnikov 2023-06-02 11:07:16 MSK
***************************
The update sent to testings
Comment 24 Vladimir Potapov 2023-06-06 10:28:20 MSK
glusterfs-10.4-4
https://abf.io/build_lists/4446179
https://abf.io/build_lists/4446181
https://abf.io/build_lists/4446180
https://abf.io/build_lists/4446183
https://abf.io/build_lists/4446182
*************************** Advisory *********************
Fix glusterfs start
**********************************************************
QA Verified