search

gluster / glusterfs

Gluster Filesystem : Build your distributed storage in minutes
https://www.gluster.org
GNU General Public License v2.0
4.51k stars 1.07k forks source link

The rights to folders and files from the glusterfs client are flying off #4326

Open Captd65 opened 1 month ago

Captd65 commented 1 month ago

Description of problem:

Good afternoon! Problem description: Replica + 1 referee has been created. This volume is connected to two hosts via the glusterfs client. Periodically, rights to some files or folders disappear on one of the clients, defined as ????. After remounting the partition or rebooting the problematic host, the permissions are displayed correctly. The exact command to reproduce the issue: It is not yet clear how to reproduce this problem, it reproduces itself during the day.

The full output of the command that failed:

**Expected results:**
**Mandatory info:** **- The output of the `gluster volume info` command**: Volume Name: glustervolume01 Type: Replicate Volume ID: 3f7d3e1e-4403-4448-b081-40acfb52f05a Status: Started Snapshot Count: 0 Number of Bricks: 1 x (2 + 1) = 3 Transport-type: tcp Bricks: Brick1: clstfs01:/data/glusterfs/glustervolume Brick2: clstfs02:/data/glusterfs/glustervolume Brick3: clstarb01:/data/glusterfs/glustervolume (arbiter) Options Reconfigured: server.event-threads: 4 client.event-threads: 4 performance.readdir-ahead: off performance.nl-cache-timeout: 600 performance.nl-cache: on network.inode-lru-limit: 200000 performance.md-cache-timeout: 600 performance.cache-invalidation: on performance.stat-prefetch: on performance.cache-samba-metadata: on features.cache-invalidation-timeout: 600 features.cache-invalidation: on storage.batch-fsync-delay-usec: 0 performance.parallel-readdir: off features.quota-deem-statfs: on features.inode-quota: on features.quota: on network.ping-timeout: 5 transport.address-family: inet nfs.disable: on performance.client-io-threads: off performance.io-thread-count: 8 Gluster process TCP Port RDMA Port Online Pid ------------------------------------------------------------------------------ Brick clstfs01:/data/glusterfs/glusterv olume 49152 0 Y 5721 Brick clstfs02:/data/glusterfs/glusterv olume 49152 0 Y 4865 Brick clstarb01:/data/glusterfs/gluster volume 49152 0 Y 1863 Self-heal Daemon on localhost N/A N/A Y 6085 Quota Daemon on localhost N/A N/A Y 31682 Self-heal Daemon on clstarb01 N/A N/A Y 1959 Quota Daemon on clstarb01 N/A N/A Y 23664 Self-heal Daemon on clstfs02 N/A N/A Y 4874 Quota Daemon on clstfs02 N/A N/A Y 19998 Task Status of Volume glustervolume01 **- The output of the `gluster volume heal` command**: Brick clstfs01:/data/glusterfs/glustervolume Status: Connected Number of entries: 0 Brick clstfs02:/data/glusterfs/glustervolume Status: Connected Number of entries: 0 Brick clstarb01:/data/glusterfs/glustervolume Status: Connected Number of entries: 0 **- Provide logs present on following locations of client and server nodes - [2024-03-29 05:18:12.206169] I [MSGID: 100011] [glusterfsd.c:1570:reincarnate] 0-glusterfsd: Fetching the volume file from server... [2024-03-29 05:18:12.263784] I [glusterfsd-mgmt.c:2005:mgmt_getspec_cbk] 0-glusterfs: No change in volfile,continuing [2024-03-29 07:34:35.168383] W [MSGID: 109033] [dht-diskusage.c:261:dht_is_subvol_filled] 0-glstfs_rep-dht: disk space on subvolume 'glstfs_rep-replicate-0' is getting full (100.00 %), consider adding more bricks [2024-03-29 07:41:07.514108] I [MSGID: 114018] [client.c:2288:client_rpc_notify] 0-glstfs_rep-client-0: disconnected from glstfs_rep-client-0. Client process will keep trying to connect to glusterd until brick's port is available [2024-03-29 07:41:07.514149] W [MSGID: 108001] [afr-common.c:5593:afr_notify] 0-glstfs_rep-replicate-0: Client-quorum is not met [2024-03-29 07:41:07.668775] W [MSGID: 108027] [afr-common.c:2270:afr_attempt_readsubvol_set] 0-glstfs_rep-replicate-0: no read subvols for /userdata [2024-03-29 07:41:07.670347] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174098: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.694125] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174102: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.703462] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174108: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.710225] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174110: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.716690] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174112: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.730145] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174114: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.733690] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174116: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.737071] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174118: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.742803] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174120: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.746007] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174122: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.748756] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174124: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.751928] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174134: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.754909] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174138: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.763272] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174142: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.766250] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174146: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.771301] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174150: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.774205] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174154: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.791483] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174156: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.804043] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174158: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.807078] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174160: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.809936] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174162: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.814488] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174164: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.817065] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174166: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.819389] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174168: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.822091] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174178: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.824622] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174182: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.829523] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174186: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.832184] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174190: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.836574] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174194: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.839726] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174198: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.844261] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174202: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.847398] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174206: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.851993] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174210: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.855852] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174214: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.860405] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174218: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.867359] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174222: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.872056] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174226: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.875410] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174230: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.879079] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174234: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.881432] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174238: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.884372] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174242: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.886611] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174246: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.889576] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174250: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.891791] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174254: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.895023] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174258: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.897973] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174262: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.901732] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174266: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.904232] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174270: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.907766] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174274: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.910453] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174278: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.913583] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174282: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.915886] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174286: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.918826] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174290: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.921073] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174294: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.924045] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174298: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.926328] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174302: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.929250] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174306: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.931418] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174310: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.934353] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174314: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.936564] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174318: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.939416] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174322: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.941627] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174326: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.944607] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174330: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.946854] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174334: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.949899] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174338: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.952132] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174342: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.955182] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174346: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.957389] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174350: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.960310] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174354: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.962738] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174358: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.966203] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174362: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:07.968539] W [fuse-bridge.c:582:fuse_entry_cbk] 0-glusterfs-fuse: 174366: LOOKUP() /userdata => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:08.356564] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174370: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:08.357792] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174374: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:08.359908] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174378: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:08.360687] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174382: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:08.362783] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174386: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:08.363876] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174390: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:08.366141] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174394: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:08.367285] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174398: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:12.371820] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174400: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:12.581796] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174408: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:13.077477] I [glusterfsd-mgmt.c:2444:mgmt_rpc_notify] 0-glusterfsd-mgmt: Exhausted all volfile servers [2024-03-29 07:41:15.387672] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174410: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:18.034788] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 174414: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:41:18.562976] I [rpc-clnt.c:2042:rpc_clnt_reconfig] 0-glstfs_rep-client-0: changing port to 49154 (from 0) [2024-03-29 07:41:18.565532] I [MSGID: 114046] [client-handshake.c:1106:client_setvolume_cbk] 0-glstfs_rep-client-0: Connected to glstfs_rep-client-0, attached to remote volume '/data/rep'. [2024-03-29 07:41:18.565564] I [MSGID: 114042] [client-handshake.c:930:client_post_handshake] 0-glstfs_rep-client-0: 4 fds open - Delaying child_up until they are re-opened [2024-03-29 07:41:18.566286] I [MSGID: 114060] [client-handshake.c:688:client4_0_reopendir_cbk] 0-glstfs_rep-client-0: reopendir on succeeded (fd = 1) [2024-03-29 07:41:18.566603] I [MSGID: 114060] [client-handshake.c:688:client4_0_reopendir_cbk] 0-glstfs_rep-client-0: reopendir on succeeded (fd = 0) [2024-03-29 07:41:18.566694] I [MSGID: 114060] [client-handshake.c:688:client4_0_reopendir_cbk] 0-glstfs_rep-client-0: reopendir on succeeded (fd = 2) [2024-03-29 07:41:18.566735] I [MSGID: 114041] [client-handshake.c:318:client_child_up_reopen_done] 0-glstfs_rep-client-0: last fd open'd/lock-self-heal'd - notifying CHILD-UP [2024-03-29 07:41:18.591685] I [MSGID: 108002] [afr-common.c:5588:afr_notify] 0-glstfs_rep-replicate-0: Client-quorum is met [2024-03-29 07:41:23.559828] I [glusterfsd-mgmt.c:2005:mgmt_getspec_cbk] 0-glusterfs: No change in volfile,continuing The message "W [MSGID: 108027] [afr-common.c:2270:afr_attempt_readsubvol_set] 0-glstfs_rep-replicate-0: no read subvols for /userdata" repeated 215 times between [2024-03-29 07:41:07.668775] and [2024-03-29 07:41:07.968532] [2024-03-29 07:43:28.984396] C [rpc-clnt-ping.c:162:rpc_clnt_ping_timer_expired] 0-glstfs_rep-client-1: server 192.168.0.102:49154 has not responded in the last 42 seconds, disconnecting. [2024-03-29 07:43:28.984551] I [MSGID: 114018] [client.c:2288:client_rpc_notify] 0-glstfs_rep-client-1: disconnected from glstfs_rep-client-1. Client process will keep trying to connect to glusterd until brick's port is available [2024-03-29 07:43:28.984572] W [MSGID: 108001] [afr-common.c:5593:afr_notify] 0-glstfs_rep-replicate-0: Client-quorum is not met [2024-03-29 07:43:29.023869] E [rpc-clnt.c:346:saved_frames_unwind] (--> /lib/x86_64-linux-gnu/libglusterfs.so.0(_gf_log_callingfn+0x12d)[0x75bc6e2c473d] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xceb9)[0x75bc6e28beb9] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xcfde)[0x75bc6e28bfde] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(rpc_clnt_connection_cleanup+0x8c)[0x75bc6e28d50c] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xf090)[0x75bc6e28e090] ))))) 0-glstfs_rep-client-1: forced unwinding frame type(GlusterFS 4.x v1) op(LOOKUP(27)) called at 2024-03-29 07:42:46.116359 (xid=0x964e) [2024-03-29 07:43:29.023893] W [MSGID: 114031] [client-rpc-fops_v2.c:2634:client4_0_lookup_cbk] 0-glstfs_rep-client-1: remote operation failed. Path: / (00000000-0000-0000-0000-000000000001) [Конечная точка передачи не подсоединена] [2024-03-29 07:43:29.023911] W [MSGID: 108027] [afr-common.c:2270:afr_attempt_readsubvol_set] 0-glstfs_rep-replicate-0: no read subvols for / [2024-03-29 07:43:29.023935] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176712: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:43:29.024051] E [rpc-clnt.c:346:saved_frames_unwind] (--> /lib/x86_64-linux-gnu/libglusterfs.so.0(_gf_log_callingfn+0x12d)[0x75bc6e2c473d] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xceb9)[0x75bc6e28beb9] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xcfde)[0x75bc6e28bfde] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(rpc_clnt_connection_cleanup+0x8c)[0x75bc6e28d50c] (--> /lib/x86_64-linux-gnu/libgfrpc.so.0(+0xf090)[0x75bc6e28e090] ))))) 0-glstfs_rep-client-1: forced unwinding frame type(GF-DUMP) op(NULL(2)) called at 2024-03-29 07:42:46.116364 (xid=0x964f) [2024-03-29 07:43:29.024060] W [rpc-clnt-ping.c:215:rpc_clnt_ping_cbk] 0-glstfs_rep-client-1: socket disconnected [2024-03-29 07:43:29.026514] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176716: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:43:29.027510] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176720: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:43:29.029183] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176724: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:43:29.030256] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176726: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:43:29.048392] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176730: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:43:29.049750] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176734: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:43:37.062850] I [glusterfsd-mgmt.c:2005:mgmt_getspec_cbk] 0-glusterfs: No change in volfile,continuing [2024-03-29 07:43:37.972038] W [fuse-bridge.c:897:fuse_attr_cbk] 0-glusterfs-fuse: 176738: LOOKUP() / => -1 (Конечная точка передачи не подсоединена) [2024-03-29 07:43:39.032498] I [rpc-clnt.c:2042:rpc_clnt_reconfig] 0-glstfs_rep-client-1: changing port to 49154 (from 0) [2024-03-29 07:43:39.034172] I [MSGID: 114046] [client-handshake.c:1106:client_setvolume_cbk] 0-glstfs_rep-client-1: Connected to glstfs_rep-client-1, attached to remote volume '/data/rep'. [2024-03-29 07:43:39.034191] I [MSGID: 108002] [afr-common.c:5588:afr_notify] 0-glstfs_rep-replicate-0: Client-quorum is met Task Status of Volume glustervolume01 **- Is there any crash ? Provide the backtrace and coredump **Additional info:**
**- The operating system / glusterfs version**: Debian Linux 10 glusterfs version 5.5 (client and server) **Note: Please hide any confidential data which you don't want to share in public like IP address, file name, hostname or any other configuration**
Captd65 commented 3 weeks ago

We noticed the following feature. If you add a task to cron on the server where glusterfs client is installed (runs every 5 minutes), a script that reads the list of directories and files (ls -lh /data/glustervolume) from the mounted folder with glusterfs, then this problem with file permissions is not observed. Maybe there is some kind of timeout that affects the failure of the client's rights?

Captd65 commented 3 weeks ago

Here is a similar problem: https://access.redhat.com/discussions/6958025

Captd65 commented 2 weeks ago

When I updated to version 11.1, the problem with the rights remained. Then I turned off the option "Readdirp = No" in "/etc/fstab." And the rights to folders stopped flying!

The problem is similar as in this request: (https://github.com/gluter/glusterfs/issues/71

But it looks like it is present in the new version 11.1?