Linux NFS说明，配置及故障分析

Linux NFS说明，配置及故障分析

 

一、NFS服务简介

NFS 是Network File System的缩写，即网络文件系统。一种使用于分散式文件系统的协定，由Sun公司开发，于1984年向外公布。功能是通过网络让不同的机器、不同的操作系统能够彼此分享个别的数据，让应用程序在客户端通过网络访问位于服务器磁盘中的数据，是在类Unix系统间实现磁盘文件共享的一种方法。

NFS 的基本原则是“容许不同的客户端及服务端通过一组RPC分享相同的文件系统”，它是独立于操作系统，容许不同硬件及操作系统的系统共同进行文件的分享。

NFS在文件传送或信息传送过程中依赖于RPC协议。RPC，远程过程调用 (Remote Procedure Call) 是能使客户端执行其他系统中程序的一种机制。NFS本身是没有提供信息传输的协议和功能的，但NFS却能让我们通过网络进行资料的分享，这是因为NFS使用了一些其它的传输协议。而这些传输协议用到这个RPC功能的。可以说NFS本身就是使用RPC的一个程序。或者说NFS也是一个RPC SERVER。所以只要用到NFS的地方都要启动RPC服务，不论是NFS SERVER或者NFS CLIENT。这样SERVER和CLIENT才能通过RPC来实现PROGRAM PORT的对应。可以这么理解RPC和NFS的关系：NFS是一个文件系统，而RPC是负责负责信息的传输。

 

二、系统环境

系统平台：Red hat 5.8

NFS Server IP：10.48.11.41

防火墙已关闭/iptables: Firewall is not running.

SELINUX=disabled

 

三、安装NFS服务

NFS的安装是非常简单的，只需要两个软件包即可，而且在通常情况下，是作为系统的默认包安装的。

 

nfs-utils-* ：包括基本的NFS命令与监控程序 

portmap-* ：支持安全NFS RPC服务的连接

1、查看系统是否已安装NFS

[root@exadatabackup dir01]# rpm -qa | grep nfs

nfs-utils-lib-1.0.8-7.9.el5

nfs-utils-1.0.9-60.el5

[root@exadatabackup dir01]# rpm -qa | grep portmap

portmap-4.0-65.2.2.1

 

四、NFS系统守护进程

nfsd：它是基本的NFS守护进程，主要功能是管理客户端是否能够登录服务器；

mountd：它是RPC安装守护进程，主要功能是管理NFS的文件系统。当客户端顺利通过nfsd登录NFS服务器后，在使用NFS服务所提供的文件前，还必须通过文件使用权限的验证。它会读取NFS的配置文件/etc/exports来对比客户端权限。

portmap：主要功能是进行端口映射工作。当客户端尝试连接并使用RPC服务器提供的服务（如NFS服务）时，portmap会将所管理的与服务对应的端口提供给客户端，从而使客户可以通过该端口向服务器请求服务。

 

五、NFS服务器的配置

NFS服务器的配置相对比较简单，只需要在相应的配置文件中进行设置，然后启动NFS服务器即可。

NFS的常用目录

/etc/exports                NFS服务的主要配置文件

/usr/sbin/exportfs          NFS服务的管理命令

/usr/sbin/showmount         客户端的查看命令

/var/lib/nfs/etab           记录NFS分享出来的目录的完整权限设定值

/var/lib/nfs/xtab           记录曾经登录过的客户端信息

 

NFS服务的配置文件为 /etc/exports，这个文件是NFS的主要配置文件，不过系统并没有默认值，所以这个文件不一定会存在，可能要使用vim手动建立，然后在文件里面写入配置内容。

 

/etc/exports文件内容格式：

<输出目录> [客户端1 选项（访问权限,用户映射,其他）] [客户端2 选项（访问权限,用户映射,其他）]

a. 输出目录：

输出目录是指NFS系统中需要共享给客户机使用的目录；

b. 客户端：

客户端是指网络中可以访问这个NFS输出目录的计算机

客户端常用的指定方式：

  指定ip地址的主机：192.168.0.200

  指定子网中的所有主机：192.168.0.0/24 192.168.0.0/255.255.255.0

  指定域名的主机：david.bsmart.cn

  指定域中的所有主机：*.bsmart.cn

  所有主机：*

 

c. 选项：

选项用来设置输出目录的访问权限、用户映射等。

 

NFS主要有3类选项：

访问权限选项：

 设置输出目录只读：ro

 设置输出目录读写：rw

用户映射选项：

  all_squash：    将远程访问的所有普通用户及所属组都映射为匿名用户或用户组（nfsnobody）；

  no_all_squash： 与all_squash取反（默认设置）；

  root_squash：   将root用户及所属组都映射为匿名用户或用户组（默认设置）；

  no_root_squash：与rootsquash取反；

  anonuid=xxx：   将远程访问的所有用户都映射为匿名用户，并指定该用户为本地用户（UID=xxx）；

  anongid=xxx：   将远程访问的所有用户组都映射为匿名用户组账户，并指定该匿名用户组账户为本地用户组账户（GID=xxx）；

其它选项

 secure：    限制客户端只能从小于1024的tcp/ip端口连接nfs服务器（默认设置）；

 insecure：  允许客户端从大于1024的tcp/ip端口连接服务器；

 sync：      将数据同步写入内存缓冲区与磁盘中，效率低，但可以保证数据的一致性；

 async：     将数据先保存在内存缓冲区中，必要时才写入磁盘；

 wdelay：    检查是否有相关的写操作，如果有则将这些写操作一起执行，这样可以提高效率（默认设置）；

 no_wdelay： 若有写操作则立即执行，应与sync配合使用；

 subtree：   若输出目录是一个子目录，则nfs服务器将检查其父目录的权限(默认设置)；

 no_subtree：即使输出目录是一个子目录，nfs服务器也不检查其父目录的权限，这样可以提高效率；

 

六、NFS服务器的启动与停止

 

在对exports文件进行了正确的配置后，就可以启动NFS服务器了。

1、启动NFS服务器

为了使NFS服务器能正常工作，需要启动portmap和nfs两个服务，并且portmap一定要先于nfs启动。

# service portmap start

# service nfs start

2、查询NFS服务器状态

# service portmap status

# service nfs status  

3、停止NFS服务器

要停止NFS运行时，需要先停止nfs服务再停止portmap服务，对于系统中有其他服务(如NIS)需要使用时，不需要停止portmap服务

# service nfs stop

# service portmap stop

4、设置NFS服务器的自动启动状态

对于实际的应用系统，每次启动LINUX系统后都手工启动nfs服务器是不现实的，需要设置系统在指定的运行级别自动启动portmap和nfs服务。

# chkconfig --list portmap

# chkconfig --list nfs

设置portmap和nfs服务在系统运行级别3和5自动启动。

# chkconfig --level 35 portmap on

# chkconfig --level 35 nfs on

 

[root@exadatabackup dir01]# cat /etc/exports

#/dir01 *(rw,no_root_squash)

#/dir02 *(rw,no_root_squash)

/dir01 *(rw)

/dir02 *(rw)

 

[root@exadatabackup dir01]# exportsfs

-bash: exportsfs: command not found

[root@exadatabackup dir01]# exportfs

/dir01          <world>

/dir02          <world>

 

[root@exadatabackup dir01]# showmount -e

Export list for exadatabackup:

/dir02 *

/dir01 *

 

[root@exadatabackup dir01]# showmount -e

sExport list for exadatabackup:

/dir02 *

/dir01 *

 

[root@exadatabackup dir01]# showmount -a

All mount points on exadatabackup:

10.48.28.3:/dir01

10.48.28.9:/dir01

10.48.28.9:/dir02

 

客户端使用showmount命令查询NFS的共享状态

# showmount -e NFS_SERVER_IP

[root@exadatabackup dir01]# showmount -e 10.48.11.41

Export list for 10.48.11.41:

/dir02 *

/dir01 *

  

NFS有很多默认的参数，打开/var/lib/nfs/etab 查看分享出来的/home/david/ 完整权限设定值。

[root@exadatabackup dir01]# cat /var/lib/nfs/etab 

/dir01  *(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,no_all_squash,no_subtree_check,secure_locks,acl,mapping=identity,anonuid=65534,anongid=65534)

/dir02  *(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,no_all_squash,no_subtree_check,secure_locks,acl,mapping=identity,anonuid=65534,anongid=65534)

  

no_root_squash 是让root保持权限，root_squash 是把root映射成nobody，no_all_squash 不让所有用户保持在挂载目录中的权限。所以，root建立的文件所有者是nfsnobody。

 

关于权限的分析

1. 客户端连接时候，对普通用户的检查

  a. 如果明确设定了普通用户被压缩的身份，那么此时客户端用户的身份转换为指定用户；

　b. 如果NFS server上面有同名用户，那么此时客户端登录账户的身份转换为NFS server上面的同名用户；

　c. 如果没有明确指定，也没有同名用户，那么此时 用户身份被压缩成nfsnobody；

2. 客户端连接的时候，对root的检查

　a. 如果设置no_root_squash，那么此时root用户的身份被压缩为NFS server上面的root；

　b. 如果设置了all_squash、anonuid、anongid，此时root 身份被压缩为指定用户；

　c. 如果没有明确指定，此时root用户被压缩为nfsnobody；

　d. 如果同时指定no_root_squash与all_squash 用户将被压缩为 nfsnobody，如果设置了anonuid、anongid将被压缩到所指定的用户与组；

 

相关命令

1、exportfs

如果我们在启动了NFS之后又修改了/etc/exports，是不是还要重新启动nfs呢？这个时候我们就可以用exportfs 命令来使改动立刻生效，该命令格式如下：

 

# exportfs [-aruv]

  -a 全部挂载或卸载 /etc/exports中的内容 

  -r 重新读取/etc/exports 中的信息 ，并同步更新/etc/exports、/var/lib/nfs/xtab

  -u 卸载单一目录（和-a一起使用为卸载所有/etc/exports文件中的目录）

  -v 在export的时候，将详细的信息输出到屏幕上。

 

具体例子： 

# exportfs -au 卸载所有共享目录

# exportfs -rv 重新共享所有目录并输出详细信息

 

2、nfsstat

查看NFS的运行状态，对于调整NFS的运行有很大帮助。

 

3、rpcinfo

查看rpc执行信息，可以用于检测rpc运行情况的工具，利用rpcinfo -p 可以查看出RPC开启的端口所提供的程序有哪些。

 

4、showmount

  -a 显示已经于客户端连接上的目录信息

  -e IP或者hostname 显示此IP地址分享出来的目录

 

5、netstat

可以查看出nfs服务开启的端口，其中nfs 开启的是2049，portmap 开启的是111，其余则是rpc开启的。

最后注意两点，虽然通过权限设置可以让普通用户访问，但是挂载的时候默认情况下只有root可以去挂载，普通用户可以执行sudo。

NFS server 关机的时候一点要确保NFS服务关闭，没有客户端处于连接状态！通过showmount -a 可以查看，如果有的话用kill killall pkill 来结束，（-9 强制结束）

 

故障实例

========

使用nfs挂载失败：

mount: 10.48.11.41:/home/test/distfiles failed, reason given by server: Permission denied

 

关闭防火墙再次mount，依旧如此。

 

查看服务器端/var/log/message记录发现

Aug  2 16:15:11 exadatabackup mountd[1106]: refused mount request from 10.48.28.9 for /dir01 (/dir01): unmatched host

服务器端的/etc/hosts里的主机名ip全部去掉，客户端再次mount,就可以了，但是再换一台客户端问题mount时同样错误又出现了。

 

经过反复实验，最终该问题解决汇总：

解决方式1、去掉/etc/hosts中的主机名ip

解决方式2、查看客户端挂载的目录不具备读写权限，添加权限即可。

解决方式3、服务器和客户机网段不同引起，修改ip地址，使其同网段即可。

用 192.168.0.0/16 替代 192.168.* 方式

----------------------------------------------------------------------------------------------------------------------

网上有人遇到和我同样的问题，其猜测是因为NFS会先把IP地址转成对应的主机名，然后用这个主机名去匹配/etc/exports文件，而该文件都是设置IP段的，当然就没有权限 mount。通过查阅资料和测试，证实了我的这个猜测。 另外才测试过程中，如果使用主机名或者全质量主机名(FQDN)来mount NFS 文件系统，会比单纯使用IP要快得多。因此，如果使用NFS服务的局域网内添加一个DNS服务，然后采用全质量主机名的方式来访问，应该效果会好得多。