去除文件中重复数据的方法：
先使用sort指令将文件中的数据按照要求的索引进行排序，然后使用uniq指令将重复数据去掉得到想要的结果。
如文件a.txt中有重复行，需要去除重复行时执行如下指令：
#sort a.txt > b.txt;
#uniq b.txt > c.txt
c.txt文件就是所需数据了.