分享
 
 
 

mysql 的 Load data infile 之曲折路

王朝学院·作者佚名  2009-10-30
窄屏简体版  字體: |||超大  

mysql 的 Load data infile 之曲折路

前因:

开发一个数据统计系统,需要分析Apache日志,在把日志Load data infile到mysql表的时候,

才发现ubuntu所在分区的磁盘空间不足...

一,增加磁盘容量

因对PartitionMagic这款软件的比较熟悉,于是切换到WinXP下,安装了该软件,在启动PartitionMagic时提示:

----------------------------------

Init failed :Error 117

Partiton's drive latter cannot be identified

----------------------------------

这个错误在粗略的分析一下后,未果,决定放弃使用PartitionMagic

切换到 ubuntu,系统提示:

----------------------------------

grub loading stage1.5

error 17

----------------------------------

Shit!ubuntu无法启动!

还好修复得比较顺利,方法如下:

切换到 ubuntu(LiveCD)

$sudo grub

$find /boot/grub/stage1

(hd0,4)

$root (hd0,4)

$setup (hd0)

reboot即可。

期间切换到WinXP下准备删除一个分区,重启后发现WinXP居然也无法启动,可能是引导区被破坏的原因,提示大致如下:

----------------------------------

hal.dll文件丢失或损坏

----------------------------------

于是进入XP的故障恢复控制台,执行:

c:\windows> bootcfg /rebuild

os标识符输入:任意

os加载项输入:/noexecute=optin /fastdetect

exit即可。

格式化并resize分区容量

切换到 ubuntu(LiveCD)

$fdisk -l

//format sda8

$mkfs.ext2 /dev/sda8

//ext2 to ext3

$tune2fs -j /dev/sda8

// set sda8 size

$parted

(parted)print

resize 8 120G 140G

切换到 ubuntu

添加reboot自动挂载

$vi /etc/fstab

/dev/sda8 /mnt/d ext2 defaults 0 0

// reload mount

$mount -a

// view mounted file systems

$mount -l

二,修改mysql的datadir

$vi /etc/mysql/my.cnf

// change datadir

datadir = /mnt/d/mysql

// copy mysql datadir to new dir

$cp -R -p /var/lib/mysql /mnt/d/

$chown mysql:mysql /mnt/d/mysql

$vi /etc/apparmor.d/usr.sbin.mysqld

// 做如下修改

#/var/lib/mysql/ r,

/mnt/d/mysql/ r,

#/var/lib/mysql/** rwk,

/mnt/d/mysql/** rwk,

$/etc/init.d/apparmor restart

// initialize mysql db files

$mysql_install_db

$/etc/init.d/mysql restart

三,执行导入(Load data infile)

考虑到查询效率,我把apache的 LogFormat 改成了方便mysql导入的格式,这里就不描述了。

导入过程如下:

mysql > set global KEY_BUFFER_SIZE=256217728;

mysql > set session BULK_INSERT_BUFFER_SIZE=256217728;

mysql > alter table apache_log disable keys;

// 以上语句为优化导入速度

mysql > load data local infile '/Data/apps/apache/logs/analytics.mysite.com-access_log' into table apache_log fields terminated by ',' (fields1,fields2,fields3...);

最好是在用phpmyadmin建库时保证 MySQL connection collation(MySQL 连接校对) & 数据库编码 与数据源保持一致

如出现占用系统资源严重或是入库后乱码的情况,执行如下语句检测编码信息:

mysql>show variables like 'character\_set\_%';

至此导入完成!

 
 
 
免责声明:本文为网络用户发布,其观点仅代表作者个人观点,与本站无关,本站仅提供信息存储服务。文中陈述内容未经本站证实,其真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
2023年上半年GDP全球前十五强
 百态   2023-10-24
美众议院议长启动对拜登的弹劾调查
 百态   2023-09-13
上海、济南、武汉等多地出现不明坠落物
 探索   2023-09-06
印度或要将国名改为“巴拉特”
 百态   2023-09-06
男子为女友送行,买票不登机被捕
 百态   2023-08-20
手机地震预警功能怎么开?
 干货   2023-08-06
女子4年卖2套房花700多万做美容:不但没变美脸,面部还出现变形
 百态   2023-08-04
住户一楼被水淹 还冲来8头猪
 百态   2023-07-31
女子体内爬出大量瓜子状活虫
 百态   2023-07-25
地球连续35年收到神秘规律性信号,网友:不要回答!
 探索   2023-07-21
全球镓价格本周大涨27%
 探索   2023-07-09
钱都流向了那些不缺钱的人,苦都留给了能吃苦的人
 探索   2023-07-02
倩女手游刀客魅者强控制(强混乱强眩晕强睡眠)和对应控制抗性的关系
 百态   2020-08-20
美国5月9日最新疫情:美国确诊人数突破131万
 百态   2020-05-09
荷兰政府宣布将集体辞职
 干货   2020-04-30
倩女幽魂手游师徒任务情义春秋猜成语答案逍遥观:鹏程万里
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案神机营:射石饮羽
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案昆仑山:拔刀相助
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案天工阁:鬼斧神工
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案丝路古道:单枪匹马
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案镇郊荒野:与虎谋皮
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案镇郊荒野:李代桃僵
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案镇郊荒野:指鹿为马
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案金陵:小鸟依人
 干货   2019-11-12
倩女幽魂手游师徒任务情义春秋猜成语答案金陵:千金买邻
 干货   2019-11-12
 
推荐阅读
 
 
 
>>返回首頁<<
靜靜地坐在廢墟上,四周的荒凉一望無際,忽然覺得,淒涼也很美
© 2005- 王朝網路 版權所有