批量程序运行过程
最近刚刚完成30万图片的采集和尺寸调度,把个中碰着的有关超时配置和调度总结出来供大家参考。
本次批量处理是由于该项目本身经由多次外包,图片存储的到处都是,且没有专学天生缩略图和统一尺寸的图片,这次是在原有图文混排的数据中提取图片,存储到指定目录、裁剪尺寸并天生相应缩略图,并将结果存储到数据库。

在批量程序处理过程中,难免碰着程序实行韶光过长,导致504缺点等,调度做事器配置实在不是很好的办理方案,毕竟对生产环境动刀子...
不过我比较
顺便说一句,最多的一次处理的数据提取的图片达到3000张~
下面进入正题,我们的紧张目的是尽可能延长程序实行韶光,使该抓到的图片都抓到,并处理完成写到数据库。
我们的环境是基于nginx的PHP5.6,首先代码上要把稳的,一个是放上set_time_limit(0),这避免去调度php.ini,当然有些基本的比如最大内存等等还是要调的,这里不做先容;另一个必须要设置curl的CURLOPT_TIMEOUT(我用的CURL抓远程图片)考虑到图片都是在已知的多台做事器上,超时抓不到一定是有问题的索性放弃,如果不设置这个超时,运行时会一直的给你报错。
接下来便是做事器了,首先是nginx的程序实行韶光:
fastcgi_connect_timeout 900s;
fastcgi_send_timeout 900s;
fastcgi_read_timeout 900s;
这个配置在nginx.conf内,有则修正值,没有追加上,韶光上根据自己情形设置,调度后重启做事。
MYSQL也会报超时缺点,修正my.ini添加或修正一下配置:
wait_timeout=2880000
interactive_timeout=2880000
max_allowed_packet=100M
调度后重启mysql以便生效,经由上面的设置,基本扫清超时报错的各种环境,我的程序跑了2天3夜,采集和天生共计86G图片。
再强调一下,这么操作并不十分推举,特殊是生产环境下,会带来很多问题,最主要的,完成批量任务后,规复上述设置~