在Ubuntu 14.04 64bit上编译并研究State Threads网络线程

前端之家收集整理的这篇文章主要介绍了在Ubuntu 14.04 64bit上编译并研究State Threads网络线程前端之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。

State Threads是一个广受关注的高性能网络线程库,winlin在SRS中做了比较充分的应用,我很遗憾直到现在才精心研究它。下面是我的研究实录,以作备忘。

一、源码编译

下面是在Ubuntu 14.04 64bit上面的实操记录:
从官网http://sourceforge.net/projects/state-threads/下载源码包,最新版是1.9,如果不能下载,就从github上下载fork版本
https://github.com/toffaletti/state-threads
下载完st-1.9.tar.gz,然后解压
tar zxvf st-1.9.tar.gz
cd st-1.9
make linux-debug
然后会得到obj目录。里面有生成的中间文件*.o,头文件st.h,libst.so,libst.a和example中的几个例子:lookupdns,proxy,server等
下面我们在example中创建一个huge_threads.c并编译。这个例子来自winlin文章中提供的.
  1. //gcc-I../obj-ghuge_threads.c../obj/libst.a-ohuge_threads
  2. //./huge_threads10000
  3. //./huge_threads30000
  4. //
  5. #include<stdio.h>
  6. #include"st.h"
  7. #defineSLEEP_INTERVAL30//inms
  8. void*do_calc(void*arg){
  9. longpidx=*(long*)arg;
  10. for(;;){
  11. printf("sthread[#%ld]usleep\n",pidx);
  12. st_usleep(SLEEP_INTERVAL*1000);
  13. }
  14. returnNULL;
  15. }
  16. intmain(intargc,char**argv){
  17. if(argc<=1){
  18. printf("Testtheconcurrenceofstate-threads!\n"
  19. "Usage:%s<sthread_count>\n"
  20. "eg.%s10000\n",argv[0],argv[0]);
  21. return-1;
  22. }
  23. if(st_init()<0){
  24. printf("statethreadslibruntimeiniterror!");
  25. return-1;
  26. }
  27. inti,count=atoi(argv[1]);
  28. for(i=1;i<=count;i++){
  29. if(st_thread_create(do_calc,(void*)&i,0)==NULL){
  30. printf("createstatethread%dFailed\n",i);
  31. return-1;
  32. }
  33. }
  34. st_thread_exit(NULL);
  35. return0;
  36. }
编译
gcc-I../obj-ghuge_threads.c../obj/libst.a-ohuge_threads
运行
./huge_threads 10000
运行过程中,利用top查看程序性能,按ctrl+C中断

注意st.h是动态生成的,这种方法值得学习

二、doc目录研究
在st-1.9源码中doc目录有几个文档,可以参考
st.html ST库概论,winlin翻译的那篇文章
timeout_heap.txt 超时heap实现
notes.html 给出了编程注意点,包括移植,信号,进程内同步,进程间同步,非网络IO,超时处理,特别谈到进程内同步非常简单,不需要同步资源;非网络IO中谈到drawback和设计时需要避免的方法
reference.html 一个API接口文档介绍,需要认真阅读和熟悉,但是需要编码实战来加深理解
st_set_eventsys() 设置事件通知机制event notification mechanism,在st_init()之前调用,建议优先选用ST_EVENTSYS_ALT,它会使用epoll,然后才是ST_EVENT_DEFAULT
st_get_eventsys_name() 得到State thread库当前使用的时间通知机制名称,可能返回值是select,poll,kequeue,或epoll
st _set_switch_in_cb(st_switch_cb_t cb) 设置thread被resume时的回调函数,默认NULL
st_set_switch_out_cb(st_switch_cb_t cb) 设置thread被stop时的回调函数,默认NULL
st_randomize_stacks() 打开或关闭stack base address randomization,打开会提高性能,避免所有线程的stack是page aligned,而是随机生成
st_key_create() 为进程内的所有线程创建一个非负整数的key,以便去set和get thread-specific data,所有线程的key是一样的但是存放的私有数据不同
st_thread_setspecific() 设置每个线程自己的私有数据,不同的线程可以对这个相同的key bindig不同的值
set_timecache_set() 将time caching打开或是关闭, ST库能够缓存time()库函数报告的值,如果是realtime time应用,建议不要开启该功能
set_time() 返回1970**以来的秒数
set_netfd_free() free file descriiptor但是不closing所在的os file descriptor
st_readv() 从指定文件描述符读数据到multiple buffers中
最重要的是末尾的Program Structure,给出了 一个网络应用程序中使用ST库的基本步骤
1.假如愿意,使用下面的pre-init函数配置ST库,设置时间,事件通知机制
2.调用st_init()来初始化ST库
3.假如愿意,调用post-init函数来配置ST库,设置timecache,随机化线程栈,进程resume和stop的回调函数
4.生成不同process之间共享的资源,创建并绑定socket,打开socket,生成共享内存段,IPC channel和同步原语primitives
5.创建多进程,fork(),父进程退出或是watchdog
6.在子进程中创建thread pool来处理user connection,线程池中的每个线程可以accept client connection,connect到其他服务器,执行各种network I/O等等
每个process的每个socket的空闲线程spare thread的最大个数默认为8, server一启动就创建线程池,它是最大空闲线程个数,线程池可以增长到最大线程个数,也可以限制总线程个数,而非针对每个listening socket
注意:只有ST库的I/O函数可以用于network I/O,其他的I/O calls都可能阻塞调用进程
三、example目录
下面研究example目录下面的3个例子
首先阅读里面的README,它简单介绍了这三个例子的基本情况和用法
server 包含server.c和error.c
lookupdns 包含lookupdns.c和res.c
proxy 包含proxy.c
1.server.c程序分析:
General server example,accept a client connection and just outputs a short html page
先定义进程数组,个数是 vp_count,是当前cpu的core数,这样能充分利用cpu多核能力,再定义listening socket数组 srv_socket[],个数是 sk_count,再定义其上每个srv_socket的wait for thread和busing thread个数。每个进程一个线程池在运转,都在独立地运行
在每个process中启动线程数时,先创建access log flushing thread,它的职责是定期(配置为30s)写日志,然后是建立connection handlingthreads,它的职责是首先保存连接双方的ip和port,不管对方发的啥,闷头就向对方发送一个"It worked!"的html页面然后关闭该tcp连接,参见线程函数handle_connections,它调用handle_session()
在创建socket并绑定侦听时,ST的socket fd是使用st_netfd_open_socket(sock)得到的,就是在该sock上面得到的。
在C/S交互过程中,使用到线程私有数据方法来保存listening socket index和client的sockaddr
整个程序的架构值得我们借鉴。
程序使用方法
./server -l ./ 指定访问日志目录,必须指定,下面都是可选参数
-b 127.0.0.1:8000 binding and listening sockets对数,否则使用0.0.0.0:8000代替
-p 8 生成进程个数,默认按照cpu内核个数定
-t 2:10 每个listening socket上的thread limits
-u taoyx 指定运行该程序的user名,据此找出其group名和user名
-q 1000 待处理连接队列的长度
-a 启用访问日志记录
-i 以互动模式运行吗?否则以daemon守护进程运行。互动模式不记录日志信息,建议命令行调试时使用
-S Serialize all accept() calls,依据平台来确定
-h print usage info
为了简单,我直接使用默认命令打开
./server -l ./
下面使用curl作为客户端来测试
curl -vx 127.0.0.1:8000 -o a.html "http://news.sohu.com"
服务器返回的固定page内容如下
通过发送信号来研究进程的行为
使用kill -l来列出所有的信号编码表,我们这里只需要使用到SIGHUP(1),SIGUSR1(10),SIGTERM(15)
kill -10 4044 dump info打印当前各进程的侦听端口,线程池线程情况,请求信息

kill -1 4044 重启进程,重读配置文件
kill -15 4044 终止进程,让程序退出
这两种方式在命令行没有结果显示,只能从日志文件error中看出响应细节


2.res.c分析
_res从哪儿来的?
dns_getaddr() ==>query_domain()==> res_mkquery() ==> dn_skipname(),dn_expand(),
||==>parse_answer()

lookupdns.c分析
异步host name解析,一个host name对应一个ST线程,所有的线程都是并发的,查询成功后打印出host name和对应的ip地址

使用方法
./lookupdnswww.baidu.comnews.sohu.comnew.sina.com.cn www.ifeng.comv.youku.com


源码分析
main() ==> do_resolve() ==>dns_getaddr() ==> 引用res.c中的函数
3.proxy.c分析
该程序充当一个普通的gateway,它在本地地址监听, 一接收到client connection,就连接到指定的远端地址,获取响应,不加修改地转发给client
使用方法
-l 127.0.0.1:8086 本地侦听的ip和port
-r 1.2.3.4: 80 远程连接的ip和port,如果不是点分十进制
-p 8 并行进程个数,如果不指定,默认使用cpu的内核数
-S serialize accept
-a 使用alternate备用的事件通知机制,比如epoll,它会调用ST_EVENTSYS_ALT设置st_set_eventsys(ST_EVENTSYS_ALT)
-t mask 测试或调试模式,掩码为1,4,8,16,这里选择1,打印所有信息
-X 只用一个进程,不使用守护进程方式
使用下面的命令启动
./proxy -l 127.0.0.1:8086 -r news.sohu.com:80 -t 1
我们看到会分别起4个进程独立工作,这样停止这些线程比较麻烦,只能手动kill掉各个进程
kil -9 13458
kil -9 13459
kil -9 13460
kil -9 13461
现在使用curl做客户端测试
curl -vx 127.0.0.1:8086 -o sohu.html "http://news.sohu.com"
得到的网页可以在chrome中正常打开
可见代理功能是完备的。另外我们可以设置mask的不同值来研究st_write_resid等接口函数用法
深入调研工作
1.dns查找是如何实现的?

参考链接

[1].http://www.jb51.cc/article/p-fqkxzqpu-so.html winlin的译文,不错,原文在源码doc目录中

[2].http://www.obroot.com/state-threads-for-internet-applications/?utm_source=tuicool 另一篇中文翻译,不错

[3].https://github.com/winlinvip/state-threads winlin移植精简版本

[4].http://sourceforge.net/projects/state-threads/ state-threads官网源码

[5].http://coolshell.cn/articles/12012.html 不可多得的心得荟萃


http://www.th7.cn/system/lin/201505/104951.shtml

原文链接:https://www.f2er.com/ubuntu/356434.html

猜你在找的Ubuntu相关文章