资源简介
VC++6.0写的网络爬虫程序,多线程,生成文件,很不错的学习资料,转载的~谢谢
代码片段和文件信息
////////////////////////////////////////////////////
//设计者姓名:LWZ小组 刘克东 00348231
//项目名:大实习-搜索引擎-网络化爬虫
//创建日期:2004-12-10
//最近一次修改日期:2004-12-26
//
// DownloadData.cpp: implementation of the DownloadData class.
//
//////////////////////////////////////////////////////////////////////
#include “stdafx.h“
#include “NetCrawler.h“
#include “afxmt.h“
#include “DownloadData.h“
#ifdef _DEBUG
#undef THIS_FILE
static char THIS_FILE[]=__FILE__;
#define new DEBUG_NEW
#endif
//////////////////////////////////////////////////////////////////////
// Construction/Destruction
//////////////////////////////////////////////////////////////////////
DownloadData::DownloadData()
{
uCur_URLnum=0; //初始化当前队列中URL数量为0
uMaxSizeOfContainer=4000; //URL队列最大容量
uCur_URLptr=0; //当前队列头部指针
uCur_ActiveThread=0; //当前活动线程数量为0
uMaxThreadNum=10; //初始化线程数目10
uCur_Fileid=1; //初始化本地文件名称为1
str_LocalDir=“C:\\“; //初始化本地文件目录为C:
}
DownloadData::~DownloadData()
{
}
//是否URL队列已经满了
bool DownloadData::IsEmpty()
{
criSection.Lock();
bool r=(uCur_URLnum<=uCur_URLptr);
criSection.Unlock();
return r;
}
//是否URL已经存在于队列中
bool DownloadData::IsExisted(CString &str)
{
criSection.Lock();
for(UINT i=0;i {
if(URLcontainer[i]==str)
{
criSection.Unlock();
return TRUE;
}
}
criSection.Unlock();
return FALSE;
}
//是否URL队列空了(无未处理的URL)
bool DownloadData::IsFull()
{
criSection.Lock();
bool r=(uCur_URLnum==uMaxSizeOfContainer);
criSection.Unlock();
return r;
}
//获得当前活动线程数目
UINT DownloadData::GetCurThread()
{
criSection.Lock();
UINT n=uCur_ActiveThread;
criSection.Unlock();
return n;
}
//获得最大线程数目
UINT DownloadData::GetMaxThreadnum()
{
return uMaxThreadNum;
}
//线程开始,向数据区添加一个线程记录成功返回true
bool DownloadData::AddThread()
{
criSection.Lock();
if(uCur_ActiveThread==uMaxThreadNum)
{
criSection.Unlock();
return FALSE;
}
uCur_ActiveThread++;
criSection.Unlock();
return TRUE;
}
//线程结束后,从数据区删除一个线程记录,成功返回true
bool DownloadData::DeleThread()
{
criSection.Lock();
if(uCur_ActiveThread==0)
{
criSection.Unlock();
return FALSE;
}
uCur_ActiveThread--;
criSection.Unlock();
return TRUE;
}
//从共享数据区URL队列头取出一个URL
bool DownloadData::GetCurURL(CString &str)
{
criSection.Lock();
if(uCur_URLptr>=uCur_URLnum)
{
criSection.Unlock();
return FALSE;
}
str=URLcontainer[uCur_URLptr];
uCur_URLptr++;
criSection.Unlock();
return TRUE;
}
//向共享数据区URL队列尾添加一个URL
bool DownloadData::AddURL(CString &str)
{
criSection.Lock();
if(uCur_URLnum==uMaxSizeOfContainer)
{
criSection.Unlock();
return FALSE;
}
URLcontainer[uCur_URLnum]=str;
uCur_URLnum++;
criSection.Unlock();
return FALSE;
}
//获得当前本地存储文件的地址
void DownloadData::GetFileName(CString &str)
{
criSection.Lock();
CString str_temp;
str_temp.Format(“%d“uCur_Fileid);
str=str_LocalDir+str_temp+“.txt“;
uCur_Fileid++;
criSection.Unlock();
}
//根据用
属性 大小 日期 时间 名称
----------- --------- ---------- ----- ----
文件 402 2004-12-13 23:33 res\NetCrawler.rc2
文件 1078 2004-12-13 23:33 res\NetCrawler.ico
..A.SH. 3072 2007-05-22 21:05 res\Thumbs.db
文件 3633 2007-05-22 10:10 DownloadData.cpp
文件 2771 2007-05-22 15:11 DownloadData.h
文件 13964 2007-05-22 19:14 MainThread.cpp
文件 2463 2007-05-22 15:11 MainThread.h
文件 22876 2007-05-22 10:03 NetCrawler.aps
文件 2760 2007-05-22 20:02 NetCrawler.clw
文件 3538 2007-05-22 10:10 NetCrawler.cpp
文件 4736 2004-12-20 17:12 NetCrawler.dsp
文件 545 2004-12-13 23:33 NetCrawler.dsw
文件 1554 2004-12-25 20:53 NetCrawler.h
文件 56832 2007-05-22 19:29 NetCrawler.opt
文件 1574 2007-05-22 15:12 NetCrawler.plg
文件 7620 2004-12-25 00:37 NetCrawler.rc
文件 7304 2007-05-22 13:20 NetCrawlerDlg.cpp
文件 2707 2007-05-22 13:20 NetCrawlerDlg.h
文件 3627 2007-05-22 13:20 ProjectDlg.cpp
文件 2118 2007-05-22 13:20 ProjectDlg.h
文件 3651 2004-12-13 23:33 ReadMe.txt
文件 1377 2004-12-25 00:28 Resource.h
文件 212 2004-12-13 23:33 StdAfx.cpp
文件 1054 2004-12-13 23:33 StdAfx.h
目录 0 2007-05-22 10:03 res
----------- --------- ---------- ----- ----
151686 26
- 上一篇:数据结构 银行排队系统
- 下一篇:C++实现的非常好的一个矩阵类
相关资源
- hid.lib setupapi.lib 等HID开发相关的库和
- MFC下好用的高速绘图控件-(Hight-Spe
- usb_hid_vc++6.0读写设备源码
- 换肤窗口VC++程序与源码
- 亦思C++VC调用
- 数据结构 银行排队系统
- C++调用百度地图案例VC++
- 最新版Zlib1.2.5 编译好 支持vc6.0
- VC++wav文件的读写
- VC++实现动态捆绑EXE文件
- VC6使用GDI+
- VC+MFC网络聊天工具详细设计.doc
- 基于MFC的图像处理
- VC++计算机图形学制作二维图形变换代
- VC6.0完全卸载工具.exe
- f8d0eaf9b7f33d5d7e75486cdaba4e43.cpp
- c6client.cpp
- 英文版MSDEV
- vc MFC获得uuid或GUID
- BLH与XYZ的转换
- C++ Builder 6.0 的辅助开发插件
- php-5.2.17-nts-Win32-VC6-x86.zip
- glaux.h 免费
- VS90SP1-KB976656-x86.rar
- 猎豹网校MFC视频教程全套地址
- 项目16 基于单片机LCD数字测速仪的设
- 完整串口通信程序(发送和接受)V
- 支持自动回复CRC16计算的串口调试助手
- 16进制数据与浮点型数据转换—&
- pymssql-2.1.4-cp38-cp38-win_amd64.whl
评论
共有 条评论