新银河是诚信为本,市场在变,我们的诚信永远不变...
来源://p/.html
一、需求背景
1、最近项目要求高频次地读写数据,数据量也不是很大,多表总共加起来在百万条上下。
单表最大的也在25万左右,历史数据表因为不涉及所以不用考虑,
难点在于这个规模的热点数据,变化非常频繁。
数据来源于一些检测设备的采集数据,一些大表,有可能在极短时间内(如几秒钟)可能大部分都会变化,
而且主程序也有一些后台服务需要不断轮询、读写某种类型的设备,所以要求信息交互时间尽可能短。
2、之前的解决方案是把所有热点数据,统一加载到共享内存里边,到也能够支撑的住(毫秒级的),但是由于系统架构升级,之前的程序(20年前的)不能兼容。
只能重新写一个,最先想到的是用redis,当时把所有API重写完成后,测试发现效率不行,是的真人百家家乐app,你没有看错,redis也是有使用范围的。
3、redis读写非常快,但是对于大批量读写操作我觉得支持不够,虽然redis支持批量读写,但是效率还是不够快,
对于字符串()类型的批量读写,我测试过;效率比较好的在每批次200 至 250条之间,处理20万条数据耗时5秒左右, (PC机,8G,4核)
而对于有序集合( set)类型,批量写的操作用起来非常别扭,而且没有修改API(如有其他方式请指教),我测试过,效率没类型那么高
其他类型不适合我的业务场景,就没考虑使用了
4、所以项目组最后决定还是用回共享内存,先决定在.net环境下使用c#的共享内存,这个功能可能使用的人不多,其实在.net4.0版本就已经集成进来了在.IO.命名空间下。这个类库让人很无语,因为里边能用的只有Write、Read这2种方法,而且只是针对字节的操作,
需要非常多的类型转换,非常麻烦!想想,只能以字节为单位去构建一个需要存放百万级数据的内存数据库,得多麻烦?
需要手动搞定索引功能,因为要支持各种查询,最后花了一天的时间写完DEMO,最后测试后发现效率并没有很大提高,因为当时加了互斥量测试,
但是离毫秒级差得远。这个技术点有兴趣的可以了解下,园子里有,如:
二、没错,第一节写的太多了
1、最后分析,这应该是c#语言的瓶颈,c#对于这种骚操作是不那么成熟的。
2、最后瞄来瞄去,决定使用VC开发一个dll,在里边封装对内存数据的读写功能,然后c#调用
3、本人的C、C++不那么熟、参考了一些实例,比如园子里的:
4、是的,你没有看错,2008年的,我还看到一篇更早的,看来底层开发C、C++那么经久不衰不是没有道理的,很多技术现在都在用
5、看看什么是共享内存
三、开始写代码了
1、首先建2个控制台项目,支持MFC,
2、先这样:一个负责创建共享内存,初始化数据
3、再这样:一个读写数据测试,最后修改
4、最后修改下图片细节,测试一下,看看效果
5、完成了,see, 是不是很简单呀?都会了吗?
四、代码
1、先定义个枚举返回状态
typedef enum{
Success = 0,
AlreadyExists = 1,
Error = 2,
OverSize = 3}
enumMemory;
2、再定义个结构体用来测试
typedef struct
{
int TagID;
char TagName[32];
int Area;
double EngVal;
double UpdateTime;
double RawMax;
double RawMin;
double RawVal;
char Name[50];
char Al;
double ASTime;
char MaskState;
double AMTime;
char Cf;
char Tdf;
char AlarmCode[32];
}TENG;
3、开始创建共享内存
int Create(UINT size)
{
// Data
HANDLE fileMap = CreateFileMapping(INVALID_HANDLE_VALUE, NULL, PAGE_READWRITE, 0, size, “Name”);
if (fileMap == NULL || fileMap == INVALID_HANDLE_VALUE)
return Error;
if (GetLastError() == ERROR_ALREADY_EXISTS)
return AlreadyExists;
// init
void *mapView = MapViewOfFile(fileMap, FILE_MAP_WRITE, 0, 0, size);
if (mapView == NULL)
return Error;
else
memset(mapView, 0, size);
return Success;
}
4、再开始写数据
int Write(void *pDate, UINT nSize, UINT offset)
{
// open
HANDLE fileMap = OpenFileMapping(FILE_MAP_WRITE, FALSE, “Name”);
if (fileMap == NULL)
return Error;
// hander
void *mapView = MapViewOfFile(fileMap, FILE_MAP_WRITE, 0, 0, nSize);
if (mapView == NULL)
return Error;
else
WriteDataPtr = mapView;
// write
memcpy(mapView, pDate, nSize);
UnmapViewOfFile(pMapView);
return Success;
}
5、开始读数据
int Read(void *pData, UINT nSize, UINT offset)
{
// open
HANDLE fileMap = OpenFileMapping(FILE_MAP_READ, FALSE, GetTableName());
if (fileMap == NULL)
return Error;
// hander
void *pMapView = MapViewOfFile(fileMap, FILE_MAP_READ, 0, 0, nSize);
if (pMapView == NULL)
return Error;
else
ReadDataPtr = pMapView;
memcpy(pData, (pMapView, nSize);
UnmapViewOfFile(pMapView);
return Success;
}
6、OK了,不复杂,网上都有这些资料,最后我们贴上测试程序
int _tmain(int argc, TCHAR* argv[], TCHAR* envp[])
{
int length = 100000;
CEng * ceng = new CEng();
DWORD dwStart = GetTickCount();
for (int i = 0; i < length; i++) {
TENG eng;
ceng->Read(&eng, ceng->size, ceng->size * i);
eng.EngVal = i;
ceng->Write(&eng, ceng->size, (i*ceng->size));
if (i % 10000 == 0 || i == length - 1)
printf("正在读写的Eng.TagName:%s \n", eng.TagName);
}
printf("总条数%d,耗时:%d 毫秒 \n", length, GetTickCount() - dwStart);
// 验证数据
TENG eng5000;
ceng->Read(&eng5000, ceng->size, ceng->size * 5000);
printf("\n验证数据 \n");
printf("第5000个Eng的TagID:%d, EngVal:%lf \n", eng5000.TagID, eng5000.EngVal);
scanf_s("按任意键结束");
return 0;
}
7、还有写测试程序
int _tmain(int argc, TCHAR* argv[], TCHAR* envp[])
{
int length = 100000;
CEng * ceng = new CEng();
ceng->Create(ceng->size * length);
DWORD dwStart = GetTickCount();
for (int i = 0; i < length; i++)
{
TENG eng;
memset(&eng, 0, ceng->size);
eng.TagID = i;
sprintf_s(eng.AlarmCode, "AlarmCode.%d", i);
sprintf_s(eng.TagName, "TagName.%d", i);
if (i % 10000 == 0 || i == length - 1)
printf("正在写入的Eng.TagName:%s \n", eng.TagName);
ceng->Write(&eng, ceng->size, (i*ceng->size));
}
// print time
printf("写入数据完毕,总条数:%d\n", length);
printf("初始化值共享内存区耗时:%d 毫秒 \n", GetTickCount() - dwStart);
scanf_s("按任意键结束");
return 0;
}
8、当然得再贴一遍啦
五、差点忘记做成DLL了
1、定义外部函数
extern "C" __declspec(dllexport) int ReadFromSharedMemory(TENG *pData, int nSize, int offset)
{
return ceng->Read(pData, nSize, offset);
}
extern "C" __declspec(dllexport) int WriteToSharedMemory(void *pData, int nSize, int offset)
{
return ceng->Write(pData, nSize, offset);
}
2、好了,VC到此为止,可以去领盒饭了,c#进场
public class Lib
{
[DllImport("ConsoleApplication4.dll", CallingConvention = CallingConvention.Cdecl)]
public static extern int ReadFromSharedMemory(IntPtr pData, int nSize, int offset);
[DllImport("ConsoleApplication4.dll", CallingConvention = CallingConvention.Cdecl)]
public static extern int WriteToSharedMemory(IntPtr pData, int nSize, int offset);
}
3、c#测试一下
static void Main(string[] args)
{
var length = 100000;
var startTime = DateTime.Now;
var size = Marshal.SizeOf(typeof(TEng));
var intPtrOut = Marshal.AllocHGlobal(size);
var intPtrIn = Marshal.AllocHGlobal(size);
for (var i = 0; i < length; i++)
{
Lib.ReadFromSharedMemory(intPtrOut, size, size * i);
var eng = Marshal.PtrToStructure
(intPtrOut);
eng.EngVal = i;
Marshal.StructureToPtr(eng, intPtrIn, true);
Lib.WriteToSharedMemory(intPtrIn, size, size * i);
if (i % 10000 == 0)
Console.WriteLine("eng.TagID:{0}", eng.TagID);
}
Console.WriteLine("总条数{0},耗时:{1} 毫秒", length.ToString(),
(DateTime.Now - startTime).TotalMilliseconds.ToString());
// 验证数据
var intPtr100 = Marshal.AllocHGlobal(size);
Lib.ReadFromSharedMemory(intPtr100, size, size * 100);
var eng100 = Marshal.PtrToStructure
(intPtr100);
Console.WriteLine();
Console.WriteLine("验证数据");
Console.WriteLine("第100个Eng的TagID:{0},EngVal:{1}", eng100.TagID, eng100.EngVal);
Console.ReadKey();
}
4、165毫秒,相比在VC下运行,差了一个数量级,但是,也不错了;
因为c#环境下需要不断的.、.,频繁地把数据在托管内存俞共享内存之间搬运是需要耗费时间的,这点有更好处理方式的请指教。
六、因为跨线程、进程,所以要考虑加入互斥量
1、很简单,MFC下有现成的类,加在Write里边在看看效率
互斥量是需要耗费资源的,多了将进100毫秒
2、读写都加上互斥量试试看
又多了80多毫秒,
鱼与熊掌不可兼得,要根据实际运用场景觉得是否加上互斥量。
真人百家家乐app,愿您夜夜笙歌,祝我们的祖国和平昌盛国泰民安
生活常识辨真伪!看看有多少是意想不到的结果!
生活常识辨真伪!
看看有多少是意想不到的结果!
不吃早饭易得胆结石【真的】
解释:因为即使不吃早饭,也一样会分泌胆汁,造成胆汁堆积容易形成胆结石。另外,不吃中饭和晚饭也会容易得结石。所以,哪怕您再忙,也要记得吃三餐哦。
吃大骨头汤能补钙【假的】
解释:汤里面的钙的确比较多,但由于骨头里的钙非常难溶解出来,结果汤里面出来的钙仍然非常少,就连牛奶里钙的十分之一都不到,也就不可能起到实际的补钙的作用。
电脑前放盆仙人掌能防辐射【假的】
解释:经辐射检验仪检测,仙人掌并不具备防辐射功效。事实上,尚未发现任何一种植物具备防辐射能力。
烧烤时戴隐形眼镜会使隐形眼镜熔化【假的】
解释:合格的隐形眼镜在高温的状态下,依然是很稳定的,不用担心它遇到高温会熔化,如果觉得不舒服,可以滴点眼药水,因为隐形眼镜在有水的情况下更耐高温哦。
蛇头斩断后还能咬人【真的】
解释:因为蛇是变温动物,在被砍头后,头部所需供氧不多,还能存活一段时间!所以大家一定要注意安全,千万不可麻痹大意!
超市小票有双酚A,摸多会致癌【假的】
解释:虽然超市小票有双酚A,但每1g小票中含双酚A 0.0139g,它迁移到人体的量微乎其微,就拿收银员为例,每天接触小票的时间为10小时真人百家家乐app,他对双酚A的摄入量比允许摄入量低42倍。因此,消费者一天接触几张购物小票,更不会影响健康,也不会致癌。
打鼾其实是病【真的】
解释:打鼾虽然常见,但不可小视!特别是间断性的打鼾,是由于气道出现堵塞然后缺氧,它是长期的,慢性的。可导致大脑、心肺、肝肾等全身器官的缺氧,引起肥胖,,严重时可导致猝死。打鼾严重时,应去医院进行专业性检查和治疗。
保鲜膜不能反复使用,不能加热【真的】
解释:反复使用保鲜膜会造成食物交叉感染,滋生细菌,所以千万不要反复使用,会加速食物的腐败!另外,只有标有“可用微波炉”的保鲜膜才可加热或消毒哦,但时间也不能过长。专家提醒:高压锅等其他厨具和厨房电器也不能用来加热裹着保鲜膜的食物。
吃猪血能去肺里的灰尘【没有科学依据哦】
解释:虽然有些蛋白质确实能结合一些污染物,但毕竟它是在消化道里完成的,可吸进去的灰尘,是吸进肺里的,我们吃东西是不可能吃进肺里和气管里的。所以猪血起到的作用还是很有限的。但是猪血的补铁效果还是不错的。
10
手机套会致癌【真的】
解释:价格低廉劣质的手机套,是一些废旧塑料制成的,含有甲醛、苯等有害物质,还会挥发释放有毒的苯系物和其他有毒物质,所以朋友们要尽量选择那些颜色干净透明、材质单一的手机套,不要买有刺鼻异味、呛眼睛、摸完掉色的!
11
碳酸饮料喝多了会骨质疏松【真的】
解释:长期饮用碳酸饮料会影响人体所需微量元素的吸收,钙减少了会影响骨骼的代谢,骨骼强度就会下降。所以,要少喝碳酸饮料哦。
12
切辣椒辣手可用油或酒精缓解症状【真的】
解释:辣椒的主要成分是辣椒素,辣椒素是一种油溶性的东西,但不溶于水,当您感觉辣椒辣手时,用油或酒精倒手上再用纸擦拭掉是比较好的方法。
13
鸡精或味精吃多了会致癌【假的】
解释:这种说法没有科学依据,二者确实会使膳食中钠含量上升,主要危险实际上是对高血压病人不太好,还可能会干扰幼儿的氨基酸平衡。所以高血压病人和儿童,尽量不要食用这两种高钠的调味料。
14
吃黑芝麻能让头发变黑【假的】
解释:对于微量元素缺失的白发,黑芝麻中虽含有丰富的微量元素,但作用力太小,而且吃了以后也不一定能百分百消化吸收。对于年纪大了而导致的白发,黑芝麻还是不能够扭转其衰老情况的。
15
头发会吸收人体很多营养【假的】
解释:当头发长出来以后,就已经是硬化、角化的一个东西,也就是说已经没有生命了,是没有血管没有神经的,所以头发根本就不会吸收我们的营养。
16
洗手液比香皂洗的干净【假的】
解释:香皂杀菌能力更强!因为香皂的表面活性剂含量远高于洗手液,洗手过程中,表面活性剂在去除皮肤表面油渍、污渍的同时,也随之清除了细菌,这就使得香皂的去污能力较强。
真人百家家乐app,愿您夜夜笙歌,祝我们的祖国和平昌盛国泰民安